Stellungnahme/Gutachten

Hinweis

Dies ist eine historische Version der Stellungnahme/des Gutachtens. Die Stellungnahme/das Gutachten wurde inzwischen aktualisiert.

Zur aktuellen Version der Stellungnahme/des Gutachtens

Hinweis

Dies ist eine historische Version der Stellungnahme/des Gutachtens. Die Stellungnahme/das Gutachten wurde inzwischen aktualisiert.

Zur aktuellen Version der Stellungnahme/des Gutachtens

Details zu Stellungnahme/Gutachten
SG2605220004 (PDF - 4 Seiten)

Zu Regelungsvorhaben:
Schutz vor den psychologischen und gesellschaftlichen Risiken von suchtfördernden und sykophantischen KI-Systemen (Companion AI)

KI-Systeme, die im fortlaufenden Dialog mit Nutzern Emotionen erkennen, persönliche Bedürfnisse adressieren und darauf reagieren, werden als Companion-AI bezeichnet. Dies kann eine Funktion allgemeiner Sprachmodelle oder spezieller Apps sein. Die Bindung von Nutzenden durch Sykophanz (Gefälligkeit), emotionale Bindung, Simulation eines menschlichen Gegenübers und suchterzeugende Praktiken birgt eine Reihe von Risiken für die psychische und physische Gesundheit, die Privatsphäre und die Entscheidungsautonomie. Wir fordern eine Reihe von Gesetzesanpassungen, die dieses Problem adressieren.

Bereitgestellt von:
Zentrum für Digitalrechte und Demokratie (R007920) am 22.05.2026

Adressatenkreis:

Betroffene Interessenbereiche (6)

Betroffene Bundesgesetze (2)

Nach oben blättern