Stellungnahme/Gutachten
Details zu Stellungnahme/Gutachten
SG2605220004
(PDF - 4 Seiten)
Zu Regelungsvorhaben:
Schutz vor den psychologischen und gesellschaftlichen Risiken von suchtfördernden und sykophantischen KI-Systemen (Companion AI)
KI-Systeme, die im fortlaufenden Dialog mit Nutzern Emotionen erkennen, persönliche Bedürfnisse adressieren und darauf reagieren, werden als Companion-AI bezeichnet. Dies kann eine Funktion allgemeiner Sprachmodelle oder spezieller Apps sein. Die Bindung von Nutzenden durch Sykophanz (Gefälligkeit), emotionale Bindung, Simulation eines menschlichen Gegenübers und suchterzeugende Praktiken birgt eine Reihe von Risiken für die psychische und physische Gesundheit, die Privatsphäre und die Entscheidungsautonomie. Wir fordern eine Reihe von Gesetzesanpassungen, die dieses Problem adressieren.
Bereitgestellt von:
Zentrum für Digitalrechte und Demokratie (R007920)
am
22.05.2026
Adressatenkreis:
-
Versendet am 19.05.2026 an:
-
Bundestag
-
Fraktionen/Gruppen [alle SG dorthin]
-
Mitglieder des Bundestages [alle SG dorthin]
-
-
Bundesregierung
-
Bundesministerium für Digitalisierung und Staatsmodernisierung (BMDS) [alle SG dorthin]
-
-
- Datenschutz und Informationssicherheit [alle SG hierzu]
- Digitalisierung [alle SG hierzu]
- Internetpolitik [alle SG hierzu]
- Sonstiges im Bereich "Medien, Kommunikation und Informationstechnik" [alle SG hierzu]
- Verbraucherschutz [alle SG hierzu]
- Werbung [alle SG hierzu]