Regelungsvorhaben

Handlungsansätze für die Schaffung rechtlicher und ethischer Voraussetzung für agentische KI

Angegeben von:
Deutsche Akademie der Naturforscher Leopoldina e.V. -- Nationale Akademie der Wissenschaften (R004939) am 02.07.2026

Beschreibung:
Für ein effizienteres Gesundheitssystem unter Fachkräftemangel kann agentische künstliche Intelligenz einen wichtigen Beitrag leisten. Solche KI-Systeme können jedoch bei eigenständiger Planung und Koordinierung von Prozessen Risiken für Patientensicherheit, Datenschutz und ärztliche Verantwortung bergen. Anders als konventionelle KI-Anwendungen, die analysieren und Empfehlungen geben, kann agentische KI innerhalb definierter Grenzen selbstständig Ziele verfolgen, Handlungsschritte planen und ganze Prozessketten ausführen. Die Autorinnen und Autoren plädieren dafür, bereits jetzt die ethischen und rechtlichen Voraussetzungen zu schaffen, um agentische KI in die medizinische Versorgung zu integrieren.

Betroffene Interessenbereiche (2)

Zu diesem RV abgegebene grundlegende Stellungnahmen/Gutachten (1)

  1. SG2607010068 (PDF - 7 Seiten)

    Adressatenkreis:

Nach oben blättern