{"$schema":"https://www.lobbyregister.bundestag.de/json-schemas/R2.22/Lobbyregister-Registereintrag-schema-R2.22.json","source":"Deutscher Bundestag, Lobbyregister für die Interessenvertretung gegenüber dem Deutschen Bundestag und der Bundesregierung","sourceUrl":"https://www.lobbyregister.bundestag.de","sourceDate":"2026-05-30T12:27:49.147+02:00","jsonDocumentationUrl":"https://www.lobbyregister.bundestag.de/informationen-und-hilfe/open-data-1049716","registerNumber":"R001948","registerEntryDetails":{"registerEntryId":75198,"legislation":"GL2024","version":13,"detailsPageUrl":"https://www.lobbyregister.bundestag.de/suche/R001948/75198","pdfUrl":"https://www.lobbyregister.bundestag.de/media/a6/6c/722505/Lobbyregister-Registereintraege-Detailansicht-R001948-2026-04-14_16-27-53.pdf","validFromDate":"2026-04-14T16:27:53.000+02:00","fiscalYearUpdate":{"updateMissing":false,"lastFiscalYearUpdate":"2025-08-04T21:17:29.000+02:00"}},"accountDetails":{"activeLobbyist":true,"activeDateRanges":[{"fromDate":"2024-06-24T17:05:23.000+02:00"}],"firstPublicationDate":"2022-02-28T10:29:53.000+01:00","lastUpdateDate":"2026-04-14T16:27:53.000+02:00","registerEntryVersions":[{"registerEntryId":75198,"jsonDetailUrl":"https://www.lobbyregister.bundestag.de/sucheJson/R001948/75198","version":13,"legislation":"GL2024","validFromDate":"2026-04-14T16:27:53.000+02:00","versionActiveLobbyist":true},{"registerEntryId":66587,"jsonDetailUrl":"https://www.lobbyregister.bundestag.de/sucheJson/R001948/66587","version":12,"legislation":"GL2024","validFromDate":"2025-10-13T12:24:40.000+02:00","validUntilDate":"2026-04-14T16:27:53.000+02:00","versionActiveLobbyist":true},{"registerEntryId":51302,"jsonDetailUrl":"https://www.lobbyregister.bundestag.de/sucheJson/R001948/51302","version":11,"legislation":"GL2024","validFromDate":"2025-08-04T21:17:29.000+02:00","validUntilDate":"2025-10-13T12:24:40.000+02:00","versionActiveLobbyist":true},{"registerEntryId":38950,"jsonDetailUrl":"https://www.lobbyregister.bundestag.de/sucheJson/R001948/38950","version":10,"legislation":"GL2024","validFromDate":"2025-03-04T21:25:19.000+01:00","validUntilDate":"2025-08-04T21:17:29.000+02:00","versionActiveLobbyist":true},{"registerEntryId":31121,"jsonDetailUrl":"https://www.lobbyregister.bundestag.de/sucheJson/R001948/31121","version":9,"legislation":"GL2024","validFromDate":"2024-06-24T17:05:23.000+02:00","validUntilDate":"2025-03-04T21:25:19.000+01:00","versionActiveLobbyist":true}],"accountHasCodexViolations":false},"lobbyistIdentity":{"identity":"ORGANIZATION","name":"AW AlgorithmWatch gGmbH","legalFormType":{"code":"JURISTIC_PERSON","de":"Juristische Person","en":"Legal person"},"legalForm":{"code":"LF_GMBH","de":"Gesellschaft mit beschränkter Haftung (GmbH)","en":"Limited liability company (GmbH)"},"contactDetails":{"phoneNumber":"+4930994049000","emails":[{"email":"register@algorithmwatch.org"}],"websites":[{"website":"https://algorithmwatch.org"}]},"address":{"type":"NATIONAL","nationalAdditional1":"AW AlgorithmWatch gGmbH","street":"Boyenstr.","streetNumber":"41","zipCode":"10115","city":"Berlin","country":{"code":"DE","de":"Deutschland","en":"Germany"}},"capitalCityRepresentationPresent":false,"legalRepresentatives":[{"lastName":"Spielkamp","firstName":"Matthias","function":"Geschäftsführer, Gesellschafter","recentGovernmentFunctionPresent":false,"entrustedPerson":true,"contactDetails":{}}],"entrustedPersonsPresent":true,"entrustedPersons":[{"lastName":"Spielkamp","firstName":"Matthias","recentGovernmentFunctionPresent":false},{"lastName":"Podgoršek","firstName":"Eva Lejla ","recentGovernmentFunctionPresent":false},{"lastName":"Sombetzki","firstName":"Pia","recentGovernmentFunctionPresent":false},{"lastName":"Helming","firstName":"Clara","recentGovernmentFunctionPresent":false},{"lastName":"Vieth-Ditlmann","firstName":"Kilian","recentGovernmentFunctionPresent":false},{"academicDegreeBefore":"Dr.","lastName":"Bothe","firstName":"Julian ","recentGovernmentFunctionPresent":false},{"lastName":"Oppermann","firstName":"Nora","recentGovernmentFunctionPresent":false}],"membersPresent":false,"membershipsPresent":true,"memberships":[{"membership":"AlgorithmWatch ist Mitglied des Netzwerks F5."},{"membership":"AlgorithmWatch ist Mitglied des Netzwerks Forum Medien und Entwicklung (fome)."},{"membership":"AlgorithmWatch ist Mitglied der Allianz „Rechtssicherheit für politische Willensbildung“"},{"membership":"AlgorithmWatch ist Mitglied bei der Gesellschaft für Freiheitsrechte e.V."}]},"activitiesAndInterests":{"activity":{"code":"ACT_NONPROFIT_ORGA_V2","de":"Nichtregierungsorganisation (NGO)","en":"Non-governmental organization (NGO)"},"typesOfExercisingLobbyWork":[{"code":"SELF_OPERATED_OWN_INTEREST","de":"Die Interessenvertretung wird in eigenem Interesse selbst wahrgenommen","en":"Interest representation is self-performed in its own interest"}],"fieldsOfInterest":[{"code":"FOI_EU_LAWS","de":"EU-Gesetzgebung","en":"EU legislation"},{"code":"FOI_SCIENCE_RESEARCH_TECHNOLOGY","de":"Wissenschaft, Forschung und Technologie","en":"Science, research and technology"},{"code":"FOI_ENVIRONMENT_SUSTAINABILITY","de":"Nachhaltigkeit und Ressourcenschutz","en":"Sustainability and resource protection"},{"code":"FOI_MEDIA_COMMUNICATION","de":"Kommunikations- und Informationstechnik","en":"Communication and information technology"},{"code":"FOI_MEDIA_FREEDOM_OF_SPEECH","de":"Meinungs- und Pressefreiheit","en":"Freedom of speech and freedom of the press"},{"code":"FOI_MEDIA_PRIVACY","de":"Datenschutz und Informationssicherheit","en":"Data protection and information security"},{"code":"FOI_SA_PUBLIC_ADMINISTRATION","de":"Verwaltungstransparenz/Open Government","en":"Public administration"},{"code":"FOI_SP_DIVERSITY","de":"Diversitätspolitik","en":"Diversity policy"},{"code":"FOI_WORK_RIGHT","de":"Arbeitsrecht/Arbeitsbedingungen","en":"Work right"},{"code":"FOI_MEDIA_MASS","de":"Massenmedien","en":"Mass media"},{"code":"FOI_MEDIA_DIGITALIZATION","de":"Digitalisierung","en":"Digitalization"},{"code":"FOI_MEDIA_OTHER","de":"Sonstiges im Bereich \"Medien, Kommunikation und Informationstechnik\"","en":"Other in the field of \"Media, communication and information technology\""},{"code":"FOI_SA_PUBLIC_SERVICE","de":"Öffentlicher Dienst und öffentliche Verwaltung","en":"Public service"},{"code":"FOI_MEDIA_INTERNET_POLICY","de":"Internetpolitik","en":"Internet policy"},{"code":"FOI_FA_HUMAN_RIGHTS","de":"Menschenrechte","en":"Human rights"}],"activityDescription":"AlgorithmWatch ist eine gemeinnützige Organisation mit dem Ziel, Prozesse algorithmischer Entscheidungsfindung zu betrachten und einzuordnen, die eine gesellschaftliche Relevanz haben - die also entweder menschliche Entscheidungen vorhersagen oder vorbestimmen, oder Entscheidungen automatisiert treffen. AlgorithmWatch analysiert die Auswirkungen algorithmischer Entscheidungsfindungsprozesse auf menschliches Verhalten und zeigt ethische Konflikte auf. Als Forschungs- und Advocacy-Organisation setzt AlgorithmWatch journalistische und wissenschaftliche Recherchemethoden ein, um unter anderem die Auswirkungen von Systemen der automatisierten Entscheidungsfindung (ADM) auf Gesellschaften einer breiten Öffentlichkeit zugänglich zu machen. Ziel der Organisation ist es, den Nutzen algorithmischer Entscheidungsfindung für das Gemeinwohl  zu maximieren. Zu diesem Zweck veröffentlicht sie Analysen, Positionspapiere, kommentiert Gesetzesvorhaben, organisiert Veranstaltungen, kooperiert mit anderen zivilgesellschaftlichen Organisationen sowie mit Akteuren aus Forschung und Wissenschaft und tauscht sich mit der Politik aus."},"employeesInvolvedInLobbying":{"relatedFiscalYearFinished":true,"relatedFiscalYearStart":"2024-01-01","relatedFiscalYearEnd":"2024-12-31","employeeFTE":0.51},"financialExpenses":{"relatedFiscalYearFinished":true,"relatedFiscalYearStart":"2024-01-01","relatedFiscalYearEnd":"2024-12-31","financialExpensesEuro":{"from":30001,"to":40000}},"mainFundingSources":{"relatedFiscalYearFinished":true,"relatedFiscalYearStart":"2024-01-01","relatedFiscalYearEnd":"2024-12-31","mainFundingSources":[{"code":"MFS_GIFTS_AND_DONATIONS","de":"Schenkungen und sonstige lebzeitige Zuwendungen","en":"Gifts and other lifetime donations"},{"code":"MFS_PUBLIC_GRANTS","de":"Öffentliche Zuwendungen","en":"Public grants"}]},"publicAllowances":{"publicAllowancesPresent":false,"relatedFiscalYearFinished":true,"relatedFiscalYearStart":"2024-01-01","relatedFiscalYearEnd":"2024-12-31"},"donators":{"donatorsInformationPresent":true,"relatedFiscalYearFinished":true,"relatedFiscalYearStart":"2024-01-01","relatedFiscalYearEnd":"2024-12-31","totalDonationsEuro":{"from":1880001,"to":1890000},"donators":[{"name":"Alfred Landecker Foundation","donationEuro":{"from":320001,"to":330000},"description":"Fördermittel"},{"name":"Stiftung Mercator","donationEuro":{"from":310001,"to":320000},"description":"Fördermittel"},{"name":"Schöpflin Stiftung","donationEuro":{"from":230001,"to":240000},"description":"Fördermittel"},{"name":"Deutsche Postcode Lotterie","donationEuro":{"from":200001,"to":210000},"description":"Förderung"}]},"membershipFees":{"relatedFiscalYearFinished":true,"relatedFiscalYearStart":"2024-01-01","relatedFiscalYearEnd":"2024-12-31","totalMembershipFees":{"from":0,"to":0},"individualContributorsPresent":false,"individualContributors":[]},"annualReports":{"annualReportPreviousLastFiscalYearExists":true,"previousLastFiscalYearStart":"2023-01-01","previousLastFiscalYearEnd":"2023-12-31","annualReportPdfUrl":"https://www.lobbyregister.bundestag.de/media/48/a2/722504/20240503-testat-aw-end.pdf"},"regulatoryProjects":{"regulatoryProjectsPresent":true,"regulatoryProjectsCount":5,"regulatoryProjects":[{"regulatoryProjectNumber":"RV0004861","title":"Gemeinwohlorientierte und effektive Umsetzung der EU KI-Verordnung ","printedMattersPresent":false,"printedMatters":[],"draftBillPresent":true,"draftBill":{"customTitle":"Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelli- genz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz)","customDate":"2025-09-11","leadingMinistries":[{"title":"Bundesministerium für Digitalisierung und Staatsmodernisierung","shortTitle":"BMDS","electionPeriod":21,"url":"https://bmds.bund.de/"}]},"description":"Die BuReg ist gefordert, die EU Verordnung über Künstliche Intelligenz in das deutsche Recht zu überführen. AlgorithmWatch setzt sich in diesem Kontext für eine KI-Aufsicht ein, die für Menschen in Deutschland niedrigschwellig erreichbar ist sowie für ein nationales Verbot für den Einsatz biometrischer Fernidentifizierungssysteme im öffentlichen Raum. ","affectedLawsPresent":false,"affectedLaws":[],"fieldsOfInterest":[{"code":"FOI_FA_HUMAN_RIGHTS","de":"Menschenrechte","en":"Human rights"},{"code":"FOI_EU_LAWS","de":"EU-Gesetzgebung","en":"EU legislation"},{"code":"FOI_MEDIA_DIGITALIZATION","de":"Digitalisierung","en":"Digitalization"}]},{"regulatoryProjectNumber":"RV0004862","title":"Novellierung des Allgemeinen Gleichbehandlungsgesetzes (AGG)","printedMattersPresent":false,"printedMatters":[],"draftBillPresent":false,"description":"AlgorithmWatch setzt sich dafür ein, Schutzlücken des Allgemeinen Gleichbehandlungsgesetz, insbesondere in Hinblick auf algorithmische Diskriminierung, zu schließen. ","affectedLawsPresent":true,"affectedLaws":[{"title":"Allgemeines Gleichbehandlungsgesetz","shortTitle":"AGG","url":"https://www.gesetze-im-internet.de/agg"}],"fieldsOfInterest":[{"code":"FOI_FA_HUMAN_RIGHTS","de":"Menschenrechte","en":"Human rights"}]},{"regulatoryProjectNumber":"RV0004863","title":"Beschäftigtendatenschutz im Kontext zunehmender algorithmischer Systeme in der Arbeitswelt stärken ","printedMattersPresent":false,"printedMatters":[],"draftBillPresent":false,"description":"AlgorithmWatch setzt sich dafür ein, konkrete Regelungen zum verbesserten Schutz von Beschäftigten zu schaffen, die sich auf verschiedene spezifische Verarbeitungssituationen beziehen und den Einzug algorithmischer Systeme in der Arbeitswelt konkret aufgreifen. \r\n","affectedLawsPresent":false,"affectedLaws":[],"fieldsOfInterest":[{"code":"FOI_MEDIA_PRIVACY","de":"Datenschutz und Informationssicherheit","en":"Data protection and information security"},{"code":"FOI_WORK_RIGHT","de":"Arbeitsrecht/Arbeitsbedingungen","en":"Work right"}]},{"regulatoryProjectNumber":"RV0004864","title":"Einführung eines umfassenden KI-Transparenzregisters","printedMattersPresent":false,"printedMatters":[],"draftBillPresent":false,"description":"AlgorithmWatch setzt sich für die Einführung eines nationalen KI-Transparenzregisters ein, in dem KI-Anwendungen der öffentlichen Hand in Deutschland aufgelistet, Risikoabschätzungen nachvollziehbar gemacht und verantwortliche Personen vermerkt werden.  ","affectedLawsPresent":true,"affectedLaws":[{"title":"Grundgesetz für die Bundesrepublik Deutschland","shortTitle":"GG","url":"https://www.gesetze-im-internet.de/gg"}],"fieldsOfInterest":[{"code":"FOI_SA_PUBLIC_ADMINISTRATION","de":"Verwaltungstransparenz/Open Government","en":"Public administration"}]},{"regulatoryProjectNumber":"RV0014902","title":"Vermeidung europarechtswidriger biometrischer Überwachungsbefugnisse für Strafverfolgungsbehörden, Bundeskriminalamt und Bundespolizei","printedMattersPresent":true,"printedMatters":[{"title":"Entwurf eines Gesetzes zur Stärkung der polizeilichen Befugnisse","printingNumber":"20/14704","issuer":"BT","documentUrl":"https://dserver.bundestag.de/btd/20/147/2014704.pdf","projectUrl":"https://dip.bundestag.de/vorgang/gesetz-zur-st%C3%A4rkung-der-polizeilichen-befugnisse/319810","leadingMinistries":[]}],"draftBillPresent":false,"description":"AlgorithmWatch setzt sich gegen die Verabscheidung vorgeschlagener biometrischer Überwachungsbefugnisse ein. Das betrifft die Entwürfe für §§ 10b, 39a und 63b\r\nBKA-Gesetz, § 34b BPolG, § 98d StPO. Diese Regelungen sollten gestrichen werden.","affectedLawsPresent":true,"affectedLaws":[{"title":"Gesetz über das Bundeskriminalamt und die Zusammenarbeit des Bundes und der Länder in kriminalpolizeilichen Angelegenheiten","shortTitle":"BKAG 2018","url":"https://www.gesetze-im-internet.de/bkag_2018"},{"title":"Gesetz über die Bundespolizei","shortTitle":"BGSG 1994","url":"https://www.gesetze-im-internet.de/bgsg_1994"},{"title":"Strafprozeßordnung","shortTitle":"StPO","url":"https://www.gesetze-im-internet.de/stpo"}],"fieldsOfInterest":[{"code":"FOI_MEDIA_FREEDOM_OF_SPEECH","de":"Meinungs- und Pressefreiheit","en":"Freedom of speech and freedom of the press"},{"code":"FOI_MEDIA_PRIVACY","de":"Datenschutz und Informationssicherheit","en":"Data protection and information security"},{"code":"FOI_FA_HUMAN_RIGHTS","de":"Menschenrechte","en":"Human rights"}]}]},"statements":{"statementsPresent":true,"statementsCount":6,"statements":[{"regulatoryProjectNumber":"RV0004861","regulatoryProjectTitle":"Gemeinwohlorientierte und effektive Umsetzung der EU KI-Verordnung ","pdfUrl":"https://www.lobbyregister.bundestag.de/media/a3/51/308377/Stellungnahme-Gutachten-SG2406180146.pdf","pdfPageCount":13,"text":{"copyrightAcknowledgement":"Die grundlegenden Stellungnahmen und Gutachten können urheberrechtlich geschützte Werke enthalten. Eine Nutzung ist nur im urheberrechtlich zulässigen Rahmen erlaubt.","text":"Stellungnahme zur öffentlichen Anhörung des Ausschuss für Digitales am 15. Mai 2024 zur nationalen Umsetzung der KI-Verordnung\r\n13. Mai 2024\r\nKo-Autor*innen: Kilian Vieth-Ditlmann, stv. Teamleiter Policy & Advocacy, AlgorithmWatch,\r\nPia Sombetzki, Policy & Advocacy Managerin, AlgorithmWatch\r\nUnsere Empfehlungen in Kürze\r\n● Die nationale Aufsicht zügig koordinieren und aufbauen sowie unabhängig und\r\nschlank aufstellen; dabei vielfältige Expertise einbeziehen, einen KI-Beirat\r\nschaffen und ein effektives Beschwerdesystem aufsetzen.\r\n● Verbote für den Einsatz biometrischer Fernidentifikationssysteme im öffentlich\r\nzugänglichen Raum ohne Einschränkungen beibehalten und im\r\nDurchführungsgesetz konkretisierend ausformulieren.\r\n● Ein nationales KI-Transparenzregister für die öffentliche Hand aufbauen, das die\r\nbegrenzten Informationen in der EU-Datenbank der Hochrisiko-KI-Systeme\r\numfassend ergänzt.\r\n\r\nKontext\r\nDer Rat der Europäischen Union beschließt die KI-Verordnung (KI-VO) voraussichtlich am\r\n21. Mai 2024. Die Umsetzungsfristen sind knapp, die Anforderungen 1 komplex. Daher\r\nbereiten die EU-Mitgliedsstaaten bereits jetzt die Umsetzung der KI-Verordnung ins\r\nnationale Recht vor – so auch die deutsche Bundesregierung.\r\nAlgorithmWatch hat die Entstehung der KI-Verordnung von Beginn an aktiv begleitet und\r\nzu dem Gesetzgebungsprozess Stellung genommen:\r\n- Positionspapier nach Veröffentlichung des Kommissionsentwurfs (August 2021):\r\nhttps://algorithmwatch.org/en/eu-ai-act-consultation-submission-2021/\r\n- Zivilgesellschaftliches Statement von über 120 Organisationen (November 2021):\r\nhttps://algorithmwatch.org/de/grundrechte-ins-zentrum-der-ki-verordnung/\r\n- Begleitung des Verhandlungsprozesses (April 2022):\r\nhttps://algorithmwatch.org/de/forderungen-artificial-intelligence-act-eu/ &\r\n- Reaktion auf den Entwurfbericht (Mai 2022):\r\nhttps://algorithmwatch.org/de/entwurfsbericht-zum-ai-act/\r\n- Stellungnahme im Auschuss für Digitales des Bundestags (September 2022):\r\nhttps://algorithmwatch.org/de/stellungnahme-digitalausschuss-bundestag-aiact-2\r\n022/\r\n- Empfehlungen zur Regulierung von GPAI in der KI-VO (September 2023):\r\nhttps://algorithmwatch.org/de/der-ai-act-und-general-purpose-ai/\r\n\r\nMit der Verabschiedung der KI-VO erkennt die EU an, dass der Einsatz von Künstlicher\r\nIntelligenz (KI) unsere Grundrechte, Rechtsstaatlichkeit und demokratische Prozesse\r\ngefährden kann. Und dass es Regulierung braucht, um sie zu schützen. Dazu gehört,\r\ndass besonders schädliche KI-Systeme, die mit unseren demokratischen Gesellschaften\r\nunvereinbar sind, verboten werden müssen.\r\nViele Aspekte sind am finalen Kompromiss dennoch nicht zufriedenstellend. Vor allem\r\nmit Blick auf den wirksamen Schutz von Grundrechten, bestehen eine Reihe von\r\ngravierenden Defiziten.\r\nDie kommende Um- und Durchsetzung der KI-VO auf EU-Ebene und in den\r\nMitgliedsstaaten bietet die Chance, einige Lücken und Unklarheiten zu beseitigen und\r\nfür mehr Grundrechtsschutz zu sorgen. Im Folgenden gehen wir auf die aus unserer\r\nSicht wichtigsten Fragen zur nationalen Ausgestaltung der KI-VO ein.\r\n\r\nFragen 1 und 8 werden zusammengefasst beantwortet:\r\n1 Wie muss die nationale Aufsicht aufgestellt sein, um eine möglichst kohärente,\r\nschlanke Governance zu gewährleisten? Wie gelingt uns trotz sektoraler\r\nZuständigkeiten und föderaler Aufteilung der vielzitierte One-Stop-Shop? Welche\r\ngenauen Aufgaben sollte die Aufsicht übernehmen?\r\n8 Welche gesetzlichen und politischen Maßnahmen sind notwendig, um die\r\nZusammenarbeit zwischen den zuständigen Behörden in Deutschland und den\r\nEinrichtungen auf EU-Ebene (insbesondere AI Office, AI Board, Advisory Forum und\r\nScientific Panel) schlagkräftig und effizient aufzustellen und wie lässt sich\r\ngewährleisten, dass zivilgesellschaftliche und interdisziplinäre wissenschaftliche\r\nExpertise bei der Auslegung, Konkretisierung, Umsetzung und Weiterentwicklung\r\ndes AI Acts substantiell Berücksichtigung finden?\r\nNach Inkrafttreten der KI-Verordnung hat die Bundesregierung 12 Monate Zeit, die\r\nnationale Aufsicht in Deutschland aufzustellen. Es bleibt der Bundesregierung also nicht\r\nviel Zeit, diese komplexe Aufgabe zu erfüllen. Die Kommission hat außerdem bereits den\r\nWunsch geäußert, dass die Mitgliedstaaten bis Ende dieses Jahres zuständige Stellen\r\nbenennen, um die EU-weite Umsetzung der KI-Verordnung zügig und koordiniert\r\nvoranzubringen. Die geregelten Verbote gelten bereits nach sechs Monaten. Damit\r\nbeispielsweise Beschwerden bearbeitet werden können, wenn die neuen Regeln nicht\r\neingehalten werden, braucht es daher auch möglichst früh auf nationaler Ebene ein\r\nkoordiniertes und abgestimmtes Vorgehen.\r\nDie Ressorts und die Behörden, die zentrale und insbesondere koordinierende\r\nAufgaben übernehmen sollen, müssen sich daher dringend abstimmen. Ebenso sollten\r\nVertreter*innen aus zivilgesellschaftlichen Organisationen und\r\nVerbraucherschützer*innen bereits jetzt in die aktuellen politischen Erwägungen\r\neinbezogen werden, damit konkrete Vorschläge dazu, wie nationale Aufsichtsstrukturen\r\naussehen sollten, nicht erst spät im Prozess Gehör finden und potenziell weniger\r\nWirkung entfalten können, als die von Unternehmen.\r\nZu den Aufsichtsstrukturen gibt die KI-Verordnung, insbesondere Artikel 70 der\r\nKI-Verordnung, lediglich grobe Leitlinien vor. Die Liste der Aufgaben und Befugnisse im\r\nKontext der nationalen Aufsicht ist umfassend. Eine kohärente und klare Governance\r\nmuss dabei dennoch das Ziel sein. Die zukünftige Aufsicht muss auf den Kompetenzen\r\nund Erfahrungen der bestehenden Marktüberwachung aufbauen; es darf keine\r\nDoppelstrukturen geben.\r\nWie bei der nationalen Digitale-Dienste-Koordinierungsstelle, sollte allerdings\r\nsichergestellt werden, dass insbesondere auch Einzelpersonen, die eine\r\nBeschwerde einreichen wollen, eine zentrale Kontaktstelle aufsuchen können, die\r\nüber das gesamte Verfahren ansprechbar bleibt. Die Anforderungen daran, wie ein\r\nsolches Verfahren ausgestaltet wird, sollten bereits im Gesetz grundsätzlich geregelt\r\nwerden. Insbesondere sollten Kriterien und Indikatoren festgelegt werden, die in\r\nVerwaltungsvorschriften näher definieren, woran sich ein effizientes und\r\nzugängliches Beschwerdeverfahren messen lässt. Beispielsweise sollten\r\nBearbeitungs- und Beantwortungsfristen festgelegt werden. Wir empfehlen, dass\r\nBeschwerdeführer*innen innerhalb von zehn Tagen über den Verfahrensablauf\r\numfassend informiert werden, u.a. auch darüber, welche weiteren Behörden in ihr\r\nBeschwerdeverfahren einbezogen wurden und von welcher Bearbeitungsdauer sie\r\nausgehen können.\r\nDie KI-Verordnung sieht vor, dass die nationalen Regierungen drei Monate nach\r\nInkrafttreten eine Liste von nationalen Behörden und öffentlichen Stellen\r\nveröffentlichen, deren Arbeit darauf zielt, die Grundrechte zu schützen, und diese der\r\nEuropäischen Kommission mitteilt (Artikel 77 Abs. 1-2 KI-VO). Bei Beschwerden zu\r\nGrundrechts- und Verbraucherschutzfragen muss sichergestellt sein, dass in den\r\nBeschwerdeverfahren die Expertise der Stellen einbezogen wird, die für die\r\nBeratung in solchen Fällen zuständig sind, wie etwa der Antidiskriminierungsstelle\r\ndes Bundes. Grundsätzlich sollte der Begriff der öffentlichen Stellen in Artikel 77 KI-VO\r\nweit ausgelegt werden, sodass er z.B. auch Menschenrechts-, Verbraucherschutz- und\r\nUmweltschutzorganisationen umfasst. Denn durch den Einsatz von\r\nHochrisiko-KI-Systemen kann eine Vielfalt an Grundrechtsfragen entstehen, wofür\r\nwiederum eine Vielfalt an Grundrechts-Expertise aus so vielen Themenfeldern und\r\nBetroffenengruppen wie möglich verfügbar sein sollte.\r\nDarüber hinaus haben diese Stellen konkrete Auskunftsrechte gegenüber\r\nKI-Entwickler*innen und KI-Anbietern. Auch wenn die Mandate unterschiedlich\r\nausfallen: Koordinierungsstelle, Marktüberwachungsbehörden und die Behörden,\r\ndie für die Einhaltung der Grundrechte zuständig sind, müssen wirksam\r\nzusammenarbeiten, um wichtige Informationen zu bekommen.\r\nUm zu überprüfen, ob dieses komplexe Zusammenspiel zwischen Koordinierungsstelle,\r\nverschiedenen Behörden und Stellen angemessen funktioniert und die\r\nKoordinierungsstelle unabhängig agiert, sollte in einem Durchführungsgesetz\r\nfestgeschrieben werden, dass eine regelmäßige Evaluierung erfolgt. Es sollte\r\naußerdem evaluiert werden, wie teuer und wirksam eine Koordinierungsstelle im\r\nVergleich mit einer zentralen Aufsichtsbehörde wäre. Mittelfristig empfehlen wir,\r\ndie Kompetenzen in einer Digitalagentur zusammenzuführen.\r\nZudem sollte ein KI-Beirat eingerichtet werden. Er würde dafür sorgen, dass\r\nzivilgesellschaftliche und interdisziplinäre wissenschaftliche Expertise sowie die\r\nPerspektive Betroffener in die Arbeit der Koordinierungsstelle einfließt, um die\r\nKI-Verordnung auszulegen, zu präzisieren und weiterzuentwickeln.\r\nSolch ein KI-Beirat sollte die Koordinierungsstelle bei grundsätzlichen Fragen der\r\nAnwendung und Durchsetzung der KI-Verordnung beraten, allgemeine Empfehlungen\r\nzur effektiven und einheitlichen Durchführung der Verordnung vorschlagen und\r\nwissenschaftliche, technische und gesellschaftspolitische Fragestellungen an die\r\nKoordinierungsstelle herantragen.\r\nMitglieder eines KI-Beirats sollten das Recht haben, Fragen an die Koordinierungsstelle\r\nund zuständige Behörden zu stellen. Nur dann kann der Beirat gut informierte\r\nEinschätzungen abgeben. Darüber hinaus sollte die Unabhängigkeit des Beirats\r\nsichergestellt werden. Er muss sich eine eigene Geschäftsordnung geben können, die keiner Zustimmung eines Ministeriums oder einer Behörde bedarf. Er sollte darüber\r\nhinaus eigenständig Studien und Gutachten erstellen und beauftragen können. Die\r\nArbeit des Beirats sollte auch finanziell unterstützt werden: Es bräuchte eine\r\nangemessen ausgestattete Geschäftsstelle sowie Aufwandsentschädigungen für\r\nBeirats-Mitglieder, die im Haushalt eingeplant werden. Die Sitzungen eines solchen\r\nBeirats sollten grundsätzlich öffentlich stattfinden und offen sein für die Einbeziehung\r\nweiterer zivilgesellschaftlicher Akteure und Verbraucherschützer, die nicht selbst als\r\nMitglieder im Beirat vertreten sind.\r\nWie beim Digitale-Dienste-Gesetz sollte ein Forschungsetat eingeführt werden, der\r\nunabhängige Forschung durch Wissenschaft und Zivilgesellschaft unterstützt. Damit ein\r\nsolcher Forschungsetat seine beabsichtigte Wirkung entfalten könnte, müsste er\r\nangemessen hoch ausfallen.\r\n\r\nFragen 3 und 17 werden zusammengefasst beantwortet:\r\n3 Bei der biometrischen Fernidentifizierung im öffentlichen Raum eröffnet der AI\r\nAct die Möglichkeit des Nachschärfens der EU-weiten Mindeststandards. Sowohl\r\nfür Echtzeit-Fernidentifizierungssysteme als auch für nachträgliche biometrische\r\nFernidentifizierung im öffentlichen Raum können die Mitgliedstaaten in\r\nnationalen Rechtsgrundlagen auch strengere Regeln erlassen. Wie lässt sich diese\r\nMöglichkeit für einen umfassenderen Grundrechtsschutz nutzen, wo könnten\r\nentsprechende Vorschriften im nationalen Recht verankert werden und wie\r\nsollten diese – etwa im Hinblick auf ein ausnahmsloses Verbot – inhaltlich\r\nausgestaltet sein?\r\n17 Welche konkrete Regelung empfehlen Sie für die nationale Umsetzung des\r\nAI-Acts, um die im Koalitionsvertrag enthaltene Position eines Verbots\r\nbiometrischer Fernidentifikationssysteme im öffentlichen Raum umzusetzen für\r\ndie Sicherung der Grundrechte auf Privatsphäre sowie Datenschutz, auf\r\nNichtdiskriminierung, Meinungs- und Informationsfreiheit, auf Versammlungsund\r\nVereinigungsfreiheit sowie auf Rechtsstaatlichkeit und inwiefern ergibt es mit\r\nBlick auf die genannten Grundrechte Sinn, dabei hinsichtlich Echtzeit und\r\nretrograder Fernidentifikation zu unterscheiden, insbesondere da die\r\nUnterscheidung zwischen Echtzeit und retrograd unklar ist?\r\nNotwendigkeit eines Verbots biometrischer Fernidentifizierungssysteme\r\nDie automatisierte Fernidentifizierung von Personen anhand von biometrischen Daten\r\nwie dem Gesicht, dem Gang oder der Stimme im öffentlich zugänglichen Raum\r\nermöglicht eine biometrische Massenüberwachung. Sie steht im Kern mit\r\nGrundrechten wie der Privatsphäre, der informationellen Selbstbestimmung und der\r\nVersammlungsfreiheit sowie grundlegenden rechtsstaatlichen Prinzipien in Konflikt.\r\nDas anlasslose, unterschiedslose oder stichprobenartige Beobachten, Verfolgen und\r\nAnalysieren von Menschen anhand ihrer biometrischen Merkmale, insbesondere dem\r\nGesicht, mit automatisierter Gesichtserkennung, schafft Überwachungsmöglichkeiten,\r\ndie sonst zwar theoretisch, nicht aber praktisch realisierbar waren. Der Eingriff in Grundrechte bekommt eine neue Qualität und ist mit einer herkömmlichen\r\nVideoüberwachung nicht zu vergleichen. Video- und Fotoaufnahmen können\r\nautomatisiert mit Bilddatenbanken abgeglichen, Personen über mehrere Videokameras\r\nhinweg automatisiert verfolgt und Verhaltens- und Bewegungsprofile erstellt werden.5\r\nWo bisher einzelne Personenkontrollen möglich sind, können mit KI zehntausende oder\r\nhunderttausende Menschen erfasst werden.\r\nVon einer automatisierten Gesichtserkennung werden wir alle wie wandelnde QR-Codes\r\nbehandelt, können erkannt, gespeichert und abgeglichen werden, ohne es zu merken\r\noder einen Einfluss darauf zu haben. Die Anonymität im öffentlichen Raum wird\r\ndadurch ausgehebelt. Die Erwartung, sich unerkannt zu bewegen, ist aber ein wichtiges\r\nVorfeld-Grundrecht, ähnlich dem Datenschutz, um viele andere Grundrechte ausüben\r\nzu können. Wenn Menschen im öffentlichen Raum jederzeit identifiziert und überwacht\r\nwerden können, verletzt dies nicht nur ihr Recht auf Privatsphäre, sondern hat auch eine\r\nabschreckende Wirkung (sog. „chilling effect“). Die Angst, erkannt und gespeichert zu\r\nwerden, hält sie vom Wahrnehmen anderer Grundrechte wie der Meinungsäußerungsoder\r\nVersammlungsfreiheit ab, zum Beispiel auf dem Weg zu einer gewerkschaftlichen\r\nKundgebung oder einer Demonstration, zu Lokalen, die Hinweise auf ihre Religion,\r\npolitische Gesinnung oder sexuelle Orientierung geben könnten oder zu einem\r\nGespräch mit einer Journalist*in. All diese Grundrechte sind somit auch für die freie\r\nMeinungsbildung in einer demokratischen Gesellschaft zentral.\r\nBiometrische Überwachung betrifft auch das Recht auf Gleichbehandlung.\r\nGrundsätzlich gilt zwar: Je besser die biometrische Fernidentifizierung funktioniert, desto\r\ngefährlicher wird sie. Dennoch besteht auch eine Gefahr der Diskriminierung in der\r\nbestehenden hohen Fehleranfälligkeit der Erkennungssysteme, insbesondere bei\r\nPersonengruppen mit bestimmten Eigenschaften, die in Datensätzen unterrepräsentiert\r\nsind. Hinzu kommt die Gefahr der gezielten Diskriminierung, die genau den Zweck\r\nverfolgt, bestimmte Personen oder Gruppen anhand biometrischer Merkmale\r\nherauszufiltern. Für bereits benachteiligte oder von Diskriminierung betroffene\r\nPersonen und Gruppen sowie für politische Aktivist*innen zeigen sich die Auswirkungen\r\nvon biometrischer Massenüberwachung oft in verstärkter Form.\r\nVerbot biometrischer Echtzeit-Fernidentifizierung für Strafverfolgung und Polizei\r\nAngesichts des enormen Schädigungspotenzials für Grundrechte und Demokratie\r\nverbietet die KI-Verordnung die biometrische Echtzeit-Fernidentifizierung in öffentlich\r\nzugänglichen Räumen durch Polizei und Strafverfolgungsbehörden grundsätzlich. Artikel\r\n5 Absatz 1 Buchstabe h untersagt „die Verwendung biometrischer\r\nEchtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu\r\nStrafverfolgungszwecken“ (vgl. auch Erwägungsgrund 32f). Die KI-VO stellt also klar:\r\nVideoüberwachung ist in der Bundesrepublik weit verbreitet, sei es im ÖPNV, in Supermärkten\r\noder in Innenstädten. \r\nOhne explizite gesetzliche Grundlage im nationalen Recht liegt keine Erlaubnis für\r\nden Einsatz biometrischer Erkennungssysteme im öffentlichen Raum für Zwecke\r\nder Strafverfolgung und Gefahrenabwehr vor.\r\nWenn nun über strengere Regeln oder Einschränkungen diskutiert wird, KI-basierte\r\nGesichtserkennungssystem im öffentlichen Raum einzusetzen, impliziert das, dass sie\r\ngrundsätzlich für Zwecke der Strafverfolgung und Gefahrenabwehr eingesetzt werden\r\nsollen. Das sollte auf Grund der ausgeführten Gefahren für Grundrechte und\r\nRechtsstaatlichkeit aber ausnahmslos verhindert werden. Denn die Technologie ist in\r\neiner demokratischen Gesellschaft weder erforderlich noch verhältnismäßig. Daran\r\nändern auch Öffnungsklauseln nichts. Allein das Vorhandensein einer\r\nentsprechenden Infrastruktur im öffentlichen Raum bringt die erwähnten Chilling\r\nEffects mit sich, da Betroffene nie wissen können, ob und wann die biometrische\r\nÜberwachung stattfindet. Das spricht gegen ein Verbot mit Ausnahmen, denn es\r\nermöglicht die grundlegende Infrastruktur und diese Ausnahmen, ob und wann\r\nbiometrische Fernidentifizierung eingesetzt wird, sind für Menschen nicht\r\nnachvollziehbar.\r\nDiese Gefahren hat die aktuelle Bundesregierung bereits anerkannt und in ihrem\r\nKoalitionsvertrag festgelegt, dass biometrische Erkennung im öffentlichen Raum\r\neuroparechtlich auszuschließen und der Einsatz von biometrischer Erfassung zu\r\nÜberwachungszwecken abzulehnen ist. Die in der KI-Verordnung formulierten\r\nVerbote sollten daher absolut ausgelegt werden und keine gesetzlichen\r\nGrundlagen geschaffen werden, die selbst mit Einschränkungen leicht dazu führen\r\nkönnten, eine geschaffene Infrastruktur schleichend auszuweiten.\r\nGegenwärtig existiert im deutschen Recht keine Gesetzesgrundlage für den Einsatz\r\nbiometrischer Fernidentifizierungssysteme durch Strafverfolgungsbehörden. Es lässt\r\nsich derzeit allerdings beobachten, wie bestehende Befugnisse zweckentfremdet und als\r\nLegitimation für solche Einsätze herangezogen werden.\r\nDazu gehört unter anderem die Rasterfahndung (§ 98a Strafprozessordnung), die\r\ngegenwärtig zumindest von einigen Strafverfolgungsbehörden als rechtliche Grundlage\r\nfür den Einsatz biometrischer Überwachungssysteme herangezogen wird.\r\nRasterfahndung wurde auf Bundesebene 1992 gesetzlich geregelt. Die Rasterfahndung\r\nkonnte biometrische Gesichtserkennungssysteme noch gar nicht umfasst haben, da die\r\nKI-basierte Gesichtserkennungstechnik zum Zeitpunkt der Einführung der\r\nRechtsgrundlage noch gar nicht in der heutigen Funktionsweise existierte. Die Menge an\r\nbiometrischen Daten, die heute durch KI-Systeme automatisiert verarbeitet werden,\r\nhätte sich der Gesetzgeber damals nicht träumen lassen. Auch der verfassungsrechtliche Wesentlichkeitsvorbehalt verbietet eine Auslegung bestehender\r\nGesetzesgrundlagen für derart grundrechtsinvasive und gefährliche Befugnisse.\r\nEine bestehende gesetzliche Grundlage für ein bestimmtes Ermittlungsinstrument kann\r\ndemnach nicht für neue biometrische Überwachungssysteme herangezogen bzw.\r\numgedeutet werden. Erst recht nicht, wenn neuere Datenverarbeitungsmethoden viel\r\ntiefer in unsere Grundrechte eingreifen und das Potenzial haben, unsere demokratische\r\nGesellschaft als Ganzes zu verändern. Das Bundesverfassungsgericht hat bereits für die\r\ngroßflächige, automatisierte Verarbeitung von Kfz-Kennzeichen durch Polizei und\r\nStrafverfolgungsbehörden hohe verfassungsrechtliche Anforderungen aufgestellt. Und\r\ndort ging es nicht um besonders sensible biometrische Daten wie Gesichter, sondern\r\num Kfz-Kennzeichen. Die automatisierte Erhebung und Auswertung von öffentlich\r\nzugänglichen personenbezogenen Daten stellt nach Rechtsprechung des\r\nBundesverfassungsgerichts immer einen Eingriff in das Grundrecht auf informationelle\r\nSelbstbestimmung dar.\r\nAuch ein jüngeres Verfassungsurteil über die automatisierte Datenanalyse für die\r\nvorbeugende Bekämpfung von Straftaten stellt mit Verweis auf das Grundrecht auf\r\ninformationelle Selbstbestimmung klar, dass automatische Abgleiche biometrischer\r\nDaten besonders voraussetzungsvoll sind. Die Mindestanforderungen für biometrische\r\nFernidentifizierung, wie sie in der KI-VO beschrieben werden, sind demnach zu\r\nunspezifisch. Die Einsatzzwecke und die Abgrenzung zwischen Echtzeit-Verarbeitung\r\nund nachträglicher Verarbeitung sind zu unbestimmt. Und weder die\r\nReferenzdatenbanken gesuchter Personen, noch die zu durchsuchenden Bild- oder\r\nVideodaten (etwa hinsichtlich zeitlicher und räumlicher Beschränkung) sind hinreichend\r\nkonkretisiert.\r\nEs lässt sich zusammenfassen: Selbst wenn der Gesetzgeber eine Rechtsgrundlage für\r\nden Einsatz biometrischer Fernidentifizierungssysteme in Echtzeit im öffentlich\r\nzugänglichen Raum zu Strafverfolgungszwecken schaffen wollte, entsprächen die\r\nVerfahrensanforderungen nach KI-Verordnung nicht den in Deutschland geltenden\r\nverfassungsrechtlichen Mindeststandards.\r\nEine explizites Verbot, biometrische Fernidentifizierungssysteme im öffentlichen Raum\r\neinzusetzen, würde die gegenwärtigen Rechtsunklarheiten beseitigen.\r\nVerbot nachträglicher biometrischer Fernidentifizierung\r\nDer Einsatz sämtlicher nicht ausdrücklich verbotener biometrischer\r\nFernidentifizierungssysteme, unabhängig davon wer sie verwendet, fällt nach KI-VO\r\nunter die Hochrisiko-Anwendungen (Art. 26 Abs. 10 in Verbindung mit Anhang III, Absatz\r\n1, Buchstabe a KI-VO). Das schließt auch solche Systeme mit ein, die nicht in Echtzeit,\r\nsondern nachträglich Gesichter in Videodaten oder Fotomaterial identifizieren.\r\nEine Unterscheidung zwischen Echtzeit-Systemen und Systemen zur\r\nnachträglichen Fernidentifizierung ist jedoch mit Blick auf die\r\nGrundrechtsauswirkungen unlogisch. Erstens ist im Gesetzestext nicht klar definiert,\r\nab welchem Zeitversatz Echtzeit-Identifizierung zu nachträglicher Identifizierung wird.\r\nZweitens bergen beide Formen der biometrischen Erkennung dasselbe\r\nMissbrauchspotenzial, dieselben Abschreckungseffekte, und dasselbe Risiko für\r\ndiskriminierende Überwachung (siehe oben). Warum allein wegen einer Zeitverzögerung\r\nvon einem geringeren Eingriff in Grundrechte ausgegangen werden sollte, bleibt unklar.\r\nIm Gegenteil schafft die nachträgliche Fernidentifizierung zusätzliche Gefahren: Die\r\nZeitverzögerung ermöglicht komplexere und damit tiefergehende Auswertungen und\r\neröffnet das Risiko, dass Daten für neue Zwecke ausgewertet werden, die ursprünglich\r\nnoch gar nicht der Erhebungsgrund waren. Es entsteht ggf. ein Anreiz, Videoaufnahmen\r\nlange zu speichern. Das schafft zusätzliche Einschüchterungseffekte, wenn wir nicht\r\nwissen, ob und wann Videoaufnahmen oder anderes Datenmaterial in Zukunft mit\r\nKI-Systemen ausgewertet werden können. Die KI-basierte Analyse von biometrischen\r\nDaten ist ein elaboriertes technisches Verarbeitungsverfahren und keine technische\r\nArbeitshilfe für ein manuelles Verfahren.\r\nEin umfassendes nationales Verbot biometrischer Fernidentifizierung im\r\nöffentlich zugänglichen Raum für Strafverfolgungszwecke muss daher im Sinne\r\neines wirksamen Grundrechtsschutzes sämtliche biometrischen\r\nErkennungssysteme unabhängig vom Zeitpunkt der Verwendung umschließen.\r\nDiese Möglichkeit bietet die KI-VO ausdrücklich (Artikel 26, Absatz 10, Unterabsatz 7\r\nKI-VO). Erwägungsgrund 95 KI-VO betont zudem, dass nachträgliche Gesichtserkennung\r\nkeinesfalls das Verbot von Echtzeit-Fernidentifizierung unterlaufen darf. Gemäß Artikel\r\n10 der Richtlinie über Datenschutz in der Strafverfolgung (EU Richtlinie 2016/680)\r\nkönnen alle EU Mitgliedstaaten weiterführende Regelungen bei der Verarbeitung\r\nbiometrischer Daten durch Polizei und Strafverfolgung erlassen.\r\nEs gilt aber auch hier die gleiche rechtliche Ausgangslage: Jede Form der biometrischen\r\nFernidentifizierung bedarf einer eindeutigen gesetzlichen Grundlage. Solange diese nicht\r\ngeschaffen wird, herrscht keine Erlaubnis. Bestehende Rechtsgrundlagen für\r\nautomatisierte Gesichtserkennung heranzuziehen ist unzulässig und missachtet das\r\nBestimmtheitsgebot (siehe oben). Polizei und Strafverfolgung benötigen für ein solch\r\neingriffsintensives Instruments immer einer hinreichend bestimmten gesetzlichen\r\nRegelung. Sie kann nicht auf bereits vorhandenen, allgemeineren Normen basieren.\r\n\r\nVerbot für Private\r\nDie KI-VO erkennt die Nutzung von biometrischen Fernidentifikationsystemen durch\r\nprivate Akteure in öffentlich zugänglichen Räumen, sei es in Echtzeit oder nachträglich,\r\nlaut Erwägungsgrund 39 als unzulässig an. Die KI-VO beinhaltet allerdings kein\r\nausdrückliches Verbot von automatisierter Fernidentifizierung in öffentlich zugänglichen\r\nRäumen durch private Stellen (z.B. Betreiber von Einkaufszentren oder Sportanlagen)\r\nund öffentliche Stellen außerhalb der Polizei (z.B. kommunale Behörden, Schulen oder\r\nUniversitäten), sei es in Echtzeit oder nachträglich, da die EU\r\nDatenschutzgrundverordnung 2016/679 dies schon untersagt.\r\nEine informierte Einwilligung oder ein berechtigtes Interesse kann bei biometrischer\r\nFernidentifizierung durch Private im öffentlichen Raum nicht gegeben sein. Und es kann\r\nstrukturell aufgrund der Vielzahl an potenziell betroffenen Personen bei biometrischer\r\nFernidentifizierung nie angenommen werden. Keine private Stelle kann aus der\r\nAnwesenheit in einem öffentlichen Raum ein Einverständnis in die Datenerhebung\r\nherleiten.\r\nZusammenfassend lässt sich Folgendes festhalten:\r\n➔ Gemäß der EU KI-Verordnung, insbesondere Erwägungsgrund 37, ist die\r\nVerwendung von biometrischen Echtzeit-Fernidentifizierungssystemen in\r\nöffentlich zugänglichen Räumen zu Zwecken der Strafverfolgung und der\r\nGefahrenabwehr verboten.\r\n➔ Im Einklang mit Artikel 10 der Richtlinie über Datenschutz in der Strafverfolgung\r\n(EU Richtlinie 2016/680) ist der Einsatz von Systemen zur nachträglichen\r\nbiometrischen Fernidentifizierung in öffentlich zugänglichen Räumen durch\r\nPolizei und Strafverfolgung verboten.\r\n➔ Basierend auf Artikel 9 der Datenschutz-Grundverordnung ist der Einsatz von\r\nbiometrischen Fernidentifizierungssystemen in öffentlich zugänglichen Räumen,\r\nsowohl in Echtzeit als auch nachträglich, durch private und öffentliche Stellen\r\nverboten.\r\nDennoch bestehen Rechtsunklarheiten und Umsetzungsdefizite in der Praxis. Ein\r\nDurchführungsgesetz sollte diese ausräumen, indem darin die geltenden Verbote noch\r\neinmal konkretisierend ausformuliert werden.\r\n\r\nWie muss die Umsetzung des AI Acts in Deutschland gestaltet werden, um\r\neinerseits die Sicherheit und Bürgerrechte zu wahren und andererseits ein\r\ninnovationsfreundliches Umfeld zu schaffen, das Innovationskraft und\r\nprivatwirtschaftlichen Wettbewerb auf dem deutschen Markt ideal unterstützt?\r\n\r\nSicherheit und Bürgerrechte stehen nicht im Widerspruch zu einem\r\ninnovationsfreundlichen Umfeld, sondern sind seine Grundlage. Entwicklungen, die\r\nunserer Sicherheit und unseren Bürgerrechten entgegenstehen, sind keine\r\nInnovationen, sondern Gefahren. Die Frage, die sich stellt, ist: Wie kann es Unternehmen\r\nso leicht wie möglich gemacht werden, die Auflagen aus der KI-Verordnung einzuhalten?\r\nDie Antwort sind klare und verständliche Vorgaben, eine effiziente Aufsichtsstruktur und\r\nBeratungsangebote durch die Koordinierungsstelle.\r\nAuch Unternehmen sollten, ebenso wie Individuen, klare Ansprechpartner*innen haben\r\nund nicht mit einem Zuständigkeitswirrwarr konfrontiert sein. Das schafft\r\nRechtssicherheit, was wiederum dazu führt, dass Unternehmen schneller\r\nEntscheidungen darüber treffen können, welche Produkte sie entwickeln und anbieten\r\nmöchten, und minimiert ihre Kosten.\r\nKlare und verständliche Vorgaben, die auch eingehalten werden können, führen zu\r\neinem „level playing field“ der Unternehmen untereinander und belohnen nicht die „bad\r\nactors“.\r\nZudem sollte die Aufsichtsbehörde eine Beratung für Unternehmen anbieten, die es\r\nihnen erleichtert, gesetzeskonforme Produkte zu entwickeln und anzubieten.\r\n\r\n18) Wie sollte und könnte ein nationales KI-Transparenzregister über den Bereich\r\nder Hoch Risiko Systeme hinausgehen, um wirksame Transparenz im Sinne des\r\nVerbraucherschutzes (Nachvollziehbarkeit, Beschwerdebasis etc.) herzustellen\r\nund insbesondere beim Einsatz von KI-Systemen durch die öffentliche Hand dem\r\nerhöhten Anspruch an Grundrechtsschutz und bestehende Abhängigkeiten\r\ngerecht zu werden und wie sollte generell ein solches Transparenzregister\r\norganisiert sein, hinsichtlich:\r\n· wer sollte es aufbauen und wen dabei einbeziehen\r\n· wie sollte es aufgebaut werden\r\n· wer sollte es verwalten\r\n· welche Informationen sollte es enthalten?\r\nTransparenz und Nachvollziehbarkeit ist nicht nur im Hochrisikobereich gemäß KI-VO\r\nvon Nutzen, sondern sollte für alle automatisierten Entscheidungssysteme von\r\nöffentlichen Stellen gelten. Die geplante EU-Datenbank (Art. 71 KI-VO), in der die\r\nNutzung von Hochrisiko-KI-Systemen von öffentlichen Stellen gelistet werden sollen,\r\nwird nur wenige der insgesamt eingesetzten Systeme aufführen. Auf nationaler Ebene\r\nsollte daher nachgebessert und ein nationales KI-Transparenzregister für die gesamte\r\nöffentliche Hand eingeführt werden. Da die KI-VO ein generelles KI-Register nicht regelt,\r\nkann sie in diesem Bereich auch keine harmonisierende Wirkung haben. Die\r\nNiederlande haben bereits ein nationales KI-Register für die öffentliche Verwaltung\r\neingeführt.\r\nEin nationales KI-Transparenzregister sollte zentral koordiniert und standardisiert\r\nsein. Um eine Doppelstruktur zu vermeiden, sollte es über eine Schnittstelle zur EU\r\nDatenbank der Hochrisiko-Systeme verfügen. Damit steht es nicht im Konflikt mit der\r\nEU-Datenbank, sondern ergänzt und vervollständigt den Überblick über staatliche\r\nKI-Einsätze.\r\nEin nationales KI-Register für die öffentliche Verwaltung kann nicht nur Transparenz für\r\nBetroffene herstellen und Verantwortlichkeit erzeugen, sondern auch positive Anreize\r\nfür Behörden schaffen: vorhandene Anwendungen werden sichtbar und auffindbar,\r\nineffizienten Parallelentwicklungen lassen sich viel leichter vermeiden. Aktuell wird\r\nbereits durch das Beratungszentrum für Künstliche Intelligenz (BeKI) des BMI ein\r\n„Marktplatz der KI-Möglichkeiten“ entwickelt. Er soll Ministerien 15 und Behörden die\r\nPotenziale von KI-Anwendungen aufzeigen und „Transparenz über die\r\nKI-Anwendungslandschaft und Erfahrungswerte in den Ressorts“ liefern.\r\nWichtig ist, dass die Angaben über KI-Anwendungen in Behörden über den in der KI-VO\r\ngeforderten Datenkranz (vgl. Anhang VIII der KI-VO) hinausgehen. Denn wirksame\r\nTransparenz wird durch die dort geforderten spärlichen Informationen noch nicht\r\nhinreichend sichergestellt. Ziel sollte sein, Nachvollziehbarkeit für alle Menschen und\r\neine effektive Grundlage für Nachfragen und Beschwerden sicherzustellen.\r\nEin umfassender Transparenzbericht sollte alle ethisch relevante Auswirkungen und\r\ndie ergriffenen Gegenmaßnahmen detailliert aufführen. Dazu zählt u.a.:\r\n- Definition des Problems, das das KI-System lösen soll\r\n- Konkrete Zieldefinition (z.B. Effizienz- oder Leistungsverbesserungen,\r\nEntscheidungsunterstützung, Automatisierung von Aufgaben, Kostensenkung\r\nusw.)\r\n- Ethische und rechtliche Anforderungen an das System (Datenschutz,\r\nIT-Sicherheit, Fairness, Erklärbarkeit, etc.)\r\n- Transparenz über sämtliche Grundrechtsauswirkungen\r\n- Transparenz über die Umweltverträglichkeit (Energieverbrauch,\r\nTreibhausgasemissionen, indirekter Ressourcenverbrauch, etc.)\r\n- Benennung der Verantwortlichen für Konzeption und Implementierung.\r\nDie Listung von KI-Anwendungen in einem nationalen KI-Transparenzregister sollte\r\nzudem verpflichtend sein. So wird Verbindlichkeit bezüglich der einzutragenden Daten\r\ngeschaffen. Freiwillige Einträge in das Register werden zwangsläufig lückenhaft bleiben.\r\nDamit wäre das Ziel, Synergien zu nutzen und vertrauensbildende Transparenz für\r\nBetroffene zu gewährleisten, verfehlt.\r\n\r\nAlle Ressorts sollten in die Entwicklung und Umsetzung des KI-Transparenzregisters\r\neinbezogen werden. Bei der Entwicklung ist ein strukturierter Stakeholderdialog, der\r\nfrühzeitig alle relevanten Interessengruppen einbezieht, von großem Nutzen.\r\nAlgorithmWatch ist eine Menschenrechtsorganisation mit Sitz in Berlin und Zürich, die\r\nsich mit den gesellschaftlichen Auswirkungen von algorithmischen\r\nEntscheidungssystemen (ADM) und Künstlicher Intelligenz (KI) befasst. Wir setzen uns\r\ndafür ein, dass solche Technologien Menschenrechte, Demokratie und Nachhaltigkeit\r\nstärken, statt sie zu schwächen. Dazu tragen wir mit politischen Kampagnen,\r\nLobbyarbeit, journalistischen Recherchen, Forschung und Technikentwicklung bei.\r\n\r\nUnsere Webseite: https://algorithmwatch.org/\r\nKontakt zu den Autor*innen:\r\nKilian Vieth-Ditlmann, vieth-ditlmann@algorithmwatch.org\r\nPia Sombetzki, sombetzki@algorithmwatch.org\r\n"},"recipientGroups":[{"recipients":{"parliament":[{"code":"RG_BT_MEMBERS_OF_PARLIAMENT","de":"Mitglieder des Bundestages","en":"Members of parliament"}],"federalGovernment":[]},"sendingDate":"2024-05-13"}]},{"regulatoryProjectNumber":"RV0004861","regulatoryProjectTitle":"Gemeinwohlorientierte und effektive Umsetzung der EU KI-Verordnung ","pdfUrl":"https://www.lobbyregister.bundestag.de/media/3c/70/308379/Stellungnahme-Gutachten-SG2406190057.pdf","pdfPageCount":2,"text":{"copyrightAcknowledgement":"Die grundlegenden Stellungnahmen und Gutachten können urheberrechtlich geschützte Werke enthalten. Eine Nutzung ist nur im urheberrechtlich zulässigen Rahmen erlaubt.","text":"Offener Brief: Menschenrechte schützen – Biometrische\r\nFernidentifizierung verbieten Berlin, 13. März 2024\r\nSehr geehrte Abgeordnete des Deutschen Bundestages,\r\nheute, am 13. März 2024, beschließt das Europäische Parlament den Artificial Intelligence (AI) Act. Als\r\nerstes umfassendes Gesetz zur Regulierung Künstlicher Intelligenz (KI) weltweit schafft der AI Act in\r\nder gesamten Europäischen Union einheitliche Regeln für die Entwicklung und den Einsatz von KI.\r\nDie finale Fassung des AI Acts verbietet biometrische Überwachung im öffentlichen Raum zwar\r\ngrundsätzlich, lässt jedoch eine Vielzahl an Ausnahmen zu. Diese weitreichenden Ausnahmen für\r\nStrafverfolgung und Sicherheitsbehörden laden europaweit zum Ausbau öffentlicher Überwachung\r\nein. Eine solche Überwachungsinfrastruktur führt dazu, dass Menschen unter dem ständigen Gefühl\r\nder Kontrolle ihre Freiheitsrechte nicht mehr ungehindert ausüben. Der Schutz von Menschenrechten\r\ndarf jedoch nicht unter Vorbehalt stehen. Insbesondere im aktuellen politischen Klima müssen die\r\ndemokratischen Kräfte gemeinsam die Möglichkeit des institutionellen Machtmissbrauchs\r\nminimieren. Deshalb gilt es nun, die im AI Act explizit vorgesehene Möglichkeit der nationalen\r\nVerschärfung europäischer Regeln sowohl für Echtzeit- als auch für nachträgliche biometrische\r\nFernidentifizierung zu nutzen.\r\nWir fordern Sie als Abgeordnete des Deutschen Bundestages daher auf, jede Form der biometrischen\r\nFernidentifizierung in Deutschland zu verbieten!\r\nIm Koalitionsvertrag verpflichten sich die Regierungsparteien gleich an zwei Stellen, biometrische\r\nÜberwachung in Deutschland zu verhindern. So heißt es, dass „[b]iometrische Erkennung im\r\nöffentlichen Raum“ europarechtlich auszuschließen sei, auch der „Einsatz von biometrischer\r\nErfassung zu Überwachungszwecken“ wird explizit abgelehnt. Nachdem das europarechtliche Verbot\r\nbiometrischer Überwachung nun nicht vollständig umzusetzen war, muss ein nationales Verbot das\r\nMittel der Wahl sein.\r\nDie Durchführung biometrischer Echtzeit-Fernidentifikation im öffentlichen Raum öffnet die Tür in\r\ndystopische Verhältnisse, in denen jeder Mensch bei jeder Bewegung im öffentlichen Raum\r\npermanent identifizierbar und überwachbar wird. Ähnliches gilt auch für nachträgliche biometrische\r\nFernidentifikation, die ebenfalls die Bildung umfassender Personenprofile ermöglicht. Anonymität im\r\nöffentlichen Raum ist eine der Grundvoraussetzungen für freie Meinungsäußerung und\r\ndemokratischen Protest. Insbesondere Angehörige marginalisierter Gruppen werden von der\r\nAusübung ihrer Meinungs- und Demonstrationsfreiheit abgehalten, wenn sie Repressalien befürchten\r\nmüssen. Auch der Ampel-Koalitionsvertrag betont: „Das Recht auf Anonymität sowohl im öffentlichen\r\nRaum als auch im Internet ist zu gewährleisten.“\r\nWir fordern Sie deshalb auf, sich für den Schutz der Menschen in Deutschland und das Recht auf ein\r\nLeben frei von Massenüberwachung und Kontrolle einzusetzen.\r\nMit freundlichen Grüßen\r\nListe der Unterzeichnenden (alphabetisch sortiert):\r\nAlgorithmWatch\r\nAmnesty International\r\nAntidiskriminierungsverband Deutschland e.V.\r\nChaos Computer Club\r\nD64 – Zentrum für digitalen Fortschritt\r\nDachverband der Fanhilfen e.V.\r\nDeutscher Caritasverband e.V.\r\nDigitale Freiheit e.V.\r\nDigitale Gesellschaft e.V.\r\nForum InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF) e. V.\r\nHumanistische Union e.V.\r\nLOAD e.V. - Verein für liberale Netzpolitik\r\nnetzforma* e.V. - Verein für feministische Netzpolitik\r\nOpen Knowledge Foundation Deutschland e.V.\r\nSUPERRR Lab\r\nTopio e.V.\r\nWikimedia Deutschland e. V."},"recipientGroups":[{"recipients":{"parliament":[{"code":"RG_BT_MEMBERS_OF_PARLIAMENT","de":"Mitglieder des Bundestages","en":"Members of parliament"}],"federalGovernment":[]},"sendingDate":"2024-03-13"}]},{"regulatoryProjectNumber":"RV0004861","regulatoryProjectTitle":"Gemeinwohlorientierte und effektive Umsetzung der EU KI-Verordnung ","pdfUrl":"https://www.lobbyregister.bundestag.de/media/4a/99/628457/Stellungnahme-Gutachten-SG2510130011.pdf","pdfPageCount":11,"text":{"copyrightAcknowledgement":"Die grundlegenden Stellungnahmen und Gutachten können urheberrechtlich geschützte Werke enthalten. Eine Nutzung ist nur im urheberrechtlich zulässigen Rahmen erlaubt.","text":"/ Die nationale Durchführung der europäischen KI-Verordnung\r\nStellungnahme zum Referentenentwurf \r\ndes Bundesministeriums für Digitales und Staatsmodernisierung vom 11.09.2025 für ein deutsches KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG)\r\nDiese Stellungnahme ergänzt die Angaben, die über den Online-Konsultationsfragebogen des BMDS abgegeben wurden. \r\n\r\n09. Oktober 2025\r\nPia Sombetzki \r\nUnsere Empfehlungen in Kürze \r\nDie nationale Aufsicht muss eine unabhängige und kompetente Aufsicht über staatliche Einsätze von Hochrisiko-KI-Systemen in besonders sensiblen Bereichen sicherstellen.\r\nDie Bundesregierung sollte ein verpflichtendes KI-Transparenzregister für alle Behörden auf Bundesebene aufbauen, das die begrenzten Informationen in der EU-Datenbank der Hochrisiko-KI-Systeme umfassend ergänzt. Die BNetzA sollte die Aufsicht darüber ausüben. \r\nDie Bundesregierung  sollte einen KI-Beirat schaffen, ein effektives Beschwerdesystem aufsetzen und kompetenzstärkende Maßnahmen in der Bevölkerung fördern, um Rechte nach KI-Verordnung wahrnehmen zu können.\r\nKontext des Entwurfs \r\nMit dem vorgelegten Gesetzentwurf wird im Wesentlichen die Verordnung über Künstliche Intelligenz (KI-VO) in Deutschland umgesetzt.\r\nDie KI-VO ist ein neues Regelwerk, das vorsieht, algorithmische Systeme und den digitalen Sektor im Allgemeinen zu regulieren und Produktsicherheit zu garantieren. Der Großteil ihrer Vorschriften deckt technische Aspekte von KI-Systemen ab und richtet sich hauptsächlich an diejenigen, die sie entwickeln (in der Terminologie des Gesetzes „Anbieter“ genannt). \r\nDas Gesetz trat im August 2024 in Kraft, wodurch auch der Zeitplan für verschiedene Bestimmungen vorgegeben war: Bis zum 2. August 2025 sollte eine Aufsichtsstruktur auf nationaler Ebene eingerichtet werden. Der Abschnitt über verbotene KI-Praktiken gilt bereits seit Februar 2025, kann aber bisher nicht wirksam durchgesetzt werden, weil die nötige Aufsichtsstruktur nicht besteht, um beispielsweise Beschwerden von Bürger*innen entgegenzunehmen. \r\nAlgorithmWatch hat die KI-VO in ihrer Entstehung aktiv begleitet. Die Verordnung verfolgt ausdrücklich das Ziel, beim Einsatz von KI-Systemen ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit, Grundrechte, Demokratie, Rechtsstaatlichkeit und Umweltschutz zu gewährleisten (Art. 1 Absatz 1 KI-VO). Ob sie als Errungenschaft für den Grundrechtsschutz eingeordnet werden wird, wird auch maßgeblich davon abhängen, wie effektiv ihre Regeln durchgesetzt und, wo möglich, auf nationaler Ebene ausgeweitet werden.\r\nDer vorliegende Gesetzentwurf zielt insbesondere darauf ab, Ressourcen und Kompetenzen bei der Bundesnetzagentur für Elektrizität, Gas, Telekommunikation, Post und Eisenbahnen (BNetzA) zu bündeln. Positiv zu werten ist, dass dadurch eine zentrale und koordinierende Anlaufstelle für die KI-Verordnung bei der BNetzA eingerichtet werden soll. Allerdings soll auch die Aufsicht über den Einsatz von Hochrisiko-KI-Systemen, die in Strafverfolgung, Migration, Asyl oder Grenzkontrollen, bei der Rechtspflege und im Zusammenhang mit demokratischen Prozessen eingesetzt werden, einer „unabhängigen Marküberwachungskammer” (UKIM) innerhalb der BNetzA übertragen werden. Hier weicht der Referentenentwurf von der in der KI-VO ab, die grundsätzlich die Aufsicht durch die jeweiligen zuständigen Datenschutzbeauftragten des Bundes und der Länder vorsieht, und erklärt nicht im Detail, wie Unabhängigkeit und Expertise über die vorgeschlagene Lösung sichergestellt werden. \r\nDer Gesetzesentwurf verpasst es außerdem, ein nationales KI-Transparenzregister einzuführen, das Menschen in Deutschland die nötige Einsicht darüber bieten würde, wo und wann der Staat KI-Systeme einsetzt und wie er die Einsätze im Einklang mit den Grundrechten absichert. Der Aufbau eines solchen Registers und die Aufsicht darüber sollten an dieser Stelle festgeschrieben und der BNetzA übertragen werden.  \r\nMaßnahmen, die das Grundgerüst einer funktionierenden und für Menschen in Deutschland nachvollziehbaren Aufsicht über KI-Systeme sollten des weiteren ergänzt werden: Insbesondere die Einbindung zivilgesellschaftlicher Akteur*innen sowie die Einführung praktischer Unterstützungs- und Informationsangebote, um Vertrauen zu fördern und Kompetenzen in der Bevölkerung zu stärken.\r\n\r\nDie BNetzA als zentrale Anlaufstelle für die Menschen in Deutschland aufbauen und deren Rechte in den Fokus rücken\r\nDer vorliegende Referentenentwurf benennt die BNetzA als zuständige Marktüberwachungsbehörde, soweit in diesem Gesetz nichts anderes bestimmt ist. \r\nMit der Benennung würde auf die BNetzA eine lange Liste an neuen Aufgaben zukommen: Sie müsste die KI-VO in Deutschland durchsetzen, in EU-weiten Gremien mitarbeiten und die zuständigen Behörden auf nationaler Ebene koordinieren. Bei der hohen Anzahl an Behörden in Deutschland, die in die KI-Aufsicht involviert sein werden, ist das eine komplexe Aufgabe. Wir begrüßen, dass in Paragraf 5 vorgesehen ist, ein zentrales Koordinierungs- und Kompetenzzentrums einzurichten, das die zuständigen Behörden unterstützen und Einheitlichkeit in Entscheidungen über horizontale Rechtsfragen fördern soll. \r\nUm den Aufgaben gerecht werden zu können, muss der Gesetzgeber die Aufsichtsstruktur mit ausreichend Ressourcen ausstatten und diese bereits jetzt budgetieren. Im vorliegenden Entwurf fehlt eine Aufschlüsselung der Mittel, die für die Umsetzung der Marktaufsicht eingeplant werden sollen, so dass dieser Aspekt nicht im Zuge der Verbändeanhörung bewertet werden kann. Das bedauern wir. \r\nDie Aufsichtsstruktur muss aber jetzt so zügig wie möglich festgelegt und aufgebaut werden. Es braucht eine effektive Aufsicht, die insbesondere auch als zentrale Anlaufstelle für alle dient, die Beschwerden über Verstöße gegen die KI-VO einreichen möchten, so wie es Art. 85 der KI-VO vorsieht. Der vorliegende Referentenentwurf sieht passenderweise die Einrichtung eines Beschwerdemanagementsystems vor, „das leicht zugänglich, barrierefrei und benutzerfreundlich” ausgestaltet werden soll. Allerdings sollte im Referentenentwurf konkretisiert werden, dass Menschen, die eine Beschwerde einreichen wollen, eine zentrale Kontaktstelle aufsuchen können, die über das gesamte Verfahren ansprechbar bleibt. Als Vorbild für eine solche Regelung kann die bestehende Regelung dienen, die im Digitale-Dienste-Gesetz gefunden wurde: Paragraf 20 legt fest, dass die Koordinierungsstelle für digitale Dienste über den gesamten Zeitraum des Beschwerdeverfahrens als Ansprechpartnerin der Beschwerdeführer*innen agiert.  \r\nNeben dem Recht darauf, Beschwerden einzureichen, sieht die KI-VO nach Art. 86 das Recht vor, Entscheidung über Menschen, die auf einer Hochrisiko-KI basieren, erläutert zu bekommen. Realistischerweise liegt für einzelne Personen eine Reihe von hohen Hürden vor, die es ohne konkrete Hilfs- und Informationsangebote extrem unwahrscheinlich machen, dass sie dieses Recht effektiv nutzen können. Menschen können kaum selbst absehen, wann sie KI-basierten Entscheidungen ausgesetzt sind. Während der vorliegende Referentenentwurf insbesondere „innovationsfördernde Maßnahmen” in den Fokus nimmt, fehlt der Blick darauf, dass bei der BNetzA solche praktischen Hilfs- und Informationsangebote aufgebaut werden sollten, damit Menschen die wenigen Rechte, die die KI-VO ihnen direkt zuspricht, geltend machen können. Gerade im Hinblick auf KI-Systeme, die der Staat einsetzt, sollten neben innovationsfördernden Maßnahmen auch vertrauensfördernde Maßnahmen eingeführt werden: Darunter sollten mindestens der Aufbau eines nationalen KI-Transparenzregisters und begleitende Maßnahmen wie Informationskampagnen fallen. \r\nStatt „Unabhängiger Marktüberwachungskammer”: Datenschutzbehörden einbinden und Unabhängigkeit und Expertise in der Aufsicht sicherstellen \r\nAuch wenn die BNetzA Erfahrung darin hat,  verschiedene Behörden zu koordinieren, ist es wichtig, dass gerade bei der Nutzung von Hochrisiko-KI-Systemen durch den Staat die Unabhängigkeit und Expertise der Aufsicht gewährleistet sind. \r\nDer vorliegende Gesetzesentwurf schlägt für die Aufsicht über KI-Systeme nach Artikel 74 Absatz 8 der KI-VO die Einrichtung einer „Unabhängigen Marktüberwachungskammer” (UKIM) vor. Dabei geht es um die Aufsicht über den staatlichen Einsatz von Hochrisiko-KI-Systemen in besonders sensiblen Bereichen wie Strafverfolgung, Migration, Asyl oder Grenzkontrolle sowie bei der Rechtspflege und im Zusammenhang mit demokratischen Prozessen. Diese soll mit dem Präsidenten der Bundesnetzagentur als Vorsitzendem oder der Präsidentin der Bundesnetzagentur als Vorsitzender und den beiden Vizepräsidenten oder Vizepräsidentinnen der Bundesnetzagentur als beisitzenden Mitgliedern besetzt sein. \r\nDie KI-VO sieht für diese sensiblen Bereiche grundsätzlich die Marktüberwachung durch die für den Datenschutz zuständigen Aufsichtsbehörden vor. Das kann und sollte so gelesen werden, dass Unabhängigkeit und Expertise in Bereichen des Daten- und Grundrechtsschutzes an dieser Stelle von herausragender Bedeutung sind. \r\nIm vorliegenden Referentenentwurf beschreibt Paragraf 4 Absatz 3 zwar, dass die vorgesehene UKIM völlig unabhängig handeln und weder direkter noch indirekter Beeinflussung von außen unterliegen, noch Weisungen ersuchen oder sie entgegennehmen soll. Es bleibt aber offen, wie dies sichergestellt wird. Zwar macht der Beirat der BNetzA der Bundesregierung Vorschläge zur Besetzung der (Vize-)Präsidenten, das Letztentscheidungsrecht der Bundesregierung bleibt aber laut Gesetz über die BNetzA von diesem Verfahren unberührt.\r\nDie Datenschutzbehörden verfügen über ein ungleich höheres Maß an Unabhängigkeit als die UKIM. Beispielsweise ist die BfDI als oberste Bundesbehörde nur dem Gesetz unterworfen, durch direkte Wahl durch den Bundestag stärker legitimiert, hat einen eigenen Einzelplan im Haushalt und unterliegt keiner Beeinflussung von außen. Ebenso werden Qualifikation, Erfahrung und Sachkunde im Bereich des Schutzes personenbezogener Daten vorausgesetzt.\r\nParagraf 4 Absatz 1 beschreibt, dass Entscheidungen der UKIM mit einfacher Mehrheit der Mitglieder getroffen werden und dass bei Stimmengleichheit die Stimme des Vorsitzenden oder der Vorsitzenden entscheidet. Derzeit besteht eine inhaltliche Aufteilung der Zuständigkeiten zwischen den drei Personen, die das Präsidium der BNetzA stellen. Eine Vizepräsidentin ist beispielsweise lediglich für den Bereich „Energie” zuständig. Dass alle Präsidiumsmitglieder mit gleicher Expertise Entscheidungen treffen können, scheint daher nicht zwangsläufig gegeben zu sein. \r\nUm die für die Aufgabe erforderliche Expertise sicherzustellen, wurden beispielsweise auch im Rahmen des Digitale-Dienste-Gesetzes Anforderungen an eine Leiterin oder einen Leiter der darin geschaffenen „Koordinierungsstelle für digitale Dienste” festgeschrieben: So wurde zur Erfüllung der Aufgaben und zur Ausübung der Befugnisse vorausgesetzt, dass die Leitung „die erforderliche Qualifikation, Erfahrung und Sachkunde insbesondere im Bereich der Geschäftsmodelle digitaler Dienste und über Kenntnisse des Rechtsrahmens digitaler Dienste verfügt\". \r\nUm eine möglichst effektive und unabhängige Aufsicht über den grundrechtskonformen Einsatz von Hochrisiko-KI-Systemen in den oben genannten sensiblen Bereichen sicherzustellen, sollte im Gesetz konkretisiert werden, wie die unabhängige Aufsicht sichergestellt und wie vorhandene Expertise bei deutschen Datenschutzbehörden effektiv abgerufen wird. Nur so wären auch die Vorgaben des europäischen Gesetzgebers erfüllt, die die Aufsicht über KI-Systeme nach Art. 74 Absatz 8 bei diesen Stellen ursprünglich vorgesehen hatten. \r\n\r\nEin nationales KI-Transparenzregister, koordiniert durch und angesiedelt bei der BNetzA \r\nTransparenz und Nachvollziehbarkeit sind nicht nur im Hochrisikobereich gemäß KI-VO von Nutzen, sondern sollten für alle automatisierten Entscheidungssysteme von öffentlichen Stellen gelten. Die geplante EU-Datenbank (Art. 71 KI-VO), in der die Einsätze von Hochrisiko-KI-Systemen durch öffentliche Stellen verzeichnet werden sollen, wird nur wenige der insgesamt eingesetzten Systeme aufführen. Zudem bleibt der Informationsgehalt der Einträge mit nur wenigen Datenfeldern sehr gering. In Deutschland sollte daher ein nationales KI-Transparenzregister für die gesamte öffentliche Hand eingeführt werden. AlgorithmWatch hat gemeinsam mit Partnern aus Wissenschaft und Verwaltungspraxis bereits ein Konzept zur Umsetzung eines Registers erstellt. Durch die detaillierte Beschreibung praxisnaher Anforderungen können erfahrene IT-Architekt*innen das Konzept direkt umsetzen. Es orientiert sich an bestehenden nationalen und internationalen KI-Registern, schließt aber deren Lücken. \r\nDie KI-VO steht dabei dem Aufbau eines nationalen KI-Transparenzregisters rechtlich nicht im Weg: Erlässt der Bundestag Vorgaben mit einer Zielsetzung, die dem Binnenmarkt nicht zuwiderläuft – in diesem Fall also mit dem  Ziel, die Transparenz der öffentlichen Verwaltung zu stärken – ist das als unproblematisch zu werten. Ein Hindernis bestünde nur dann, wenn das mitgliedstaatliche Recht den freien Waren- und Dienstleistungsverkehr hemmt. Ein nationales KI-Transparenzregister für die öffentliche Verwaltung stellt aber kein derartiges Hindernis für die Umsetzung der KI-VO dar, solange es nicht die Transparenzpflichten der KI-VO erschwert oder unmöglich macht. Das ist aber nicht der Fall. Ganz im Gegenteil, kann ein nationales Register die Verwaltung dabei unterstützen, die Vorgaben der KI-VO effizient zu erfüllen. \r\nDie Niederlande haben bereits ein nationales KI-Register für die öffentliche Verwaltung eingeführt. Hätte die EU-Datenbank diese nationale Datenbank ersetzen sollen, wäre dies explizit zu regeln gewesen.\r\nEin nationales KI-Transparenzregister sollte zentral koordiniert und standardisiert sein. Um eine Doppelstruktur zu vermeiden, sollte es über eine Schnittstelle zur EU Datenbank der Hochrisiko-Systeme verfügen. Die BNetzA eignet sich als koordinierende Marktaufsichtsbehörde ideal, ein nationales KI-Transparenzregister aufzubauen und zu betreiben. Die Regelung im Zuge des KI-MIG ermöglicht eine effiziente und einheitliche Aufsicht über das KI-Transparenzregister bei der zentralen Anlaufstelle für die KI-VO, sodass die Registrierungspflicht in der EU-Datenbank für Betreiber von Hochrisiko-KI-Systemen gemäß Art. 26 Abs. 8 S. 1 KI-VO und die technische, fachliche und organisatorische Verantwortung für ein nationales KI-Register auf Bundesebene in einer Hand liegt. \r\nEin nationales KI-Register für die öffentliche Verwaltung kann nicht nur Transparenz für Betroffene herstellen und Verantwortlichkeit erzeugen, sondern auch positive Anreize für Behörden schaffen: Vorhandene Anwendungen werden sichtbar und auffindbar, ineffiziente Parallelentwicklungen lassen sich viel leichter vermeiden. Aktuell wird u.a. bereits ein „Marktplatz der KI-Möglichkeiten“ durch das BMDS betrieben. Er soll Ministerien und Behörden die  Potenziale von KI-Anwendungen aufzeigen und „Transparenz über die KI-Anwendungslandschaft und Erfahrungswerte in den Ressorts“ liefern. Im Vergleich zu diesem Modell sollte der Eintrag von KI-Anwendungen in ein nationales KI-Transparenzregister allerdings verpflichtend sein. So wird Verbindlichkeit bezüglich der einzutragenden Daten geschaffen. Freiwillige Einträge in das Register würden zwangsläufig lückenhaft bleiben. Damit würde das Ziel verfehlt, Synergien zu nutzen und vertrauensbildende Transparenz für Betroffene zu gewährleisten. Redundante Datenbanken, Marktplätze und ähnliche Plattformen, die auf freiwilligen Einträgen basieren, können durch ein zentrales, gesetzlich geregeltes KI-Transparenzregister ersetzt werden und so Bürokratie verringern und Kosten sparen.\r\nWichtig ist, dass die Angaben über KI-Anwendungen in Behörden über den in der KI-VO geforderten Datensatz (vgl. Anhang VIII der KI-VO) hinausgehen. Denn wirksame Transparenz wird durch die dort geforderten spärlichen Informationen noch nicht hinreichend sichergestellt. Ziel sollte sein, Nachvollziehbarkeit für alle Menschen und eine effektive Grundlage für Nachfragen und Beschwerden sicherzustellen. Ein umfassender Transparenzbericht sollte alle ethisch relevante Auswirkungen und die ergriffenen Gegenmaßnahmen detailliert aufführen. Dazu zählen u.a.:\r\nDefinition des Problems, das das KI-System lösen soll\r\nKonkrete Zieldefinition (z.B. Effizienz- oder Leistungsverbesserungen, Entscheidungsunterstützung, Automatisierung von Aufgaben, Kostensenkung usw.)\r\nEthische und rechtliche Anforderungen an das System (Datenschutz, IT-Sicherheit, Fairness, Erklärbarkeit etc.)\r\nTransparenz über sämtliche Grundrechtsauswirkungen\r\nTransparenz über die Umweltverträglichkeit (Energieverbrauch, Treibhausgasemissionen, indirekter Ressourcenverbrauch etc.)\r\nBenennung der Verantwortlichen für Konzeption und Implementierung.\r\nDas KI-VO Durchführungsgesetz bietet den idealen Rahmen, um ein für die Behörden der Bundesebene verbindliches, mit der EU-Datenbank kompatibles KI-Transparenzregister zu schaffen. Das KI-Transparenzregister muss gesetzlich verankert sein, um Verbindlichkeit, Vollständigkeit, Aufsicht und Kompatibilität mit der EU-Datenbank zu gewährleisten. Ein gesetzlicher Rahmen auf Bundesebene liefert zudem einen Orientierungspunkt für Länder und Kommunen und dient dazu, dem Grundrecht auf Informationsfreiheit genüge zu leisten. Denn Fragen, die für Staat und Gesellschaft von erheblicher Bedeutung sind, müssen gesetzlich geregelt sein. Der staatliche KI-Einsatz ist eine derartige für das Allgemeinwohl relevante Frage.\r\nHinzu kommt, dass der KI-Einsatz in der öffentlichen Verwaltung grundrechtsrelevant ist und die ständige Rechtsprechung des Bundesverfassungsgerichts den parlamentarischen Gesetzgeber verpflichtet, in grundlegenden normativen Bereichen (etwa wenn Grundrechte berührt sind) alle wesentlichen Entscheidungen selbst zu treffen. Zwar folgt aus dem Grundrecht der Informationsfreiheit keine Verpflichtung zur staatlichen Informationsbereitstellung, sondern nur ein Zugangsrecht zu bereits allgemein zugänglichen Informationsquellen. Aber ein KI-Transparenzregister dient insbesondere der politischen Meinungs- und Willensbildung als Voraussetzung demokratischer Legitimation und konkretisiert so das Demokratieprinzip (Art. 20 Abs. 2 GG) und zugleich die Informationsfreiheit in ihrer Funktion für die politische Willensbildung. Außerdem können KI-Systeme in der öffentlichen Verwaltung die informationelle Selbstbestimmung und die Gleichheitsrechte der Behördenmitarbeiter*innen und der Bürger*innen berühren.\r\nOhne eine ausreichende Informationsgrundlage lässt sich nicht überprüfen, ob in bestimmten Fällen die Grundrechte betroffen sind, was ihrem Schutz entgegensteht. Ein Transparenzregister wäre daher ein wesentlicher Baustein für einen effektiven Grundrechtsschutz im digitalen Staat. \r\n\r\nZivilgesellschaft muss beteiligt werden\r\nWährend der vorliegende Entwurf lediglich die Kooperation zwischen öffentlichen Stellen behandelt, bleibt die Zivilgesellschaft in der Betrachtung, welche Akteure eine Rolle für die effektive Aufsicht über KI-Systeme und den Grundrechtsschutz spielen, außen vor. \r\nDurch das Digitale-Dienste-Gesetz wurde die institutionelle Aufsicht über Plattformen durch Expertise von relevanten Akteuren aus der Zivilgesellschaft ergänzt, indem ein Beirat mit Vertreter*innen aus Zivilgesellschaft, Wissenschaft und Wirtschaft geschaffen wurde. Dieser Ansatz fehlt im vorliegenden Gesetzentwurf vollständig. \r\nEin KI-Beirat würde dafür sorgen, dass zivilgesellschaftliche und interdisziplinäre wissenschaftliche Expertise sowie die Perspektive Betroffener in die Arbeit der Marktaufsichtsbehörde einfließen, um die KI-Verordnung auszulegen, zu präzisieren und weiterzuentwickeln.\r\nSolch ein KI-Beirat sollte die Marktaufsichtsbehörde bei grundsätzlichen Fragen der Anwendung und Durchsetzung der KI-Verordnung beraten, allgemeine Empfehlungen dazu geben, wie die Verordnung effektiv und einheitlich durchgeführt werden kann, und wissenschaftliche, technische und gesellschaftspolitische Fragestellungen an die Behörde herantragen.\r\nMitglieder eines KI-Beirats sollten das Recht haben, Fragen an die notifizierende Behörde und andere zuständige Behörden zu stellen. Nur dann kann der Beirat gut informierte Einschätzungen abgeben. Darüber hinaus sollte die Unabhängigkeit des Beirats sichergestellt werden. Er muss sich eine eigene Geschäftsordnung geben können, die keiner Zustimmung eines Ministeriums oder einer Behörde bedarf. Er sollte darüber hinaus eigenständig Studien und Gutachten erstellen und beauftragen können. Die Arbeit des Beirats sollte auch finanziell unterstützt werden: Es bräuchte eine angemessen ausgestattete Geschäftsstelle sowie Aufwandsentschädigungen für Beirats-Mitglieder, die im Haushalt eingeplant werden. Die Sitzungen eines solchen Beirats sollten grundsätzlich öffentlich stattfinden und offen sein für die Einbeziehung weiterer zivilgesellschaftlicher Akteur*innen und Verbraucherschützer*innen, die nicht selbst als Mitglieder im Beirat vertreten sind.\r\nAuch in Hinblick auf die Einrichtung eines KI-Transparenzregisters sollte die Zivilgesellschaft einbezogen werden: Um eine benutzerorientierte und partizipative Entwicklung des Registers sicherzustellen, empfehlen wir die Einrichtung eines beratenden, interdisziplinären und unabhängigen Expertengremiums. Dieses Gremium sollte Vertreter*innen aller relevanten Zielgruppen – aus Verwaltung, Wissenschaft, Zivilgesellschaft und Wirtschaft – umfassen und das bestehende Entwicklungsteam der verantwortlichen KI-Aufsichtsbehörde gezielt ergänzen.\r\n\r\nUntersuchungsrechte zum Zweck des Grundrechtsrechtsschutzes müssen durchsetzbar sein \r\nDie KI-VO verpflichtet Anbieter und Betreiber von risikoreichen KI-Systemen dazu, verschiedene Arten der Dokumentation während des gesamten Lebenszyklus’ des Systems zu erstellen und zu pflegen. Gleichbehandlungsstellen und andere nach Artikel 77 benannte Stellen haben laut KI-VO das Recht, sämtliche auf der Grundlage der Verordnung in zugänglicher Sprache und Format erstellten oder geführten Dokumentationen anzufordern und einzusehen. Es muss lediglich sichergestellt sein, dass sie für die Ausübung ihrer Aufgaben notwendig sind. Anschließend können sie zusätzlich technische Testverfahren anfordern und haben das Recht, bei der Marktaufsichtsbehörde eine vollständige Kooperation einzufordern. Auch wenn die KI-VO den Gleichbehandlungsstellen und weiteren nach Artikel 77 genannten Stellen ausführliche Untersuchungsrechte zuspricht, sind sie dennoch abhängig von einer funktionierenden, effizienten und proaktiven Zusammenarbeit mit den Marktaufsichtsbehörden in den Mitgliedsstaaten. Im vorliegenden Referentenentwurf beschreibt Paragraf 9 die Zusammenarbeit der zuständigen Behörden. In Absatz 4 sollte explizit noch die Antidiskriminierungsstelle des Bundes mit aufgeführt werden, statt sie nur in der Begründung zu erwähnen.  \r\nDie derzeitige Liste der nach Artikel 77 genannten Stellen setzt sich vorrangig aus Datenschutzbehörden, der Antidiskriminierungsstelle des Bundes und der Ombudsstelle der Landesstelle für Gleichbehandlung in Berlin zusammen und sollte mindestens um die in der in der Begründung des Gesetzes genannten weiteren Antidiskriminierungsstellen der Länder, der Bundeszentrale für Kinder- und Jugendmedienschutz und weitere relevante Stellen ergänzt werden. \r\n\r\nBiometrische Fernidentifizierungssysteme verbieten \r\nBei der biometrischen Fernidentifizierung im öffentlichen Raum eröffnet die KI-VO die Möglichkeit, die EU-weiten Regelungen nachzuschärfen. Sowohl für Echtzeit-Fernidentifizierungssysteme als auch für nachträgliche biometrische Fernidentifizierung im öffentlichen Raum können die Mitgliedstaaten auch strengere Regeln erlassen. Angesichts des enormen Schadenspotenzials für Grundrechte und Demokratie verbietet die KI-Verordnung die biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen durch Polizei und Strafverfolgungsbehörden grundsätzlich. \r\nGegenwärtig existiert im deutschen Recht keine Gesetzesgrundlage für den Einsatz biometrischer Fernidentifizierungssysteme durch Strafverfolgungsbehörden. Es lässt sich allerdings immer wieder beobachten, wie bestehende Befugnisse zweckentfremdet und als Legitimation für solche Einsätze herangezogen werden. Darüber hinaus wurde seitens des Bundesministeriums des Innern ein Gesetzesentwurf erarbeitet, der Ermittlungsbefugnisse für Strafverfolgungsbehörden einführen soll, die im direkten Widerspruch zu den durch die KI-VO formulierten Verbote stehen. Im vorliegenden Durchführungsgesetz der KI-VO wurde verpasst, die geltenden Verbote noch einmal konkretisierend auszuformulieren. \r\n\r\n\r\n\r\nFazit \r\nDieser Gesetzentwurf bietet ein erstes Grundgerüst für den Aufbau einer effektiven Aufsichtsstruktur über die Zulassung und den Einsatz von KI-Systemen und legt dabei insbesondere den Fokus auf die komplexe Abstimmung zwischen den verschiedenen zuständigen Behörden sowie auf „innovationsfördernde Maßnahmen”. \r\nDie KI-Verordnung soll Grundrechte schützen. Dieses Ziel ist bedroht, vor allem bei staatlichen Einsätzen von Hochrisiko-KI-Systemen in besonders sensiblen Bereichen. Der Vorschlag, eine unabhängige Aufsicht zu gewährleisten, indem eine sogenannte UKIM eingerichtet wird, lässt Datenschutzbehörden in ihrer Zuständigkeit außen vor und erklärt nicht, wie eine ausreichende Unabhängigkeit und Expertise sichergestellt werden kann.\r\nDarüber hinaus fehlen Maßnahmen, die das Grundgerüst einer funktionierenden und für Menschen in Deutschland nachvollziehbaren Aufsicht über KI-Systeme notwendigerweise ergänzen sollten: Ein KI-Transparenzregister aufzubauen, zivilgesellschaftliche Akteur*innen einzubinden und praktische Unterstützungs- und Informationsangebote einzuführen, um Vertrauen zu fördern und Kompetenzen zu stärken. \r\nEine Aufsicht, die im Sinne des Gemeinwohls und im Sinne aller Menschen in Deutschland schädliche Auswirkungen durch KI-Systeme verhindern und sanktionieren soll, kann dieses Ziel nur erreichen, wenn umfassende Transparenz ermöglicht wird, ausreichend Ressourcen zur Verfügung stehen und notwendige Kompetenzen in der Bevölkerung geschaffen werden.\r\n\r\n_____________________________________________________________________________________________\r\nAlgorithmWatch ist eine Menschenrechtsorganisation mit Sitz in Berlin und Zürich, die sich mit den gesellschaftlichen Auswirkungen von algorithmischen Entscheidungssystemen (ADM) und Künstlicher Intelligenz (KI) befasst. Wir setzen uns dafür ein, dass solche Technologien Menschenrechte, Demokratie und Nachhaltigkeit stärken, statt sie zu schwächen. Dazu tragen wir mit politischen Kampagnen, Lobbyarbeit, journalistischen Recherchen, Forschung und Technikentwicklung bei.\r\nUnsere Webseite: https://algorithmwatch.org/\r\n\r\nKontakt zur Autorin: \r\nPia Sombetzki, sombetzki@algorithmwatch.org \r\n"},"recipientGroups":[{"recipients":{"parliament":[],"federalGovernment":[{"department":{"title":"Bundesministerium für Digitalisierung und Staatsmodernisierung (BMDS)","shortTitle":"BMDS","url":"https://bmds.bund.de/","electionPeriod":21}}]},"sendingDate":"2025-10-10"}]},{"regulatoryProjectNumber":"RV0004864","regulatoryProjectTitle":"Einführung eines umfassenden KI-Transparenzregisters","pdfUrl":"https://www.lobbyregister.bundestag.de/media/8a/b5/628459/Stellungnahme-Gutachten-SG2510130012.pdf","pdfPageCount":11,"text":{"copyrightAcknowledgement":"Die grundlegenden Stellungnahmen und Gutachten können urheberrechtlich geschützte Werke enthalten. Eine Nutzung ist nur im urheberrechtlich zulässigen Rahmen erlaubt.","text":"\r\n\r\n\r\n/ Die nationale Durchführung der europäischen KI-Verordnung\r\nStellungnahme zum Referentenentwurf \r\ndes Bundesministeriums für Digitales und Staatsmodernisierung vom 11.09.2025 für ein deutsches KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG)\r\nDiese Stellungnahme ergänzt die Angaben, die über den Online-Konsultationsfragebogen des BMDS abgegeben wurden. \r\n\r\n09. Oktober 2025\r\nPia Sombetzki \r\nUnsere Empfehlungen in Kürze \r\nDie nationale Aufsicht muss eine unabhängige und kompetente Aufsicht über staatliche Einsätze von Hochrisiko-KI-Systemen in besonders sensiblen Bereichen sicherstellen.\r\nDie Bundesregierung sollte ein verpflichtendes KI-Transparenzregister für alle Behörden auf Bundesebene aufbauen, das die begrenzten Informationen in der EU-Datenbank der Hochrisiko-KI-Systeme umfassend ergänzt. Die BNetzA sollte die Aufsicht darüber ausüben. \r\nDie Bundesregierung  sollte einen KI-Beirat schaffen, ein effektives Beschwerdesystem aufsetzen und kompetenzstärkende Maßnahmen in der Bevölkerung fördern, um Rechte nach KI-Verordnung wahrnehmen zu können.\r\nKontext des Entwurfs \r\nMit dem vorgelegten Gesetzentwurf wird im Wesentlichen die Verordnung über Künstliche Intelligenz (KI-VO) in Deutschland umgesetzt.\r\nDie KI-VO ist ein neues Regelwerk, das vorsieht, algorithmische Systeme und den digitalen Sektor im Allgemeinen zu regulieren und Produktsicherheit zu garantieren. Der Großteil ihrer Vorschriften deckt technische Aspekte von KI-Systemen ab und richtet sich hauptsächlich an diejenigen, die sie entwickeln (in der Terminologie des Gesetzes „Anbieter“ genannt). \r\nDas Gesetz trat im August 2024 in Kraft, wodurch auch der Zeitplan für verschiedene Bestimmungen vorgegeben war: Bis zum 2. August 2025 sollte eine Aufsichtsstruktur auf nationaler Ebene eingerichtet werden. Der Abschnitt über verbotene KI-Praktiken gilt bereits seit Februar 2025, kann aber bisher nicht wirksam durchgesetzt werden, weil die nötige Aufsichtsstruktur nicht besteht, um beispielsweise Beschwerden von Bürger*innen entgegenzunehmen. \r\nAlgorithmWatch hat die KI-VO in ihrer Entstehung aktiv begleitet. Die Verordnung verfolgt ausdrücklich das Ziel, beim Einsatz von KI-Systemen ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit, Grundrechte, Demokratie, Rechtsstaatlichkeit und Umweltschutz zu gewährleisten (Art. 1 Absatz 1 KI-VO). Ob sie als Errungenschaft für den Grundrechtsschutz eingeordnet werden wird, wird auch maßgeblich davon abhängen, wie effektiv ihre Regeln durchgesetzt und, wo möglich, auf nationaler Ebene ausgeweitet werden.\r\nDer vorliegende Gesetzentwurf zielt insbesondere darauf ab, Ressourcen und Kompetenzen bei der Bundesnetzagentur für Elektrizität, Gas, Telekommunikation, Post und Eisenbahnen (BNetzA) zu bündeln. Positiv zu werten ist, dass dadurch eine zentrale und koordinierende Anlaufstelle für die KI-Verordnung bei der BNetzA eingerichtet werden soll. Allerdings soll auch die Aufsicht über den Einsatz von Hochrisiko-KI-Systemen, die in Strafverfolgung, Migration, Asyl oder Grenzkontrollen, bei der Rechtspflege und im Zusammenhang mit demokratischen Prozessen eingesetzt werden, einer „unabhängigen Marküberwachungskammer” (UKIM) innerhalb der BNetzA übertragen werden. Hier weicht der Referentenentwurf von der in der KI-VO ab, die grundsätzlich die Aufsicht durch die jeweiligen zuständigen Datenschutzbeauftragten des Bundes und der Länder vorsieht, und erklärt nicht im Detail, wie Unabhängigkeit und Expertise über die vorgeschlagene Lösung sichergestellt werden. \r\nDer Gesetzesentwurf verpasst es außerdem, ein nationales KI-Transparenzregister einzuführen, das Menschen in Deutschland die nötige Einsicht darüber bieten würde, wo und wann der Staat KI-Systeme einsetzt und wie er die Einsätze im Einklang mit den Grundrechten absichert. Der Aufbau eines solchen Registers und die Aufsicht darüber sollten an dieser Stelle festgeschrieben und der BNetzA übertragen werden.  \r\nMaßnahmen, die das Grundgerüst einer funktionierenden und für Menschen in Deutschland nachvollziehbaren Aufsicht über KI-Systeme sollten des weiteren ergänzt werden: Insbesondere die Einbindung zivilgesellschaftlicher Akteur*innen sowie die Einführung praktischer Unterstützungs- und Informationsangebote, um Vertrauen zu fördern und Kompetenzen in der Bevölkerung zu stärken.\r\n\r\nDie BNetzA als zentrale Anlaufstelle für die Menschen in Deutschland aufbauen und deren Rechte in den Fokus rücken\r\nDer vorliegende Referentenentwurf benennt die BNetzA als zuständige Marktüberwachungsbehörde, soweit in diesem Gesetz nichts anderes bestimmt ist. \r\nMit der Benennung würde auf die BNetzA eine lange Liste an neuen Aufgaben zukommen: Sie müsste die KI-VO in Deutschland durchsetzen, in EU-weiten Gremien mitarbeiten und die zuständigen Behörden auf nationaler Ebene koordinieren. Bei der hohen Anzahl an Behörden in Deutschland, die in die KI-Aufsicht involviert sein werden, ist das eine komplexe Aufgabe. Wir begrüßen, dass in Paragraf 5 vorgesehen ist, ein zentrales Koordinierungs- und Kompetenzzentrums einzurichten, das die zuständigen Behörden unterstützen und Einheitlichkeit in Entscheidungen über horizontale Rechtsfragen fördern soll. \r\nUm den Aufgaben gerecht werden zu können, muss der Gesetzgeber die Aufsichtsstruktur mit ausreichend Ressourcen ausstatten und diese bereits jetzt budgetieren. Im vorliegenden Entwurf fehlt eine Aufschlüsselung der Mittel, die für die Umsetzung der Marktaufsicht eingeplant werden sollen, so dass dieser Aspekt nicht im Zuge der Verbändeanhörung bewertet werden kann. Das bedauern wir. \r\nDie Aufsichtsstruktur muss aber jetzt so zügig wie möglich festgelegt und aufgebaut werden. Es braucht eine effektive Aufsicht, die insbesondere auch als zentrale Anlaufstelle für alle dient, die Beschwerden über Verstöße gegen die KI-VO einreichen möchten, so wie es Art. 85 der KI-VO vorsieht. Der vorliegende Referentenentwurf sieht passenderweise die Einrichtung eines Beschwerdemanagementsystems vor, „das leicht zugänglich, barrierefrei und benutzerfreundlich” ausgestaltet werden soll. Allerdings sollte im Referentenentwurf konkretisiert werden, dass Menschen, die eine Beschwerde einreichen wollen, eine zentrale Kontaktstelle aufsuchen können, die über das gesamte Verfahren ansprechbar bleibt. Als Vorbild für eine solche Regelung kann die bestehende Regelung dienen, die im Digitale-Dienste-Gesetz gefunden wurde: Paragraf 20 legt fest, dass die Koordinierungsstelle für digitale Dienste über den gesamten Zeitraum des Beschwerdeverfahrens als Ansprechpartnerin der Beschwerdeführer*innen agiert.  \r\nNeben dem Recht darauf, Beschwerden einzureichen, sieht die KI-VO nach Art. 86 das Recht vor, Entscheidung über Menschen, die auf einer Hochrisiko-KI basieren, erläutert zu bekommen. Realistischerweise liegt für einzelne Personen eine Reihe von hohen Hürden vor, die es ohne konkrete Hilfs- und Informationsangebote extrem unwahrscheinlich machen, dass sie dieses Recht effektiv nutzen können. Menschen können kaum selbst absehen, wann sie KI-basierten Entscheidungen ausgesetzt sind. Während der vorliegende Referentenentwurf insbesondere „innovationsfördernde Maßnahmen” in den Fokus nimmt, fehlt der Blick darauf, dass bei der BNetzA solche praktischen Hilfs- und Informationsangebote aufgebaut werden sollten, damit Menschen die wenigen Rechte, die die KI-VO ihnen direkt zuspricht, geltend machen können. Gerade im Hinblick auf KI-Systeme, die der Staat einsetzt, sollten neben innovationsfördernden Maßnahmen auch vertrauensfördernde Maßnahmen eingeführt werden: Darunter sollten mindestens der Aufbau eines nationalen KI-Transparenzregisters und begleitende Maßnahmen wie Informationskampagnen fallen. \r\nStatt „Unabhängiger Marktüberwachungskammer”: Datenschutzbehörden einbinden und Unabhängigkeit und Expertise in der Aufsicht sicherstellen \r\nAuch wenn die BNetzA Erfahrung darin hat,  verschiedene Behörden zu koordinieren, ist es wichtig, dass gerade bei der Nutzung von Hochrisiko-KI-Systemen durch den Staat die Unabhängigkeit und Expertise der Aufsicht gewährleistet sind. \r\nDer vorliegende Gesetzesentwurf schlägt für die Aufsicht über KI-Systeme nach Artikel 74 Absatz 8 der KI-VO die Einrichtung einer „Unabhängigen Marktüberwachungskammer” (UKIM) vor. Dabei geht es um die Aufsicht über den staatlichen Einsatz von Hochrisiko-KI-Systemen in besonders sensiblen Bereichen wie Strafverfolgung, Migration, Asyl oder Grenzkontrolle sowie bei der Rechtspflege und im Zusammenhang mit demokratischen Prozessen. Diese soll mit dem Präsidenten der Bundesnetzagentur als Vorsitzendem oder der Präsidentin der Bundesnetzagentur als Vorsitzender und den beiden Vizepräsidenten oder Vizepräsidentinnen der Bundesnetzagentur als beisitzenden Mitgliedern besetzt sein. \r\nDie KI-VO sieht für diese sensiblen Bereiche grundsätzlich die Marktüberwachung durch die für den Datenschutz zuständigen Aufsichtsbehörden vor. Das kann und sollte so gelesen werden, dass Unabhängigkeit und Expertise in Bereichen des Daten- und Grundrechtsschutzes an dieser Stelle von herausragender Bedeutung sind. \r\nIm vorliegenden Referentenentwurf beschreibt Paragraf 4 Absatz 3 zwar, dass die vorgesehene UKIM völlig unabhängig handeln und weder direkter noch indirekter Beeinflussung von außen unterliegen, noch Weisungen ersuchen oder sie entgegennehmen soll. Es bleibt aber offen, wie dies sichergestellt wird. Zwar macht der Beirat der BNetzA der Bundesregierung Vorschläge zur Besetzung der (Vize-)Präsidenten, das Letztentscheidungsrecht der Bundesregierung bleibt aber laut Gesetz über die BNetzA von diesem Verfahren unberührt.\r\nDie Datenschutzbehörden verfügen über ein ungleich höheres Maß an Unabhängigkeit als die UKIM. Beispielsweise ist die BfDI als oberste Bundesbehörde nur dem Gesetz unterworfen, durch direkte Wahl durch den Bundestag stärker legitimiert, hat einen eigenen Einzelplan im Haushalt und unterliegt keiner Beeinflussung von außen. Ebenso werden Qualifikation, Erfahrung und Sachkunde im Bereich des Schutzes personenbezogener Daten vorausgesetzt.\r\nParagraf 4 Absatz 1 beschreibt, dass Entscheidungen der UKIM mit einfacher Mehrheit der Mitglieder getroffen werden und dass bei Stimmengleichheit die Stimme des Vorsitzenden oder der Vorsitzenden entscheidet. Derzeit besteht eine inhaltliche Aufteilung der Zuständigkeiten zwischen den drei Personen, die das Präsidium der BNetzA stellen. Eine Vizepräsidentin ist beispielsweise lediglich für den Bereich „Energie” zuständig. Dass alle Präsidiumsmitglieder mit gleicher Expertise Entscheidungen treffen können, scheint daher nicht zwangsläufig gegeben zu sein. \r\nUm die für die Aufgabe erforderliche Expertise sicherzustellen, wurden beispielsweise auch im Rahmen des Digitale-Dienste-Gesetzes Anforderungen an eine Leiterin oder einen Leiter der darin geschaffenen „Koordinierungsstelle für digitale Dienste” festgeschrieben: So wurde zur Erfüllung der Aufgaben und zur Ausübung der Befugnisse vorausgesetzt, dass die Leitung „die erforderliche Qualifikation, Erfahrung und Sachkunde insbesondere im Bereich der Geschäftsmodelle digitaler Dienste und über Kenntnisse des Rechtsrahmens digitaler Dienste verfügt\". \r\nUm eine möglichst effektive und unabhängige Aufsicht über den grundrechtskonformen Einsatz von Hochrisiko-KI-Systemen in den oben genannten sensiblen Bereichen sicherzustellen, sollte im Gesetz konkretisiert werden, wie die unabhängige Aufsicht sichergestellt und wie vorhandene Expertise bei deutschen Datenschutzbehörden effektiv abgerufen wird. Nur so wären auch die Vorgaben des europäischen Gesetzgebers erfüllt, die die Aufsicht über KI-Systeme nach Art. 74 Absatz 8 bei diesen Stellen ursprünglich vorgesehen hatten. \r\n\r\n\r\n\r\n\r\nEin nationales KI-Transparenzregister, koordiniert durch und angesiedelt bei der BNetzA \r\nTransparenz und Nachvollziehbarkeit sind nicht nur im Hochrisikobereich gemäß KI-VO von Nutzen, sondern sollten für alle automatisierten Entscheidungssysteme von öffentlichen Stellen gelten. Die geplante EU-Datenbank (Art. 71 KI-VO), in der die Einsätze von Hochrisiko-KI-Systemen durch öffentliche Stellen verzeichnet werden sollen, wird nur wenige der insgesamt eingesetzten Systeme aufführen. Zudem bleibt der Informationsgehalt der Einträge mit nur wenigen Datenfeldern sehr gering. In Deutschland sollte daher ein nationales KI-Transparenzregister für die gesamte öffentliche Hand eingeführt werden. AlgorithmWatch hat gemeinsam mit Partnern aus Wissenschaft und Verwaltungspraxis bereits ein Konzept zur Umsetzung eines Registers erstellt. Durch die detaillierte Beschreibung praxisnaher Anforderungen können erfahrene IT-Architekt*innen das Konzept direkt umsetzen. Es orientiert sich an bestehenden nationalen und internationalen KI-Registern, schließt aber deren Lücken. \r\nDie KI-VO steht dabei dem Aufbau eines nationalen KI-Transparenzregisters rechtlich nicht im Weg: Erlässt der Bundestag Vorgaben mit einer Zielsetzung, die dem Binnenmarkt nicht zuwiderläuft – in diesem Fall also mit dem  Ziel, die Transparenz der öffentlichen Verwaltung zu stärken – ist das als unproblematisch zu werten. Ein Hindernis bestünde nur dann, wenn das mitgliedstaatliche Recht den freien Waren- und Dienstleistungsverkehr hemmt. Ein nationales KI-Transparenzregister für die öffentliche Verwaltung stellt aber kein derartiges Hindernis für die Umsetzung der KI-VO dar, solange es nicht die Transparenzpflichten der KI-VO erschwert oder unmöglich macht. Das ist aber nicht der Fall. Ganz im Gegenteil, kann ein nationales Register die Verwaltung dabei unterstützen, die Vorgaben der KI-VO effizient zu erfüllen. \r\nDie Niederlande haben bereits ein nationales KI-Register für die öffentliche Verwaltung eingeführt. Hätte die EU-Datenbank diese nationale Datenbank ersetzen sollen, wäre dies explizit zu regeln gewesen.\r\nEin nationales KI-Transparenzregister sollte zentral koordiniert und standardisiert sein. Um eine Doppelstruktur zu vermeiden, sollte es über eine Schnittstelle zur EU Datenbank der Hochrisiko-Systeme verfügen. Die BNetzA eignet sich als koordinierende Marktaufsichtsbehörde ideal, ein nationales KI-Transparenzregister aufzubauen und zu betreiben. Die Regelung im Zuge des KI-MIG ermöglicht eine effiziente und einheitliche Aufsicht über das KI-Transparenzregister bei der zentralen Anlaufstelle für die KI-VO, sodass die Registrierungspflicht in der EU-Datenbank für Betreiber von Hochrisiko-KI-Systemen gemäß Art. 26 Abs. 8 S. 1 KI-VO und die technische, fachliche und organisatorische Verantwortung für ein nationales KI-Register auf Bundesebene in einer Hand liegt. \r\nEin nationales KI-Register für die öffentliche Verwaltung kann nicht nur Transparenz für Betroffene herstellen und Verantwortlichkeit erzeugen, sondern auch positive Anreize für Behörden schaffen: Vorhandene Anwendungen werden sichtbar und auffindbar, ineffiziente Parallelentwicklungen lassen sich viel leichter vermeiden. Aktuell wird u.a. bereits ein „Marktplatz der KI-Möglichkeiten“ durch das BMDS betrieben. Er soll Ministerien und Behörden die  Potenziale von KI-Anwendungen aufzeigen und „Transparenz über die KI-Anwendungslandschaft und Erfahrungswerte in den Ressorts“ liefern. Im Vergleich zu diesem Modell sollte der Eintrag von KI-Anwendungen in ein nationales KI-Transparenzregister allerdings verpflichtend sein. So wird Verbindlichkeit bezüglich der einzutragenden Daten geschaffen. Freiwillige Einträge in das Register würden zwangsläufig lückenhaft bleiben. Damit würde das Ziel verfehlt, Synergien zu nutzen und vertrauensbildende Transparenz für Betroffene zu gewährleisten. Redundante Datenbanken, Marktplätze und ähnliche Plattformen, die auf freiwilligen Einträgen basieren, können durch ein zentrales, gesetzlich geregeltes KI-Transparenzregister ersetzt werden und so Bürokratie verringern und Kosten sparen.\r\nWichtig ist, dass die Angaben über KI-Anwendungen in Behörden über den in der KI-VO geforderten Datensatz (vgl. Anhang VIII der KI-VO) hinausgehen. Denn wirksame Transparenz wird durch die dort geforderten spärlichen Informationen noch nicht hinreichend sichergestellt. Ziel sollte sein, Nachvollziehbarkeit für alle Menschen und eine effektive Grundlage für Nachfragen und Beschwerden sicherzustellen. Ein umfassender Transparenzbericht sollte alle ethisch relevante Auswirkungen und die ergriffenen Gegenmaßnahmen detailliert aufführen. Dazu zählen u.a.:\r\nDefinition des Problems, das das KI-System lösen soll\r\nKonkrete Zieldefinition (z.B. Effizienz- oder Leistungsverbesserungen, Entscheidungsunterstützung, Automatisierung von Aufgaben, Kostensenkung usw.)\r\nEthische und rechtliche Anforderungen an das System (Datenschutz, IT-Sicherheit, Fairness, Erklärbarkeit etc.)\r\nTransparenz über sämtliche Grundrechtsauswirkungen\r\nTransparenz über die Umweltverträglichkeit (Energieverbrauch, Treibhausgasemissionen, indirekter Ressourcenverbrauch etc.)\r\nBenennung der Verantwortlichen für Konzeption und Implementierung.\r\nDas KI-VO Durchführungsgesetz bietet den idealen Rahmen, um ein für die Behörden der Bundesebene verbindliches, mit der EU-Datenbank kompatibles KI-Transparenzregister zu schaffen. Das KI-Transparenzregister muss gesetzlich verankert sein, um Verbindlichkeit, Vollständigkeit, Aufsicht und Kompatibilität mit der EU-Datenbank zu gewährleisten. Ein gesetzlicher Rahmen auf Bundesebene liefert zudem einen Orientierungspunkt für Länder und Kommunen und dient dazu, dem Grundrecht auf Informationsfreiheit genüge zu leisten. Denn Fragen, die für Staat und Gesellschaft von erheblicher Bedeutung sind, müssen gesetzlich geregelt sein. Der staatliche KI-Einsatz ist eine derartige für das Allgemeinwohl relevante Frage.\r\nHinzu kommt, dass der KI-Einsatz in der öffentlichen Verwaltung grundrechtsrelevant ist und die ständige Rechtsprechung des Bundesverfassungsgerichts den parlamentarischen Gesetzgeber verpflichtet, in grundlegenden normativen Bereichen (etwa wenn Grundrechte berührt sind) alle wesentlichen Entscheidungen selbst zu treffen. Zwar folgt aus dem Grundrecht der Informationsfreiheit keine Verpflichtung zur staatlichen Informationsbereitstellung, sondern nur ein Zugangsrecht zu bereits allgemein zugänglichen Informationsquellen. Aber ein KI-Transparenzregister dient insbesondere der politischen Meinungs- und Willensbildung als Voraussetzung demokratischer Legitimation und konkretisiert so das Demokratieprinzip (Art. 20 Abs. 2 GG) und zugleich die Informationsfreiheit in ihrer Funktion für die politische Willensbildung. Außerdem können KI-Systeme in der öffentlichen Verwaltung die informationelle Selbstbestimmung und die Gleichheitsrechte der Behördenmitarbeiter*innen und der Bürger*innen berühren.\r\nOhne eine ausreichende Informationsgrundlage lässt sich nicht überprüfen, ob in bestimmten Fällen die Grundrechte betroffen sind, was ihrem Schutz entgegensteht. Ein Transparenzregister wäre daher ein wesentlicher Baustein für einen effektiven Grundrechtsschutz im digitalen Staat. \r\n\r\nZivilgesellschaft muss beteiligt werden\r\nWährend der vorliegende Entwurf lediglich die Kooperation zwischen öffentlichen Stellen behandelt, bleibt die Zivilgesellschaft in der Betrachtung, welche Akteure eine Rolle für die effektive Aufsicht über KI-Systeme und den Grundrechtsschutz spielen, außen vor. \r\nDurch das Digitale-Dienste-Gesetz wurde die institutionelle Aufsicht über Plattformen durch Expertise von relevanten Akteuren aus der Zivilgesellschaft ergänzt, indem ein Beirat mit Vertreter*innen aus Zivilgesellschaft, Wissenschaft und Wirtschaft geschaffen wurde. Dieser Ansatz fehlt im vorliegenden Gesetzentwurf vollständig. \r\nEin KI-Beirat würde dafür sorgen, dass zivilgesellschaftliche und interdisziplinäre wissenschaftliche Expertise sowie die Perspektive Betroffener in die Arbeit der Marktaufsichtsbehörde einfließen, um die KI-Verordnung auszulegen, zu präzisieren und weiterzuentwickeln.\r\nSolch ein KI-Beirat sollte die Marktaufsichtsbehörde bei grundsätzlichen Fragen der Anwendung und Durchsetzung der KI-Verordnung beraten, allgemeine Empfehlungen dazu geben, wie die Verordnung effektiv und einheitlich durchgeführt werden kann, und wissenschaftliche, technische und gesellschaftspolitische Fragestellungen an die Behörde herantragen.\r\nMitglieder eines KI-Beirats sollten das Recht haben, Fragen an die notifizierende Behörde und andere zuständige Behörden zu stellen. Nur dann kann der Beirat gut informierte Einschätzungen abgeben. Darüber hinaus sollte die Unabhängigkeit des Beirats sichergestellt werden. Er muss sich eine eigene Geschäftsordnung geben können, die keiner Zustimmung eines Ministeriums oder einer Behörde bedarf. Er sollte darüber hinaus eigenständig Studien und Gutachten erstellen und beauftragen können. Die Arbeit des Beirats sollte auch finanziell unterstützt werden: Es bräuchte eine angemessen ausgestattete Geschäftsstelle sowie Aufwandsentschädigungen für Beirats-Mitglieder, die im Haushalt eingeplant werden. Die Sitzungen eines solchen Beirats sollten grundsätzlich öffentlich stattfinden und offen sein für die Einbeziehung weiterer zivilgesellschaftlicher Akteur*innen und Verbraucherschützer*innen, die nicht selbst als Mitglieder im Beirat vertreten sind.\r\nAuch in Hinblick auf die Einrichtung eines KI-Transparenzregisters sollte die Zivilgesellschaft einbezogen werden: Um eine benutzerorientierte und partizipative Entwicklung des Registers sicherzustellen, empfehlen wir die Einrichtung eines beratenden, interdisziplinären und unabhängigen Expertengremiums. Dieses Gremium sollte Vertreter*innen aller relevanten Zielgruppen – aus Verwaltung, Wissenschaft, Zivilgesellschaft und Wirtschaft – umfassen und das bestehende Entwicklungsteam der verantwortlichen KI-Aufsichtsbehörde gezielt ergänzen.\r\n\r\nUntersuchungsrechte zum Zweck des Grundrechtsrechtsschutzes müssen durchsetzbar sein \r\nDie KI-VO verpflichtet Anbieter und Betreiber von risikoreichen KI-Systemen dazu, verschiedene Arten der Dokumentation während des gesamten Lebenszyklus’ des Systems zu erstellen und zu pflegen. Gleichbehandlungsstellen und andere nach Artikel 77 benannte Stellen haben laut KI-VO das Recht, sämtliche auf der Grundlage der Verordnung in zugänglicher Sprache und Format erstellten oder geführten Dokumentationen anzufordern und einzusehen. Es muss lediglich sichergestellt sein, dass sie für die Ausübung ihrer Aufgaben notwendig sind. Anschließend können sie zusätzlich technische Testverfahren anfordern und haben das Recht, bei der Marktaufsichtsbehörde eine vollständige Kooperation einzufordern. Auch wenn die KI-VO den Gleichbehandlungsstellen und weiteren nach Artikel 77 genannten Stellen ausführliche Untersuchungsrechte zuspricht, sind sie dennoch abhängig von einer funktionierenden, effizienten und proaktiven Zusammenarbeit mit den Marktaufsichtsbehörden in den Mitgliedsstaaten. Im vorliegenden Referentenentwurf beschreibt Paragraf 9 die Zusammenarbeit der zuständigen Behörden. In Absatz 4 sollte explizit noch die Antidiskriminierungsstelle des Bundes mit aufgeführt werden, statt sie nur in der Begründung zu erwähnen.  \r\nDie derzeitige Liste der nach Artikel 77 genannten Stellen setzt sich vorrangig aus Datenschutzbehörden, der Antidiskriminierungsstelle des Bundes und der Ombudsstelle der Landesstelle für Gleichbehandlung in Berlin zusammen und sollte mindestens um die in der in der Begründung des Gesetzes genannten weiteren Antidiskriminierungsstellen der Länder, der Bundeszentrale für Kinder- und Jugendmedienschutz und weitere relevante Stellen ergänzt werden. \r\n\r\nBiometrische Fernidentifizierungssysteme verbieten \r\nBei der biometrischen Fernidentifizierung im öffentlichen Raum eröffnet die KI-VO die Möglichkeit, die EU-weiten Regelungen nachzuschärfen. Sowohl für Echtzeit-Fernidentifizierungssysteme als auch für nachträgliche biometrische Fernidentifizierung im öffentlichen Raum können die Mitgliedstaaten auch strengere Regeln erlassen. Angesichts des enormen Schadenspotenzials für Grundrechte und Demokratie verbietet die KI-Verordnung die biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen durch Polizei und Strafverfolgungsbehörden grundsätzlich. \r\nGegenwärtig existiert im deutschen Recht keine Gesetzesgrundlage für den Einsatz biometrischer Fernidentifizierungssysteme durch Strafverfolgungsbehörden. Es lässt sich allerdings immer wieder beobachten, wie bestehende Befugnisse zweckentfremdet und als Legitimation für solche Einsätze herangezogen werden. Darüber hinaus wurde seitens des Bundesministeriums des Innern ein Gesetzesentwurf erarbeitet, der Ermittlungsbefugnisse für Strafverfolgungsbehörden einführen soll, die im direkten Widerspruch zu den durch die KI-VO formulierten Verbote stehen. Im vorliegenden Durchführungsgesetz der KI-VO wurde verpasst, die geltenden Verbote noch einmal konkretisierend auszuformulieren. \r\n\r\n\r\n\r\nFazit \r\nDieser Gesetzentwurf bietet ein erstes Grundgerüst für den Aufbau einer effektiven Aufsichtsstruktur über die Zulassung und den Einsatz von KI-Systemen und legt dabei insbesondere den Fokus auf die komplexe Abstimmung zwischen den verschiedenen zuständigen Behörden sowie auf „innovationsfördernde Maßnahmen”. \r\nDie KI-Verordnung soll Grundrechte schützen. Dieses Ziel ist bedroht, vor allem bei staatlichen Einsätzen von Hochrisiko-KI-Systemen in besonders sensiblen Bereichen. Der Vorschlag, eine unabhängige Aufsicht zu gewährleisten, indem eine sogenannte UKIM eingerichtet wird, lässt Datenschutzbehörden in ihrer Zuständigkeit außen vor und erklärt nicht, wie eine ausreichende Unabhängigkeit und Expertise sichergestellt werden kann.\r\nDarüber hinaus fehlen Maßnahmen, die das Grundgerüst einer funktionierenden und für Menschen in Deutschland nachvollziehbaren Aufsicht über KI-Systeme notwendigerweise ergänzen sollten: Ein KI-Transparenzregister aufzubauen, zivilgesellschaftliche Akteur*innen einzubinden und praktische Unterstützungs- und Informationsangebote einzuführen, um Vertrauen zu fördern und Kompetenzen zu stärken. \r\nEine Aufsicht, die im Sinne des Gemeinwohls und im Sinne aller Menschen in Deutschland schädliche Auswirkungen durch KI-Systeme verhindern und sanktionieren soll, kann dieses Ziel nur erreichen, wenn umfassende Transparenz ermöglicht wird, ausreichend Ressourcen zur Verfügung stehen und notwendige Kompetenzen in der Bevölkerung geschaffen werden.\r\n\r\n_____________________________________________________________________________________________\r\nAlgorithmWatch ist eine Menschenrechtsorganisation mit Sitz in Berlin und Zürich, die sich mit den gesellschaftlichen Auswirkungen von algorithmischen Entscheidungssystemen (ADM) und Künstlicher Intelligenz (KI) befasst. Wir setzen uns dafür ein, dass solche Technologien Menschenrechte, Demokratie und Nachhaltigkeit stärken, statt sie zu schwächen. Dazu tragen wir mit politischen Kampagnen, Lobbyarbeit, journalistischen Recherchen, Forschung und Technikentwicklung bei.\r\nUnsere Webseite: https://algorithmwatch.org/\r\n\r\nKontakt zur Autorin: \r\nPia Sombetzki, sombetzki@algorithmwatch.org \r\n"},"recipientGroups":[{"recipients":{"parliament":[],"federalGovernment":[{"department":{"title":"Bundesministerium für Digitalisierung und Staatsmodernisierung (BMDS)","shortTitle":"BMDS","url":"https://bmds.bund.de/","electionPeriod":21}}]},"sendingDate":"2025-10-10"}]},{"regulatoryProjectNumber":"RV0014902","regulatoryProjectTitle":"Vermeidung europarechtswidriger biometrischer Überwachungsbefugnisse für Strafverfolgungsbehörden, Bundeskriminalamt und Bundespolizei","pdfUrl":"https://www.lobbyregister.bundestag.de/media/79/49/487052/Stellungnahme-Gutachten-SG2409230023.pdf","pdfPageCount":7,"text":{"copyrightAcknowledgement":"Die grundlegenden Stellungnahmen und Gutachten können urheberrechtlich geschützte Werke enthalten. Eine Nutzung ist nur im urheberrechtlich zulässigen Rahmen erlaubt.","text":"Stellungnahme zu den Gesetzentwürfen zur „Verbesserung der Terrorismusbekämpfung“ (BT Drucksache 20/12806) und „Verbesserung der inneren Sicherheit und des\r\nAsylsystems“ (BT-Drucksache 20/12805)\r\n20. September 2024\r\nEingereicht durch AlgorithmWatch für das Bündnis Gesichtserkennung Stoppen!\r\nUnsere Empfehlung in Kürze\r\nDie vorgeschlagenen biometrischen Überwachungsbefugnisse sind europarechtswidrig,\r\nverletzen verfassungsrechtliche Mindestanforderungen und widersprechen\r\ndatenschutzrechtlichen Grundregeln. Das betrifft die Entwürfe für §§ 10b, 39a und 63b\r\nBKA-Gesetz, § 34b BPolG, § 98d StPO und § 15b AsylG. Die Regelungen müssen deshalb\r\ngestrichen werden.\r\n\r\nKontext\r\nDiese Stellungnahme beschränkt sich allein aus Zeitgründen auf die biometrischen\r\nÜberwachungsbefugnisse, wie sie am 12.09.2024 in erster Lesung vom Bundestag\r\nberaten wurden. Im Einzelnen sind das folgende vorgeschlagene Regelungen in den\r\nGesetzentwürfen „zur Verbesserung der Terrorismusbekämpfung“ und „zur\r\nVerbesserung der inneren Sicherheit und des Asylsystems“:\r\n● § 10b im Bundeskriminalamtgesetz: nachträglicher biometrischer Abgleich mit\r\nöffentlich zugänglichen Daten aus dem Internet zur\r\n○ Identifizierung oder Ermittlung des Aufenthaltsorts einer Zielperson\r\n○ Verfolgung und Verhütung von Straftaten\r\n● § 39a und § 63b Bundeskriminalamtgesetz, sowie § 34b im Bundespolizeigesetz:\r\nnachträglicher biometrischer Abgleich mit öffentlich zugänglichen Daten aus dem\r\nInternet zur Gefahrenabwehr\r\n● § 98d Strafprozessordnung: nachträglicher Abgleich biometrischer Daten mit im\r\nInternet öffentlich zugänglichen Daten mittels einer automatisierten Anwendung\r\nzur Datenverarbeitung, zur Identitätsfeststellung oder zur Ermittlung des\r\nAufenthaltsorts einer beschuldigten oder sonstigen Person, nach der für Zwecke\r\neines Strafverfahrens gefahndet wird\r\n● § 15b Asylgesetz: nachträglicher biometrischer Abgleich mit öffentlich\r\nzugänglichen Daten aus dem Internet durch das Bundesamt für Migration und\r\nFlüchtlinge (BAMF)\r\n○ wenn ein Ausländer [sic!] keinen gültigen Pass oder Passersatz besitzt und\r\nder Abgleich für die Feststellung der Identität oder Staatsangehörigkeit\r\neines Ausländers [sic!] erforderlich ist\r\nTrotz schwerwiegender offener Fragen zur Wirksamkeit und Rechtmäßigkeit dieser\r\nvorgeschlagenen Maßnahmen sollen die Gesetzesentwürfe im Eilverfahren\r\nverabschiedet werden. Es zeichnet jedoch sowohl die parlamentarische Demokratie als\r\nauch den Rechtsstaat aus, nicht überhastet und hart, sondern besonnen und\r\nverhältnismäßig zu agieren.\r\nIm Koalitionsvertrag verpflichten sich die Regierungsparteien gleich an zwei Stellen,\r\nbiometrische Überwachung in Deutschland zu verhindern. So heißt es, dass\r\n„[b]iometrische Erkennung im öffentlichen Raum“ europarechtlich auszuschließen sei,\r\nauch der „Einsatz von biometrischer Erfassung zu Überwachungszwecken“ wird explizit\r\nabgelehnt. Ebenso hat die Koalition festgehalten, dass „das Recht auf Anonymität\r\nsowohl im öffentlichen Raum als auch im Internet“ zu gewährleisten ist.\r\nIm Folgenden legen wir dar, warum die vorgeschlagenen Befugnisse nicht nur einen Bruch der Koalitionsvertrag 2021- 2025 zwischen SPD, BÜNDNIS 90 / DIE GRÜNEN und FDP, S. 15 und 86f,\r\ngeltenden Koalitionsvertrags bedeuten, sondern auch mit unionsrechtlichen und\r\nverfassungsrechtlichen Vorgaben unvereinbar sind.\r\n1) Unvereinbarkeit mit EU-Recht\r\nDie vorgeschlagenen biometrischen Überwachungsbefugnisse sind\r\neuroparechtswidrig. Sie widersprechen der jüngst in Kraft getretenen EU\r\nKI-Verordnung (KI-VO), die EU-weit harmonisierte Regelungen zum Einsatz von\r\nKI-Systemen beinhaltet.\r\nAngesichts des enormen Schädigungspotenzials für Grundrechte und Demokratie\r\nverbietet die KI-Verordnung „das Inverkehrbringen, die Inbetriebnahme für diesen\r\nspezifischen Zweck oder die Verwendung von KI-Systemen, die Datenbanken zur\r\nGesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet\r\noder von Überwachungsaufnahmen erstellen oder erweitern“ (Art. 5 Absatz 1 Buchstabe\r\ne KI-VO). Dieses Verbot wird bereits am 2. Februar 2025 gültig und umfasst sowohl\r\nprivate KI-Anbieter als auch öffentliche Stellen wie Polizei-, Strafverfolgungs- und\r\nMigrationsbehörden, die ein solches KI-System anschaffen, betreiben oder nutzen.\r\nDie in den Gesetzentwürfen vorgesehene Befugnis zum nachträglichen\r\nbiometrischen Überwachen sämtlicher öffentlich zugänglicher Daten aus dem\r\nInternet kann ohne den Einsatz dieser EU-weit verbotenen KI-Systeme nicht\r\numgesetzt werden. Dabei spielt es keine Rolle, ob die Behörden die biometrischen\r\nErkennungssysteme selbst entwickeln oder von Dritten beschaffen; beides ist explizit\r\nuntersagt. Der Staat darf keine rechtswidrigen Angebote Dritter nutzen. Eine Umsetzung\r\ndieser Befugnis ohne den Einsatz eines solchen KI-Systems kommt weder theoretisch\r\nnoch praktisch in Betracht, da immer KI-Systeme benötigt werden, um die\r\nbiometrischen Muster von Gesichtern aus Bilddaten zu extrahieren.\r\nDie KI-VO sieht für dieses eindeutige Verbot keine Ausnahmen vor. Lediglich solche\r\nKI-Systeme, die „ausschließlich für militärische Zwecke, Verteidigungszwecke oder\r\nZwecke der nationalen Sicherheit in Verkehr gebracht, in Betrieb genommen oder, mit\r\noder ohne Änderungen, verwendet werden“ (Art. 2 Abs. 3 Satz 2 KI-VO) sind generell von\r\nder KI-VO ausgenommen. Die in den Entwürfen vorgesehenen Einsatzzwecke zur\r\nGefahrenabwehr, zur Strafverfolgung und zur Identitätsfeststellung im Zuge von\r\nAsylverfahren sind eindeutig von der Verordnung erfasst. Alle KI-Systeme, die „etwa für\r\nzivile oder humanitäre Zwecke oder für Zwecke der Strafverfolgung oder öffentlichen\r\nSicherheit“ verwendet werden, fallen in den Anwendungsbereich dieser Verordnung\r\n(Erwägungsgrund 24, KI-VO).\r\nDie Gesetzesbegründung führt aus, dass die biometrische Überwachungsbefugnis für das BAMF\r\ndie Vorgabe aus Artikel 14 KI-VO einhalten soll. Dort geht es darum, dass Hochrisiko-KI-Systeme\r\nvon natürlichen Personen wirksam beaufsichtigt werden müssen, etwa um Risiken für\r\nGrundrechte zu minimieren. Hier geht man also davon aus, dass KI-Systeme zum Einsatz\r\nkommen (BT-Drucksache 20/12805, S. 23).\r\n\r\nDie Echtzeit-Fernidentifikation ist gemäß Art. 5 Abs. 1 Buchstabe h der KI-Verordnung\r\nnur in engen Grenzen erlaubt, was die Entwürfe nur unzureichend berücksichtigen: Ein\r\nEchtzeit-Abgleich ist nicht für Stimmen ausgeschlossen, nur für Bild- und\r\nVideoaufnahmen. Damit könnte etwa in einem Live-Stream trotzdem nach den\r\nbiometrischen Stimmmustern einer Person gesucht werden. Hinzu kommt, dass nicht\r\ndefiniert wird, wann eine Echtzeit-Aufnahme endet. Auf YouTube und anderen\r\nVideo-Plattformen ist es zum Beispiel gang und gäbe, dass Veranstaltungen in Echtzeit\r\nübertragen werden und bereits kurz danach und zeitlich unbegrenzt als Videodateien\r\nöffentlich verfügbar bleiben. Einen Schutz dagegen, diese Live-Streams mit kurzem\r\nZeitversatz zu erfassen und auszuwerten, gibt es weder rechtlich noch technisch. Die\r\nKI-VO verweist in EG 95 darauf, dass „Bedingungen für die nachträgliche biometrische\r\nFernidentifizierung keinesfalls eine Grundlage dafür bieten [sollten], die Bedingungen\r\ndes Verbots und der strengen Ausnahmen für biometrische Echtzeit-Fernidentifizierung\r\nzu umgehen”, lässt aber gleichzeitig offen, ab wann eine Echtzeit-Auswertung aufhört\r\nund eine nachträgliche Auswertung anfängt. An der gleichen Stelle wird vorausgesetzt,\r\ndass die nachträgliche Fernidentifikation stets „auf einem geschlossenen Datensatz\r\nrechtmäßig erworbener Videoaufnahmen basieren” muss. Die Absicht, sämtliche\r\nöffentlich zugängliche Daten aus dem Internet heranzuziehen, widerspricht der KI-VO\r\nauch in dieser Sache.\r\nAuch die EU-weiten Datenschutz-Vorgaben sind nicht mit dem biometrischen\r\nMassenabgleich vereinbar. Artikel 10 der Richtlinie über Datenschutz in der\r\nStrafverfolgung (EU Richtlinie 2016/680) fordert, dass die Verarbeitung von\r\nbiometrischen Daten zur eindeutigen Identifizierung einer natürlichen Person nur dann\r\nerlaubt werden darf, wenn sie unbedingt erforderlich ist. Diese Erforderlichkeit ist in\r\nkeiner Weise dargelegt worden. Außerdem muss sichergestellt sein, dass die Rechte und\r\nFreiheiten der betroffenen Person geschützt werden und die Maßnahme der Wahrung\r\nlebenswichtiger Interessen dient, was ebenfalls in den vorliegenden Entwürfen nicht\r\ngegeben ist.\r\n2) Verletzung verfassungsrechtlicher\r\nMindestanforderungen\r\nDie vorgeschlagenen biometrischen Überwachungsbefugnisse sind mit\r\nverfassungsrechtlichen Mindeststandards nicht vereinbar. Die\r\nÜberwachungsmaßnahme berührt zwangsläufig die Grundrechte aller Menschen und ist\r\nweder erforderlich noch verhältnismäßig. Die KI-basierte Erfassung und Auswertung von\r\nGesichtern und Stimmen verletzt die Grundrechte auf informationelle\r\nSelbstbestimmung, auf freie Meinungsäußerung und weitere. Das Eingriffsgewicht ist\r\nbesonders hoch, weil die Maßnahme heimlich erfolgt und eine extrem hohe Streubreite\r\nhat, denn betroffen sind alle Menschen, von denen Gesichtsbilder oder Audiodateien im\r\nInternet zugänglich sind. Dazu kommt, dass erhebliche Diskriminierungsrisiken\r\nbestehen und besonders sensible Daten aufgedeckt werden können (z.B. bei Aufnahmen von Demonstrationen, Parteiveranstaltungen, Pride-Events,\r\nGewerkschaftskundgebungen, Gottesdiensten etc.).\r\nDas Bundesverfassungsgericht hat bereits für die großflächige, automatisierte\r\nVerarbeitung von Kfz-Kennzeichen durch Polizei und Strafverfolgungsbehörden hohe\r\nverfassungsrechtliche Anforderungen aufgestellt. Und dort ging es nicht um besonders\r\nsensible biometrische Daten wie Gesichter, sondern nur um Kfz-Kennzeichen. Die\r\nautomatisierte Erhebung und Auswertung von öffentlich zugänglichen\r\npersonenbezogenen Daten stellt nach Rechtsprechung des Bundesverfassungsgerichts\r\nimmer einen Eingriff in das Grundrecht auf informationelle Selbstbestimmung dar.\r\nAuch ein jüngeres Verfassungsurteil über die automatisierte Datenanalyse für die\r\nvorbeugende Bekämpfung von Straftaten stellt mit Verweis auf das Grundrecht auf\r\ninformationelle Selbstbestimmung klar, dass automatische Abgleiche biometrischer\r\nDaten besonders voraussetzungsvoll sind.\r\nDie Anforderungen für die vorgeschlagene massenhafte Verarbeitung biometrischer\r\nDaten sind zu unspezifisch und die Einsatzzwecke und Tatbestandsmerkmale sind zu\r\nbreit und nicht gewichtig genug. Insbesondere der Straftatenkatalog des § 100a Abs. 2\r\nStPO wird ständig erweitert und angepasst, wodurch er nicht zur klaren Begrenzung von\r\nMaßnahmen auf schwerwiegende Straftaten geeignet ist. Und weder die\r\nReferenz-Datenbanken gesuchter Personen, noch die zu durchsuchenden Bild- oder\r\nVideodaten sind hinreichend konkretisiert, etwa hinsichtlich zeitlicher und räumlicher\r\nBeschränkung. Das Erfassen von Daten, die den Kernbereich privater Lebensgestaltung\r\nberühren, wird durch den Entwurf nicht grundsätzlich ausgeschlossen und ist praktisch\r\nauch nicht zu gewährleisten. Durch die enorme Streubreite des vorgeschlagenen\r\nbiometrischen Abgleichs ist davon auszugehen, dass regelmäßig Erkenntnisse aus dem\r\nKernbereich privater Lebensführung als „Beifang“ erhoben werden. Dass diese höchst\r\nprivaten Daten nicht verwertet werden dürfen und unverzüglich zu löschen sind, stellt\r\nkeinen hinreichenden Schutz dar. Schon die Möglichkeit der Datenerfassung erhöht den\r\nÜberwachungsdruck und schränkt die grundrechtlich garantierte Privatsphäre ein.\r\nDie öffentliche Verfügbarkeit der Daten, die für einen Abgleich herangezogen werden,\r\nändert nichts daran, dass die Schutzbereiche der Grundrechte berührt sind.9 Schon gar\r\nnicht, wenn besonders schützenswerte, lebenslang unveränderbare biometrische\r\nDatensätze wie Stimm- oder Gesichtsmuster daraus abgeleitet werden. Die\r\nRechtsprechung des Bundesverfassungsgerichts spannt einen Schutzschirm, um\r\nEinschüchterungseffekte zu verhindern, die entstehen können, wenn Einzelne nicht mit\r\nausreichender Sicherheit die Verbreitung ihrer Daten überschauen können. Die\r\nmassenhafte biometrische Identifizierung hat eine enorme einschüchternde Wirkung, da\r\nMenschen nicht wissen (und nicht wissen können), ob und wann Foto- und\r\nVideoaufnahmen oder anderes Datenmaterial wie Podcasts in Zukunft mit KI-Systemen\r\nvon Polizei-, Strafverfolgungs- und Migrationsbehörden ausgewertet werden. Die\r\nKI-basierte Analyse von biometrischen Daten ist ein elaboriertes technisches\r\nVerarbeitungsverfahren und keine technische Arbeitshilfe für manuelle Verfahren.\r\n3) Konflikt mit Datenschutzvorgaben\r\nDer Vorschlag verletzt grundlegende datenschutzrechtliche Vorgaben. Eine\r\ninformierte Einwilligung oder ein berechtigtes Interesse kann im Kontext des\r\nvorgeschlagenen biometrischen Massenabgleichs im gesamten öffentlich zugänglichen\r\nInternet nicht gegeben sein. Weder das eine noch das andere kann strukturell aufgrund\r\nder Vielzahl an potenziell betroffenen Personen angenommen werden. Keine Stelle kann\r\naus dem Hochladen eines Inhalts ins Internet ein Einverständnis in die Datenerhebung\r\nherleiten.\r\nDie Gesetzentwürfe legen die technische Ausgestaltung des massenhaften\r\nbiometrischen Abgleichs nur unzureichend dar. Dennoch ist davon auszugehen, dass die\r\ntechnische Vorgehensweise der des Unternehmens ClearView AI Inc. zumindest ähnelt.\r\nEtliche Datenschutzbehörden haben die Datenverarbeitung durch ClearView AI aufgrund\r\nzahlreicher Verstöße gegen die DSGVO beanstandet und mit hohen Bußgeldern belegt:\r\n- Die niederländische Datenschutzbehörde AP erließ ein Bußgeld in Höhe von 30,5\r\nMio. Euro gegen ClearView AI.\r\n- Die französische Datenschutzbehörde CNIL verhängte eine Geldbuße in Höhe\r\nvon 20 Mio. Euro gegen ClearView AI.\r\n- Die griechische Datenschutzaufsicht verhängte ein Bußgeld in Höhe von 20 Mio.\r\nEuro gegen ClearView AI.\r\n- Die britische Aufsichtsbehörde ICO verhängte eine Geldstrafe in Höhe von 7,5\r\nMio. GBP gegen ClearView Al.\r\n- Die italienische Datenschutzbehörde GPDP erließ ein Bußgeld in Höhe von 20\r\nMio. Euro gegen ClearView AI.\r\nDie europäischen Datenschutzbehörden, der Europäische Datenschutzbeauftragte, der\r\nEuropäische Datenschutzausschuss und die ehemalige UN-17 Hochkommissarin für\r\nMenschenrechte sehen allesamt gravierende Verstöße gegen elementare\r\nDatenschutzregeln und grundrechtliche Garantien, wenn ein massenhafter\r\nbiometrischer Abgleich zum Einsatz kommt.\r\nAlgorithmWatch ist eine Menschenrechtsorganisation mit Sitz in Berlin und Zürich, die\r\nsich mit den gesellschaftlichen Auswirkungen von algorithmischen\r\nEntscheidungssystemen (ADM) und Künstlicher Intelligenz (KI) befasst. Wir setzen uns\r\ndafür ein, dass solche Technologien Menschenrechte, Demokratie und Nachhaltigkeit\r\nstärken, statt sie zu schwächen. Dazu tragen wir mit politischen Kampagnen,\r\nLobbyarbeit, journalistischen Recherchen, Forschung und Technikentwicklung bei.\r\nWebseite von AlgorithmWatch: https://algorithmwatch.org/\r\nWebseite des Bündnisses Gesichtserkennung Stoppen!\r\nhttps://gesichtserkennung-stoppen.de/\r\nKontakt zum Autor:\r\nKilian Vieth-Ditlmann, vieth-ditlmann@algorithmwatch.org\r\n"},"recipientGroups":[{"recipients":{"parliament":[{"code":"RG_BT_MEMBERS_OF_PARLIAMENT","de":"Mitglieder des Bundestages","en":"Members of parliament"}],"federalGovernment":[]},"sendingDate":"2024-09-20"}]},{"regulatoryProjectNumber":"RV0014902","regulatoryProjectTitle":"Vermeidung europarechtswidriger biometrischer Überwachungsbefugnisse für Strafverfolgungsbehörden, Bundeskriminalamt und Bundespolizei","pdfUrl":"https://www.lobbyregister.bundestag.de/media/90/e9/487054/Stellungnahme-Gutachten-SG2409230027.pdf","pdfPageCount":4,"text":{"copyrightAcknowledgement":"Die grundlegenden Stellungnahmen und Gutachten können urheberrechtlich geschützte Werke enthalten. Eine Nutzung ist nur im urheberrechtlich zulässigen Rahmen erlaubt.","text":"Zivilgesellschaftliche Organisationen wenden sich in einem offenen Brief gegen das Unsicherheitspaket der Bundesregierung. Der Brief kritisiert die Ausweitung der Befugnisse der Sicherheitsbehörden im digitalen Bereich, geht aber auch die Verschärfungen im Asylbereich ein. \r\n\r\nHaltung zeigen – Menschenrechte und Rechtsstaatlichkeit verteidigen, biometrische Gesichtserkennung stoppen\r\n\r\nSehr geehrte Abgeordnete des Deutschen Bundestages,\r\n\r\nmit den Gesetzentwürfen zum sogenannten Sicherheitspaket schlagen die Fraktionen der Ampel-Koalition die Verschärfungen des Asylrechts und die Einführung massenhafter biometrischer Überwachung vor. Trotz schwerwiegender offener Fragen bezüglich der Effektivität der vorgeschlagenen Maßnahmen und ihrer Konformität mit EU-Recht und dem Grundgesetz soll dieses Paket in Rekordzeit verabschiedet und umgesetzt werden.\r\n\r\nDas Sicherheitspaket sieht Maßnahmen vor, die in keinem angemessenen Verhältnis zu dem vermuteten Gewinn an Sicherheit stehen. In einigen Bereichen besitzen die Regelungen reinen Symbolcharakter und werden die Sicherheitsbehörden im Vollzug mit neuen Aufgaben belasten, die sie davon abhalten, ihren eigentlichen Tätigkeiten nachzugehen.\r\n\r\nGleichzeitig stützen die vorgeschlagenen Verschärfungen des Asylrechts autoritäre Narrative, die die Rechte „Anderer“, in diesem Fall asylsuchender Menschen, infrage stellen, und tragen damit zur Spaltung der Gesellschaft bei. Asylsuchenden, für deren Asylantrag ein anderer Mitgliedstaat zuständig ist, sollen zukünftig nach zwei Wochen alle Sozialleistungen gestrichen werden. Das untergräbt die Menschenwürde und ist inakzeptabel und völkerrechtswidrig. Die geplante Ausweitung anlassloser Kontrollen durch die Polizei ist ein Einfallstor für Racial Profiling.\r\n\r\nWir fordern Sie dazu auf, sich dem kopflosen Aktionismus, der mit dem Sicherheitspaket einhergeht, entgegenzustellen, Grund- und Menschenrechte zu schützen und für die Rechtsstaatlichkeit einzustehen.\r\n\r\nEingeführt werden soll auch die Befugnis zum biometrischen Abgleich des gesamten Internets mit Bildern und Stimmen von Tatverdächtigen oder gesuchten Personen. Bundeskriminalamt und Bundespolizei sollen diese Befugnis nicht nur zur Bekämpfung von Terrorismus, sondern auch als neues Standardinstrument erhalten, das Bundesamt für Migration und Flüchtlinge sogar ohne Anfangsverdacht einer Straftat, nur um die Identität von Personen festzustellen.\r\n\r\nEine solche Maßnahme ist technisch jedoch nur möglich, wenn riesige, unterschiedslose Gesichtsdatenbanken angelegt werden. Solche Gesichtsdatenbanken sind nach Artikel 5 der KI-Verordnung eine verbotene Praxis, da sie Massenüberwachung ermöglichen und zu schweren Verstößen gegen die Grundrechte, einschließlich des Rechts auf Privatsphäre, führen können. Es gibt zwar Ausnahmen im Rahmen der nationalen Sicherheit, aber ein Verbot des Einsatzes von biometrischen Fernidentifizierungssystemen ist laut KI-Verordnung ausdrücklich möglich und kann von den Mitgliedsstaaten rechtlich eingeführt werden.\r\n\r\nDer Schutz von Menschenrechten darf nicht unter Vorbehalt stehen. Insbesondere im Kontext erstarkender rechtsextremer Parteien müssen die demokratischen Kräfte gemeinsam die Möglichkeit des institutionellen Machtmissbrauchs minimieren.\r\n\r\nWir fordern Sie daher auf, sich gegen jede Form der biometrischen Fernidentifizierung in Deutschland einzusetzen.\r\n\r\nIm Koalitionsvertrag verpflichten sich die Regierungsparteien gleich an zwei Stellen, biometrische Überwachung in Deutschland zu verhindern: Die „[b]iometrische Erkennung im öffentlichen Raum“ wie auch der „Einsatz von biometrischer Erfassung zu Überwachungszwecken“ werden explizit abgelehnt.\r\n\r\nEs ist jetzt an der Zeit, ein Verbot biometrischer Überwachung konsequent zu verfolgen und Einschnitte in Grundrechte wie die ausufernden Ideen zur automatisierten Datenanalyse, die anlasslose IP-Adressdatenspeicherung, Videoüberwachung und Gesichtserkennung im öffentlichen Raum, Onlinedurchsuchung für den Verfassungsschutz und die allgemeine und anlasslose Vorratsdatenspeicherung ein für alle Mal abzulehnen.\r\n\r\nWir fordern Sie auf, sich für den Schutz aller Menschen und das Recht auf ein Leben frei von Massenüberwachung und Kontrolle einzusetzen.\r\n\r\nMit freundlichen Grüßen\r\n\r\nAlphabetisch sortiert:\r\n\r\n    AlgorithmWatch\r\n    Amnesty International\r\n    Chaos Computer Club\r\n    D64 – Zentrum für digitalen Fortschritt\r\n    Die Datenpunks\r\n    Digitale Freiheit e.V.\r\n    Digitale Gesellschaft e.V.\r\n    Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF e.V.)\r\n    Gesichtserkennung Stoppen\r\n    Humanistische Union e.V.\r\n    Innovationsverbund Öffentliche Gesundheit e.V.\r\n    Komitee für Grundrechte und Demokratie\r\n    #LeaveNoOneBehind\r\n    Open Knowledge Foundation Deutschland e.V.\r\n    netzbegrünung – Verein für grüne Netzkultur e.V.\r\n    Sea-Watch e.V.\r\n    Seebrücke\r\n    SUPERRR Lab\r\n    Topio e.V.\r\n    Wikimedia Deutschland e. V.\r\n"},"recipientGroups":[{"recipients":{"parliament":[{"code":"RG_BT_MEMBERS_OF_PARLIAMENT","de":"Mitglieder des Bundestages","en":"Members of parliament"}],"federalGovernment":[]},"sendingDate":"2024-09-23"}]}]},"contracts":{"contractsPresent":false,"contractsCount":0,"contracts":[]},"codeOfConduct":{"ownCodeOfConduct":false}}