Agentische KI und vollständige Verwaltungsentscheidungsprozesse in der Bundesverwaltung

Drucksache 21/8008Antwortauf die Kleine Anfrage 21/753514.09.202620 Seiten24 FragenFraktion der AfDBundesministerium für Digitales und StaatsmodernisierungMedien, Kommunikation und InformationstechnikStaat und Verwaltung1 Anlage als PDF
Vorbemerkung der Fragesteller

Vorbemerkung der Fragesteller

Die Bundesregierung verknüpft ihre Vorhaben zur Digitalisierung und Staatsmodernisierung mit dem Anspruch, staatliche Entscheidungs-, Prozess- und Organisationsstrukturen grundlegend zu modernisieren. Der Koalitionsvertrag zwischen CDU, CSU und SPD sieht hierfür ausdrücklich eine grundlegende Modernisierung der Verwaltung, Bürokratierückbau, Ziel- und Wirkungsorientierung sowie Effizienzsteigerungen durch Digitalisierung vor (KoaV‑2025-Gesamt-final-0424.pdf). Im Koalitionsvertrag zwischen CDU, CSU und SPD wird das Ziel formuliert, Verwaltungsleistungen zu digitalisieren, barrierefrei anzubieten und die Verwaltung vernetzt, effizient, leistungsfähig, niedrigschwellig und nutzerfreundlich auszugestalten. Darüber hinaus soll Deutschland als KI-Nation etabliert werden. Dies umfasst insbesondere massive Investitionen in Cloud- und KI-Infrastruktur sowie in die Verbindung von KI und Robotik (ebd.).

Vor diesem Hintergrund gewinnt der Einsatz agentischer KI-Systeme in der Bundesverwaltung eine besondere Bedeutung. Unter agentischen KI-Systemen werden im fachlichen Diskurs regelmäßig Anwendungen verstanden, die nicht lediglich isolierte Antworten erzeugen, sondern auf Zielvorgaben hin mehrschrittige Handlungsabläufe planen, externe Werkzeuge oder Datenquellen einbeziehen, Informationen beschaffen, Zwischenergebnisse bewerten und komplexe Aufgabenketten mit einem hohen Grad operativer Eigenständigkeit ausführen können (www.ibm.com/de-de/think/topics/agentic-ai). Nach Auffassung der Fragesteller eröffnen sich einerseits erhebliche Rationalisierungs-, Beschleunigungs- und Standardisierungspotenziale für die öffentliche Verwaltung. Andererseits entstehen neue rechtsstaatliche und organisatorische Risiken, sofern solche Systeme Verwaltungsvorgänge nicht nur unterstützen, sondern strukturieren, priorisieren, rechtlich vorbewerten oder zum Beispiel Bescheidentwürfe erzeugen. Mit zunehmender funktionaler Tiefe des KI-Einsatzes in der Bundesverwaltung stellen sich daher umso nachdrücklicher Fragen nach Verantwortungszurechnung, menschlicher Kontrolle, tragfähiger Rechtsgrundlage, Datenzugriff, IT-Sicherheit, Fehlerkorrektur, Aktenmäßigkeit, Transparenz, Rechtsschutzfähigkeit und parlamentarischer Nachprüfbarkeit. Die Bundesregierung hat in ihrer Antwort zu Frage 17 auf Bundestagsdrucksache 21/5842 ausgeführt, Ziel des Agentic AI Hubs sei nicht nur eine Vernetzung von Marktakteuren und Verwaltung, sondern auch die Entwicklung eines Vehikels, das den Einsatz agentischer KI-Systeme skalierbar mache. Ferner erklärte sie, ein Fahrplan für das weitere Vorgehen werde im Rahmen eines laufenden Vorgangs erarbeitet. Für die Pilotierung agentischer KI-Lösungen sei im Rahmen der Beauftragung der DigitalService GmbH ein Sachkostenbudget von maximal 500 000 Euro vereinbart worden. Davon seien 212 849 Euro für die unmittelbare Pilotierung der Pilotprojekte veranschlagt. Die Bundesregierung erklärte zudem, inwiefern diese Mittel auch für Verstetigung oder Nachnutzung zur Verfügung gestellt werden könnten, sei Gegenstand laufender Überlegungen. Offensichtlich will die Bundesregierung Start-ups und kleine und mittlere Unternehmen (KMU) stärker in staatliche Innovations- und Digitalisierungsprojekte einbeziehen. Der Agentic AI Hub soll offenbar auch als Schnittstelle zwischen Verwaltung und Marktakteuren dienen.

Auf die Schriftliche Frage 120 auf Bundesdrucksache 21/5846 antwortete die Bundesregierung, das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) habe sich zum Ziel gesetzt, moderne, leistungsfähige und innovative Verwaltungsprozesse mit KI zu unterstützen. Derzeit stünden Unterstützungsleistungen unter Beachtung der Maßgabe „Human in the Loop“ im Vordergrund. Ob und wann ein Verwaltungsentscheidungsprozess vollständig von KI durchgeführt werden könne, hänge von verschiedenen Faktoren ab. Genannt wurden technische Umsetzungsmöglichkeit, Rechtsgrundlagen zur Datenverarbeitung, Grundrechtsrelevanz der Entscheidungen, ausreichende menschliche Aufsicht im Sinne des Artikels 14 der Verordnung (EU) 2024/1689, Nachvollziehbarkeit von Entscheidungen und IT-Sicherheit.

Diese Antwort benennt zwar einzelne relevante Prüffaktoren, lässt aber den Kern der Frage offen. Nicht mitgeteilt wurde, ob die Bundesregierung konkrete Vorhaben plant, prüft oder ausschließt, bei denen KI-Systeme vollständige Verwaltungsentscheidungsprozesse übernehmen sollen. Ebenfalls offen blieb, ob es bereits eine Roadmap, Projektliste, ressortübergreifende Abstimmung, technische Architektur, rechtliche Bewertung oder Evaluation für agentische KI in der Bundesverwaltung gibt. Auch wurde nicht beantwortet, ob die Bundesregierung einen Zeitpunkt oder jedenfalls Meilensteine erwartet, zu denen agentische KI-Systeme über bloße Unterstützungsleistungen hinausgehen könnten.

Agentische KI im Verwaltungskontext unterscheidet sich qualitativ von einfachen Assistenzsystemen. Ein KI-System, das nur Textbausteine vorschlägt, wirft andere Fragen auf als ein System, das selbstständig Akten durchsucht, externe Datenquellen abfragt, Rechtsnormen zuordnet, Ermessenskriterien gewichtet, Entscheidungsvorschläge erstellt oder Bescheide generiert. Gerade wenn der Staat solche Systeme im Kontakt mit Bürgern und Unternehmen einsetzt, muss frühzeitig geklärt werden, ob menschliche Verantwortung tatsächlich wirksam bleibt oder lediglich nachträglich formalisiert wird.

Text vor der ersten Frage

Vorbemerkung der Bundesregierung

Künstliche Intelligenz (KI) ist Schlüsseltechnologie. Durch den Einsatz von KI kann die öffentliche Verwaltung zentralen Herausforderungen mit innovativen Lösungen begegnen, um Verwaltungsabläufe effizienter zu gestalten und zur Arbeitsentlastung beizutragen. Eine moderne Verwaltung muss auch KI als Arbeitswerkzeug nutzen. Die KI kann dabei bei der Erstellung von Reden und Artikeln – aber auch bei weiteren Texten sowie allgemeiner Verwaltungsarbeit eingesetzt werden, stets eingebettet in einen Prozess mit menschlicher Prüfung und Letztverantwortung. Der maßgebliche Standard lautet: Inhalt und Verantwortung liegen beim Menschen. Die KI kann unterstützen, aber sie ersetzt weder Zielsetzung noch Struktur, Inhalt, Urteilsvermögen oder politische Haltung. Die KI ist ein unterstützendes Werkzeug, der Mensch führt.

Nach den Empfehlungen der Leitlinien für den Einsatz künstlicher Intelligenz in der Bundesverwaltung prüfen Nutzerinnen und Nutzer KI-generierte Inhalte vor der weiteren Verwendung fachlich (vgl. Leitsatz A 4). Wenn KI-generierte Inhalte von Menschen geprüft werden – fachlich, redaktionell und qualitativ, ist regelmäßig keine weitere Kennzeichnung notwendig (vgl. Leitsatz A 5). Dies entspricht auch den Anforderungen von Artikel 50 Absatz 4 Satz 4 und 5 der KI-Verordnung.

Die KI ist ein neues, leistungsfähiges Werkzeug zur Unterstützung. Die Bundesregierung fördert die Nutzung von KI in der Verwaltung, weil sie überzeugt ist, dass Deutschland den produktiven und zugleich maßvollen Umgang mit KI schnell weiter lernen muss.

Frage 1 + 2 Seite 3

1Welche Definition von „agentischer KI“ oder „Agentic AI“ verwendet die Bundesregierung im Zusammenhang mit dem Agentic AI Hub und vergleichbaren Vorhaben der Bundesverwaltung?

2Welche konkreten Funktionen, Fähigkeiten oder Autonomiegrade müssen nach Auffassung der Bundesregierung vorliegen, damit ein KI-System als agentisch gilt?

Antwort

Die Fragen 1 und 2 werden zusammen beantwortet.

Die Bundesregierung definiert „agentische KI“ bzw. „Agentic AI“ im Zusammenhang mit dem Agentic AI Hub als ein KI‑System, das über die reine Erzeugung isolierter Antworten hinaus mehrstufige Handlungsabläufe planen kann, externe Werkzeuge oder Datenquellen einbindet, Informationen beschafft, Zwischenergebnisse bewertet und komplexe Aufgabenketten mit einem hohen Grad operativer Eigenständigkeit ausführt.

Frage 3 + 4 Seite 3

3Welche konkreten Vorhaben, Pilotprojekte, Marktdialoge, Tests, Prototypen oder Konzeptstudien zum Einsatz agentischer KI in der Bundesverwaltung gibt es derzeit?

4Welche dieser Vorhaben betreffen ausschließlich unterstützende Tätigkeiten, und welche betreffen Verfahrensschritte mit unmittelbarer Relevanz für Verwaltungsentscheidungen?

Antwort

Die Fragen 3 und 4 werden zusammen beantwortet.

Es wird auf die Anlage 1 verwiesen.*

AnlageAnlage 1

PDF-Seiten 9–19 (11 Seiten) · im Originalformat beigefügt, nicht in Tabellen übernommen

Frage 5 + 6 Seite 3

5Welche Bundesministerien, Bundesbehörden, bundeseigenen Unternehmen, Projektträger oder sonstigen Stellen sind am Agentic AI Hub beteiligt?

6Welche Rolle nimmt das BMDS beim Agentic AI Hub ein, und welche Aufgaben wurden der DigitalService GmbH des Bundes konkret übertragen?

Antwort

Die Fragen 5 und 6 werden zusammen beantwortet.

Der Agentic AI Hub ist ein Vorhaben des BMDS. Der DigitalService unterstützt das BMDS als Dienstleister im Rahmen des Agentic AI Hub. Darüber hinaus wurden weitere Akteure nach Bedarf beteiligt.

Das BMDS definiert die übergeordneten Ziele, die strategische Leitung, die finale Prüfung und die Rahmenbedingungen. Die DigitalService GmbH übernimmt die Operationalisierung, etwa in der Vorauswahl der Pilot‑Tandems oder der Evaluation anhand definierter Kennzahlen.

Frage 7 Seite 4

Welche Verträge, Verwaltungsvereinbarungen, Leistungsbeschreibungen, Projektaufträge oder sonstigen Beauftragungsdokumente liegen dem Agentic AI Hub zugrunde?

Antwort

Für den Agentic AI Hub wurde die DigitalService GmbH beauftragt. Verträge für die Lizenzen der einzelnen agentischen KI-Lösungen wurden zwischen der DigitalService GmbH und den einzelnen Start-ups geschlossen.

Frage 8 Seite 4

Welche Gesamtkosten sind für den Agentic AI Hub für die Jahre 2025, 2026, 2027 und 2028 jeweils geplant, veranschlagt, gebunden oder bereits verausgabt?

Antwort

Die Gesamtkosten belaufen sich im angegebenen Zeitraum wie folgt:

2025: 243 341,30 Euro

2026: 3 180 582,45 Euro.

Für die Jahre 2027 und 2028 sind die konkreten Planungen nicht abgeschlossen.

Mit den eingesetzten Haushaltsmitteln wurden die Kommunen und Start-ups unterstützt, effiziente und modernste KI-Systeme zur Arbeitserleichterung in den Wirkbetrieb zu bringen. Dies hat zu Effizienz- und Qualitätssteigerungen bei den Kommunen und direkter Wirkung bei Bürgerinnen und Bürgern beigetragen. Zusätzlich konnten im Nachgang zum Agentic AI Hub die Start-ups anschließende Investitionen und Aufträge außerhalb der Förderung des Agentic AI Hubs anschließen. Im Übrigen wird auf den Abschlussbericht zum Agentic AI Hub verwiesen: (https://bmds.bund.de/themen/kuenstliche-intelligenz/ki-inder-verwaltung/agentic-ai-hub).

Frage 9 Seite 4

Aus welchen Haushaltstiteln werden der Agentic AI Hub und vergleichbare Vorhaben agentischer KI finanziert?

Antwort

Der Agentic AI Hub wird aus Kapitel 2402 Titel 532 16 finanziert.

Frage 10 Seite 4

Welche Mittel des in der Antwort der Bundesregierung auf die Kleine Anfrage auf Bundestagsdrucksache 21/5842 genannten Sachkostenbudgets von maximal 500 000 Euro wurden bisher konkret wofür verausgabt, und welche konkreten Leistungen wurden für die in der Antwort der Bundesregierung auf die Kleine Anfrage auf Bundestagsdrucksache 21/5842 genannten 212 849 Euro zur unmittelbaren Pilotierung konkret beauftragt oder erbracht?

Antwort

Es besteht ein maximales Sachkostenbudget von 500 000 Euro (420 168 Euro netto) für die DigitalService GmbH. Die genannten 212 849 Euro (netto) beziehen sich auf die Kosten für die Pilotierung der 20 Pilot-Tandems.

Frage 11 Seite 5

Welche Kriterien verwendet die Bundesregierung, um Start-ups, KMU, Forschungseinrichtungen oder sonstige Anbieter für eine Beteiligung am Agentic AI Hub auszuwählen, welche konkreten vergaberechtlichen Verfahren wurden für Leistungen im Zusammenhang mit dem Agentic AI Hub durchgeführt, und welche Auftragswerte, Zuschlagsempfänger und Leistungsgegenstände ergaben sich jeweils?

Antwort

Der Vertragsschluss fand zwischen dem DigitalService GmbH und den Startups auf Vorschlag und Vorauswahl der DigitalService GmbH statt. Ein Vertragsverhältnis mit dem BMDS besteht nicht. Die Auswahl der Start-ups durch die DigitalService GmbH erfolgte insbesondere nach folgenden Kriterien: Produktreife, Alter der Start-ups/Skale-ups (für die Definition eines Start-ups/Skale-ups), Skalierbarkeit der Lösung, Umsetzbarkeit des Produkts (Vorbereitungszeit und Realisierbarkeit), Lizenzkosten, Compliance (insbesondere Datenschutz und KI-Verordnung), Abdeckung sowohl kleiner als auch größerer Kommunen sowie der verschiedenen Bundesländer, Nachhaltigkeit, Implementierungsaufwand und Skalierbarkeit, IT-Sicherheit, Open-Source-Komponenten.

Frage 12 Seite 5

Welche Anforderungen stellt die Bundesregierung beim Agentic AI Hub an Open Source, offene Standards, Portabilität, Interoperabilität und Vermeidung von Anbieterabhängigkeiten, und welche konkreten Datenbestände der Bundesverwaltung werden oder sollen im Rahmen des Agentic AI Hub für Training, Test, Evaluation, Prompting, Retrieval-Augmented Generation oder sonstige Systemfunktionen genutzt werden?

Antwort

Die Grundidee des Agentic AI Hub besteht darin zu testen, ob existierende Lösungen von Start-ups in wenigen Wochen und mit niedrigem Budget für kommunale Verwaltungen nutzbar gemacht werden können. Die Nutzung von Open-Source-Komponenten und offenen APIs ist in dieser Phase vorteilhaft. Für eine Skalierung über die Erprobung hinaus ist die Einhaltung von Souveränitätsanforderungen erforderlich, ohne dabei aber die lokalen Anbieter gegenüber konkurrierenden Anbietern aus Drittstaaten zu benachteiligen.

Frage 13 Seite 5

Welche personenbezogenen, vertraulichen, sicherheitsrelevanten oder VS (Verschlusssache)-eingestuften Daten sind von Vorhaben des Agentic AI Hub ausgeschlossen, und welche Datenschutzfolgenabschätzungen, IT-Sicherheitskonzepte, Bedrohungsanalysen oder Grundrechtefolgenabschätzungen wurden für Vorhaben agentischer KI erstellt?

Antwort

Es wurden keine vertraulichen, sicherheitsrelevanten oder VS‑eingestufte Informationen verarbeitet. Die gesetzlichen Anforderungen bei der Verarbeitung personenbezogener Daten wurden beachtet und soweit erforderlich Datenschutz‑Folgenabschätzung (DSFA), IT‑Sicherheitskonzepte und Grundrechte‑Folgenabschätzung erstellt bzw. durchgeführt.

Frage 14 Seite 5

Welche Rolle spielen das Bundesamt für Sicherheit in der Informationstechnik (BSI), der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit, das Informationstechnikzentrum Bund (ITZBund) und die Rechtsabteilungen der Ressorts bei der Prüfung agentischer KI-Vorhaben?

Antwort

Das BSI, der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit, das ITZBund und die Rechtsabteilungen der Ressorts nehmen bei agentischen KI-Vorhaben gesetzlichen Aufgaben im Rahmen ihrer Zuständigkeiten wahr.

Frage 15 + 16 Seite 6

15Welche konkreten Bewertungskriterien werden in der von der Bundesregierung genannten Evaluation des Agentic AI Hub verwendet?

16Welche messbaren Zielwerte bestehen für technische Leistungsfähigkeit, fachliche Leistungsfähigkeit, Rechtskonformität, Skalierbarkeit, Wirtschaftlichkeit, Bearbeitungsdauer, Fehlerquote und Nutzerzufriedenheit?

Antwort

Die Fragen 15 und 16 werden zusammen beantwortet.

Es wird auf den Abschlussbericht zum Agentic AI Hub verwiesen: https://bmd s.bund.de/themen/kuenstliche-intelligenz/ki-in-der-verwaltung/agentic-ai-hub.

Frage 17 + 18 Seite 6

17Wann soll der in der Antwort der Bundesregierung auf die Kleine Anfrage auf Bundestagsdrucksache 21/5842 erwähnte Fahrplan für das weitere Vorgehen beim Agentic AI Hub abgeschlossen werden?

18Welche Meilensteine enthält oder soll dieser Fahrplan nach dem aktuellen Planungsstand enthalten?

Antwort

Die Fragen 17 und 18 werden zusammen beantwortet.

Der Agentic AI Hub soll als Maschinenraum, der Start-ups und Verwaltung zusammenbringt verstetigt werden. Die zweite Bewerbungsrunde/Pilotierung sowie die Etablierung der erforderlichen Vehikel für eine Skalierung der Lösungen soll Ende 2026/Anfang 2027 abgeschlossen sein.

Frage 19 + 20 Seite 6

19Welche Entscheidungskriterien gelten für die Überführung einzelner Pilotprojekte in eine breitere Pilotierung, einen Wirkbetrieb oder einen Regelbetrieb?

20Welche Stellen entscheiden jeweils über Fortführung, Skalierung, Abbruch oder Regelbetrieb agentischer KI-Projekte, und welche konkreten Verwaltungsentscheidungsprozesse hält die Bundesregierung für geeignet, künftig vollständig oder weitgehend durch KI-Systeme durchgeführt zu werden?

Antwort

Die Fragen 19 und 20 werden zusammen beantwortet.

Die Entscheidung, ob ein Pilotprojekt fortgeführt, in den Wirkbetrieb oder Regelbetrieb überführt oder abgebrochen wird, liegt in der Entscheidungshoheit der Kommunen. Über das in Planung befindliche dynamische Beschaffungsverfahren wird eine Skalierung der Lösungen angestrebt. Im Übrigen wird auf die Antwort zu den Fragen 15 und 16 verwiesen.

Frage 21 Seite 6

Welche Verwaltungsentscheidungsprozesse hält die Bundesregierung wegen Grundrechtsrelevanz, Ermessensausübung, hoher Fehlerfolgen, fehlender Nachvollziehbarkeit oder besonderer Schutzbedürftigkeit Betroffener für ungeeignet?

Antwort

Die Bundesregierung richtet sich bei der Beurteilung, welche Bereiche für eine Automatisierung ungeeignet sind, nach den gesetzlichen Anforderungen, wie der KI-Verordnung (etwa verbotene Praktiken nach Artikel 5 der KI-Verordnung).

Frage 22 + 22a + 22b Seite 6

22Plant, prüft oder erprobt die Bundesregierung derzeit Systeme, die Sachverhaltsermittlung, rechtliche Bewertung, Ermessensvorbereitung, Ermessensausübung und Bescheiderstellung in einem integrierten KI-gestützten Prozess verbinden?

22aWenn ja, welche Ressorts, Behörden, Fachverfahren und Rechtsbereiche sind betroffen?

22bWenn nein, weshalb hat die Bundesregierung in ihrer Antwort auf die Schriftliche Frage 120 auf Bundestagsdrucksache 21/5846 nicht ausdrücklich klargestellt, dass entsprechende Vorhaben derzeit nicht bestehen?

Antwort

Die Fragen 22 bis 22b werden zusammen beantwortet.

Es wird auf die Anlage 1 verwiesen.*

Frage 23 Seite 7

Wie stellt die Bundesregierung sicher, dass „Human in the Loop“ bei agentischen KI-Systemen nicht lediglich eine nachträgliche Bestätigung eines faktisch bereits durch KI vorentschiedenen Ergebnisses bedeutet, und welche konkreten organisatorischen Vorgaben bestehen für Beschäftigte der Bundesverwaltung, die Ergebnisse agentischer KI-Systeme prüfen, ändern, verwerfen oder freigeben sollen?

Antwort

Es wird auf die Antwort der Bundesregierung zu den Fragen 7 und 8 der Kleinen Anfrage der Fraktion der AfD auf Bundestagsdrucksache 21/7315 verwiesen.

Frage 24 Seite 7

Welche Qualifikations-, Schulungs- und Fortbildungsanforderungen gelten für Beschäftigte, die agentische KI-Systeme in Bundesverwaltungsverfahren einsetzen, und welche Protokollierungs-, Dokumentations- und Aktenführungspflichten gelten für Zwischenschritte agentischer KI-Systeme?

Antwort

Es werden die in der KI-Verordnung und DSGVO genannten Anforderungen an Qualifikations-, Schulungs- und Fortbildungsanforderungen und Protokollierungs-, Dokumentations- und Aktenführungspflichten beachtet.

Frage 25 Seite 7

Wie wird sichergestellt, dass bei agentischen KI-Systemen sämtliche relevanten Eingaben, Zwischenschritte, Tool-Nutzungen, Datenabrufe, Modellversionen und Ausgaben nachträglich überprüfbar bleiben, und welche Rechtsgrundlagen hält die Bundesregierung für erforderlich, bevor agentische KI-Systeme Verwaltungsentscheidungen vollständig oder weitgehend übernehmen können?

Antwort

Es werden die Anforderungen in der KI-Verordnung (insbesondere Artikel 14), des Verwaltungsverfahrensgesetz (insbesondere § 35a VwVfG) sowie der DSGVO (insbesondere Artikel 22) beachtet.

Frage 26 Seite 7

Plant die Bundesregierung Änderungen des Verwaltungsverfahrensgesetzes, des E‑Government-Gesetzes, fachgesetzlicher Regelungen oder haushaltsrechtlicher Vorgaben, um agentische KI in Verwaltungsverfahren zu ermöglichen oder zu begrenzen?

Antwort

Die Bundesregierung plant keine gesetzlichen Änderungen oder Änderungen haushaltsrechtlicher Vorgaben, die explizit den Einsatz agentischer KI betreffen.

Frage 27 Seite 8

Welche Haftungs-, Verantwortungs- und Zurechnungsfragen hat die Bundesregierung für den Fall geprüft, dass ein agentisches KI-System fehlerhafte, rechtswidrige oder diskriminierende Ergebnisse erzeugt?

Antwort

Die Bundesregierung prüft fortlaufend die gesetzlichen Vorgaben und beachtet diese.

Frage 28 Seite 8

Welche Melde- und Abhilfeverfahren sind vorgesehen, wenn agentische KI-Systeme in Pilotierung oder Betrieb Fehlentscheidungen, Sicherheitsvorfälle, Datenschutzverstöße oder systematische Verzerrungen verursachen?

Antwort

Für Fehlentscheidungen, Sicherheitsvorfälle, Datenschutzverstöße oder systematische Verzerrungen sind klare gesetzliche Melde‑ und Abhilfeverfahren vorgegeben. Für IT‑Sicherheitsvorfälle bestehen insbesondere Meldewege an das BSI, für Datenschutzverstöße an den BfDI und die KI-Verordnung sieht individuelle Betroffenenrechte, Meldepflichten der Anbieter/Betreiber und behördliche Marktüberwachung für KI-Systeme vor. Zudem sind in Behörden Governance-Prozesse etabliert.

Frage 29 Seite 8

Welche Rolle soll der Agentic AI Hub für Start-ups und KMU konkret spielen, und wie verhindert die Bundesregierung, dass nur wenige große Anbieter mit bestehender Marktmacht von staatlichen KI-Projekten profitieren?

Antwort

Der Agentic AI Hub soll als Schnittstelle zwischen Verwaltung und Start-ups fungieren. Für die Skalierung wird als Vehikel derzeit u. a. ein Dynamisches Beschaffungssystem mit Wettbewerben errichtet.

Frage 30 Seite 8

Weshalb hat die Bundesregierung in ihrer Antwort auf die Schriftliche Frage 120 auf Bundesdrucksache 21/5846 weder einen konkreten Planungsstand einzelner Vorhaben noch einen belastbaren Zeitplan für vollständige KI-gestützte Verwaltungsentscheidungsprozesse benannt?

Antwort

Die Bundesregierung hat diese Frage beantwortet.