Introduction of AI in incoming mail processing

Gegenstand des Verfahrens: Der Beitragsservice von ARD, ZDF und Deutschlandradio beschafft einen KI-basierten Service zur automatisierten Verarbeitung eingehender schriftlicher Sendungen (Papier/Scan, E-Mail, Fax), der als Managed Service (IaaS, PaaS, SaaS) auf einer souveränen Cloud betrieben werden soll. Der KI-Service klassifiziert die Sendungen nach der Dokumentart-Systematik des Beitragsservice (DAK/SDAK), erkennt das fachliche Anliegen und extrahiert die für die Weiterverarbeitung erforderlichen Fachdaten. Die Ergebnisse werden jeweils mit einem Confidence-Score als strukturierte JSON-Objekte an den bestehenden Verarbeitungsprozess zurückgegeben.

Der KI-Service wird nicht als Ersatz, sondern als Bypass zur bestehenden Eingangsverarbeitung eingeführt. Die Aussteuerung der Sendungen erfolgt über vom Beitragsservice bereitgestellte intelligente Weichen; die Kernsysteme bleiben unverändert. Nicht Gegenstand der Ausschreibung sind das Scannen bzw. die Digitalisierung der Sendungen, die Ein- und Ausgangsschnittstellen der Gesamt-Eingangsverarbeitung sowie die intelligenten Weichen selbst.

Der Leistungsgegenstand gliedert sich in drei Bausteine: Baustein 1

• Cloud-Infrastruktur: Bereitstellung einer souveränen, hochverfügbaren und skalierbaren Cloud-Umgebung als IaaS einschließlich bedarfsgerecht skalierbarer CPU-, GPU-, Speicher- und Netzwerkressourcen für KI-Workloads. Es ist beabsichtigt, einen Vertrag über die Bausteine 1 und 2 mit einer 4-jährigen Festlaufzeit abzuschließen. Baustein 2
• Managed Service: Betrieb der KI-Plattform als PaaS und SaaS, insbesondere Monitoring, Logging, Incident- und Problem-Management, Patch- und Release-Management, Backup und Recovery, Kapazitätsmanagement sowie Bereitstellung und Betrieb eines standardisierten KI-Serving-Stacks (u. a. Container-Orchestrierung, Inferenz). Der Beitragsservice behält die Hoheit über Fachlogik, Agenten sowie Auswahl und Wechsel der KI-Modelle. Es ist beabsichtigt, einen Vertrag über die Bausteine 1 und 2 mit einer 4-jährigen Festlaufzeit abzuschließen. Baustein 3
• Entwicklung einer individuellen Input-Management-Lösung ("KI-Service"): Konzeption, Entwicklung, Integration und Produktivsetzung einer individuellen Lösung auf Basis der bereitgestellten Plattform, einschließlich Einrichtung von Klassifikation und Extraktion je Sachverhalt, Nachweis der vereinbarten Erkennungsqualität, Schulung, Dokumentation und Unterstützung der Abnahme. Der KI-Service inkl. sämtlicher Arbeitsergebnisse (u. a. Quellcode, Konfigurationen, Prompt-Artefakte, Datenmodelle, Schnittstellenbeschreibungen, Tests, Dokumentation) geht mit zeitlich, räumlich und inhaltlich unbeschränkten Nutzungsrechten auf den Beitragsservice über. Dem Beitragsservice ist zudem das Recht einzuräumen, den KI-Service uneingeschränkt zu nutzen, zu betreiben, zu verändern und weiterzuentwickeln sowie durch Dritte betreiben oder weiterentwickeln lassen können. Es darf keine Abhängigkeit vom ursprünglichen Auftragnehmer entstehen und ein Anbieterwechsel muss grundsätzlich möglich sein. Die Lösung ist vorrangig auf Basis von Open-Source-Komponenten mit permissiven Lizenzen zu realisieren. Ergänzend ist ein Dienstleistungskontingent für weitere Sachverhalte vergleichbarer Komplexität und für Optimierungen nach der Produktivnahme bzw. Abnahme vorzusehen. Fachlicher Umfang und Mengengerüst: Schwerpunkt sind rund 1,8 Mio. formlose Schreiben pro Jahr, die bislang weder automatisch klassifiziert noch inhaltlich ausgewertet werden. Hinzu kommen rund 4,7 Mio. formgebundene Schreiben aus fünf Sachverhalten: Befreiungen, Abmeldungen, Drittschuldnererklärungen, Klärungsverfahren aufgrund Sterbefall sowie Bank- und Adressänderungen. Für die Dimensionierung ist von mindestens 6,5 Mio. Sendungen pro Jahr auszugehen (ca. 25.000 Sendungen je Arbeitstag, Spitzenwert ca. 26.700). Der Handschriftanteil liegt bei ca. 20 %. Teilweise sind besondere Kategorien personenbezogener Daten nach Art. 9 DSGVO (z. B. Gesundheitsangaben) zu verarbeiten. Wesentliche funktionale Anforderungen sind insbesondere:
• KI-gestützte Texterkennung (OCR) über den gesamten Dokumentinhalt einschließlich mehrseitiger Dokumente und Anlagen
• inhaltsbasierte Klassifikation und Anliegenerkennung mittels Textverständnis statt Formularankern, einschließlich Erkennung mehrerer Anliegen je Sendung und Trennung mehrerer Dokumente
• Extraktion der Identifikationsfelder (u. a. Beitragsnummer, Name, Anschrift) und der je Sachverhalt benötigten Fachdaten, auch aus beigefügten Nachweisen
• Erkennung handschriftlicher Inhalte einschließlich freier Randnotizen, Ankreuzfelder und Prüfung auf Vorhandensein von Unterschriften
• Confidence-Scores je Ergebnis und Feld; keine Übernahme nicht belegbarer Inhalte; Schutz vor Prompt Injection
• integrierter Human-in-the-Loop-Pfad mit konfigurierbaren Aussteuerungsregeln und einer barrierefreien (BITV 2.0), deutschsprachigen, vollständig tastaturbedienbaren Nachbearbeitungsoberfläche
• Aufnahme weiterer Dokumentklassen ohne Neuaufsatz des Systems durch den Beitragsservice selbst; kein Training von Modellgewichten mit personenbezogenen Daten der Beitragszahlenden
• modellagnostische Architektur (vorzugsweise Open-Weight-Modelle), REST-Schnittstellen, Container-/Microservice-Architektur, UTF-8, Reporting (u. a.

Precision/Recall/F1 je Dokumentklasse) und Anbindung an die Monitoring-Werkzeuge des Beitragsservice. Die Beschreibung der ausgeschriebenen Leistungen wird unter Ziffer 5.1. dieser Bekanntmachung fortgesetzt.