Die Europäische Union hat kürzlich einen entscheidenden Schritt in Richtung Regulierung von Künstlicher Intelligenz (KI) gemacht. Der EU AI Act, auch bekannt als KI-Verordnung, wurde einstimmig verabschiedet, um den Umgang mit KI-Systemen zu regeln und Verbraucher vor potenziellen Risiken zu schützen. Diese Verordnung, die als eine der umfangreichsten der Welt gilt, wirft viele Fragen auf, insbesondere hinsichtlich ihrer Auswirkungen auf Unternehmen, Entwickler und Verbraucher.
Der AI Act klassifiziert KI-Systeme in verschiedene Risikoklassen, von gering/minimal bis hin zu hoch und unannehmbar. Systeme in den letzteren Kategorien unterliegen strengeren Anforderungen und bestimmte Anwendungen, wie beispielsweise biometrische Echtzeit-Fernidentifizierungssysteme, werden unter bestimmten Bedingungen sogar verboten.
ExB und der AI Act
Als Anbieter von Intelligent Document Processing (IDP) sind wir ebenfalls vom AI Act betroffen, da wir bei unserer IDP-Lösung auf den Einsatz von Technologien der Künstlichen Intelligenz setzen. Nachfolgend erläutern wir, wie unsere IDP-Lösung die Anforderungen des AI Acts erfüllt und welche spezifischen Merkmale sie auszeichnen. Für weitere Informationen zu IDP finden Sie im Folgenden einen passenden Artikel aus unserem Blogbereich: Was ist Intelligent Document Processing (IDP) und welche Vorteile hat es?
Was macht unser Modell? Genauigkeit und Erklärbarkeit unserer IDP-Lösung
Unsere IDP-Lösung zeichnet sich durch eine genaue Erklärbarkeit aus, die je nach Einsatz variieren kann. Im Allgemeinen gewährleisten wir, dass keine falschen Daten in das System eingegeben werden. Dies wird durch Validierungsregeln (Quality Gates) und einem Risikomanagement erreicht, das dem Modell nicht alleine vertraut, sondern Bezüge herstellt. Wir nutzen Konfidenzwerte, um zu bewerten, wie zuverlässig die Ergebnisse unseres Modells sind, und verknüpfen diese mit branchenspezifischem Fachwissen. Selbst in dunkelverarbeitbaren Prozessen führen wir stichprobenartige manuelle Prüfungen durch, um die Validierung im Workflow zu gewährleisten und das Risiko des Einsatzes zu reduzieren. Ein wesentliches Merkmal unserer IDP-Lösung ist die Einbindung eines „Human in the Loop“-Ansatzes, bei dem ein menschlicher Sachbearbeiter die KI überblickt und je nach Risikoklasse des Use Cases eingreifen kann.
Kurz gesagt: Unsere Validierungsregeln wirken als Quality Gate und lassen ein effizientes Kontrollieren von Mitarbeitern zu, was wiederum zu einer drastischen Risikominimierung führt.
Vergleich mit GenAI
Im Gegensatz zu rein generativen KI-Modellen legen wir bei ExB Wert auf eine gezielte, erklärbare Informationsextraktion und Validierungsregeln. Dadurch gewährleisten wir eine hohe Kontrolle über die Ergebnisse unserer IDP-Lösung. Wer beispielsweise direkt mit GenAI arbeitet, hat diese Erklärbarkeit nicht direkt und sollte sich, wenn er die Ergebnisse verwertet, darüber im Klaren sein und darauf achten. Unser Kern liegt in der Verwendung von KI-unabhängigen Validierungsregeln, die eine präzise und transparente Informationsverarbeitung ermöglichen.
Unsere Herangehensweise zur Einhaltung des AI Acts
Bei ExB setzen wir uns aktiv dafür ein, die Konformität gemäß dem EU AI Act zu erreichen. Die Bewertung der Risikoklasse ist vom Anwendungsfall abhängig und wird daher in enger Zusammenarbeit mit unseren Kunden während der Implementierung durchgeführt. Unsere Risikoeinschätzung berücksichtigt die spezifischen Anforderungen jedes Use Cases und gewährleistet so eine angemessene Einhaltung der gesetzlichen Bestimmungen.
Transparenz von Trainingsdaten
Es ist wichtig anzumerken, dass ExB kein Hersteller von Foundation Models ist. Stattdessen nutzen wir kundenspezifische Daten für das Feintuning auf unserer eigenen Datenplattform. Dadurch stellen wir sicher, dass die Transparenz der Trainingsdaten gemäß den Anforderungen des AI Acts gewährleistet ist und unsere IDP-Lösung den höchsten Standards entspricht.
Ausblick
Der EU AI Act markiert einen bedeutenden Meilenstein in der Regulierung von Künstlicher Intelligenz und bei ExB sind wir bereit, die vorgeschriebene Konformität durch unsere IDP-Lösung zu gewährleisten und unsere Kunden bei der Einhaltung der neuen Vorschriften zu unterstützen. Bei Fragen zum Thema und zu IDP zögern Sie nicht und klicken Sie auf Kontakt aufnehmen. Wir freuen uns auf Sie!
