KI-Transparenz und Zertifizierung: Eine Herausforderung für Unternehmen

Der Wille zur Transparenz in der KI-Branche

Wenn man mit Experten aus der Branche spricht, stellt sich die Frage: Ist überhaupt der Wille da, große Transparenz zu zeigen? Schließlich gibt man mit Transparenz auch immer ein Stück weit Betriebsgeheimnisse preis. Die Antwort darauf ist nicht einfach und hängt von verschiedenen Faktoren ab.

Unterschiedliche Ebenen der Transparenz

Es kommt darauf an, auf welcher Ebene man das Ganze betrachtet. Bleiben wir bei dem Bild einer Pyramide:

Die unterste Ebene: Qualitätskontrolle und vorausschauende Wartung

Auf der untersten Ebene finden wir Anwendungen, die mit Qualitätskontrolle oder vorausschauender Wartung zu tun haben. Hier geht es beispielsweise darum, aus Maschinenlastprofilen oder Sensordaten vorherzusagen, wann eine Maschine ausfallen könnte. Bei solchen Anwendungen beschränkt sich die Transparenz oft darauf, dass ein Kunde oder eine Kundin das System abnehmen muss.

Diese Nutzer wollen in der Regel nicht verstehen, wie der Algorithmus im Detail funktioniert. Sie geben tausende von Datenpunkten ein, von denen sie wissen, ob sie bestimmte Kriterien erfüllen oder nicht. Das System verarbeitet diese Daten und spuckt Ergebnisse aus, die dann mit den bekannten Daten verglichen werden. Hier bewegt man sich also eher auf einer Ergebnisebene und nicht auf einer systemischen Ebene des Verständnisses. Für diese unterste Ebene ist das auch völlig in Ordnung.

Die mittlere Ebene: Zertifizierungspflichtige Bereiche

Wenn wir uns eine Ebene höher bewegen, kommen wir zu Themenbereichen, die einer Zertifizierung bedürfen. Dazu gehören beispielsweise Anwendungen im Personalwesen (HR) oder im Finanzsektor. Ein klassisches Beispiel ist die Kreditvergabe: Wer bekommt einen Kredit? Wurde der Kredit rechtmäßig vergeben, oder gab es in der Filiale Unregelmäßigkeiten, die genauer untersucht werden müssen?

In diesen Bereichen geht es definitiv um Transparenz, und die Institutionen sind so ausgerichtet, dass sie Systeme, die sie nicht mehr verstehen, schlichtweg nicht mehr kaufen. Hier gilt: Keine Transparenz, kein Geschäft.

Die obere Ebene: Der Graubereich

Der größte Graubereich wird vermutlich bei all jenen Anwendungen entstehen, die Unternehmen heute schon gewohnt sind zu kaufen. Dazu gehören große CRM-Systeme wie Salesforce, umfangreiche People-Management-Systeme wie Peoplesoft und viele andere. Auch die Steuerung von Online-Werbung fällt in diese Kategorie.

Bei der Online-Werbung hat sich durch die DSGVO und die sechsjährige Erfahrung mit dem Thema bereits viel Wissen von den Softwareanbietern über die Implementierungsfirmen bis hin zu den Endkunden durchgesetzt. In anderen Bereichen, wie beispielsweise HR-Management-Systemen, ist das noch nicht der Fall.

Zertifizierung als Schlüssel zur Akzeptanz

Wenn in solchen Systemen plötzlich ein KI-Modul integriert wird, kann man sich zu 100 Prozent sicher sein, dass es zertifiziert sein wird. Ohne Zertifizierung wäre es in der EU schlicht nicht verkaufbar. Allerdings wird man sich damit auseinandersetzen müssen, wie das System genau funktioniert und warum es bestimmte Entscheidungen trifft.

Es geht dabei nicht unbedingt darum, Missbrauch zu verhindern, sondern vielmehr darum, im eigenen Sinne zu entscheiden, welche Stellschrauben gedreht werden müssen. In einer regulierten KI-Welt werden ähnliche Fragen auftauchen, wie wir sie heute beispielsweise bei Newsletter-Systemen kennen: Single-Opt-in oder Double-Opt-in? Die Fragestellungen werden sich ändern, aber das Prinzip bleibt ähnlich.

Der Aufwand für Transparenz und Zertifizierung

Die Umsetzung von Transparenz und Zertifizierung erfordert einen gewissen Aufwand. Sowohl Anbieter als auch Kunden müssen sich darauf einstellen. Die Frage ist: Werden Unternehmen in Zukunft einen KI-Beauftragten benötigen, der diese Themen handhabt?

Großunternehmen: Fortführung bestehender Strukturen

In Großunternehmen gibt es heute schon Personen, die sich um solche Themen kümmern. Was vor fünf oder zehn Jahren der oder die Datenbeauftragte war, wird nun einfach weiterentwickelt. Zudem haben große Firmen ohnehin Erfahrung mit Zertifizierungen und wissen, wie man solche Prozesse handhabt.

Kleine und mittlere Unternehmen: Eine finanzielle Herausforderung

Für kleinere Unternehmen, wie beispielsweise Firmen mit etwa 20 Mitarbeitern, stellt sich die Situation anders dar. Die Kosten für die Zertifizierung einer Lösung liegen heute noch im sechsstelligen Bereich. Das ist eine erhebliche Summe, die unter anderem damit zusammenhängt, dass es derzeit noch wenige Stellen gibt, die solche Zertifizierungen durchführen können.

Fazit: Ein Balanceakt zwischen Transparenz und Praktikabilität

Die Forderung nach Transparenz in der KI-Branche ist berechtigt und wichtig. Allerdings zeigt sich, dass die Umsetzung je nach Anwendungsbereich und Unternehmensgröße unterschiedlich ausfallen wird. Während auf der untersten Ebene oft eine ergebnisorientierte Transparenz ausreicht, erfordern regulierte Bereiche wie Finanzen oder Personalwesen eine tiefergehende Offenlegung.

Die größte Herausforderung wird in jenen Bereichen liegen, in denen Unternehmen bereits an den Einsatz komplexer Systeme gewöhnt sind. Hier wird es darauf ankommen, einen Mittelweg zwischen notwendiger Transparenz und praktischer Handhabbarkeit zu finden.

Für die Zukunft bedeutet dies, dass sowohl Anbieter als auch Nutzer von KI-Systemen sich auf einen erhöhten Aufwand für Transparenz und Zertifizierung einstellen müssen. Großunternehmen werden dabei auf bestehende Strukturen zurückgreifen können, während kleinere Unternehmen vor allem mit den finanziellen Aspekten zu kämpfen haben werden.

Letztendlich wird der Erfolg der KI-Branche davon abhängen, wie gut es gelingt, Transparenz zu schaffen, ohne dabei Innovation und Praktikabilität zu opfern. Es ist ein Balanceakt, der in den kommenden Jahren die Entwicklung der Branche maßgeblich prägen wird.

Zertifizierung und Kosten im KI-Bereich

In Österreich sind bereits im Sommer 2022 drei Anbieter für KI-Zertifizierungen auf den Markt gekommen, obwohl der AI Act zu diesem Zeitpunkt noch nicht fertiggestellt war. Es wird erwartet, dass die Kosten für solche Zertifizierungen in Zukunft sinken werden.

Ähnlich wie bei der Einführung von Cybersecurity-Verordnungen und ISO 27001, wird sich auch beim AI Act mittelfristig eine Normalisierung der Kosten einstellen. Anfangs mögen die Preise noch hoch sein, aber das Verhältnis von Angebot und Nachfrage wird dafür sorgen, dass die Kosten nicht im sechsstelligen Bereich bleiben.

Neue Möglichkeiten für Beratungsunternehmen

Diese Entwicklung eröffnet einen neuen Markt für Berater und Beratungsunternehmen. Im Vergleich zur DSGVO-Einführung im Juni 2018, als plötzlich zahlreiche DSGVO-Beratungen angeboten wurden, ist der AI Act jedoch deutlich spezialisierter.

Der AI Act hat eine starke rechtliche Komponente, was ihn zu einem idealen Betätigungsfeld für Rechtsanwaltskanzleien macht. Aber auch klassische Dienstleister, die früher Security-Audits durchgeführt haben, können nun Zusatzleistungen wie KI-Landkarten oder Zertifizierungsübersichten anbieten.

Langfristige Entwicklung der KI-Dienstleistungen

Es bleibt abzuwarten, welche dieser Dienstleistungen langfristig als eigenständige Angebote bestehen bleiben. In fünf Jahren könnte die KI-Zertifizierung so sehr in den Entwicklungsprozess integriert sein, dass sie direkt in den Stundensätzen abgebildet wird.

Kosten und Verfügbarkeit von Zertifizierungen

Aktuell liegen die Kosten für die Zertifizierung einer KI-Lösung noch im sechsstelligen Bereich. Dies ist teilweise darauf zurückzuführen, dass es nur wenige Stellen gibt, die solche Zertifizierungen durchführen können. Es wird erwartet, dass sich dies in den kommenden Monaten ändern wird.

Ähnlich wie bei der Einführung von ISO 27001, wo die Kosten anfangs hoch waren, wird auch hier eine Normalisierung eintreten. In etwa zwei Monaten könnte der Prozess bereits wesentlich reibungsloser ablaufen.

Auswirkungen auf verschiedene Unternehmensgrößen

Für Großunternehmen, die bereits Erfahrung mit Zertifizierungen haben, wird die Integration von KI-Zertifizierungen vermutlich relativ unkompliziert sein. Sie können auf bestehende Strukturen und Erfahrungen zurückgreifen.

Kleine und mittlere Unternehmen stehen vor größeren Herausforderungen. Für eine Firma mit etwa 20 Mitarbeitern stellen die aktuellen Kosten für KI-Zertifizierungen eine erhebliche finanzielle Belastung dar.

Fazit

Die Einführung des AI Acts und die damit verbundenen Zertifizierungsanforderungen werden die KI-Branche nachhaltig verändern. Während sie einerseits neue Geschäftsmöglichkeiten für Beratungsunternehmen eröffnen, stellen sie andererseits insbesondere für kleinere Unternehmen eine finanzielle Herausforderung dar. Es ist zu erwarten, dass sich der Markt in den kommenden Jahren anpassen und die Kosten für Zertifizierungen sinken werden.