Die Regulierung von Künstlicher Intelligenz (KI) erfordert klare Normen und Standards, um Sicherheit und Leistungsfähigkeit zu gewährleisten. Besonders herausfordernd ist die Normierung von Hochrisikosystemen, bei denen Zertifizierungsstellen eine zentrale Rolle spielen. Wichtige Aspekte sind zudem die Dokumentationspflichten und Cybersicherheitsmaßnahmen für leistungsstarke KI-Systeme. Angesichts der ambitionierten Zeitpläne bis 2025 gewinnt die Entwicklung und Umsetzung dieser Standards zunehmend an Bedeutung. Ein Blick in die Zukunft zeigt, welche weiteren Herausforderungen und Chancen in der Regulierung von KI zu erwarten sind.
In dieser Episode des spreche ich mit Taras Holoyad von der Bundesnetzagentur über die Regulierung von Künstlicher Intelligenz (KI). Taras erklärt, wie Normen und Standards für KI-Systeme entwickelt werden, um deren Sicherheit und Leistungsfähigkeit zu gewährleisten. Er betont die Herausforderungen der Normierung, insbesondere für Hochrisikosysteme, und die Rolle der Zertifizierungsstellen. Die Diskussion umfasst auch die Dokumentationspflichten und Cybersicherheitsmaßnahmen für leistungsstarke KI-Systeme. Wir gehen auch der Dringlichkeit der Entwicklung und Umsetzung dieser Normen bis 2025 nach und werfen einen Blick in die Zukunft.
“Prinzipiell ist künstliche Intelligenz leider nicht vergleichbar mit dem Intelligenzlevel eines Menschen, sondern eher ein sehr aufwendig gestaltetes algorithmisches System.” - Taras Holoyad
Nach seinem Elektrotechnik-Studium an der TU Braunschweig berechnete Taras Holoyad zunächst elektrische Maschinen für Straßenfahrzeuge und stieg darauf folgend in die Standardisierung künstlicher Intelligenz bei der Bundesnetzagentur ein. Während seines Tagesgeschäfts arbeitet Taras an Strategien zur KI-Regulierung mit, ist Projektleiter für die internationale Norm zur KI-Klassifizierung “ISO/IEC 42102” und Vice Chair beim Europäischen Normungsgremium ETSI TC “Methods for testing and specification”. Ein Ziel seiner Teams ist es, ein einheitliches Verständnis für Systeme unter dem Begriff “Künstliche Intelligenz” zu erreichen sowie damit zusammenhängende Qualitätskriterien und Prüfprozesse zu erklären. Ferner erarbeitet Taras mit Kolleginnen und Kollegen aus Forschung, Industrie und öffentlichem Dienst einen Beipackzettel für KI-Systeme, ein Label für KI-Produkte sowie ein Glossar zur künstlichen Intelligenz, damit KI-Systeme innerhalb unserer Gesellschaft auch niederschwellig bewertet werden können.
Künstliche Intelligenz (KI) spielt eine entscheidende Rolle in der Softwareentwicklung. Sie ermöglicht es, komplexe Datenanalysen durchzuführen, Muster zu erkennen und automatisierte Entscheidungen zu treffen. Die Integration von KI in Softwareanwendungen verbessert nicht nur die Effizienz, sondern auch die Benutzererfahrung.
Im Podcast mit Taras Holoyad wird die Bedeutung der Testbeschreibung für KI-Fähigkeiten ausführlich erörtert. Folgende Punkte stehen im Fokus:
Taras Holoyad, ein Experte auf dem Gebiet der KI-Regulierung, teilt wertvolle Informationen darüber, wie Unternehmen ihre KI-Fähigkeiten testen und beschreiben können. Dies ist besonders wichtig in Anbetracht neuer gesetzlicher Vorgaben und Standards im Bereich künstlicher Intelligenz.
Die Bundesnetzagentur spielt eine entscheidende Rolle in der KI-Regulierung in Deutschland. Ihre Aufgaben umfassen verschiedene Bereiche, die für die Sicherstellung von Standards und die Marktüberwachung von Bedeutung sind:
Durch diese Maßnahmen sorgt die Bundesnetzagentur dafür, dass KI-Anwendungen sicher und zuverlässig sind. So wird ein grundlegendes Vertrauen in Technologien gefördert, die zunehmend unseren Alltag beeinflussen.
Die Standardisierung von Testkriterien für KI-Systeme ist ein entscheidender Schritt zur Gewährleistung der Qualität und Zuverlässigkeit in der Softwareentwicklung. Der internationale Standard ISO/EEC 42102 spielt hierbei eine zentrale Rolle. Dieser Standard definiert zwei Dimensionen, die für die Testbeschreibung von KI-Fähigkeiten relevant sind: Methoden und Fähigkeiten.
In der ersten Dimension werden sowohl klassische als auch moderne Ansätze in der KI-Testbeschreibung betrachtet.
Diese unterschiedlichen Methoden erfordern spezifische Strategien zur Durchführung und Dokumentation von Tests. Die Auswahl der richtigen Methodik beeinflusst die Effektivität des Tests erheblich.
Optimierungsverfahren sind besonders wichtig für Tests, da sie helfen, die besten Parameter für Algorithmen zu finden. Sie tragen dazu bei, dass Modelle nicht nur korrekt arbeiten, sondern auch effizient sind.
Ein Beispiel für ein Optimierungsverfahren ist das Gradient Descent, das in vielen maschinellen Lernalgorithmen verwendet wird. Dieses Verfahren minimiert den Fehler einer Vorhersage durch schrittweises Anpassen der Gewichtungen eines Modells.
Die Anwendung dieser Methoden in einem standardisierten Format sorgt für Wiederholbarkeit und Konsistenz in den Testergebnissen. In diesem Kontext wird auch die Bedeutung einer strukturierten Testbeschreibung hervorgehoben. Durch klar definierte Testkriterien können Tester sicherstellen, dass alle Aspekte einer KI-Fähigkeit adäquat bewertet werden.
Die Standardisierung von Testkriterien nach ISO/EEC 42102 fördert somit nicht nur die Vergleichbarkeit zwischen verschiedenen Testszenarien, sondern schafft auch eine Grundlage für eine verantwortungsvolle Entwicklung von KI-Systemen im Einklang mit regulatorischen Vorgaben.
Die Fähigkeiten von KI-Systemen sind vielfältig und lassen sich in verschiedene Kategorien unterteilen. Diese Fähigkeiten umfassen:
Der internationale Standard ISO/EEC 42102 spielt eine entscheidende Rolle bei der Standardisierung von Testkriterien für diese Fähigkeiten. Die Notwendigkeit der Standardisierung ist besonders wichtig, um konsistente und nachvollziehbare Testbeschreibungen für KI-Fähigkeiten zu entwickeln. Hierdurch können Unternehmen sicherstellen, dass ihre KI-Systeme den erforderlichen Qualitätsstandards entsprechen. Algorithmen erkennen Inhalte aus Bildern durch Techniken wie Bildklassifizierung oder Objekterkennung und generieren neue Daten basierend auf den erlernten Mustern.
Qualitätssicherung ist ein zentraler Aspekt in der Entwicklung von KI-Systemen. Bei der Bewertung dieser Systeme spielen spezifische Qualitätskriterien eine entscheidende Rolle. Die wichtigsten Methoden im KI-Testing sind:
Ein Beispiel für eine spezifische Metrik ist der Confidence Score, der die Zuverlässigkeit von Vorhersagen in Bildverarbeitungssystemen bewertet. Ein hoher Confidence Score deutet darauf hin, dass das Modell mit einer hohen Wahrscheinlichkeit korrekte Entscheidungen trifft. Um die verschiedenen Qualitätskriterien zu messen, sollten folgende Aspekte berücksichtigt werden:
Diese Kriterien bilden die Grundlage für eine effektive Testbeschreibung und helfen dabei, die Leistungsfähigkeit von KI-Systemen zu bewerten und zu optimieren.
Der AI Act stellt einen bedeutenden regulatorischen Rahmen für Unternehmen dar, die künstliche Intelligenz entwickeln oder einsetzen. Die Auswirkungen sind tiefgreifend, insbesondere für Organisationen, die Hochrisikosysteme implementieren. Diese Systeme sind als sicherheitsrelevant klassifiziert und erfordern strenge Vorgaben zur Gewährleistung der Sicherheit und Transparenz.
Zertifizierungsstellen spielen eine entscheidende Rolle bei der Umsetzung des AI Act. Sie sind verantwortlich für:
Diese Stellen müssen durch unabhängige Experten evaluiert werden, um sicherzustellen, dass sie über das notwendige Fachwissen verfügen. Der Druck auf diese Institutionen ist hoch, da nicht nur fristgerechte Prüfungen gefordert werden, sondern auch eine zügige Anpassung an sich schnell ändernde Technologien erforderlich ist.
Die Zukunft der KI-Testmethoden wird stark von den Fortschritten in der Regulierung und Standardisierung geprägt. Die Bedeutung der Standardisierung kann nicht hoch genug eingeschätzt werden, insbesondere wenn es darum geht, Testbeschreibungen für KI-Fähigkeiten zu entwickeln. Zukünftige Entwicklungen könnten folgende Aspekte umfassen:
Die kontinuierliche Entwicklung von Testmethoden für künstliche Intelligenz wird entscheidend sein, um sicherzustellen, dass Softwareentwicklungen den neuen regulatorischen Anforderungen gerecht werden. Zukünftig könnte ein dynamisches Umfeld entstehen, in dem Anpassungen an Standards schnell umgesetzt werden können, um mit den technologischen Fortschritten Schritt zu halten.