Die Automobilbranche bewegt sich rasant in Richtung software- und KI-gestützter Fahrzeuge. Doch der Einsatz künstlicher Intelligenz birgt nicht nur im Straßenverkehr enorme Risiken. Auf dem Automobilwoche Kongress warb Dekra-CEO Stan Zurkiewicz deshalb eindringlich für verbindliche Sicherheitsstandards, unabhängige Prüfungen und internationale Regulierung.
Insbesondere einer reinen Selbstregulierung der Tech- und Autobranche, wie sie derzeit unter anderem von der US-Regierung befürwortet wird, erteilte der Top-Manager eine klare Absage: Allein in diesem Jahr sei weltweit mehr als eine Billion Dollar in KI und Rechenzentren investiert worden. Dementsprechend sei der wirtschaftliche Druck enorm, Abkürzungen zu nehmen und Sicherheitsfragen zu vernachlässigen. „Ich denke, dass Selbstregulierung im Bereich der KI eine schreckliche Idee ist“, so Zurkiewicz.
Absolute Sicherheit gibt es nicht
Wie groß die Risiken sind, zeigte sich erst kürzlich an Vorfällen wie bei Open AI, wo KI-Agenten aus ihrer Sicherheitsumgebung ausgebrochen waren und Hackerangriffe ausgeführt hatten.
Diese Vorfälle seien ein Beispiel dafür, dass selbst die Entwickler nicht vorhersagen könnten, wie sich ein KI-Modell letztendlich in der Praxis verhalte. Unabhängige Prüfer könnten dies zwar auch nicht, räumte Zurkiewicz ein. Doch sie könnten Annahmen hinterfragen, nach Schwachstellen suchen und Szenarien testen, die die Entwickler selbst nicht bedacht hätten. Absolute Sicherheit könnten aber auch unabhängige Prüfer nicht garantieren. „Wir können die Unsicherheit niemals vollständig eliminieren.“
Ziel müsse daher sein, genügend Anhaltspunkte zu sammeln, dass die Nutzung einer Technologie sicher sei. Und im Zweifel müsse die Antwort auch lauten können, dass zusätzliche Tests erforderlich seien oder der Einsatzbereich enger gefasst werden müsse. Je größer die potenziellen Folgen eines Fehlers, desto wichtiger sei eine unabhängige Kontrolle.
Von der einmaligen zur kontinuierlichen Prüfung
Wie sich die Sicherheitsanforderungen verändern, zeigt sich laut Zurkiewicz insbesondere beim automatisierten Fahren der Stufe 4, bei dem das Fahrzeug in definierten Bereichen komplett übernimmt. Hier reiche es nicht mehr aus, einzelne Komponenten zu testen. Stattdessen müsse die gesamte Systemarchitektur einschließlich Software, Cybersicherheit, künstlicher Intelligenz und Betriebsbedingungen bewertet werden.
Hinzu komme, dass sich die Sicherheitsprüfung künftig nicht mehr auf den Zeitpunkt der Markteinführung beschränken könne. Software-Updates und Veränderungen der Einsatzbedingungen machten eine kontinuierliche Überwachung erforderlich. Die Branche bewege sich von der einmaligen Prüfung eines Produkts hin zur fortlaufenden Bewertung von Systemen die sich permanent weiterentwickeln.
Europa weltweit Referenz bei der KI-Regulierung
Zurkiewicz sprach sich dabei dafür aus, auf die bestehende Sicherheitsarchitektur wie in der Autobranche aufzubauen. Normen, Akkreditierungen, Konformitätsprüfungen und Marktüberwachung hätten über Jahrzehnte dazu beigetragen, Vertrauen in komplexe Technologien aufzubauen. Zudem sei der europäische AI Act trotz aller Schwächen ein wichtiger Ausgangspunkt. Europa habe hier die Führungsrolle übernommen und diene weltweit als Referenz – auch in China.
Darüber hinaus sei deutlich mehr Kooperation zwischen den beteiligten Akteuren erforderlich – seien es Hersteller, Prüforganisationen, Wissenschaft oder Behörden. „Wir müssen schneller lernen und wir müssen gemeinsam lernen“, sagte Zurkiewicz.
Am Ende entscheide die Glaubwürdigkeit der Sicherheitsnachweise darüber, ob sich neue Technologien wie Robotaxis durchsetzen. Ein einziger schwerer Unfall könne die Entwicklung um Jahre zurückwerfen, warnte der Dekra-Chef. Sein Fazit: „Vertrauen in Technologie entsteht nicht, indem man den Menschen sagt, dass sie sicher ist. Es wird verdient, indem man ihnen glaubwürdige Beweise dafür liefert.“
