Warum Software der eigentliche Sicherheitsfaktor ist Vertrauen in KI-gesteuerte Fahrzeuge schaffen

Von der Erkennung von Fußgängern bis hin zu blitzschnellen Fahrentscheidungen steht künstliche Intelligenz heute an der Spitze sicherheitskritischer Funktionen. Doch diese Leistungsfähigkeit bringt auch eine große Herausforderung mit sich: Wie lässt sich die Sicherheit gewährleisten? Hier kommt die ISO/PAS 8800 ins Spiel.

Künstliche Intelligenz (KI) ist längst mehr als nur eine Funktion in modernen Fahrzeugen – sie ist die treibende Kraft hinter Innovationen. Auch sicherheitskritische Funktionen werden von KI beeinflusst. Und hier verbirgt sich die Gefahr. Abhilfe soll die ISO/PAS 8800 schaffen. Diese neue Spezifikation ist keine Neuerfindung des Rads. Stattdessen stellt sie eine entscheidende Weiterentwicklung dar, die die Lücke zwischen den traditionellen Sicherheitsstandards für die Automobilindustrie – wie ISO 26262 und SOTIF – und der komplexen Natur der KI schließt. Die Botschaft ist klar: KI-Sicherheit ist ein Problem auf Systemebene, das kontinuierlich weiterentwickelt, validiert und verwaltet werden muss.

Grundlegender Wandel von „Fehler“ zu „Unzulänglichkeit“

Herkömmliche Systeme versagen aufgrund identifizierbarer Fehler. KI kann hingegen genau wie vorgesehen funktionieren und dennoch unsicher sein. Ihre Probleme sind oft auf „Unzulänglichkeiten" zurückzuführen: Lücken in den Trainingsdaten, Unfähigkeit zur Verallgemeinerung oder begrenztes Verständnis der realen Welt.

Während ein herkömmlicher Software-Fehler wie ein gerissenes Zahnrad ist, das man sehen, messen und ersetzen kann, ist eine Unzulänglichkeit der KI eher mit einer Karte zu vergleichen, auf der eine Straße fehlt. Sie ist unvollständig, aber nicht defekt. Ein Fahrzeug kann in die fehlende Straße einbiegen und die Folgen sind gefährlich. Dieser Unterschied ist entscheidend. Bei der Sicherheit geht es nicht mehr nur darum, Software-Fehler zu beseitigen, sondern auch darum, Unsicherheiten zu verstehen und zu bewältigen. Dieser Wandel verändert grundlegend, wie wir Sicherheit nachweisen.

Sicherheitsnachweis statt reinem Testbericht

Eine der wichtigsten Erkenntnisse aus ISO/PAS 8800 ist, dass sich die Sicherheit von KI nicht auf eine einzige Kennzahl oder einen abschließenden Testbericht reduzieren lässt. Ein KI-System muss anhand verschiedener Nachweise sicherheitsgarantiert werden. Dazu gehören Anforderungen, Architektur, Datensätze, Testergebnisse, Schutzmaßnahmen während der Laufzeit und Betriebsüberwachung. Es geht nicht um Perfektion, sondern um das Aufzeigen von Risiken. Betrachten wir ein Modell zur Fußgängererkennung mit einer Genauigkeit von 99,9 Prozent. Das klingt beeindruckend, bedeutet in der Praxis aber Hunderte von Fehlern. Dank ISO/PAS 8800 werden oberflächliche Kennzahlen hinterfragt. Was verbirgt sich hinter 0,1 Prozent? Die Antwort ist stets eine Geschichte, keine Zahl.

Daten sind ein sicherheitskritischer Vermögenswert. In einem KI-System ist der Datensatz Teil der Spezifikation. Fehlen kritische Szenarien, wird das System versagen. Deshalb schreibt die Norm einen strukturierten Lebenszyklus für Datensätze vor. Dabei werden Daten mit derselben Sorgfalt behandelt wie Hardware oder Software. Das erfordert kontinuierliche Validierung, Pflege und Verfeinerung.

Aus diesem Grund muss ein strukturierter Lebenszyklus für Datensätze erfüllt werden. Dabei werden Daten mit derselben Sorgfalt behandelt wie Hardware oder Software. Das erfordert eine kontinuierliche Validierung, Pflege und Verfeinerung. Wenn Daten nicht unter Versionskontrolle stehen, nicht rückverfolgbar sind und nicht aktiv verwaltet werden, ist es unmöglich, einen Sicherheitsnachweis zu erstellen.

Neuer Ansatz für Verifizierung und Validierung

KI-Systeme lassen sich nicht mit herkömmlichen Testmethoden überprüfen. Ihre hochdimensionalen Eingaben, ihr nicht deterministisches Verhalten und ihr "Black-Box"-Charakter machen traditionelle Methoden unzureichend. ISO/PAS 8800 begegnet diesem Problem durch die Förderung eines mehrschichtigen Ansatzes: Verifizierung auf Komponentenebene, Validierung auf Systemebene sowie umfassende Betriebsprüfungen. Simulation, Szenario-Wiederholung und Robustheitstests werden dabei zu unverzichtbaren Tools, die es Entwicklern ermöglichen, gefährliche oder seltene Bedingungen, die physisch nicht reproduzierbar sind, sicher zu untersuchen.

In der Praxis kann man zur Validierung einer künstlichen Intelligenz für die Spurhaltung beispielsweise nicht einfach ein Auto durch jeden erdenklichen Schneesturm, jede Art von Tunnelblendung oder jede verblasste Fahrbahnmarkierung fahren. Stattdessen kann man eine virtuelle Testumgebung schaffen, die das System über Nacht Millionen von Grenzfällen aussetzt. Das ist die Stärke der Simulation. ISO/PAS 8800 macht die Simulation zu einem unverzichtbaren Bestandteil der Nachweiskette.

Entscheidend ist, dass diese Verantwortung nicht am Werkstor endet. KI agiert in einer dynamischen Welt mit ständig neuen Bedingungen. Paragraf 14 des Standards schreibt deshalb eine kontinuierliche Sicherheitsüberwachung im laufenden Betrieb vor. Durch das Sammeln von Felddaten, das Erkennen von Anomalien und die Verwaltung kontrollierter Over-the-Air-Updates gewährleistet man, dass das System während seiner gesamten Betriebsdauer sicher bleibt. Denn das Fahrzeug, dessen Auslieferung heute erfolgt, wird Bedingungen ausgesetzt sein, die man sich heute noch nicht vorstellen kann. Der einzige Weg, um Sicherheit zu gewährleisten, besteht darin, die Inbetriebnahme als Beginn eines fortlaufenden Sicherheitsdialogs zu betrachten.

Der heimliche Held: die Software-Basis

KI-Modelle basieren oft auf herkömmlicher Software, die um sie herum die eigentliche Grundlage für die Sicherheit bildet. Künstliche Intelligenz arbeitet in deterministischer C- und C++-Software, die sicheres Verhalten gewährleistet. Diese Software validiert Eingaben, prüft deren Plausibilität, schränkt Ausgaben ein, setzt Zeit- und Kontrollgrenzen durch und löst Ausweichmechanismen aus, wenn sich die KI unerwartet oder mit unzureichender Zuverlässigkeit verhält. Diese Software-Sicherheitsbarrieren verhindern, dass Unsicherheit zur Gefahr wird. Versagen diese Sicherheitsbarrieren, kann selbst ein gut trainiertes Modell zu einem unsicheren Ergebnis beitragen. Deshalb bleibt die strenge Prüfung herkömmlicher Software in KI-gestützten Fahrzeugen unverzichtbar. Statische Analyse, die Durchsetzung von Codierungsstandards, automatisierte Unit-Tests, strukturelle Codeabdeckung, Integrationstests, Anforderungsverfolgbarkeit und CI/CD-basierte Verifizierung spielen alle eine direkte Rolle dabei, um nachzuweisen, dass der Sicherheitsrahmen um die KI tatsächlich funktioniert.

Die KI ist wie ein Telemetriesystem bei einem Hochleistungs-Rennwagen: Sie analysiert den Reifengrip, sagt die optimale Ideallinie voraus und berät den Fahrer hinsichtlich des perfekten Bremspunkts. Doch wenn der Überrollkäfig schwach ist, die Bremsleitungen korrodiert sind oder das Feuerlöschsystem versagt, kann keine Steuerung das Fahrzeug retten. Selbst die fortschrittlichste Fahrzeugintelligenz ist nur so vertrauenswürdig wie die Hardware und Software, die dafür sorgt, dass das Fahrzeug nicht von der Straße abkommt.

Was Entwicklungsteams beachten sollten

Für Teams, die KI-gestützte Fahrzeugsysteme entwickeln oder evaluieren, gilt: Klare Betriebsgrenzen der KI sollten deutlich definiert werden. Datensätze sollten als kontrollierte technische Ressourcen behandelt werden. Zudem ist es notwendig, das Verhalten in aussagekräftigen Szenarien und Grenzfällen zu testen. Auch ist die Entwicklung deterministischer Software-Sicherheitsvorkehrungen hilfreich. Auch muss für die Rückverfolgbarkeit zwischen Gefahren, Anforderungen, Datensätzen, Tests und Sicherheitsmechanismen gesorgt werden. Darüber hinaus sollte das System auch nach der Inbetriebnahme überwacht werden. Erst diese Maßnahmen machen künstliche Intelligenz zu etwas, dem man auf öffentlichen Straßen vertrauen kann.

Keine vollständige Sicherheit, aber strukturierter Rahmen

Die Norm ISO/PAS 8800 ISO/PAS 8800 verspricht nicht, KI vollkommen sicher zu machen – dieses Ziel ist unerreichbar. Stattdessen bietet sie einen strukturierten Rahmen zur Minimierung von KI-Risiken. KI-Sicherheit ist keine Eigenschaft eines einzelnen Modells, sondern des gesamten Systems, in das dieses Modell eingebettet ist. Im Kern dieses Systems befindet sich gut getestete, zuverlässige Software. Sie ist das Fundament, auf dem jegliches Vertrauen in automatisierte Fahrzeuge aufgebaut werden muss. Modelle sind nur so sicher, wie ihre Sicherheitsvorkehrungen. (se)

VDA Mobility Innovation Summit 2026

„Die deutsche Autoindustrie ist für zukünftige Herausforderungen gut aufgestellt – der Standort nicht“

Software-definierte Fahrzeuge

Künstliche Intelligenz: „Wir brauchen keinen Flickenteppich“

* Ricardo Camacho ist Director of Product Strategy, Embedded & Safety Compliance bei Parasoft.

(ID:50900135)