Der Markt für Künstliche Intelligenz (KI) ist einer, der am schnellsten wachsenden. Bis zum Jahr 2030 geht Statista von einem jährlichen Zuwachs in Höhe von rund 29 Prozent und einem Marktvolumen von rund 775 Milliarden Euro aus. Besonders die Automobilwirtschaft forscht stark an Technologien, die auf Machine Learning basieren, und kann durch den Einsatz von KI erheblich profitieren. Gleichzeitig müssen die Risiken hinsichtlich des Datenschutzes und Cybersicherheit sorgfältig abgewogen werden. In diesem Spannungsfeld gibt Thomas Althammer, Geschäftsführer des Beratungsunternehmens Althammer & Kill, einen Überblick.
Seit smart Home, intelligenter Routenplanung im Auto und Texterstellung über ChatGPT kennt nahezu jede(r) Anwendungen, die auf KI oder genauer Machine Learning basieren. Aber kaum ein User kann wirklich erklären, wie die Technologie zu ihren verblüffenden Ergebnissen kommt. Das beschäftigt aktuell auch die Europäische Union, die mit dem AI-Act ein einheitliches Regelwerk im Umgang mit KI vorgelegt hat. Die Regulierung wird eine Herausforderung: Nur zwei Prozent der KI-Entwicklungen kommen aus dem Binnenmarkt. Die dominierenden Länder sind die USA mit rund 21 Prozent und Spitzenreiter China mit rund 61 Prozent der KI-Entwicklungen. Unternehmen und Organisationen aller Branchen müssen also sehr genau hinschauen, wofür und wie sie KI nutzen möchten.
In der Automobilwirtschaft werden dabei gleich mehrere Ziele verfolgt:
1. Automatisierung & Robotics in der Produktion
KI-Anwendungen können adaptive Einsatzpläne erstellen, die sich flexibel an Marktschwankungen und veränderte Produktionsanforderungen anpassen.
Lernfähige mobile Robotersysteme verwenden Technologien wie Visual-SLAM (Visual Simultaneous Localization and Mapping), die die Umgebung kartieren und in Fabriken, Lagerhäusern und Logistikzentren effizient zu operieren (mehr dazu hier).
2. Sicherheit & Service durch autonomes Fahren
Fortgeschrittene Fahrerassistenzsystemen nutzen KI zur intelligenten Geschwindigkeitsunterstützung, Rückfahrkameras und Aufmerksamkeitswarnungen, um die Sicherheit und das Fahrerlebnis zu erhöhen.
3. Prozessoptimierung, Lieferkettentransparenz und Kostenersparnis
Bei Predictive Maintenance wird KI eingesetzt, um Wartungsbedarfe vorherzusagen und Ausfälle von Maschinen zu verhindern. General Motors nutzt KI, um Probleme bei Robotern in der Fertigung frühzeitig zu erkennen. Unternehmen wie Mercedes-Benz nutzen ChatGPT, um die Produktionsplanung in Echtzeit zu überprüfen und anzupassen. Bosch hat Pilotprojekte gestartet, bei denen generative KI synthetische Bilder zur Verbesserung der optischen Inspektion verwendet.
Sind Datenschutz und Cybersicherheit bei KI-Anwendungen überhaupt problematisch?
KI hat, wie andere Software bzw. Software-as-a-service, zwei Risikokomponenten. Zum einen eine Schnittstelle ins Internet oder zu anderen Anwendungen, die Einfallstore für Angriffe von außen darstellen und zum anderen den Schutz der Daten, besonders diejenigen mit Personenbezug.
In der Datenschutz-Praxis stellen sich viele ungeklärte Rechtsfragen, sowohl was Entwicklung und Training der KI angeht als auch Betrieb, Nutzung und Interpretation der Ergebnisse. Soll KI in Verbindung mit personenbezogenen Daten genutzt werden, sind die Grundsätze des Datenschutzes zu beachten: Rechtmäßigkeit, Zweckbindung, Transparenz, Datenminimierung und Richtigkeit. Daneben sind Verantwortlichkeiten zu regeln, Verträge zu schließen, Prozesse festzulegen und Betroffenenrechte zu berücksichtigen.
Herausforderungen gibt es in vier Themenfeldern:
Verarbeitung großer Datenmengen
Bei der Diskussion wird es vor allem darum gehen, ob und wie personenbezogene Daten – z. B. bei der Erfassung und Verarbeitung von Fahrerdaten – bei Entwicklung und Training von KI-Anwendungen genutzt werden und ob diese im Rahmen der Nutzung oder durch gezielte Analysen wieder ausgegeben werden. Mit sogenannten Inversion-, Inference- oder Model Stealing-Angriffen wird beispielsweise versucht, an die Trainingsdaten von KI-Systemen zu gelangen.
Schlechte oder manipulierte Daten können dazu führen, dass KI-Modelle falsche Entscheidungen treffen oder anfällig für Angriffe werden. Das ist besonders für Unternehmen der kritischen Infrastruktur fatal.
Blackbox-Problematik
Die Datenschutzpflichten sind kaum mit dem „Black-Box-Prinzip“ neuronaler Netze vereinbar. Wie sollen Anwender erkennen, welche Merkmale und Interaktionen zu einem bestimmten Ergebnis geführt haben? Betroffenenrechten im Sinne der Datenschutzgesetze zu gewährleisten dürfte damit zur Herausforderung werden.
Die Intransparenz behindert auch die Fähigkeit, Sicherheitsvorfälle zu analysieren und zu verstehen. Das kann dazu führen, dass Sicherheitslücken unentdeckt bleiben.
Nutzung von KI durch Cyberkriminelle
KI wird zunehmend von Cyberkriminellen genutzt, um effizientere Schadsoftware zu entwickeln und Phishing erfolgreicher zu machen. Das wird zu neuen Angriffswellen auf Unternehmen führen, z. B. mit täuschend echt gestalteten Anfragen oder Deep Fakes, um Mitarbeitende und IT-Systeme zu täuschen.
Verantwortlichkeiten und rechtliche Rahmenbedingungen
Neben dem Rahmenregelwerk der EU (AI-Act) bleiben die Datenschutz-Grundverordnung in Verbindung mit dem Bundesdatenschutzgesetz zu beachten, was Auswirkungen auf die Rechte von Betroffenen z. B. im Zusammenhang mit automatisierten Entscheidungen im Einzelfall hat.
Leitplanken für den Umgang mit KI - Handlungsempfehlungen für die Automobilwirtschaft
Um das Potenzial von KI in der Automobilwirtschaft verantwortungsvoll zu nutzen, gilt es, Datenschutz und IT-Sicherheit mitzudenken und rechtssichere Prozesse zu entwickeln.
- Eigene KI-Leitlinien entwickeln: Diese sollten im Kontext der eigenen Organisation verfasst werden. Dazu gehört ein Aushandlungsprozess, der die Unternehmensstrategie, mögliche Einsatzszenarien aber auch ein Verständnis über Grenzen und Nicht-Geltung umfasst.
- Schulung und Weiterbildung: Handlungsbedarf besteht beim Wissenstransfer zu Funktionsweisen, Risiken und Möglichkeiten für Mitarbeitende im Umgang mit KI. Insbesondere Fach- und Führungskräfte sollten über ein solides Verständnis zu Möglichkeiten und Grenzen von KI verfügen.
- Implementierung mit Augenmaß: Der Einsatz von KI-gestützten Systemen im Kontext Datenschutz ist nicht grundsätzlich problematisch. So ist es beispielsweise mittels „Grounding“ und „Retrieval-Augmented Generation“ (RAG) möglich, Daten aus Fachanwendungen in Verbindung mit Sprachmodellen zu nutzen, ohne dass ein spezielles Training und die Speicherung von persönlichen Daten in neuronalen Netzen erforderlich sind.
- Auswahl der KI-Anbieter: KI-Anbieter sollten sorgfältig ausgewählt werden, mit Prüfung von Datenschutzvereinbarungen bzw. Datenschutzverträgen (Auftragsverarbeitung bzw. gemeinsame Verantwortung), Datensammlung zur Service-Verbesserung sollten ausgeschlossen und zugesagt werden, dass mit Fragestellungen und den erzeugten Antworten kein weiteres Training erfolgt.
Eine Einführung mit Augenmaß, die die Anonymisierung und Pseudonymisierung der verwendeten Daten im Fokus hat, proaktive Sicherheitsmaßnahmen für die Cybersicherheit entwickelt – auch im Hinblick auf Operational Technology –, die Sicherheitsarchitektur in Autohäusern und Servicebetrieben neu denkt, regelmäßig Folgen für den Datenschutz abschätzt und den engen Austausch zwischen Zulieferern, Softwareanbietern und Behörden sucht, kann die Risiken der neuen Technologie aktiv managen und die Chancen für die eigenen Prozesse nutzen.