Ein Beitrag von Nils Klute, IT-Fachredakteur und Projektmanager IoT beim eco – Verband der Internetwirtschaft e. V.
Künstlich intelligente (KI) Entscheidungen müssen für alle Beteiligten vertrauenswürdig sein. Nicht nur, um die gewünschte Akzeptanz und Akzeptabilität zu erreichen, sondern auch, um Europa als KI-Standort voranzubringen, sagt Dr. Ali Sunyaev. Der Professor für Informatik am Karlsruher Institut für Technologie (KIT) erklärt im Interview, was KI vertrauenswürdig und verlässlich macht.
Herr Sunyaev, warum muss künstliche Intelligenz (KI) vertrauenswürdig sein?
Weil Vertrauenswürdigkeit die KI für alle Beteiligten verlässlicher macht. Nicht nur, um Schäden zu verhindern, sondern auch, um Entscheidungen und Vorhersagen von KI bei Bedarf beziehungsweise in bestimmten Kontexten auch nachvollziehen zu können.
Heißt praktisch?
Zum Beispiel, dass sich eine KI an Regeln, Gesetze und Vorschriften hält, ethische, soziale und gesellschaftliche Normen wahrt und natürlich technisch robust ist.
Warum braucht die Industrie KI mit diesen Merkmalen?
Ein Beispiel: In einer Fabrik steuert KI autonom Anlagen und Geräte. Sollen Mensch und Maschine dann Seite an Seite zusammenarbeiten, muss gewährleistet sein, dass eine KI jederzeit Mitarbeiter von Gegenständen unterscheiden kann. Werden echtzeitliche Prozesse intelligent automatisiert, ist das nicht nur technologisch herausfordernd, sondern auch sicherheitsrelevant. Wenn KI auf Ebene des Managements eingesetzt wird, sollte sichergestellt sein, dass Vorhersagen und Empfehlungen von KI ethischen und sozialen Grundsätzen folgen, weil auch wirtschaftliches Handeln diesen Grundsätzen folgen muss.
Wo liegen die Probleme?
In Anwendungen ist KI noch viel zu oft eine Black Box. Wie neuronale Netze Vorhersagen treffen, ist selbst für Experten nur schwer bis gar nicht nachvollziehbar. Dies ist übrigens in manchen Kontexten aber auch wünschenswert beziehungsweise sogar gefordert – in den meisten Fällen ist allerdings das Gegenteil der Fall. Darüber hinaus ist KI mitnichten ein neutraler Rategeber. Jede Entscheidung ist von Vorurteilen behaftet, einem Bias, dem die Daten, die ein Algorithmus verarbeitet, selbst unterliegen. Aus Gründen wie diesen hat IBM Anfang Juni erklärt, nicht mehr länger Gesichtserkennungssysteme für die Polizei anzubieten.
Und wie sieht eine mögliche Lösung aus?
Man könnte KI verlässlicher machen, indem man sie mit der Distributed Ledger-Technologie (DLT) kombiniert…
…Algorithmus trifft also Blockchain?
Nicht ganz, auch das Konzept der Blockchain sieht ja Algorithmen vor. Eher: KI-Anwendungen und DLT-Systeme lassen sich kombinieren.
Welche Vorteile bietet das?
KI kann etwa Sicherheitslücken in DLT-Systemen erkennen. Beispiele hierfür sind das Auffinden von Bugs in Smart Contracts oder eine spieltheoretische Analyse der Fairness von DLT-Systemen. Andersherum lassen sich DLT-Systeme auf KI übertragen, um beispielsweise Entscheidungen beziehungsweise Vorhersagen lückenlos nachvollziehbar zu dokumentieren, die Integrität der Trainingsdaten zu sichern, Zugriffsrechte zu schützen und Identitäten zu managen, sodass jederzeit eindeutig geregelt ist, was eine KI überhaupt darf.
Welche Anwendungen bieten sich dafür in der Industrie?
Dezentrale Datenmarktplätze lassen sich aufbauen, Informationen sicher teilen und Silos sprengen. Beispielsweise lassen sich mit Federated Learning KI-Agenten lokal dort trainieren, wo die Industrie Daten speichert. Am Ende teilen Firmen keine Informationen, sondern aggregierte KI-Modelle, deren Integrität wiederum die DLT sichert. So bleiben Wettbewerbsinteressen gewahrt. Auch dann, wenn in einem Unternehmen zu wenig Trainingsdaten vorhanden sind, löst der verteilte Ansatz das Dilemma.
Wie kann das im Projekt Service-Meister helfen?
Eingesetzt in der Wartung kann die DLT gewährleisten, dass Trainingsdaten vertrauenswürdig sind. Oder sind Servicedaten nur in kleinen Mengen dezentral und lokal verteilt bei Anwenderunternehmen verfügbar, könnte Federated Learning dabei helfen, KI-Anwendungen überhaupt anzulernen. Aggregierte und ausgereifte KI-Modelle lassen sich manipulationssicherer austauschen, was zum Beispiel bessere Prognosen für Predictive Maintenance ermöglicht. Ein Ergebnis, von dem alle Teilnehmer im Serviceökosystem für die Industrie 4.0 profitieren – ohne das sie dafür ihre Daten preisgeben müssten.
Wie gut passen Industrieservice und vertrauenswürdige KI für Sie zusammen?
Vertrauenswürdige KI aus Deutschland und Europa hat das Potential, ein Erfolgsprodukt zu werden. Auch ein Projekt wie Service-Meister rund um den B2B-Plattformmarkt ist hier sicherlich spannend – nicht nur um die intelligente Maschinenwartung voranzubringen, sondern Europa als Standort für verlässliche KI.
Wir danken für das Gespräch!
Dr. Ali Sunyaev ist Professor für Informatik und Direktor am Institut für Angewandte Informatik und Formale Beschreibungsverfahren (AIFB) des Karlsruher Instituts für Technologie (KIT). Mit über 9.000 Beschäftigten und einem Jahresbudget von knapp 800 Millionen Euro ist das KIT eine der weltweit größten Forschungs- und Lehreinrichtungen mit dem Potenzial, auf ausgewählten Forschungsgebieten eine weltweite Spitzenposition einzunehmen.