(Quelle: Fraunhofer IPA/Foto: Rainer Bez)
Studienreihe beleuchtet Chancen der Künstlichen Intelligenz
Ein Forschungsteam vom KI-Fortschrittszentrum »Lernende Systeme und Kognitive Robotik« hat zehn Studien zur Künstlichen Intelligenz (KI) erarbeitet. Sie sollen Unternehmen dabei helfen, KI-basierte Anwendungen und deren Kommerzialisierung voranzutreiben. Im Fokus stehen Produktion, Wissensarbeit, Bauwirtschaft und Kundenservice.
»Zwischen Forschung und Anwendung klafft beim Thema KI eine Lücke«, stellt Forscher Xinyang Wu vom Fraunhofer IPA fest. »In der Industrie werden die neuen KI-Anwendungen nur zögerlich eingesetzt. Sie gelten als nicht zuverlässig genug für sicherheitskritische Anwendungen.« In der Tat gibt es bisher weder Normen noch standardisierte Tests, um die Zuverlässigkeit von KI zu gewährleisten.
Zertifizierte KI für sicherheitskritischen Anwendungen
Diese wären jedoch dringend nötig, betont Wu: »Ziel muss es sein, die Entscheidungen, die von Algorithmen gefällt werden, zertifizierbar und transparent zu machen. So muss zum Beispiel die Nachvollzierbarkeit gewährleistet sein: Wenn eine Maschine selbstständig Entscheidungen fällt, dann muss ich – zumindest im Nachhinein – herausfinden können, warum sie in einer bestimmten Situation einen Fehler gemacht hat. Nur so lässt sich verhindern, dass dieser wieder auftritt. Black-Box-Modelle, bei denen man die Entscheidung der Algorithmen nicht nachvollziehen kann, sind nach unserer Einschätzung für sicherheitskritische Anwendungen nicht direkt für den Einsatz geeignet – es sei denn das Modell wird durch die richtige Methode zertifiziert.«
Ein Forschungsteam um Wu hat deshalb fünf Kriterien benannt, die KI-Systeme erfüllen müssen, um als sicher zu gelten. In ihrem Whitepaper »Zuverlässige KI – KI in sicherheitskritischen industriellen Anwendungen einsetzen« schlagen sie außerdem eine Strategie für die Zertifizierung vor und berichten über den Stand der entsprechenden Technik.
Die Entscheidungen eines KI-Systems müssen nachvollziehbar sein
Weitere Grundvoraussetzungen für den sicheren Einsatz von KI-Systemen in der Industrie sind Transparenz und Erklärbarkeit. Denn je anspruchsvoller die Aufgabe ist, die ein KI-Modell lösen soll, desto komplexer ist es aufgebaut. Und damit sind die Lösungswege für Menschen leider sehr schwer nachzuvollziehen und in manchen Fällen sogar undurchschaubar. Doch die Nutzer wollen insbesondere bei kritischen Anwendungen verstehen, wie eine Entscheidung zustande gekommen ist. Außerdem verlangt die europäische Datenschutzgrundverordnung nachvollziehbare Entscheidungen. Um dieses Problem zu lösen, ist ein ganz neues Forschungsfeld entstanden: die »Explainable Artificial Intelligence«, kurz: xAI.
Auf dem Markt gibt es inzwischen zahlreiche digitale Hilfen, die komplexe KI-Lösungswege erklärbar machen. Ein Forschungsteam um Nina Schaaf und Professor Marco Huber, einem der drei Leiter des KI-Fortschrittszentrum, hat für die Studie »Erklärbare KI in der Praxis – Anwendungsorientierte Evaluation von xAI-Verfahren« neun gängige Erklärungsverfahren miteinander verglichen und mithilfe von beispielhaften Anwendungen bewertet.
Cloud-basierte Plattformen im Vergleich
KI hilft dabei, Produktionsabläufe zu optimieren und so Geld zu sparen. Kleinen und mittleren Unternehmen fehlt allerdings oft die Expertise, um diese Zukunftstechnologie zu nutzen. Sie können zwar die nötigen Daten sammeln, scheitern jedoch an deren Analyse. Hier helfen große Cloud-Anbieter. Aber welche Plattform ist für welche Aufgabe geeignet?
Forscher vom KI-Fortschrittszentrum haben deshalb in einer Studie die Ansätze der vier größten Anbieter – AWS, Google, IBM und Microsoft – verglichen. Sie setzten Lösungen für vier Anwendungsfälle um, die in der Praxis häufig vorkommen und vier Kategorien von Daten umfassen: Tabellarische Daten, Text-, Bild- und Zeitreihendaten.
Die Experten kommen zu dem Schluss, dass die Lösungen aller Anbieter kein tiefes Fachwissen voraussetzen. Manche Plattformen lassen sich aber intuitiver bedienen als andere. Auch laufen manche KI-Modelle nur auf der Cloud des Anbieters, andere können auch exportiert und auf unternehmenseigenen Servern installiert werden. Welche Plattform für welchen Anwendungsfall empfohlen werden kann, wird in der Studie »Cloudbasierte KI-Plattformen – Chancen und Grenzen von Diensten für Machine Learning as a Service« dargestellt.
Studien stehen kostenlos zum Download bereit
In weiteren Studien, die Forscherinnen und Forscher vom KI-Fortschrittszentrum geschrieben haben, geht es um:
- Menschzentrierte KI-Anwendungen in der Produktion – Praxiserfahrungen und Leitfaden zu betrieblichen Einführungsstrategien
- KI in der Bauwirtschaft – Einsatzmöglichkeiten für Planung, Realisierung und Betrieb von Bauwerken
- KI im Kundendatenmanagement – Einblicke in Anwendungsmöglichkeiten
- KI zur Verhinderung von Identitätsbetrug – Von der Kundenidentifikation zur Prävention von Verbraucherbetrug
- Kundenservice empathisch gestalten – Mit intelligenten Systemen zu einer nutzerzentrierten Kundeninteraktion
- Feinfühlige Technik – Praxiseinsatz von Neuroergonomie und Brain-Computer-Interfaces
- KI für die Wissensarbeit – Algorithmen, Modelle und Technologien zur Unterstützung von Wissensarbeit
Alle zehn Studien stehen auf der Webseite des KI-Fortschrittszentrums kostenlos zum Download zur Verfügung.
Ihr Ansprechpartner
Marco Huber
Wissenschaftlicher Direktor für Digitalisierung und KI
Telefon: +49 711 970-1960