Dokument wird geladen
-
Impressum/Inhaltsverzeichnis
-
Editorial
-
Allianz Industrie 4.0 Baden-Württemberg
Lukas Schleicher -
KI-Engineering – Definition und Herausforderungen
Julius Pfrommer -
PAISE® – Das Vorgehensmodell für KI-Engineering
Constanze Hasterok -
Toolkit zur Erzeugung von Erklärungen für komplexe KI-Verfahren im Engineering-Bereich
Elisabeth Peinsipp-Byma, Nadia Burkart -
KI-Engineering für die Überwachung von Dampf- und Gasturbinen
Christian Kühnert -
KI-Engineering für die smarte Baustoffproduktion
Christian Weißenbacher -
Maschinelles Lernen und Simulation für automatisierte Mobilitätssysteme
Masoud Roschani, Jens Ziehn -
Kontakt
Impressum INHALT Essay Seite 4 Allianz Industrie 4.0 Baden-Württemberg Lukas Schleicher Themen Seite 6 KI-Engineering – Definition und Herausforderungen Julius Pfrommer Seite 8 PAISE® – Das Vorgehensmodell für KI-Engineering Constanze Hasterok Seite 10 Toolkit zur Erzeugung von Erklärungen für komplexe KI-Verfahren im Engineering-Bereich Elisabeth Peinsipp-Byma, Nadia Burkart Seite 12 KI-Engineering für die Überwachung von Dampf- und Gasturbinen Christian Kühnert Seite 13 KI-Engineering für die smarte Baustoffproduktion Christian Weißenbacher Seite 14 Maschinelles Lernen und Simulation für automatisierte Mobilitätssysteme Masoud Roschani, Jens Ziehn visIT erscheint etwa vier Mal pro Jahr und informiert über ausgewählte Forschungs- themen des Fraunhofer IOSB. Für die Bestellung von Einzelheften, ein kostenloses visIT-Abo sowie für Adressänderungen und Abbestellungen schicken Sie bitte eine E-Mail an publikationen@iosb.fraunhofer.de Herausgeber Prof. Dr.-Ing. habil. Jürgen Beyerer Redaktion Ulrich Pontes Layout Anja Wollfarth Druck Stork Druckerei GmbH 76646 Bruchsal Anschrift der Redaktion Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB Fraunhoferstr. 1 76131 Karlsruhe Telefon +49 721 6091-300 Fax +49 721 6091-413 presse@iosb.fraunhofer.de © Fraunhofer IOSB Karlsruhe 2021 Ein Institut der Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e. V. München 22. Jahrgang ISSN 1616-8240 Bildquellen Titelbild: CC-KING Seite 4 + 5: Wikipedia Seite 11: Samdraft auf Pixabay Alle anderen Abbildungen: © Fraunhofer IOSB Nachdruck, auch auszugsweise, nur mit vollständiger Quellenangabe und nach Rücksprache mit der Redaktion. Belegexemplare werden erbeten. KI-Engineering 2 vis IT
Editorial Prof. Dr.-Ing. habil. Jürgen Beyerer Liebe Freunde des Fraunhofer IOSB, KI befasst sich mit der Schaffung technischer Systeme, die automatisiert kognitive und intellektuelle Aufgaben lösen können. Die Leistungsfähigkeit heutiger Rechner ermöglicht es, dass KI-Verfahren in ausgewiesenen Szenarien, z.B. bei der Objekterkennung in Bildern und Videos, deutlich effektiver und effizienter sind als der Mensch, vor allem dann, wenn Zusammenhänge und Muster in riesigen Datenmengen gelernt werden sollen. Aber können KI-Methoden auch verlässlich und planbar in technischen Systemen eingesetzt werden? Wie muss man schon beim Entwurf vorgehen, damit sich eine Ingenieurin oder ein Ingenieur auf zugesagte Leistungsparameter verlassen kann? Das Fraunhofer IOSB hat sich auf die Fahnen geschrieben, diese Fragen mit einer neuen, mehrere Kompetenzfelder überspannenden Disziplin, dem KI-Engineering, zu erforschen und zu bearbeiten. Dieses Heft widmet sich dieser Thematik. Der Gastbeitrag von Lukas Schleicher vom VDMA bzw. der Allianz Industrie 4.0 Baden- Württemberg stellt die Perspektive des Mittelstands beim Einsatz von Industrie 4.0 und KI dar. Julius Pfrommer definiert den Begriff und die Dimensionen des KI-Engineering und erläutert die methodischen Herausforderungen. Dr. Constanze Hasterok präsentiert PAISE®, unser neues Vorgehensmodell für KI-Engineering. Elisabeth Peinsipp-Byma und Nadia Burkart beschäftigen sich mit der Frage der Erklärbarkeit in komplexen KI-basierten Systemen, ein wesentlicher Baustein für KI-Engineering. In den abschließenden Beiträgen stellen Christian Kühnert, Christian Weißenbacher, Masoud Roschani und Jens Ziehn Anwendungsbeispiele des KI-Engineering für die Domänen Pro- duktion und Mobilität vor. Die Praxisbeispiele stammen aus unserem Kompetenzzentrum für KI-Engineering Karlsruhe CC-KING, das wir als Fraunhofer IOSB gemeinsam mit dem FZI Forschungszentrum Informatik und dem Karlsruher Institut für Technologie (KIT) ins Leben gerufen haben. Unternehmen und wirtschaftsnahe Organisationen sind über den Innovations- beirat eingebunden. Wenn Sie mehr darüber wissen wollen, schauen Sie vorbei auf den CC-KING-Seiten unter https://www.ki-engineering.eu. KI-Engineering – ein spannendes und zukunftweisendes Thema! Wir wünschen viel Freude und Anregungen bei der Lektüre unseres KI-Engineering-Heftes. Fraunhofer IOSB, im Dezember 2021 Prof. Dr.-Ing. habil. Jürgen Beyerer Dr.-Ing. Thomas Usländer Dr.-Ing. Thomas Usländer vis IT 3 KI-Engineering
Essay ALLIANZ INDUSTRIE 4.0 BADEN-WÜRTTEMBERG Baden-Württemberg ist geprägt – von was eigentlich? Man denkt gleich an ganz Unter- schiedliches und doch an dasselbe: Wir sind nicht nur das Land der Tüftler und Visionä- rinnen, sondern haben auch landschaftlich einiges zu bieten: Barocke Schlösser oder der mystische Schwarzwald locken Touristen aus aller Welt an. Romantische Industrie- denkmäler im Schwarzwald zeugen ebenso von hervorragender Ingenieurskunst wie ganze Städte, die nach den Vorstellungen damaliger Stadtplaner vom Reißbrett aus entworfen wurden. Und zu guter Letzt denkt man an bodenständig und nachhaltig agier- ende Familienunternehmen. SORGFALT UND VIELFALT Doch was das Land wirklich ausmacht ist die Kombination aus all dem. Das Hightech- Unternehmen aus dem Schwarzwald, von dessen Innovationen die Lieferketten ganzer Branchen abhängen, steht exem- plarisch dafür. Diese Unternehmen verkör- pern genau diese scheinbaren Gegensätze: Hightech, ländlicher Raum, kleine Unterneh- men, nachhaltiges Denken, kurze Wege und Tradition. HERAUSFORDERUNGEN DES MITTEL- STANDS Wenngleich das Ländle hervorragende Ex- pertise im digitalen Bereich aufweist, erge- ben sich durch die digitale Transformation für sie ganz besondere Herausforderungen. Beispielsweise wurde in Baden-Württem- berg die erste deutsche Informatikfakultät an der technischen Hochschule etabliert, deren Alumni auch den heute größten Vom Patent-Motorwagen Nr. 3 bis zur automatisierten Fabrik hat sich vieles verändert, aber eines ist gleich geblieben: der Pioniergeist der Tüftler und die Innovationskraft des ganzen Landes. KI-Engineering 4 vis IT VDMA Baden-Württemberg/ Allianz Industrie 4.0 Baden-Württemberg T Lukas Schleicher M.Sc. K A T N O K Telefon +49 711 22801 29 lukas.schleicher@vdma.org https://www.i40-bw.de
Zur Zeit von Carl Benz hätte sich noch keiner etwas unter Automatisierungstechnik vorstellen können. Heute ist keine Fabrik mehr ohne möglich. Was mit Maschinellem Lernen zukünftig möglich ist, ist heute schwer abschätzbar. europäischen Softwarekonzern gegründet haben. Um Fachkräfte buhlen nun etablierte Industriekonzerne, Silicon-Valley-Mono- polisten und Familienunternehmen »von der Alb« gleichermaßen. Aber gerade bei digitalen Produkten kommt eine weitere Herausforderung hinzu: Viele Produkte skalieren mit der Größe. Die Implementie- rungskosten unterscheiden sich unwesent- lich im Verhältnis zum Nutzen, der mit der Breite der Anwendung skaliert. Gerade bei kleinen Stückzahlen von hoch spezialisierten Anwendungen ergibt sich ein struktureller Nachteil: Die Sprachsteuerung eines Smart- phones hat potenziell 100 Millionen (mutter- sprachliche) Anwender, womit das Reservoir an Datenspendern groß ist. Außerdem las- sen sich Entwicklungskosten auch auf po- tenziell 100 Millionen Anwender umlegen. Die Zahl der Laserschneidemaschinen auf der Welt bewegt sich in einer wesentlich kleineren Größenordnung. Wenn man bei einer solchen Maschine die Prozesse daten- getrieben optimieren will, ist das eine ganz andere Herausforderung: Die Datenmenge stützen. So komplex manches Datenmodell auch sein mag, Probleme liegen oft in orga- nisatorischen Fragen. Dabei ergibt sich viel Potenzial, den Unternehmen die Umsetzung zu erleichtern: von der interdisziplinären Ausbildung und dem Etablieren einer eige- nen Fachdisziplin eines KI-Ingenieurswesen bis hin zu standardisierten, systematischen Vorgehensweisen. Ziel soll sein, Projekte schnell und einfach skalieren zu können und früh Erfolgsaussichten des Projekts einzuschätzen! ist viel geringer und die auf die einzelne Maschine umgelegten Kosten sind viel höher. VORGEHENSMODELLE ETABLIEREN Was also tun, um dem Problem zu begeg- nen? Es gibt viele Tech-Missionare und Evangelisten, Prediger der Transformation und Exorzisten des Etablierten. Sie reden aber an den tatsächlichen Bedarfen der Branche vorbei. Die Industrie ist sich den Chancen und Herausforderungen der digitalen Transformation durchaus bewusst. Die Allianz Industrie 4.0 Baden-Württem- berg begleitet seit 2015 den Mittelstand bei den damit verbundenen Herausforde- rungen. Statt immer neuer Bergpredigten geht es vor allem darum, Netzwerke aus Anwendern zu schaffen. Konkrete Lösungs- ansätze und bereits realisierte Projekte helfen, die abstrakten Potenziale im eigenen Unternehmen zu erkennen! Um »Künstliche Intelligenz (KI)« in die Breite zu bringen, kann auch KI-Engineering unter- Mehr Informationen zur Allianz Industrie 4.0 Baden-Württemberg unter www.i40.bw.de. vis IT 5 KI-Engineering
Themen KI-ENGINEERING – DEFINITION UND HERAUSFORDERUNGEN Systems Engineering ist die Disziplin, kom- plexe technische Systeme zu entwickeln und zu realisieren. Flugzeuge, Kraftwerke und Mobiltelefone sind Beispiele für komplexe Systeme, die von teils sehr großen Teams umgesetzt werden. Heute werden mehr und mehr KI-Lösungen in Gesamtsysteme integriert, um diese performanter, autonom handelnd oder sogar lernfähig und selbst- optimierend zu machen. Die Entwicklung KI-basierter Lösungen passiert aber noch vielfach ad-hoc und in einem kleinen Team – nicht unähnlich einem Forschungsprojekt. Im Kontrast dazu adressiert KI-Engineering die systematische Entwicklung und den Be- trieb von KI-basierten Lösungen als Teil von Systemen, die komplexe Aufgaben erfüllen. Dabei wird das Kunstwort KI-Engineering auf Englisch übersetzt als »AI Systems En- gineering«. In der Folge werden die Herausforder- ungen von KI-Engineering anhand von vier komplementären Sichtweisen (siehe Abbildung 1) auf das Thema aufgezeigt. ANWENDUNGSDIMENSIONEN Die von KI-Engineering adressierten An- wendungen unterscheiden sich von denen »normaler KI«. Typischerweise treten eine oder mehrere der folgenden Eigenschaften zu Tage. Kritikalität bezieht sich auf die Auswir- kungen eines nicht funktionierenden Sys- tems auf Sicherheit (für Menschen und Systeme), geschäftskritische Funktiona- lität, Datenschutz und weitere Risiken. Wenn die Kritikalität hoch ist, werden spezielle Maßnahmen und möglicher- weise eine offizielle Zertifizierung benö- tigt, um die korrekte Funktion des Gesamt- systems sicherzustellen, in das die KI- Lösung integriert ist. Organisatorische Komplexität bezieht sich auf den Mehraufwand, der nötig ist, um die Entwicklung und den Betrieb eines KI-Systems zu koordinieren. Dies ist be- sonders relevant bei Arbeiten in großen, heterogenen Teams oder bei notwendigen Abstimmungen, Austausch von Daten etc. über mehrere Firmen hinweg. Physikalität bezieht sich darauf, wie stark die Anwendung Bezug zur physischen Welt und eine direkte Beziehung zu den Natur- wissenschaften (Physik, Chemie etc.) bzw. den traditionellen Ingenieursdisziplinen hat. Je unmittelbarer eine KI der physikali- schen Welt zugehörig ist, desto mehr Vorwissen kann als »physikalische Grund- wahrheit« integriert werden. HERAUSFORDERUNGEN IM ENTWICKLUNGSPROZESS Die Entwicklung KI-basierter Lösungen und insbesondere der Einsatz datengetriebener Verfahren ist häufig schwer mit klassischem Vorgehen in den Ingenieurdisziplinen verein- bar. Für die Entwicklung einer KI-Lösung werden meist iterativ (agil) Lösungsansätze umgesetzt und empirisch validiert. Das kann die Finalisierung des High-Level-Designs auch für die anderen Gewerke in einem Gesamtsy- stem verzögern. Kommen datengetriebene Verfahren (Machine Learning) zum Einsatz, so sind früh hinreichend Daten zu beschaffen, die denen aus dem Betrieb stark ähneln. Ist das Gesamtsystem aber erst in der Entwick- KI-Engineering 6 vis IT T T K K A A T T N N O O K K Dr.-Ing. Julius Pfrommer Informationsmanagement und Leittechnik (ILT) Fraunhofer IOSB Karlsruhe Telefon +49 721 6091-286 julius.pfrommer@iosb.fraunhofer.de www.iosb.fraunhofer.de/ILT
Kritikalität Organisatorische Komplexität (Bezug zur) Physischen Realität Anwendungsdimensionen Spannungsfeld zwischen linearer und iterativer Entwicklung Rechtzeitige Verfügbarkeit der richtigen und ausreichenden Daten etc. Herausforderungen für den Entwicklungsprozess Langfristiger Betrieb KI-basierter Lösungen Dauerhaft verfügbare KI-Ausführungsumgebung Modellüberwachung Befähigung des System- Betreibers bezgl. Wartung und Modell-Updates etc. Grundlegende technische Fragestellungen A-priori Charakterisierung der Leistungsfähigkeit von KI-basierten Lösungen Umgang mit Distributional Shifts (veränderliche Umgebungs- bedingungen zwischen Entwicklung und Betrieb) etc. Abbildung 1: Strukturierung der Herausforderungen von KI-Engineering lung, können Daten aus dem Betrieb manch- mal noch nicht beschafft werden. Dann kann auf speziell entwickelte Simulations- Umgebungen zurückgegriffen werden. Weiterhin ist sicherzustellen, dass die Aus- führungsumgebung, in der die KI umgesetzt wird, über die gesamte Lebensdauer des Systems trägt. LANGFRISTIGER BETRIEB KI-BASIERTER LÖSUNGEN Komplexe technische Systeme sind häufig über Jahre und Jahrzehnte im Einsatz. In dieser Zeit entwickeln sie sich auch weiter. Über natürlichen Verschleiß und Wartung genauso wie über strukturelle Umbauten. Zunächst muss erkannt werden, ab wann die Annahmen der bisherigen KI-Lösung nicht mehr zutreffen und nachgebessert werden muss. Tritt der Fall ein, muss das System inklusive integrierter KI-Lösungen wieder in einen betriebsfähigen Zustand versetzt werden. Idealerweise wird der Betreiber befähigt Wartungen und kleine Modell-Updates selbst vorzunehmen. GRUNDLEGENDE TECHNISCHE FRAGESTELLUNGEN Obgleich KI-Engineering auf die Umsetzung komplexer Systeme im Unternehmenskon- text hinarbeitet, wurden auch Themen iden- tifiziert, die einen Beitrag der Grundlagen- forschung erfordern. Zum einen sollte es für den systematischen Einsatz von KI möglich sein, deren Performanz früh im Entwick- lungsprozess sicher abschätzen zu können. Heute kann in vielen Fällen die Performanz KI-basierter Lösungen nur empirisch und für einen bereits weit fortgeschrittenen Stand der Entwicklung gezeigt werden. Dies birgt Risiken für den Entwicklungsprozess. Eine weitere grundlegende Fragestellung ist der fundierte Umgang mit sogenannten Distributional Shifts. Die Umgebung, aus der Datensätze für Maschinelles Lernen ge- wonnen werden, entspricht dann nicht der späteren Anwendungsumgebung. Ursache dafür ist etwa eine graduelle Veränderung der Anwendungsumgebung über die Zeit oder auch die Anwendung eines einmal trainierten Modelles in parallelen Instanzen der Anwendung, mit spezifischen (kleinen) Unterschieden. KI-Engineering adressiert die genannten Herausforderungen mit dem Ziel eine Professionalisierung des Einsatzes von KI in komplexen Systemen zu erreichen. Nähere Informationen zum Thema auf: https://www.ki-engineering.eu/de/was-ist-ki- engineering.html vis IT 7 KI-Engineering
Themen PAISE® – DAS VORGEHENS- MODELL FÜR KI-ENGINEERING PAISE® steht für Process Model for AI Systems Engineering und bezeichnet das Vorgehensmodell für KI-Engineering. Es strukturiert den Entwicklungsprozess von KI-basierten Systemlösungen, wobei die Vorgehensweisen aus der Informatik und datengetriebenen Modellbildung mit denen klassischer Ingenieurdisziplinen kombiniert werden. In den letzten Jahrzehnten rücken maschi- nelle Lernverfahren (ML-Verfahren) als Un- tergruppe von KI-Algorithmen durch die zunehmende Verfügbarkeit von Daten vermehrt in den praktischen Vordergrund. Der ML-Algorithmus programmiert einfach gesagt eine Software zur Erfüllung einer gegebenen Aufgabe, indem er sogenannte Trainingsdaten analysiert und dort Muster und Zusammenhänge identifiziert. Die Funk- tionen der erstellten Software werden daher zum wesentlichen Teil durch die Zusammen- setzung und die Qualität der Trainingsdaten bestimmt. Dieser Ansatz bringt zwar einen immensen Effizienzgewinn in der Entwick- lung mit sich, stellt jedoch folgende neue Herausforderungen an den Produktentwick- lungsprozess: Zum einen lässt sich die die Performanz einer KI-basierten Lösung, speziell beim Einsatz von maschinellen Lernverfah- ren, nicht im Voraus verlässlich einschätzen, sondern muss empirisch ermittelt werden. Zum anderen werden bereits während der Entwicklung die Daten aus dem Betrieb be- nötigt, die oftmals nicht vorhanden sind. Das Vorgehensmodell PAISE® adressiert diese Herausforderungen und ist schematisch in Abbildung 1 dargestellt. Subsysteme mit klar definierten Schnittstellen zerlegbar ist. Diese Funktionale Dekomposition findet in der dritten Phase des Vorgehens- modells statt. Hier wird ein Systemmodell initial erstellt, welches als durchgehendes Artefakt während des Entwicklungszyklus in der fünften Phase kontinuierlich angepasst und verfeinert wird. ML-Verfahren können zum einen direkt in Subsysteme integriert werden, zum anderen können sie bei der Entwicklung von Hilfssystemen (engl. Enabling Systems) eingesetzt werden, die nicht Teil des Endprodukts sind. Soll zum Beispiel ein Notbremssystem entwickelt werden, welches im Gefahrenfall ein Auto autonom abbremst, so kann dies durch Detektion von Objekten in Kamerabildern erfolgen. Zum Gesamtsystem gehören in diesem Fall die Kamera, ein Subsystem, und der Detektor, welcher als KI-basiertes Subsystem (KI-Komponente) entwickelt wird. Hilfssysteme sind in diesem Szenario z. B. die Software, welche für die gegebene Kamera eine Optimierung der Befestigungs- position durchführt oder eine Datenbank, in der Aufnahmen der Kamera gespeichert werden können. Eine Besonderheit von PAISE® ist, dass auch Datensätze, welche für die Entwicklung von KI-basierten Subsystemen benötigt werden, im Systemmodell verortet werden. So wird nicht nur ein Vorgehen für die Entwicklung von ML-Komponenten vorgegeben, sondern auch für die Entwicklung von Datensätzen. Beide Vorgehen haben gemeinsam, dass sie gemäß eines V-Modells strukturiert sind und die Ergebnisse auf Basis von wohldefinierten Anforderungen und Metriken evaluiert werden. Dr. Constanze Hasterok Informationsmanagement und Leittechnik (ILT) Fraunhofer IOSB Karlsruhe Telefon +49 721 6091-602 constanze.hasterok@iosb.fraunhofer.de www.iosb.fraunhofer.de/ILT Im Sinne einer ingenieurmäßigen Vorgehens- weise beleuchtet PAISE® die Entwicklung eines Produkts als ein Gesamtsystem, das in Charakteristisch für PAISE® ist der Entwick- lungszyklus in der fünften Phase, der an agile Methoden aus der Softwareentwick- KI-Engineering 8 vis IT T K A T N O K
Legende Phase Subschritt Ergebnisse Entscheidung Ziele & Problemverständnis 1 2 3 Anforderungen & Lösungsansätze Funktionale Dekomposition Komponentenspezifikation & Subsystementwicklung Checkpoint-Strategie Subsystem Hilfssystem Datensatz KI- Komponente Entwicklungszyklus Verfeinerung Komponentenentwicklung Checkpoint/Bewertung Funktionale Dekomposition Komponentenspezifikation (Sub-)Systemprüfung und (Teil-)Integration Anforderungen erfüllt? Übergabe Subsystementwicklung Betrieb & Wartung Abbildung 1: Schematische Darstellung des Vorgehensmodells PAISE® lung angelehnt ist. Der Entwicklungszyklus besteht aus den Schritten Verfeinerung, Komponentenentwicklung und Checkpoint, deren iteratives Durchlaufen die empirische Ermittlung der Performanz von KI-basierten Komponenten erlaubt. Die Komponenten- entwicklung findet für alle Komponenten parallel und unabhängig voneinander statt. Zu den Checkpoints werden die Komponen- ten in das Gesamtsystem (teil-)integriert und dieses wiederum hinsichtlich der Anforder- ungen bewertet. Am Beispiel des Notbrems- systems kann ein exemplarischer Entwicklungs- zyklus folgendermaßen aussehen: In der Komponentenentwicklung wird der Detek- tor auf Basis erster frei verfügbarer Daten- sätze und initial abgeschätzten Spezifika- tionen entwickelt, während die Kamera zunächst ausgewählt und beschafft wird. Beim Checkpoint werden die Schnittstellen der Kamera und des Detektors miteinander verknüpft und Live-Bilder der Kamera vom Detektor ausgewertet. Es stellt sich heraus, dass die Objekterkennung nicht gut funk- tioniert, vermutlich weil die Auflösung der Kamera eine andere ist als die der Bilder- daten, auf denen der Detektor initial entwickelt wurde. In der darauffolgenden Verfeinerung wird beschlossen, einen Trainingsdatensatz zu entwickeln unter Nutzung der vorhan- denen Kamera. Gleichzeitig soll der Detektor robuster werden gegenüber unterschied- lichen Kameraauflösungen, sodass auch andere Kameratypen verwendet werden können. In der folgenden Komponenten- entwicklung wird der Detektor mit frei verfügbaren Datensätzen anderer Auflösung weiterentwickelt und der Datensatz nach dem von PAISE® vorgegebenen Vorgehen ent- wickelt. Ist dieser vorhanden, findet eine Über- gabe an die Detektorentwicklung zum näch- sten Checkpoint statt. Im nächsten Zyklus kann nun der Detektor auf Basis des neuen Datensatzes weiterentwickelt werden. Das Vorgehensmodell wurde innerhalb des Kompetenzzentrums für KI-Engineering (CC-KING) entwickelt und wird nun zusam- men mit kleinen und mittelständischen Unter- nehmen erprobt und verfeinert. Nähere Informationen zum Thema auf: https://www.ki-engineering.eu/de/wissen-tools/ paise.html Gefördert wird CC-KING vom Ministerium für Wirtschaft, Arbeit und Tourismus des Landes Baden-Württemberg. vis IT 9 KI-Engineering
Themen TOOLKIT ZUR ERZEUGUNG VON ERKLÄRUNGEN FÜR KOMPLEXE KI-VERFAHREN IM ENGINEERING- BEREICH Interaktive Analyse und Diagnose (IAD) Fraunhofer IOSB Karlsruhe T Dr. Elisabeth Peinsipp-Byma K A T N O K Telefon +49 721 6091-393 elisabeth.peinsipp-byma@iosb.fraunhofer.de www.iosb.fraunhofer.de/IAD Künstliche Intelligenz (KI) spielt eine immer wichtigere Rolle, da sie große Datenmengen schnell analysieren und basierend darauf hilfreiche Hinweise generieren kann. So können KI-basierte Lösungen in der Pro- duktion Ausfälle bestimmter Produktions- anlagen gezielt vorhersagen und damit die Möglichkeit geben, vorzeitig entgegenzu- wirken. Die KI-Verfahren bzw. deren interne Funktionsweisen sind für den Menschen jedoch oftmals kaum bis gar nicht zu ver- stehen und werden daher als »Black-Box- Modelle« bezeichnet. Insbesondere die in den letzten Jahren immer erfolgreicher gewordenen tiefen neuronalen Netze ge- hören zu dieser Art von KI-Verfahren. Sie bieten zwar eine hohe Vorhersagequalität, liefern aber keine Erklärungen für die Vor- hersagen. Eine zunehmend wichtige Voraus- setzung zum Einsatz einer KI ist jedoch, dem Menschen die Funktionsweise der Vorher- sagemodelle verständlich zu beschreiben. Nur so kann der Mensch dem KI-Verfahren und seinen Hinweisen vertrauen und ent- sprechend reagieren. Bedingt durch diesen Umstand rückt die Erklärbarkeit der Black- Box-Modelle von KI-Verfahren immer stärker in den Vordergrund. Das Forschungsfeld Explainable Artificial Intelligence (XAI) beschäftigt sich mit der Generierung nachvollziehbarer Erklärungen von Ergebnissen aus komplexen KI-Verfahren. Hierzu wird am Fraunhofer-Institut für Op- tronik, Systemtechnik und Bildauswertung IOSB seit vielen Jahren daran geforscht, wie Erklärungen für Entscheidungen von Blackbox-Modellen erzeugt werden können und welche Erklärungen den Menschen beim Verständnis für die KI-Entscheidung bestmöglich unterstützen. Dazu wurde eine XAI-Toolbox konzipiert, die für verschiedene KI-Verfahren bzw. die dahinter stehenden Blackbox-Modelle eingesetzt werden kann. Die XAI-Toolbox erzeugt schnell und zielge- richtet Erklärungen für ein Blackbox-Modell und stellt dazu verschiedene vorimplemen- tierte XAI-Methoden zur Verfügung. Dabei wird in der Toolbox zwischen zwei Arten von Erklärungen unterschieden: den globa- len und den lokalen Erklärungen. Globale Erklärungen beschreiben das Verhalten des T K A T N O K Nadia Burkart M.Sc. Interaktive Analyse und Diagnose (IAD) Fraunhofer IOSB Karlsruhe Telefon +49 721 6091-619 nadia.burkart@iosb.fraunhofer.de www.iosb.fraunhofer.de/IAD Abbildung 1: Lokale Erklärung für die Vorhersage einer Anomalie. KI-Engineering 10 vis IT
Abbildung 2: Globale Erklärung des Modells. gesamten Modells. D. h. es werden Abhän- gigkeiten über den gesamten gelernten Datensatz dargestellt. Lokale Erklärungen beziehen sich auf das Vorhersageergebnis des Modells zu einem einzelnen Datensatz. Es werden die Abhängigkeiten in Bezug auf eine einzelne Vorhersage beschrieben. Die Toolbox kann zur Erklärung des ge- samten Modells bzw. KI-Verfahrens sowie zur Erklärung einzelner Vorhersagen des KI-Verfahrens eingesetzt werden. Damit kann die Toolbox sowohl Entwickler und Entwicklerinnen des KI-Verfahrens als auch Nutzer und Nutzerinnen beim Einsatz des KI-Verfahrens durch das jeweils erforder- liche Verständnis für das Verhalten der KI unterstützen. Beispielsweise ist es im Bereich der Pro- duktion und der Instandhaltung von Anlagen wichtig, frühzeitig Anomalien und dadurch eventuell verursachte Störungen zu erken- nen. Dadurch können Stillzeiten und mög- liche Produktionsengpässe verhindert wer- den. Wenn dann ein KI-Verfahren – welches zur Unterstützung bei der Instandhaltung einer Produktionsanalge entwickelt wurde – vorhersagt, dass eine bestimmte Störung auftreten wird, ist es für die jeweiligen Mit- arbeitende wichtig zu wissen, wodurch diese auftreten. Hier helfen Erklärungen, gezielt die entsprechende Schwachstellen der An- lagen zu lokalisieren. Zudem können durch die Erklärungen die Störungen ganz konkret behoben werden, da genau ersichtlich ist, welche Komponente (z. B. ein Ventil) für die Störung zuständig ist. In Abbildung 1 ist das Ergebnis einer lokalen Erklärung für die Vor- hersage einer Anomalie dargestellt. Darauf ist links oben zu erkennen, dass der Eintritt einer Anomalie mit 90 Prozent (blau) vorhergesagt wird. Rechts oben sind die Merkmalwerte (engl. Feature) angezeigt (z. B. »Merkmal 0« = 10). In der Mitte ist dargestellt, welche Merkmale für eine An- omalie und welche für ein Normalverhalten sprechen. Dabei ist zu erkennen, dass das »Merkmal 0«, welches der Wert eines be- stimmten Ventils ist, am ausschlaggebends- ten für die vorhergesagte Störung ist. Am zweitwichtigsten ist »Merkmal 4« für einen Hinweis auf eine Anomalie. Der Instand- halter bzw. die Instandhalterin der Anlage kann somit schrittweise die Liste der Merk- male durchgehen und die entsprechenden Wartungsarbeiten durchführen (z. B. Ventil austauschen), um damit die vorhergesagte Störung zu vermeiden. In Abbildung 2 ist das Ergebnis einer globalen Erklärung für ein KI-Verfahren dargestellt. Diese Darstellung vermittelt, auf welchen Merkmalen das Vorhersagemodell für die Anomalien beruht, die in einer bestimmten Anlage auftreten können. Dabei ist zu er- kennen, dass das Auftreten einer Anomalie in den meisten Fällen mit dem »Merkmal 0«, wie auch bei der lokalen Erklärung, in Ver- bindung steht. Nähere Informationen zum Thema Erklärbare KI und zur Toolbox können auf der Webseite: https://www.iosb.fraunhofer.de/de/kompetenzen/ bildauswertung/interaktive-analyse-diagnose/ erklaerbare-ki.html gefunden werden. 11 vis IT KI-Engineering
Themen KI-ENGINEERING FÜR DIE ÜBERWACHUNG VON DAMPF- UND GASTURBINEN Abbildung 1: Beispiel eines Autoencoders. Eine klassische Anwendung des Condition- Monitorings großer Dampf- und Gasturbi- nensätze basiert auf der hochaufgelösten Schwingungsanalyse der Turbinen im lau- fenden Betrieb. Die erfassten Schwingungs- daten werden dabei rechnergestützt durch Experten ausgewertet, und bei erkannten Abweichungen vom Normalbetrieb werden Handlungsoptionen abgeleitet, um Schäden am Prozess zu vermeiden. Im Zuge der Ener- giewende werden Großturbinen alledings an Bedeutung verlieren und die Energie- erzeugung wird sich auf kleinere, dezen- tralere Industrieturbinen verlagern. Dies wiederum bedeutet, dass Experten in Zukunft mehr Maschinen gleichzeitig betreuen und überwachen müssen. Im Rahmen eines sogenannten QuickChecks (Projektlaufzeit eine Woche) wurde unter- sucht, inwiefern man eine auf KI bzw. ma- schinellem Lernen (ML) basierende Lösung entwickeln kann, um Experten bei der Über- wachung der Turbinen zu unterstützen. Seitens des maschinellen Lernverfahrens lässt sich diese Fragestellung als eine Form der Anomaliedetektion auffassen. Bei der Anomaliedetektion wird ein ML-Modell auf einem zuvor ausgewählten Datensatz trainiert und dieses Modell wird laufend KI-Engineering 12 vis IT mit aktuellen Messdaten abgeglichen. Wird in den Messdaten eine Abweichung zum Modell festgestellt, so wird davon ausge- gangen, dass eine Anomalie im Prozess aufgetreten ist. Zur Durchführung des QuickChecks wurden als maschinelles Lernverfahren ein Autoen- coder (siehe Abbildung 1) und Messdaten im Normalbetrieb der Anlage zum Training genutzt. Im nächsten Schritt wurde der Autoencoder gegen einen Datensatz mit einer enthaltenen Störung, im Detail einer thermischen Verformung der Turbine, getestet. Mittels des trainierten Modells war es möglich, die im Prozess auftretende Störung korrekt zu erkennen und die Fehler- quelle anhand der relevanten Sensoren zu detektieren. Die Ergebnisse haben gezeigt, dass mittels eines KI-gestützten Assistenzsystems eine vereinfachte Überwachung von Turbinen realisiert und Prozessexperten auf diese Weise unterstützt werden können. Zudem wurde im QuickCheck noch auf eine mö- gliche Systemarchitektur zur Umsetzung der KI-Methodik in räumlich entfernten An- lagen eingegangen und diese hinsichtlich Skalier- und Wartbarkeit der KI bewertet. T K A T N O K Dr.-Ing. Christian Kühnert Mess-, Regelungs- und Diagnosesysteme (MRD) Fraunhofer IOSB Karlsruhe Telefon +49 721 6091-511 christian.kuehnert@iosb.fraunhofer.de www.iosb.fraunhofer.de/MRD
KI-ENGINEERING FÜR DIE SMARTE BAUSTOFFPRODUKTION Abbildung 2: Bildentwurf für Datenkreislauf. Da KI-Engineering nicht nur die Entwicklung eines KI-Modells zur Analyse von Daten aus einem bestimmten Anwendungsfall betrachtet, sondern die gesamte Spannweite von der Beschreibung einer Zielstellung über die Kon- zeptentwicklung bis zur fertig entwickelten Lösung abdeckt, wurde in einem weiteren QuickCheck ein grundlegendes Konzept für eine Fragestellung entwickelt. Im Detail wurde untersucht, wie eine System- architektur für die automatisierte und konti- nuierliche Optimierung von Rezepturen von Baustoffen konzipiert sein muss. Die Bau- stoffe werden in Produktionsanlagen herge- stellt, die während der Produktion mit einer Vielzahl von Sensoren die Daten aufzeichnen, aber auch kontrollierbare Aktuatoren, wie beispielsweise Heizelemente, beinhalten. Diese Kombination aus Sensorinformation und Steuerbarkeit der Anlage bildet die Grundlage für den QuickCheck. Das entwickelte Konzept beschreibt einen Datenverarbeitungskreislauf, der sich an den Machine Learning Operations (MLOps)- Konzepten orientiert. In der Produktions- anlage werden kontinuierlich Produktions- daten (Mengen, Temperaturen, Qualitäts- indikatoren etc.) erfasst, diese werden automatisiert verarbeitet und in einer Datenbank abgelegt. In definierten Zyklen werden basierend auf der wachsenden Datenbasis neue Modelle trainiert, die zur Optimierung der Rezepturen genutzt werden können. Vor dem Einsatz eines neuen Modells wird die Güte des Modells – anhand definierter Kriterien – mit dem schon eingesetzten Modell verglichen. Nur wenn eine Verbesserung der Modellgüte erkennbar ist, wird ein Austausch vorge- nommen. Im Zuge einer praktischen Umsetzung wird im nächsten Schritt eine funktionale Dekomposition des konzipierten Gesamt- systems vorgenommen und die einzelnen Subsysteme genauer beschrieben, hinsicht- lich der an sie gestellten Anforderungen. Nachdem dies erfolgt ist, beginnt der Ent- wicklungszyklus des Systems. Wichtig ist, dass während des gesamten Ablaufs ein kontinuierlicher Austausch zwischen allen Beteiligten (Anlagenentwickler, Data Scien- tist, Softwareentwickler und Business Spon- sor) erfolgen muss, um ein solches System realisieren zu können. 13 vis IT KI-Engineering Christian Weißenbacher M.Sc. Telefon +49 721 6091-531 Informationsmanagement und Leittechnik (ILT) Fraunhofer IOSB Karlsruhe K O N T A K christian.weissenbacher@iosb.fraunhofer.de T www.iosb.fraunhofer.de/ILT
Themen M A S C H I N E L L E S L E R N E N U N D M O B I L I TÄT S S Y S T E M E Mess-, Regelungs- und Diagnosesysteme (MRD) Fraunhofer IOSB Karlsruhe T Dr. Masoud Roschani K A T N O K Telefon +49 721 6091-483 masoud.roschani@iosb.fraunhofer.de www.iosb.fraunhofer.de/MRD Die Herausforderungen an Datenbedarfen und Interpretierbarkeit maschineller Lern- verfahren und Künstlicher Intelligenz (KI), zu deren Lösung KI-Engineering einen Bei- trag leisten soll, zeigen sich in besonderer Ausprägung im Bereich der automatisierten Mobilitätssysteme: Mit der Einführung hoch- automatisierter Straßenfahrzeuge werden erstmals Systeme in Serie kommen, die in Alltagssituationen eigenständig hochsicher- heitskritische Entscheidungen treffen – Ent- scheidungen, in denen maschinelles Lernen zunehmende Bedeutung gewinnt. Andere Anwendungen, wie automatisierte Schie- nenfahrzeuge und Flugtaxis, werden in absehbarer Zeit folgen. Die zur sicheren Entwicklung und Erprobung notwendigen Datenumfänge werden dabei dramatisch steigen. Winner und Wachenfeld [1] führen etwa mit einer Beispielrechnung zu einer Größenordnung von 6,62 Mrd. Kilo- metern an Testfahrten, um nachzuweisen, dass ein Autobahnpilot sicherer fährt als der Mensch. Astronomische Größenordnungen wie diese – sie entspricht der Strecke von Karlsruhe bis zum Pluto – befördern die Relevanz von Simulationen, um Daten und Erprobungsszenarien bereitzustellen. Virtu- elle Testfahrten sollen KI-Verfahren im öffent- lichen Raum ohne reale Risiken an ihre Gren- zen bringen. Sie sollen große Datenmengen ohne Datenschutzrisiken und Aufwände in der manuellen Nachbearbeitung bereitstellen und die Komplexität der »offenen Welt« durch Transparenz und Reproduzierbarkeit handhabbar machen. Dazu müssen Simu- lationen die Realität sowohl in ihrer Breite (das heißt: in ihrem Variantenreichtum) als auch in ihrer Tiefe (das heißt: in ihren wissenschaftlich erforschten Funktions- prinzipien) abbilden können. Denn alle un- bekannten systematischen Verzerrungen in der Simulation können in diesem Einsatz- bereich gravierende, reale Konsequenzen haben. Aus diesem Grund wird am Fraunhofer IOSB – gemeinsam mit Partnern aus Fraunhofer-Gesellschaft, KIT, FZI und In- dustrie – die offene Simulationsplattform OCTANE (www.octane.org) entwickelt. Sie T K A T N O K Jens Ziehn M.Sc. Mess-, Regelungs- und Diagnosesysteme (MRD) Fraunhofer IOSB Karlsruhe Telefon +49 721 6091-633 jens.ziehn@iosb.fraunhofer.de www.iosb.fraunhofer.de/MRD Simulationsdaten aus der OCTANE-Plattform für KI-Anwendungen in der Mobilität: Detailgetreue Simu- lationen können helfen, KI-Verfahren schneller und zuverlässiger zu entwickeln und testen. Gleichzeitig können Simulationen selbst maschinelles Lernen nutzen, wie hier zur Synthetisierung von Texturen oder realitätsnaher Vegetation. KI-Engineering 14 vis IT
S I M U L AT I O N F Ü R A U T O M AT I S I E R T E KI- und ML-Verfahren werden mittlerweile erfolgreich für diverse Anwendungen und Sensordaten eingesetzt. Diese müssen für unterschiedliche Fragestellun- gen in unterschiedlichen Detailgraden simulativ nachgebildet werden, um je nach Bedarf kurze explorative und interaktive Entwicklungszyklen zu unterstüt- zen oder auch hochgenaue Detailberechnungen. ermöglicht durch hohe Modularität und Flexibilität ein konsistentes Zusammenspiel interdisziplinärer Modelle: Von der Erzeu- gung virtueller Szenarien über die psycho- logische Verhaltenssimulation anderer Ver- kehrsteilnehmer bis hin zu Detailmodellen. Letztere umfassen beispielsweise Fahr- und Flugdynamik, Funksignal-Ausbreitung oder Sensorik wie Kameras und Laserscanner. Eine konsistente Austauschbarkeit von Modellen ermöglicht es – je nach Fragestellung – jeden Aspekt in dem Detailgrad zu simulieren, der tatsächlich erforderlich ist. Denn das eine, »perfekte« Simulationsmodell eines realen Prinzips gibt es nicht: Je nach An- forderungen und Rechenkapazitäten können leichtgewichtige, grobe Modelle sinnvoller sein, oder aber hochkomplexe und detail- lierte Modelle. Dabei greifen solche Modelle mitunter ihrer- seits auf maschinelle Lernverfahren zurück – insbesondere dort, wo die Realität nur mit Mühe systematisch beschrieben werden kann. So wie KI-Verfahren lernen können, Bäume und Gesichter lediglich anhand vieler Beispiele zu erkennen (ohne Modelle biolo- gischer Prinzipien zu erfordern), können sie auch lernen, realistische und vielfältige Bil- der von Pflanzen und Personen zu erzeugen. Somit wird die Entwicklung von Simula- tionen erheblich darin beschleunigt, immer komplexere und umfangreichere Abbilder der realen Welt bereitzustellen. Auch hier zeigen sich Fragestellungen des KI-Enginee- rings, wenn es gilt, das Paradoxon zu lösen, wie Künstliche Intelligenz zuverlässig mit Verfahren erprobt werden kann, die selbst auf Künstlicher Intelligenz basieren. Um die Welt der KI mit quantitativen, systematischen Entwicklungsprinzipien zu verbinden, legt OCTANE einige Prinzipien zugrunde: Die transparente und durchgän- gig physikalische Modellierung sowie den konsequenten Fokus auf wissenschaftlich belegte Modelle und Analysen. Das soll die Anwendbarkeit ebenso sicherstellen wie die Validierbarkeit der Ergebnisse – und somit Werkzeuge bieten, um vertrauenswürdige Abbilder der Realität für die ingenieurmä- ßige, interdisziplinäre KI-Entwicklung zu schaffen. [1] H. Winner und W. Wachenfeld, „Die Freigabe des autonomen Fahrens", in Autonomes Fahren - Technische, rechtliche und gesellschaftliche Aspekte, Springer, 2015, S. 458. 15 vis IT KI-Engineering
Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB info@iosb.fraunhofer.de www.iosb.fraunhofer.de S TA N D O R T K A R L S R U H E Fraunhoferstraße 1 76131 Karlsruhe, GERMANY Telefon +49 721 6091-0 S TA N D O R T E T T L I N G E N Gutleuthausstraße 1 76275 Ettlingen, GERMANY Telefon +49 7243 992-0 K O N TA K T B Ü R O B E I J I N G Unit 0602G, Tower D1 DRC Liangmaqiao Office Building 19 Dongfangdonglu, Chaoyang District 100600 Beijing, PR China Telefon +86 10 6590 0620 muh@fraunhofer.com.cn Institutsteil für angewandte Systemtechnik Fraunhofer IOSB-AST www.iosb-ast.fraunhofer.de S TA N D O R T I L M E N A U Am Vogelherd 90 98693 Ilmenau, GERMANY Telefon +49 3677 461-0 info@iosb-ast.fraunhofer.de A U S S E N S T E L L E G Ö R L I T Z Wilhelmsplatz 11 02826 Görlitz , GERMANY Telefon +49 3581 7925354 joerg.laessig@iosb-ast.fraunhofer.de F O R S C H U N G S G R U P P E S M A R T O C E A N T E C H N O L O G I E S R O S T O C K Alter Hafen Süd 6 18069 Rostock, GERMANY Telefon +49 3677 461-124 thomas.rauschenbach@iosb-ast.fraunhofer.de Institutsteil für industrielle Automation Fraunhofer IOSB-INA www.iosb-ina.fraunhofer.de S TA N D O R T L E M G O Campusallee 1 32657 Lemgo Telefon +49 5261 94290-22 juergen.jasperneite@iosb-ina.fraunhofer.de