KI-Gespräch mit Doris Janssen

Hinweis: Für unsere Gesprächspartnerin Doris Janssen wird im Folgenden die Abkürzung „J” verwendet, während die Moderatorin Anne Elisabeth Krüger mit „K” abgekürzt wird.

Das Warm-Up:

K: Bitte vervollständige diese 3 Sätze ganz spontan

K: Was ich als Kind mit Computern gemacht habe, war…

J: In meiner Kindheit habe ich den Computer hauptsächlich zum Spielen genutzt. Das war der C64. Meine Facharbeit kam dann später, mit dem Anschluss an die elektrische Schreibmaschine, mit der gedruckt werden konnte.

K: Was KI besser kann als der Mensch ist…

J: Komplexe Zusammenhänge aus der Vergangenheit erkennen und daraus Prognosen für die Zukunft ableiten.

K: Wichtige Zukunftskompetenzen aus meiner Sicht sind…

J: Für mich sind es einerseits die Bereitschaft, sich lebenslang in neue Dinge einzuarbeiten und sich weiterzubilden. Andererseits sind soziale Kompetenzen wichtig und werden wahrscheinlich noch bedeutsamer.

K: Suche dir einen Gegenstand, anhand dessen du KI beschreiben kannst. Was bedeutet KI für dich persönlich?

J: Ich habe mich für eine Pflanze entschieden. KI ist für mich ein System, das in der Lage ist, sich selbst weiterzuentwickeln und über Grenzen hinausgeht. Ähnlich wie bei einer Pflanze kann der Mensch nicht genau vorhersagen, wie sich die KI entwickeln wird.

K: Kannst du daraus eine Definition zu KI ableiten?

J:

• Aus Sicht der Menschen ist KI ein digitales System, das so komplex ist, dass die Ursache-Wirkungszusammenhänge nicht mehr genau zu verstehen oder nachvollziehbar sind.
• Aus meiner Perspektive als Wirtschaftsinformatikerin ist KI ein selbstlernendes System, das nicht nur aus der Programmierung lernt, sondern auch aus seinen eigenen Datenbeständen.

K: In welchem Zusammenhang/Womit beschäftigst du dich mit KI?

J: Ein Schwerpunkt meiner Arbeit liegt in der Optimierung des Arbeitserlebens in der Interaktion zwischen Menschen und KI. Dabei erforsche ich, wie diese Zusammenarbeit auf ideale Weise gestaltet werden kann. In diesem Kontext befasse ich mich mit Themen der Arbeitswelt, insbesondere mit der partizipativen Gestaltung von KI. Mein Ziel ist es, durch Partizipationsarbeit und Sensibilisierung ein Mindset zu schaffen, das die positive Gestaltung von KI fördert. Ein zentrales Anliegen ist die menschenzentrierte Gestaltung von KI. Hierbei setze ich auf den Ansatz, Mitarbeiterinnen und Mitarbeiter aktiv in den Prozess der KI-Gestaltung einzubeziehen. Dadurch sollen Ängste vor der KI minimiert werden, sei es die Sorge vor Arbeitsplatzverlust durch den Einsatz von KI oder die Befürchtung, den Kompetenzanforderungen im Umgang mit KI nicht gerecht zu werden.

K: Was bedeutet für dich positive Gestaltung in Bezug auf KI?

J: Positiv gestalten heißt, dass die MitarbeiterInnen mit den Systemen zusammenarbeiten und wissen, wie die KI sie bei ihren Arbeitsprozessen am besten unterstützen kann. Bei der Arbeitsteilung mit KI gibt es die Fragestellung, wie autonom die Personen sind bzw. welchen Einfluss die Personen auf die Entscheidungen bei der Arbeitsteilung mit KI haben. Ich bin der Überzeugung, dass diese Frage von den Mitarbeitenden, die die KI nutzen, mitgestaltet werden sollte, um eine positive Erfahrung bei der Arbeitsteilung mit KI zu gewährleisten. Autonomie ist dabei eines von mehreren psychologischen Bedürfnissen, die bei der menschzentrierten Gestaltung von KI eine wichtige Rolle spielen. Wir vom IAO haben eine „EmpathyMap“ entwickelt inklusive Bedürfnisstatements, die speziell auf KI abzielen und KMUs dabei unterstützen, KI-Projekte menschengerecht zu planen. Sie kann auf verschiedenen Weisen verwendet werden: Als Kreativtool oder zur Dokumentation von Interviews und Gruppenworkshops

J: Ein weiterer wichtiges Themengebiet, mit dem ich mich befasse, ist Ethik und KI.

Ein bekanntes Thema sind hier sogenannte Bias: Wenn die KI aus historischen Daten lernt, die unerwünschtes Verhalten darstellen, dann sollte der Mensch diese Bias erkennen und adressieren. Ziel ist es, sicherzustellen, dass dieses Verhalten nicht in die Zukunft übertragen wird.

K: Was willst du den KMU zum Thema KI und Faktor Mensch mitgeben?

J: Die Betrachtung der KI sollte nicht als Selbstzweck und nicht nur aufgrund aktueller Trends erfolgen. Es ist entscheidend, sorgfältig zu überlegen, welche Art von Problemen mit KI gelöst werden soll. Dabei ist es wichtig zu reflektieren, wie eine KI sinnvoll und zielgerichtet zum Einsatz kommen kann. Es gibt ein sehr breites Feld an KI Lösungen, die sehr spezifische Anforderungen erfüllen, zum Beispiel welche die aus historischen Produktionsdaten lernen und daraus Prognosen stellen können. Man sollte sich also überlegen wie man in Zukunft nachhaltige Datensätze aufbauen kann um mit diesen Daten eine KI zu trainieren. Es gibt mittlerweile viele Angebote für KMUs, die dazu dienen eigenes Know-How aufzubauen. Das kann beispielsweise in Form eines Workshops stattfinden oder auch in sogenannten Machbarkeitschecks. KMUs sollten diese Chance ergreifen und sich damit vom Wettbewerb abgrenzen.

Angebote für KMUs:

• Eine Möglichkeit für Unternehmen, sich mit Demos und Workshop dem Thema KI anzunähern: https://ki-studios.iao.fraunhofer.de
• Forschungsergebnisse und Fallstudien zu KI im Praxiseinsatz bei Unternehmen: https://www.ergebnisse.ki-ultra.iao.fraunhofer.de/
• Individuelle Projekte, aber auch fundierte Studien zu Fachthemen im Bereich KI: https://www.ki-fortschrittszentrum.de/
• Die KI-Trainer der Mittelstand-Digital-Zentren: https://www.mittelstand-digital.de/MD/Navigation/DE/Praxis/KI-Trainer/ki-trainer.html]

K: Was ist dein Lieblings-KI-Tool?

J: In meinem Bereich nutze ich Chat GPT und Tools zur Bildgenerierung wie DALL-E. Früher hat man immer von Algorithmen geredet, die speziell für einen Anwendungsfall angepasst worden sind und Chat GPT war eines der ersten Tools, das „out oft he box“ einsatzbereit war und kommunizieren kann ohne, dass man Anwendung selbst vorher mit Daten „füttern“ muss. In meiner Arbeit nutze ich das von der Fraunhofer Gesellschaft organisationsintern zur Verfügung gestellte Fhgenie vor allem als kreativen Brainstorming-Partner. Fhgenie ist sozusagen wie Chat GPT ein Large Language Model (LLM), jedoch datenschutzkonform. Im Gegensatz zu anderen KI-Anwendungen stellt Fhgenie sicher, dass die Daten, die ich der Anwendung in Form von Befehlen gebe, nicht in unbekannter Weise für das Training des Modells genutzt werden.

Es ist auch wichtig zu betonen, dass man nicht immer auf die großen LLMs angewiesen ist, um gute Ergebnisse zu erzielen. Die Verwendung kleinerer, Open-Source-Modelle kann besonders hinsichtlich des ökologischen Fußabdrucks nachhaltiger sein.

K: Was man noch wissen sollte zu KI:

J:

• Es ist entscheidend, dass Personen, die mit KI interagieren, ein Verständnis dafür entwickeln, was die KI leisten kann und was nicht. Dies betrifft nicht nur die technische Ebene, sondern beinhaltet auch das Bewusstsein dafür, dass Sprachmodelle halluzinieren können. Es ist wichtig, solche Ergebnisse zu hinterfragen und auf alternative Wege zu überprüfen.
• Auch Data Literacy ist von großer Bedeutung. Dabei geht es darum zu verstehen, dass Daten wertvolle Güter sind und dass die Daten, die zur Fütterung der KI verwendet werden, korrekt und zuverlässig sein sollten. Es ist entscheidend, diese Daten auch für eine nachhaltige Verwendung aufzubewahren. Dabei spielt die Einhaltung der Datenschutzgrundverordnung (DSGVO) eine zentrale Rolle, insbesondere im Umgang mit personenbezogenen Daten. Idealerweise sollten diese Daten anonymisiert sein, um die Privatsphäre zu schützen.
• Der bewusste Einsatz von KI in Bezug auf den ökonomischen Fußabdruck ist von großer Bedeutung. Jede Google-Suche verbraucht Ressourcen, und insbesondere die Integration großer Sprachmodelle in Suchmaschinen kann den CO2-Verbrauch weiter erhöhen. Angesichts dessen, dass häufig die gleichen Fragen täglich gestellt werden, sollten Mechanismen gefunden werden, um diesen Ressourcenverbrauch zu reduzieren. Es ist wichtig, ein Bewusstsein dafür zu schaffen, schonend mit den Ressourcen umzugehen und Wege zu entwickeln, wie dies effizient umgesetzt werden kann.

K: Wie wird sich KI in der Zukunft verändern? Übernimmt KI die Weltherrschaft?

J: Ich glaube, dass sich die Welt durch KI verändern wird. Als die Schallplatte erfunden wurde haben sich Musikerinnen Sorgen gemacht, da die gesamte Musikbranche revolutioniert wurde. Am Ende konnte niemand vorhersehen, wie sich das genau entwickeln würde. Ebenso können wir heute nicht genau abschätzen, wie die Zukunft mit KI aussehen wird. Es ist eine Entwicklung, die wir noch nicht in ihrer Gesamtheit erfassen können, und daher sollten wir offen sein für die Möglichkeiten und Chancen, die sich daraus ergeben.

Über Doris Janssen M.Sc.:

Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO, Stuttgart

Doris Janssen ist wissenschaftliche Mitarbeiterin im Bereich Human Computer Interaction des Fraunhofer IAO. Zuvor studierte sie Wirtschaftsinformatik an der DHBW Stuttgart und der Universität Bamberg und war bei der Flughafen München GmbH in der Systementwicklung für Verkehrssysteme tätig. Einer ihrer Schwerpunkte liegt auf der Gestaltung von verständlichen, menschzentrierten KI-Lösungen sowie mit deren Einführung in den Unternehmensalltag. Der Hauptfokus liegt bei diesen Arbeiten immer auf einer ganzheitlichen Perspektive, in der die Anforderungen der beteiligten Menschen eine zentrale Rolle spielen. In den Projekten »KI-ULTRA« und »KI-Fortschrittszentrum« sowie im Auftrag der OECD konnte sie durch Zusammenarbeit mit verschiedenen Unternehmen, Gewerkschaften und Behörden einen intensiven Einblick in Probleme sowie Potentiale von Künstlicher Intelligenz im Arbeitsbereich gewinnen. Mit den »KI-Studios« bietet sie Unternehmen die Möglichkeit, KI-Anwendungen im Arbeitsumfeld kennenzulernen und eigene KI-Ideen partizipativ zu entwickeln.