Stammtisch mensch.digital zu adaptiven ChatGPT-basierten Assistenten

Zu Beginn der Veranstaltung wurden die Potentiale und Auswirkungen von ChatGPT-basierten Assistenten vorgestellt. ChatGPT-basierte Assistenten sind KI-basierte Assistenten, die eine Verbindung zu ChatGPT nutzen, um den Benutzer bei seiner Aufgabe zu unterstützen. Der bekannteste ChatGPT-basierte Assistent ist Microsoft 365 Copilot, der das große Sprachmodell hinter ChatGPT nutzt, um Aufgaben in Word, Excel und PowerPoint zu automatisieren oder zu unterstützen. OpenAI bietet nun auch Entwicklern die Möglichkeit, selbst ChatGPT-basierte Assistenten für verschiedene Aufgaben im GPT-Store anzubieten. Dann gibt es noch Webservices wie z.B. scisummary, die verschiedene KI-Assistenten für die Arbeit mit wissenschaftlichen Publikationen anbieten. Diese KI-Assistenten können ihre Nutzerinnen und Nutzer bei einer Vielzahl von Aufgaben unterstützen und ihnen helfen, diese effizienter und effektiver zu erledigen. Neben allen Vorteilen kann der Einsatz von KI-Assistenten auch negative Auswirkungen auf die Nutzenden haben. Dies können unter anderem nachlassende kognitive Fähigkeiten, ein eingeschränktes oder oberflächliches Verständnis von Sachverhalten oder eine übermäßige Abhängigkeit von KI-Assistenten sein.

Um diesen negativen Effekten entgegenzuwirken, wird in der Wissenschaft der Einsatz adaptiver Systeme untersucht, die z.B. Biosignale oder Interaktionsdaten des Nutzers verwenden, um mehr über den kognitiven oder affektiven Zustand des Nutzers während der Nutzung des KI-Assistenten zu erfahren. Basierend auf den Erkenntnissen, die aus den Biosignalen oder Interaktionsdaten gewonnen werden können, kann der KI-Assistent so angepasst werden, dass er den Bedürfnissen des Nutzers besser entspricht. Im Zusammenhang mit adaptiven ChatGPT-basierten Assistenten könnten Biosignal- oder Interaktionsdaten genutzt werden, um zu erkennen, ob der Nutzer durch den KI-Assistenten kognitiv überfordert ist oder nur ein oberflächliches Verständnis der Sachverhalte hat. Das Spannende an adaptiven ChatGPT-basierten Assistenten ist, dass ChatGPT auch genutzt werden kann, um eine Intervention bereitzustellen, die es dem Nutzenden ermöglicht, die negativen Auswirkungen zu überwinden. Ein Beispiel wäre, dass ChatGPT basierend auf den Interaktionsdaten den Nutzenden darauf aufmerksam macht, dass er ChatGPT zu häufig nutzt und die Gefahr eines oberflächlichen Verständnisses besteht. Als Intervention könnte ChatGPT dann mögliche weiterführende und vertiefende Fragen vorschlagen, die den Nutzenden ein besseres Verständnis des Themas ermöglichen.

Im Anschluss folgte eine spannende Diskussion unter den Teilnehmenden über die weiteren Auswirkungen des Einsatzes von KI-basierten Assistenten und wie diese in Zukunft vermieden werden können.