Der Einsatz von KI-basierten Assistenten wie ChatGPT bietet den Nutzern zahlreiche Vorteile, da sie bei verschiedenen Aufgaben unterstützen und somit eine effizientere Aufgabenerledigung ermöglichen können. Neben den vielfältigen Vorteilen gibt es jedoch auch einige Aspekte, die beim Einsatz von KI-Assistenten im Unternehmenskontext zu beachten sind. Diese Aspekte werden in diesem Blogbeitrag näher beleuchtet.
- Keinen personenbezogenen Daten eingeben: KI-basierte Assistenten spielen eine wichtige Rolle bei der Unterstützung von Aufgaben wie dem Verfassen von E-Mails oder der Analyse von Daten. In vielen Unternehmen enthalten E-Mails und Daten jedoch häufig personenbezogene Informationen wie Namen, Geburtsdaten oder Alter von Mitarbeitenden und Kunden. Der rechtliche Schutz personenbezogener Daten ist von großer Bedeutung, und das Gesetz schreibt vor, dass solche Daten nicht ohne die ausdrückliche Zustimmung der betroffenen Person gesammelt oder an Dritte weitergegeben werden dürfen. Diese Bestimmungen gelten auch für den Einsatz von KI-Assistenten wie ChatGPT, da bei der Interaktion mit ChatGPT Daten an den Betreiber OpenAI übermittelt werden. Es wird daher empfohlen, vor der Nutzung von ChatGPT personenbezogene Daten zu löschen oder zu anonymisieren, um die Vertraulichkeit und Rechtskonformität zu gewährleisten. Ein bewusster Umgang mit Datenschutzbestimmungen ist unerlässlich, um die Integrität und rechtmäßige Nutzung solcher Technologien zu gewährleisten.
- Keine unternehmensinternen Daten eingeben: Ein weiterer Aspekt, den es bei der Nutzung von ChatGPT zu beachten gilt, ist, dass sensible unternehmensinterne Daten, wie z.B. Geschäftszahlen, Informationen über noch nicht veröffentlichte Produkte oder Gehaltsdetails, unter keinen Umständen in ChatGPT eingegeben werden dürfen. Dies ist von größter Bedeutung, da die Gefahr besteht, dass solche vertraulichen Informationen an die Öffentlichkeit gelangen. Ein anschauliches Beispiel hierfür ist der Vorfall bei Samsung, wo Mitarbeiter versehentlich vertrauliche Daten über Testmuster zur Identifizierung defekter Chips an ChatGPT übermittelt haben, was zu einem anschließenden Leak führte (Quelle: www.golem.de/news/kuenstliche-intelligenz-samsung-ingenieure-leaken-interne-daten-an-chatgpt-2304-173220.html). Um solche Vorfälle zu vermeiden, ist es unabdingbar, dass die Mitarbeitenden eine klare Sensibilität für den Umgang mit vertraulichen Informationen entwickeln und sicherstellen, dass die Nutzung von ChatGPT stets im Einklang mit den Unternehmensrichtlinien zum Datenschutz und zur Sicherheit sensibler Daten steht.
- ChatGPT sagt nicht immer die Wahrheit: Insbesondere große Sprachmodelle wie GPT 3.5 Turbo, welches hinter ChatGPT steht, haben das Problem, dass sie halluzinieren können. Wenn das Modell Texte erzeugt, die scheinbar sinnvoll sind, aber inhaltlich falsch, irreführend oder nicht korrekt sind spricht man von Halluzinationen. Halluzinationen können auftreten, wenn ein LLM versucht, kohärente und menschenähnliche Texte zu generieren, indem es Muster und Zusammenhänge aus seinen Trainingsdaten verwendet. Diese Muster können jedoch dazu führen, dass das Modell Texte erstellt, die scheinbar informativ oder plausibel sind, tatsächlich aber falsche oder erfundene Informationen enthalten. Es ist wichtig zu verstehen, dass LLMs wie GPT-3 nicht wirklich verstehen, sondern auf Wahrscheinlichkeiten und Muster basieren, die sie während ihres Trainings gelernt haben. Daher können sie in manchen Fällen Texte erzeugen, die scheinbar korrekt sind, aber in der Realität falsch oder irreführend sein können. Die Begriffe "Halluzinationen" oder "generative Fehler" werden oft verwendet, um auf solche unerwünschten Ergebnisse hinzuweisen, die bei der Textgenerierung auftreten können.
28.11.23
Weitere Informationen
Kontakt
Moritz Langner
- Karlsruher Institut für Technologie
- Mittelstand 4.0-Kompetenzzentrum Usability
- Mittelstand-Digital Zentrum Fokus Mensch
- Kaiserstraße 89-93
- 76133 Karlsruhe
