KI-Gespräch mit Andreas Refsgaard

English follows German

Hinweis: Im Folgenden wird die Abkürzung "R" für unseren Interviewpartner Andreas Refsgaard verwendet, während die Moderatorin Anne Elisabeth Krüger mit "K" abgekürzt wird. 

Warm-Up

K: Was ich als Kind mit Computern gemacht habe, war...

R: Nicht viel. Mein Vater hat in seinem Job manchmal programmiert, und er dachte, dass ich und meine Schwester früh mit dem Programmieren anfangen würden. Aber ich habe mich erst in meinen mittleren/späten Zwanzigern für Computer interessiert, weil ich das kreative Potenzial damals nicht so sah, wie ich es heute tue. Das erste Mal, als ich mich für Computer interessierte, war an der Universität, wo wir die Aufgabe bekamen, Kunst mit Computern zu machen. Wir haben eine Software erstellt, die den Stimmen der Menschen zuhören und ihre Sätze auf poetische Weise beenden konnte. Und diese spielerische, künstlerische Nutzung von Computern hat mich fasziniert.

K: Was KI besser kann als Menschen, ist…

R:

• Mustererkennung - ermöglicht es eine große Menge an Daten zu betrachten
• Erkundung von vielen Möglichkeiten in einem vordefinierten Bereich von Ergebnissen.

K: Wichtige Zukunftskompetenzen aus meiner Sicht sind…

R: Ich weiß nicht. Das ändert sich so schnell. 

K: Was verbindest du mit KI? 

Von K ausgewähltes Objekt = Auszeichnung, Beschreibung: Wenn es um KI geht, handelt es sich um einen breiten Begriff, der im Laufe der Zeit verschiedene Bedeutungen hatte und für verschiedene Menschen unterschiedliche Dinge bedeuten kann. Der Begriff KI wird auch oft für Advertising verwendet. Hier präsentiere als mein Objekt eine Auszeichnung - die eine hier ansässige Werbeagentur bekommen hat - weil ich KI mit dem Verkauf von Dingen verbinde. Es ist ein Begriff, den die Leute verwenden, wenn sie versuchen, neue Produkte zu verkaufen. Ich habe lange mit mir darüber gerungen, ob ich den Begriff KI verwenden soll oder nicht. Ich habe es lange vermieden, ihn zu verwenden, und griff nur darauf zurück, wenn ich versuchte, etwas zu verkaufen oder mich über etwas lustig zu machen. Der Begriff bedeutet für verschiedene Menschen verschiedene Dinge, aber was ist das gemeinsame Element? Meistens geht es darum, ein Produkt oder eine Dienstleistung zu bewerben, indem man es wichtiger, mächtiger oder magischer erscheinen lässt, als es tatsächlich ist. Ich habe es lange vermieden, den Begriff 'KI' zu verwenden, und stattdessen den Fokus auf spezifische maschinelle Lerntechniken gelegt, bei denen die Menschen sich im Allgemeinen darauf einigen können, was es ist.

K: Also, was machst du, wenn du sagst, dass du unter dem Basiswort ein KI-Produkt verkaufst? Was machst du mit KI oder was meinst du mit KI?

R: Im Jahr 2019 habe ich einen Online-Buchladen namens books.ai gegründet, um Bücher zu verkaufen, die vollständig mit KI generiert wurden. Dabei handelt es sich um Science-Fiction-Bücher, von denen jedes einige hundert Seiten lang ist. Kein einziges Komma wurde von einem Menschen bearbeitet; sie wurden alle von mir und einem Praktikanten erstellt, der damals Algorithmen trainierte und nutzte. Es wurden keine GPT-Modelle verwendet. Wir haben ein maschinelles Lernmodell mit einem großen Datensatz trainiert, den wir selbst gesammelt haben. Mit diesem Modell haben wir die Namen der Autoren, Buchtitel und den gesamten Text generiert. Zusätzlich haben wir GAN-Algorithmen verwendet, um die Buchumschläge zu generieren. Die resultierenden Bücher waren jedoch von schlechter Qualität. Dies lag daran, dass es sich noch in einem frühen Entwicklungsstadium befand und mehr Fachkenntnisse und Daten benötigte, um sich zu verbessern. Wir waren vielleicht ein paar Jahre zu früh dran, aber wir haben dennoch versucht, diese Bücher zu verkaufen. Um den Verkauf anzukurbeln, haben wir den neuen Textalgorithmus mit positiven Bewertungen anderer Buchkäufe auf Amazon trainiert. Außerdem haben wir viele falsche Gesichter für nicht existierende Personen generiert. Als Ergebnis hatten wir eine Armee von Rezensenten, die unsere Bücher mochten, aber sie sahen seltsam aus, und ihre Bewertungen waren auch seltsam.

K: Was machst du gerade mit KI?

Ich experimentiere derzeit gleichzeitig mit mehreren verschiedenen Dingen. Ich werde drei davon vorstellen, die einige Ähnlichkeiten aufweisen. Alle befinden sich noch in einem sehr frühen Stadium:

1. Aktuell arbeite ich an einem Browser-Plugin, das alle Gesichter im Browser mit dem der Person vor dem Computer austauscht. Ich habe einen sehr groben Prototypen, und immer wenn ich auf ein Bild klicke, wird es schnell durch mein Gesicht ersetzt. Ich mache allmählich Fortschritte. Diese Idee ähnelt einem personalisierten Browser, bei dem alles, was angezeigt wird, auf den Benutzer zugeschnitten ist. Es ist wie eine absurde Filterblase.

2. Eine weitere ähnliche Idee ist, sich in sehr langweiligen Situationen zu sehen bzw. digital darzustellen. Die Anwendung versetzt dich in einen anderen Kontext, aber in einen sehr langweiligen Kontext. Die Anwendung ermöglicht es dir, Gesichter in Echtzeit auszutauschen und beispielsweise einen Besenfilter zu verwenden, um so das Fegen eine Bodens zu simulieren. Normalerweise gibt diese Filter, um dein Gesicht schöner zu machen. Die Kamera scheint dich zu erkennen, und die Ergebnisse sind lustig und vielleicht realistischer. Die Technologie ist jedoch noch nicht vollständig. Es ist ungewiss, ob die verschiedenen Experimente miteinander zusammenhängen.

3. Es war meine Art, ein wenig müde von KI-generierten Bildern zu sein. Also habe ich einfach diese einfache, sehr einfache und interaktive Webseite erstellt, auf der man vorgeben kann, diese ganzen mithilfe von midjourney generierten Bilder zu erbrechen. Ich weiß nicht, warum ich das gemacht habe, aber die Idee entstand aus meiner Müdigkeit von KI-generierten Bildern. Ich bin müde von ihrer Ästhetik und davon, wie sie so super episch sind oder es schwer ist, eine Person darzustellen, die nicht wie ein Supermodel aussieht, und dann werden sie so billig hergestellt. Und ich habe das Gefühl, das Internet sei voll davon. Also hatte ich einfach das Bedürfnis, sie aus meinem Mund zu kotzen.

Meine Arbeit beinhaltet oft Kommentare zu KI und die Verwendung von KI-Tools, um das Thema zu sensibilisieren. Im Gegensatz zur traditionellen romantischen Vorstellung eines Künstlers, bei der der Künstler ein Objekt wie die Natur beobachtet und separate Werkzeuge wie Leinwand und Pinsel verwendet, ist mein Objekt KI und die Werkzeuge, die ich verwende, sind ebenfalls KI-basiert.

Check out Andreas Refsgaard on Instagram for more information

K: Was braucht es, damit die Menschen heute und in Zukunft eine positive emotionale Erfahrung im Zusammenhang mit KI haben?

R: Wenn sich etwas angenehm anfühlt oder eine durchweg positive emotionale Erfahrung bietet, gibt es vielleicht nicht viel Reibung. Und ich denke, dass etwas Reibung vorteilhaft sein kann, auch wenn das für mich leicht zu sagen ist. Als Künstler konzentriere ich mich vor allem auf mein Handwerk, daher muss nicht alles perfekt funktionieren oder Aufgaben lösen. Aber ich glaube, dass Reibungen oder unangenehme Erfahrungen zum Nachdenken über mögliche Nachteile bestimmter Techniken oder alternativen Ansätze anregen können. Wenn alles reibungslos und mühelos funktioniert, gibt es weniger Anreize, die Funktionsweise zu hinterfragen. Deshalb macht es mir nichts aus, wenn es Reibung gibt, und ich glaube, dass nicht alles unbedingt eine positive Erfahrung bieten muss.

K: Kann KI uns positive Erfahrungen liefern?

R: Klar. Eine positive Erfahrung, die ich bei der Interaktion mit generativen KI-Systemen mache, ist die Überraschung und das Lachen, die sie bringen. Kürzlich habe ich eine KI-Software in meine Vorträge eingebaut, um Lieder als Gimmick zu generieren. Die KI singt, generiert Musik und Liedtexte. Morgen besuche ich ein Unternehmen, das sich auf Isolierwolle für Häuser spezialisiert hat. Ich erstelle ein Pop-Liebeslied über die Beziehung zwischen dem Haus und dem Stoff, der die Hitze draußen hält. Ich gebe Anweisungen und die KI-Systeme geben die Inhalte aus. Das ist für mich und andere amüsant; sie finden es witzig, beeindruckend und albern.

Das Tool dahinter ist: Suno AI

Tools wie dieses sind jedoch ethisch umstritten, da unklar ist, welche Daten zum Trainieren des Tools verwendet wurden. Außerdem erzeugt es Stimmen, die manchmal wie bestimmte Künstler klingen. Es stellt sich also die Frage, ob sie das Recht haben, das zu tun und warum sie ihre Trainingsdaten nicht transparent machen.

K: Was kann KI für uns und die Gesellschaft tun?

Chancen: Ki kann uns dabei helfen, Ideen schneller zu entwickeln und bestimmte Aufgaben effektiver zu erledigen als Menschen. Diese Effizienz kann es uns ermöglichen, uns auf wichtigere Probleme zu konzentrieren und bessere Ergebnisse zu erzielen. Die Effektivität unserer Arbeit wird jedoch davon beeinflusst, wie wir unsere Zeit nutzen. Trotz technologischer Fortschritte, die unsere Arbeit optimieren sollten, wie z.B. E-Mail und Internet, sind wir mit zusätzlichen Aufgaben und Verantwortlichkeiten konfrontiert, was zu sogenannter “Pseudoarbeit” führt. Diese Pseudoarbeit füllt unsere Zeit aus, ohne zwangsläufig einen sinnvollen Beitrag zu unserer Produktivität zu leisten. Es ist schwierig vorherzusagen, wie sich unser Arbeitsverhalten entwickeln wird, vor allem wenn man unvorhergesehene Ablenkungen wie die Nutzung von LinkedIn während der Arbeitszeit bedenkt. Dieses Phänomen wirft Fragen nach de wahren Wert und Zweck unserer Aufgaben auf und danch, wie wir unsere Zeit effektiv einteilen.

Kritischer Aspekt: Der weit verbreitete Einsatz von KI-Tools wie Chatbots und Bildgeneratoren, die für ihre Benutzerfreundlichkeit und beeindruckenden Fähigkeiten bekannt sind, hat ein breites Publikum angezogen, darunter auch Personen, die sich bisher nicht für maschinelles Lernen interessiert haben. Diese Zugänglichkeit hat ihre Vorteile, denn sie ermutigt dazu, KI zu erforschen und mehr darüber zu lernen. Es ist jedoch von wichtig zu erkennen, dass es bei vielen beliebten KI-Tools an Transparenz bezüglich ihrer Datensätze, Trainingsmethoden und Einschränkungen mangelt. Das wirft gesellschaftliche Bedenken auf. Diese Modelle, die oft als fortschrittliche Suchmaschinen betrachtet werden, liefern möglicherweise nicht immer aktuelle oder ganz korrekte Informationen. Ihre Antworten klingen zwar oft plausibel, beruhen aber im Wesentlichen auf statistischen Mustern und nicht unbedingt auf sachlicher Richtigkeit. Dies führt zu einem weit verbreiteten Missverständnis unter den Nutzern, das durch Marketingstrategien und mangelnde Klarheit über ihre Grenzen und gewinnorientierten Motive noch weiter verstärkt wird.

K: Wie geht es weiter? Übernimmt KI die Welt, oder wo liegt die Zukunft?

R: Ich habe ein seltsames Konzept im Kopf: die Kreuzung von generativer KI und digitalen Medien. Aktuell interagieren wir als Verbraucher mit statischen Mediendateien wie Text, Bildern und Videos im Internet, auf unseren Computern und Smart-TVs. Diese Dateien, ob JPEG-Bilder oder Videoclips, enthalten feste Informationen und bleiben langfristig unverändert. Das JPEG ist morgen noch dasselbe wie heute und gestern. Mit dem Aufkommen der generativen KI könnte die Mediennutzung jedoch dynamischer werden. Ich stelle mir eine Zukunft vor, in der Medieninhalte fließend, anpassungsfähig und immer im Wandel sind. Ich stelle mir Netflix-ähnliche On-Demand-Inhalte als eines der ersten gängigen Beispiele für diese Entwicklung vor, einfach weil es einen Markt für den Konsum von Inhalten gibt, die einem Nutzer bereits gefallen, aber noch nicht produziert wurden. Und in ein paar Jahren könnten qualitativ hochwertige Inhalte in Echtzeit erstellt werden, wenn jemand sie anfordert. Aber das könnte auch in vielen anderen Bereichen passieren, nicht nur beim Medienkonsum, und es könnte zu einigen wirklich seltsamen Auswirkungen führen, denke ich.

K: Gibt es noch etwas, das Sie über KI sagen möchten?

KI hat zwei gegensätzliche Seiten: sie kann sowohl extrem erstaunlich als auch sehr beängstigend und dumm sein.
Es ist ganz normal, eine Reihe von Emotionen gleichzeitig zu fühlen - von Aufregung bis Angst, von Begeisterung bis Enttäuschung. Diejenigen, die ein tieferes Verständnis von KI haben, stellen oft fest, dass es zu einer fundierteren Beurteilung führen kann, wenn man sich mit ihr auseinandersetzt, experimentiert und herumspielt. Nutzt also die Möglichkeiten mit KI zu interagieren, habt Spaß daran, ihre Fähigkeiten zu erforschen, und seid euch gleichzeitig der potenziellen Risiken bewusst. HABT SPAß, ABER SEID ÄNGSTLICH!

Über Andreas Refsgaard
Andreas Refsgaard ist ein Künstler und kreativer Programmierer aus Kopenhagen. Er arbeitet im Bereich zwischen Kunst und Interaktionsdesign und nutzt Algorithmen, Programmierung und maschinelles Lernen, um das kreative Potenzial neuer digitaler Technologien zu erforschen. In seiner künstlerischen Praxis wendet Andreas eine humorvolle und muntere Herangehensweise an die digitalen Werkzeuge und ihre möglichen Anwendungen, Zwecke und Werte an. Seine Arbeiten bestehen oft aus phantasievollen und unkonventionellen Kombinationen von Inputs und Outputs, die es den Menschen ermöglichen, z. B. mit Augenbewegungen Musik zu spielen, Spiele durch alberne Geräusche zu steuern oder Zeichnungen von Musikinstrumenten in echte Kompositionen zu verwandeln. Seine spielerischen, etwas verrückten und oft interaktiven Arbeiten zeichnen sich durch eine naive und offene Herangehensweise aus, die sowohl die möglichen Vorteile als auch die Nachteile der angewandten Technologien auf unkomplizierte und unaufdringliche Weise hinterfragt und aufzeigt.

Note: In the following, the abbreviation "R" is used for our interview partner Andreas Refsgaard, while the moderator Anne Elisabeth Krüger is abbreviated to "K". 

The Warm-Up

K: What I did with computers as a child was...

R: Not much. My dad was sometimes programming in his job and he thought me and my sister would start programming early. But I didn't get interested in computers until I was in my mid/late twenties. Because I didn't see the creative potential like I do today. The first time I got interested in computers was at university, where we were given the task to make art with computers.We created a software that would listen to people's voices and finish their sentences in poetic ways. And this playful, artistic use of computers fascinated me.

K: What AI can do better than humans…

R: 

• Pattern recognition being able to look at a lot of data.
• Potentially explore a lot of possibilities in a pre-designed range of outcomes

K: In my view, important skills for the future are...

R: I don’t know. They are changing fast.

K: What do you connect with AI? (object)

R: 

Object = Award: When discussing AI, it is a broad term that has had various meanings over time and can mean different things to different people. It is often used in advertising. Here, I am presenting an award that an advertising agency has received, because I associate AI with selling things. It is a term that people use when they are trying to sell new products. I have had an internal debate about whether to use the term AI or not. I avoided using it for a long time, only resorting to it when I was trying to sell or make fun of something. The term means different things to different people, but what is the common denominator? Mostly, it's about promoting a product or service by making it seem more important, more powerful, or more magical than it actually is. I've long avoided using the term 'AI' and instead focused on specific machine learning techniques where people can sort of agree on what it is.

K: So what are you doing when you say you are selling an AI thing under the base word? What do you do with AI or what do you mean by AI?

R: In 2019, I created an online bookstore called books.ai to sell books that were completely generated with AI. These are science fiction books, each a couple of hundred pages long. Not a single comma has been edited by a human; they were all created by me and an intern who was training and using algorithms at the time. No GPT models were used. We trained a machine learning model using a large dataset that we collected ourselves. We used this model to generate the authors' names, book titles, and all the text. Additionally, we used GAN algorithms to generate the book covers. However, the resulting books were of poor quality. This was due to the fact that it was still in the early stages of development and required more expertise and data to improve. We may have been a couple of years too early, but we still tried to sell those books. To boost sales, we trained the new text algorithm using positive reviews of other book purchases on Amazon. We also generated a lot of fake faces for non-existent people. As a result, we had an army of reviewers who liked our books, but they looked strange, and their reviews were weird too.

K: What do you do with AI?

R: I am currently experimenting with several different things simultaneously. I will showcase three of these, which share some similarities. All of them are very much work in progress:

1. Currently, I am working on a browser plugin that swaps all faces in the browser window with the person in front of the computer. I have a very rough prototype, and whenever I click on an image, it quickly replaces it with my face. I am gradually making progress. This idea is like a personalised browser where everything displayed is tailored to the user. It is like an absurd filter bubble.
2. Then another similar idea is seeing yourself in very boring situations. It's putting you in a different context, but in a very boring context .The application allows you to swap faces in real-time and use for example a broom filter to simulate sweeping a floor. There are usually filters like this to make your face prettier. The camera seems to recognise you, and the results are funny and perhaps more realistic. However, the technology is not yet complete. It is uncertain whether the experiments are related or not.
3. It was me being a bit tired of AI generated images. So I just made this simple, very simple and interactive web page where you can pretend to vomit mid journey pictures. I don't know why I sort of did it, but the idea came from being very tired of AI-generated images. I'm tired of the aesthetics of them and the way that they're so super epic or it's hard to just portray the person who doesn't look like a supermodel and then they become so cheap to make. And I feel like the internet is full of them. So I just felt like puking them out of my mouth.

My work often involves commenting on AI, using AI tools to sensitise the subject matter. In contrast to the traditional romantic idea of an artist, where the artist has an object to observe, such as nature, and separate tools, such as canvas and paintbrush, my object is AI and tools I use are also AI-based.

Check out Andreas Refsgaard on Instagram for more information

K: What does it take for the people of today and tomorrow to have a positive emotional experience in connection with AI?

R: If something feels pleasant or provides a consistently positive emotional experience, there might not be much friction. And I think having some friction can be beneficial, though that's easy for me to say. As an artist, I mainly focus on my craft, so I don't necessarily need things to function perfectly or solve tasks. But I believe that encountering friction or unpleasant experiences can prompt reflection on the potential downsides of certain techniques or alternative approaches. Conversely, if everything operates seamlessly and effortlessly, there's less incentive to question its workings. Therefore, I don't mind encountering friction, and I don't necessarily believe that everything should provide a positive experience.

K: Can AI give us positive experiences?

R: Sure. One positive experience I get from interacting with generative AI systems is the element of surprise and laughter they bring. Recently, I've been incorporating AI software into my talks to generate songs as a gimmick. It's AI singing, generating music, and lyrics. Tomorrow, I'm visiting a company specializing in isolation wool for houses. I'm creating a pop love song about the relationship between the house and the fabric that keeps the heat out. I give directions, and the AI systems spit out content. It's amusing for me and others; they find it humorous, impressive, and silly.

The tool behind is: Suno AI

However tools like these are ethically debatable because it's unclear what data was used to train the tool, and it generates vocals that sometimes sound like specific artists. So there are questions about whether they have the right to do this and why they're not transparent about their training data.

K: What can AI do for us and the society?

Opportunity: AI can help us generate ideas more quickly and perform certain tasks more effectively than humans. This efficiency can allow us to focus on more crucial problems and produce better outcomes. However, the effectiveness of our work is impacted by how we utilize our time. Despite technological advancements that were meant to streamline our work, such as email and the internet, we've found ourselves with additional tasks and responsibilities, leading to what's known as "pseudo-work." This pseudo-work fills our time without necessarily contributing meaningfully to our productivity. It's challenging to predict how our work patterns will evolve, especially considering the unforeseen distractions like spending time on LinkedIn during work hours. This phenomenon raises questions about the true value and purpose of our tasks and how we manage our time effectively.

Critical aspect: The widespread use of AI tools like chatbots and image generators, known for their user-friendliness and impressive capabilities, has drawn a diverse audience, including those previously uninterested in machine learning. This accessibility has its benefits, as it encourages exploration and learning about AI. However, it's crucial to recognize that many popular AI tools lack transparency about their datasets, training methods, and limitations. This raises societal concerns. Often perceived as advanced search engines, these models may not always provide updated or entirely accurate information. Their responses, though often sounding reasonable, are fundamentally based on statistical patterns and not necessarily on factual accuracy. This leads to a common misconception among users, fueled by marketing strategies and a lack of clarity about their limitations and profit-driven motives.

K: What happens next? Is AI taking over the world or where do you see the future?

R: I have a weird concept in mind: the intersection of generative AI and digital media. Currently, as consumers, we interact with static media files like text, images, and videos on the internet, our computers, and smart TVs. These files, whether JPEG images or video clips, contain fixed information and remain unchanged over time. The JPEG is the same tomorrow as it was today and yesterday. However, with the emergence of generative AI, the landscape of media consumption could become more dynamic. I envision a future where media content becomes fluid, adaptable and always in flux. I imagine Netflix-style-on-demand content as one of the first mainstream examples of where we will see this, simply because there would be a market for consuming more content that a user already likes, but has not been produced yet. And in a few years, high quality content could potentially be created in real time whenever someone requests it. But it could happen in lots of other places too, not just media consumption, and it could lead to some really weird effects I think.

K: Is there anything else you'd like to share about AI?

AI presents two contrasting facets: it can be both extremely amazing and very scary and stupid. It's natural to experience a range of emotions—from excitement to fear, from being impressed to feeling underwhelmed—simultaneously. Those who possess a deeper understanding of AI often find that engaging with it, experimenting, and playing around can lead to more informed critiques. So, embrace the opportunity to interact with AI, have fun exploring its capabilities, and at the same time, remain mindful of its potential risks. HAVE FUN BUT BE SCARED!

About Andreas Refsgaard

Andreas Refsgaard is an artist and creative coder based in Copenhagen. Working in the field between art and interaction design he uses algorithms, coding and machine learning to explore the creative potentials of emerging digital technologies. In his artistic practice, Andreas applies a humorous and cheerful approach to the digital tools and their potential applications, purposes and values. His works often consists of imaginative and unconventional combinations of inputs and outputs allowing people to e.g. play music using eye-movement, control games by making silly sounds or transforming drawings of musical instruments into real compositions. His playful, somewhat wacky and often interactive works are characterised by a naive and openminded approach, which questions and exposes both the possible benefits and drawbacks of the applied technologies in a straightforward and unassuming manner.