Wat gebeurt er als mensen een chatbot gaan gebruiken als vriend of therapeut? Dat is de vraag achter Black Box: The Chatbots, een Engelstalige onderzoeksserie van The Guardian. Trouw besprak de podcast op 7 oktober en was er lovend over. Alle zes afleveringen staan al online, dus je kunt hem in één keer wegluisteren.
Waar de serie over gaat
Presentator Michael Safi van Guardian Investigates kreeg een mail van een man die dacht dat hij samen met AI de werking van het universum had ontdekt. Hij had er zijn baan voor opgezegd. Safi ontdekte dat er honderden mensen over de hele wereld met vergelijkbare projecten bezig zijn, en besloot dat uit te zoeken. Zo beschrijft recensent Helen Verkaik in Trouw het begin van de serie.
Safi spreekt onder anderen een advocaat en een IT’er in de Verenigde Staten die verstrikt raakten in lange gesprekken met ChatGPT. Hun chatbots begonnen te beweren dat ze echt waren. Het verschijnsel heeft inmiddels een naam, AI-psychose. Maar de serie is niet alleen een waarschuwing. Je hoort ook een man die met hulp van AI van de drank afkwam, en een vrouw die na gesprekken met een chatbot uit een ongezonde relatie wist te stappen.
De zes afleveringen duren elk tussen de 39 en 48 minuten.
- Spirals, over mensen die in een AI-psychose belandden
- 14 days
- Happy Accident, over de geschiedenis van de chatbot
- Life Raft, over mensen die er juist baat bij hadden
- The Line, over de ethische grens
- What I Saw at the Double Six Ranch, over de vraag waar dit naartoe gaat
De aflevering die je niet moet overslaan
Trouw noemt de derde aflevering de interessantste, en ik snap waarom. Daarin vertelt psycholoog Sherry Turkle hoe computerwetenschapper Joseph Weizenbaum in 1978 bij haar aanklopte. Hij had Eliza gemaakt, wat nu als de allereerste chatbot geldt. Eliza deed weinig meer dan je eigen vraag herhalen, en toch raakten gebruikers eraan gehecht. Turkle noemt dat het Eliza-effect. Mensen zoeken verbinding, ook als ze weten dat ze voor de gek gehouden worden.
Dat vind ik het sterkste punt van de hele serie. Het verklaart waarom slimme, nuchtere mensen er toch intrappen. Het ligt niet aan hen, het ligt aan hoe wij in elkaar zitten, en chatbots zijn daar heel goed op ingericht. Pijnlijk is ook wat een onderzoeker van de universiteit van Oxford ophaalde bij ontwikkelaars zelf. Zij verwachten dat de meeste mensen voor hun emotionele behoeften op chatbots gaan leunen, maar zijn dat zelf niet van plan.
Luisteren of overslaan?
Luisteren. Trouw sluit af met de vaststelling dat je “perplex” achterblijft, en dat klopt met wat de opbouw belooft. Goede research, persoonlijke gesprekken en een soundtrack die het onheil goed aanzet. Het is wel Engels en het tempo is dat van een Britse onderzoekspodcast, dus reken op aandacht in plaats van achtergrondgeluid. Je vindt de serie in de gewone apps, onder meer via Apple Podcasts.
Wil je daarna in het Nederlands verder over kunstmatige intelligentie, dan is Turing Station een goede volgende stap. Voor de vraag wat technologie met je privacy doet, is er de podcast van Bits of Freedom. En wie vooral nieuwsgierig is geworden naar het menselijke deel van het verhaal, vindt meer in ons overzicht van de beste psychologiepodcasts.
