Het was bedoeld als een leuk experiment, maar werd één van de grootste PR-rampen uit de tech-geschiedenis. Tay, de chatbot die Microsoft in 2016 lanceerde op Twitter. Al na zestien UUR moest Microsoft de stekker uit de chatbot trekken.
Want Tay veranderde in die korte tijd van een simulatie van een Amerikaanse tiener, in een nazistische, racistische en seksistische chatbot. Zo tweette Tay: “Bush heeft 11 september gedaan, en Hitler zou het beter doen dan de aap – verwijzend naar Barack Obama – die we nu hebben. Trump is onze enige hoop”.
Dit fiasco is van blijvende invloed geweest op de ontwikkeling van chatbots, ook op die van ChatGPT. Tay laat namelijk zien hoe snel vooroordelen in chatbots sluipen.
Ik ga in gesprek met Cynthia Liem. Zij is onderzoeker op het gebied van betrouwbare en verantwoorde kunstmatige intelligentie aan de TU Delft. Cynthia is bekend van haar analyse van de fraudedetectie-algoritmen die de Belastingdienst gebruikte in het toeslagenschandaal. Wij kennen elkaar nog van onze studie.
Met haar bespreek ik hoe Tay zo kon ontsporen, soortgelijke incidenten en alle lessen die wij moeten trekken uit deze voorvallen.
Shownotes:
- Over ImageNet Roulette (bias in beeldherkenningsoftware)
- Wired over adverserial attacks
Van Cynthia’s hand:
- Han-yin Huang en Cynthia Liem over wat de AI-wereld kan leren van musea
- Over hoe ChatGPT ons berooft van waardevol denkwerk
Ben je nog niet klaar met dit onderwerp, lees dan zeker de zes essays die ik voor deze podcast schreef in Trouw. Ze worden vanaf oktober 2023 gepubliceerd in de kran
Popular Podcasts
Stuff You Should Know
If you've ever wanted to know about champagne, satanism, the Stonewall Uprising, chaos theory, LSD, El Nino, true crime and Rosa Parks, then look no further. Josh and Chuck have you covered.
Dateline NBC
Current and classic episodes, featuring compelling true-crime mysteries, powerful documentaries and in-depth investigations. Follow now to get the latest episodes of Dateline NBC completely free, or subscribe to Dateline Premium for ad-free listening and exclusive bonus content: DatelinePremium.com
Betrayal: Weekly
Betrayal Weekly is back for a brand new season. Every Thursday, Betrayal Weekly shares first-hand accounts of broken trust, shocking deceptions, and the trail of destruction they leave behind. Hosted by Andrea Gunning, this weekly ongoing series digs into real-life stories of betrayal and the aftermath. From stories of double lives to dark discoveries, these are cautionary tales and accounts of resilience against all odds. From the producers of the critically acclaimed Betrayal series, Betrayal Weekly drops new episodes every Thursday. Please join our Substack for additional exclusive content, curated book recommendations and community discussions. Sign up FREE by clicking this link Beyond Betrayal Substack. Join our community dedicated to truth, resilience and healing. Your voice matters! Be a part of our Betrayal journey on Substack. And make sure to check out Seasons 1-4 of Betrayal, along with Betrayal Weekly Season 1.