Gætter store sprogmodeller dine dybeste hemmeligheder?

Ny forskning afslører, at generative chatbots som ChatGPT kan udlede en masse følsomme oplysninger om os, selv ud fra fuldstændig hverdagsagtige samtaler.

På baggrund af hvad der kan virke som ‘uskyldige’ informationer, kan de f.eks. gætte hvor vi bor og hvad vi arbejder med. Og de kan gøre det langt hurtigere end mennesker. Den viden som kan sammenstykkes om os, kan måske indvarsle en ny æra af annoncering, hvor virksomheder bruger information indsamlet fra chatbots til at opbygge detaljerede profiler af brugere.

Hvordan kan det overhovedet lade sig gøre at sammenstykke så privat information om os?  Og findes der noget forsvar mod denne invasive snushane, så vi kan beskytte vores privatliv?  

Podcasten ’Blinde Vinkler’ er produceret af Ingeniørforeningen IDA og IT-Branchen og udviklet i samarbejde med Tina Ryoon Andersen og Rune Fick Hansen. Den er tilrettelagt, redigeret og beværtet af Marie Høst.

Gæst Sune Lehman, professor i netværks- og kompleksitetsvidenskab ved DTU Compute og professor i Social Data Science ved Københavns Universitet.

Links Forskningsartikel:Beyond Memorization: Violating Privacy Via Inference with Large Language Models https://llm-privacy.org/ https://arxiv.org/abs/2310.07298v1 21 Lessons for the 21st Century by Yuval Noah Harari | Yuval on Data https://www.youtube.com/watch?v=wmxEYWEGYOI&t=144s Wired: AI Chatbots Can Guess Your Personal Information From What You Type https://www.wired.com/story/ai-chatbots-can-guess-your-personal-information/ Race to intimacy: How AI threatens global culture, Dr Waku https://www.youtube.com/watch?v=ANUz53doMWw&t=15s