Folge 32 - Adversarial Attacks: Wie sich KI-Systeme austricksen lassen

Diese Folge wurde beim Wettbewerb Fast Forward Science 2025 in der Kategorie #AudioAward eingereicht. Mehr zum Wettbewerb: http://www.fastforwardscience.de#FFS

Künstliche Intelligenz ist aus der heutigen Welt kaum mehr wegzudenken und kommt in vielen Bereichen unseres Alltags zum Einsatz. Umso wichtiger ist es, Systeme, die KI verwenden, und die zugrundeliegenden Modelle vor Manipulationen zu schützen.

In der 32. Folge von Informatik für die moderne Hausfrau beschäftigen wir uns mit sogenannten Adversarial Attacks, also mit böswilligen Angriffen, mit denen KI-Systeme ausgetrickst und sogar nachhaltig geschädigt werden können. Dazu rekapitulieren wir zunächst, was man eigentlich unter dem Begriff "KI" versteht (nämlich normalerweise das maschinelle Lernen oder Machine Learning) und wie KI funktioniert. Wir schauen uns außerdem an, wie die Folgen von Adversarial Attacks abgemildert werden können. 

Mehr über Adversarial Attacks auf KI-Systeme könnt ihr hier erfahren: https://spectrum.ieee.org/slight-street-sign-modifications-can-fool-machine-learning-algorithms

Die wissenschaftliche Veröffentlichung, auf dem der Artikel basiert, findet ihr hier: https://arxiv.org/pdf/1707.08945

Das Programm "Nightshade" könnt ihr auf der entsprechenden Projektwebseite herunterladen und euch außerdem über die Hintergründe informieren: https://nightshade.cs.uchicago.edu/whatis.html

Adversarial Attacks selbst ausprobieren könnt ihr hier: https://kennysong.github.io/adversarial.js/

Eine umfangreiche Übersicht über Adversarial Attacks bzw. Gefahren für KI-Systeme, Angriffsstrategien und Gegenmaßnahmen ist hier zu finden: https://atlas.mitre.org/

Alle Informationen zum Podcast findet ihr auf der zugehörigen Webseite https://www.informatik-hausfrau.de. Zur Kontaktaufnahme schreibt mir gerne eine Mail an [e-mail] oder meldet euch über Social Media. Auf Instagram und Bluesky ist der Podcast unter dem Handle @informatikfrau (bzw. @informatikfrau.bsky.social) zu finden. 

Wenn euch dieser Podcast gefällt, abonniert ihn doch bitte und hinterlasst eine positive Bewertung oder eine kurze Rezension, um ihm zu mehr Sichtbarkeit zu verhelfen. Rezensionen könnt ihr zum Beispiel bei Apple Podcasts schreiben oder auf panoptikum.social. 

Falls ihr die Produktion des Podcasts finanziell unterstützen möchtet, habt ihr die Möglichkeit, dies über die Plattform Steady zu tun. Weitere Informationen dazu sind hier zu finden: https://steadyhq.com/de/informatikfrau

Falls ihr mir auf anderem Wege etwas 'in den Hut werfen' möchtet, ist dies (auch ohne Registrierung) über die Plattform Ko-fi möglich: https://ko-fi.com/leaschoenberger

Dieser Podcast wird gefördert durch das Kulturbüro der Stadt Dortmund.