#38 Les IA : une menace pour tous les êtres sentients ? - Shaïman Thürler

🎙️Je ne pensais pas faire un jour un épisode sur l’intelligence artificielle dans Comme un poisson dans l’eau. Et pourtant, ces derniers mois, j’ai commencé à creuser le sujet. Un peu par curiosité, beaucoup par inquiétude.

Et plus j’avançais, plus je me disais : il faut qu’on parle de ça.

Car si ce qu’annoncent certain·es spécialistes est vrai, on est peut-être en train de créer une espèce plus intelligente que nous, qu’on ne saura ni comprendre, ni contrôler – et dont les conséquences pourraient être catastrophiques. Pas seulement pour les humain·es. Pour tous les êtres sentients.

J’ai donc invité Shaïman Thürler, créateur du podcast Le Futurologue, qui s’est spécialisé dans l’analyse des risques liés à l’IA, et qui connaît aussi très bien les enjeux antispécistes.

On a parlé des menaces immédiates, des risques existentiels, des failles de sécurité, du désalignement, de l’aveuglement collectif, de course à l'armement technologique et des réponses possibles.

Et si l’on prend au sérieux une éthique sentientiste, une inquiétude plus profonde se dessine : les êtres sentients non humains – déjà largement oubliés – risquent de l’être encore davantage dans un monde gouverné par des IA non alignées. Un monde où ni leur souffrance, ni leur existence même, ne pèseraient dans la balance. Et si une IA devenait elle-même sentiente, rien ne garantit qu’elle serait mieux traitée que les autres.

📄 Transcription complète de l’épisode

📌 Chapitres de l’épisode :

🎧 (00:00) Introduction – Pourquoi parler d’IA dans un podcast antispéciste ?
🧠 (05:32) Pourquoi ChatGPT est une révolution
🔍 (08:31) Comment fonctionne une IA ? De vraies boîtes noires
⚠️ (13:08) Trois grandes familles de risques : malveillance, effets systémiques, désalignement
💀 (20:19) Les risques existentiels : extinction humaine ou sentiente ?
🤯 (26:07) Explosion d’intelligence. Pourquoi on ne pourra pas réagir à temps
🔧 (33:23) Ce n’est qu’un outil, ça dépend des usages qu’on en fait
🧯 (37:21) On n’aura qu’à les débrancher, on aura le temps de s’adapter
🛸 (44:33) “Ce n’est que de la science-fiction !” Vraiment ?
💸 (46:59) Pourquoi les géants de la tech ne peuvent plus s’arrêter
🤐 (50:19) Silence médiatique et autocensure dans la recherche
🦁 (53:20) Faut-il avoir peur ? Un bon réflexe de survie
🔁 (58:52) Et si les IA faisaient pire que nous ?

–––

📚 Ressources citées dans l’épisode :

ASL 3, échelle de sécurité développée par Anthropic

Cas de suicide en Allemagne impliquant Replica

Claude 4 Opus qui apprend à mentir

Agents qui s’auto-améliorent : Darwin, Gödel Machine, AlphaEvolve

Self-awareness des IA

Chercheurs ou PDG qui sonnent l'alerte : Yoshua Bengio, Geoffrey Hinton, Dario Amodei, Sam Altman, Ilya Sutskever

Projet Stargate

Concepts de décolage rapide ou lent (hard vs slow take-off)

Facebook Files (Frances Haugen)

"Disneyland sans enfants", formule de Nick Bostrom

Site de Shaïman Thürler pour s'informer et agir

Discords à rejoindre : PauseIA, Cesia, Le Futurologue

⭐Recommandations de Shaïman Thürler :

📖 Hyperarme – Flavien Chervet

📄 Article : « .css-j9qmi7{display:-webkit-box;display:-webkit-flex;display:-ms-flexbox;display:flex;-webkit-flex-direction:row;-ms-flex-direction:row;flex-direction:row;font-weight:700;margin-bottom:1rem;margin-top:2.8rem;width:100%;-webkit-box-pack:start;-ms-flex-pack:start;-webkit-justify-content:start;justify-content:start;padding-left:5rem;}@media only screen and (max-width: 599px){.css-j9qmi7{padding-left:0;-webkit-box-pack:center;-ms-flex-pack:center;-webkit-justify-content:center;justify-content:center;}}.css-j9qmi7 svg{fill:#27292D;}.css-j9qmi7 .eagfbvw0{-webkit-align-items:center;-webkit-box-align:center;-ms-flex-align:center;align-items:center;color:#27292D;}