Explainable AI: che cos'è? Ce ne parla la matematica Monica Moroni di FBK

Se doveste decidere se sottoporvi ad una terapia e ci fosse un computer a consigliarvi, vi fidereste? Fino a che punto possiamo fidarci di qualcuno che non conosciamo, specie quando questo qualcuno non è umano, ma un algoritmo di intelligenza artificiale? La Explainable AI (o "XAI" intelligenza artificiale spiegabile) è un insieme di strumenti e di tecniche utilizzate per aiutare le persone a comprendere meglio perché un modello di #AI genera certe decisioni, grazie alla descrizione del suo funzionamento. Per esempio, algoritmi AI nel campo della digital imaging e della diagnostica strumentale sono in grado di distinguere i tessuti sani da quelli alterati dal possibile effetto di una patologia tumorale. Si tratta di differenze spesso non riscontrabili ad occhio nudo, ma riconoscerle diventa possibile soltanto grazie all’elevato livello di accuratezza dei sistemi informatici. Spiegare quindi come le tecnologie AI, sempre più diffuse in svariati ambiti della ricerca e dell’applicazione medico-sanitaria, sono in grado di supportare i medici nella scelta di una terapia, potrebbe aiutare i pazienti ad accettare una diagnosi precoce, difficile da affrontare innanzitutto dal punto di vista psicologico, ma nella cui fiducia risiedono molto spesso le effettive speranze di prevenire le fasi più acute della malattia.
Monica Moroni, laurea in matematica a Milano e ora nelle fila come post-doc dell'unità di ricerca Data Science for Health del Centro Digital Health and Wellbeing della Fondazione Bruno Kessler di Trento, ci racconta di cosa si occupa, insieme ai suoi colleghi, per riuscire a portare gli algoritmi che sviluppano dai laboratori alla clinica.
Intervista a cura di Marzia Lucianer (FBK/TS4.0) realizzata a ottobre 2022, a Trento.
Musica:
"Wholesome" Kevin MacLeod (incompetech.com)
Licensed under Creative Commons: By Attribution 4.0 License
http://creativecommons.org/licenses/by/4.0/