Opinione

Le sfide legate all’utilizzo di IA generativa

Woebot è un’app di supporto alla salute mentale lanciata nel 2017, quando il termine “chatbot” non era ancora familiare e l’idea di parlare con un terapeuta era associata esclusivamente a interazioni umane. Questo chatbot, alimentato dall’intelligenza artificiale, offriva supporto per la salute mentale su richiesta, attraverso conversazioni strutturate basate sulla terapia cognitivo-comportamentale (CBT).

Il panorama è molto cambiato da allora. La domanda di servizi per la salute mentale è aumentata, mentre l’offerta di clinici è rimasta stagnante. Ci sono migliaia di app che offrono supporto automatizzato, e ChatGPT ha introdotto milioni di persone all’IA conversazionale. Tuttavia, nonostante l’entusiasmo per l’IA generativa, sono emerse anche preoccupazioni relative ai suoi potenziali pericoli. Woebot Health ha dovuto valutare se integrare questa tecnologia nel loro prodotto potesse effettivamente migliorarlo senza introdurre rischi eccessivi.

A differenza di ChatGPT, Woebot non è un chatbot basato su IA generativa. Utilizza un motore basato su regole che guida gli utenti attraverso percorsi conversazionali prestabiliti, mentre ChatGPT genera risposte statisticamente. Le interazioni con Woebot sono progettate da esperti di terapia basata sull’evidenza e non producono affermazioni imprevedibili come può fare ChatGPT.

Il cuore tecnologico di Woebot è il trattamento del linguaggio naturale (NLP), utilizzato per comprendere i testi scritti dagli utenti e rispondere in modo appropriato, facilitando un coinvolgimento più profondo nel processo terapeutico. Woebot è concepito per essere un complemento al supporto umano, non un sostituto, seguendo principi che incoraggiano l’autosviluppo attraverso domande pertinenti e l’interazione in qualsiasi momento.

Con l’avvento di ChatGPT, Woebot Health ha esplorato l’uso di modelli di linguaggio più grandi per vedere se potessero aiutare a raggiungere i propri obiettivi senza compromettere la sicurezza e l’efficacia del servizio. I risultati iniziali sono stati promettenti, mostrando che i modelli di IA generativa possono fornire un livello di empatia e personalizzazione difficile da raggiungere solo con NLP tradizionale.

Tuttavia, l’uso di IA generativa presenta sfide, come la gestione delle risposte inappropriata o potenzialmente dannose. Per questo motivo, Woebot Health ha implementato un motore di esecuzione di prompt che integra l’IA generativa nel sistema basato su regole esistente. Questo permette di sperimentare in studi clinici controllati, garantendo che le interazioni rispettino gli standard di sicurezza e non producano effetti indesiderati.

In conclusione, Woebot continua a evolvere, esplorando le possibilità offerte dalle LLM per migliorare l’efficacia delle interazioni digitali nella gestione della salute mentale, pur mantenendo un rigoroso controllo sulla qualità e sulla sicurezza delle conversazioni offerte agli utenti.

Paolo Berro

Recent Posts

I Servizi segreti: “Con Trump abbiamo fallito”

"Un fallimento". È quanto ammesso dal capo dei Servizi segreti americani, Kimberly Cheatle, in riferimento…

22 Luglio 2024

Harris nome forte, i sondaggi: “Testa a testa con Trump”

Non è ancora chiaro se ci saranno o meno delle mini-primarie per il Partito democratico.…

22 Luglio 2024

Morti altri due ostaggi israeliani rapiti da Hamas

Confermata la morte di altri due ostaggi israeliani in mano ad Hamas a Gaza dal…

22 Luglio 2024

Rfi, risolti i rallentamenti sull’Alta velocità tra Roma e Firenze

Rfi ha comunicato che, sulla linea dell’Alta velocità tra Roma e Firenze, la circolazione ferroviaria…

22 Luglio 2024

Estate: 36 milioni di cittadini si metteranno in viaggio

I dati di Federalberghi hanno rilevato che, quest’estate, 36 milioni di italiani, prevedono di mettersi…

22 Luglio 2024

Parolin in Ucraina incontra le autorità civili e religiose

Il cardinale segretario di Stato Pietro Parolin è in visita in Ucraina fino al 24…

22 Luglio 2024