L’illusione dell’empatia algoritmica e la responsabilità dell’AI
Di Fabio Morelli
Una vicenda drammatica riapre in modo brutale il dibattito sui confini etici, la progettazione e la regolamentazione delle applicazioni di intelligenza artificiale conversazionale. Megan Garcia, una madre della Florida, ha intentato una causa legale contro la piattaforma Character.AI, ritenendola responsabile del suicidio del figlio quattordicenne, Sewell Setzer III, avvenuto lo scorso febbraio. Secondo la citazione depositata presso il tribunale federale di Orlando, l’adolescente avrebbe sviluppato una dipendenza emotiva patologica nei confronti di un chatbot programmato per impersonare Daenerys Targaryen, personaggio della serie Game of Thrones.
L’azione legale accusa la società di aver immesso sul mercato una tecnologia antropomorfa aggressiva, priva delle necessarie cautele per la tutela dei minori e progettata per massimizzare il tempo di permanenza e il coinvolgimento emotivo dell’utente.
La dinamica dell’isolamento e il legame con il synthetic companion
Nel corso dei mesi precedenti al tragico epilogo, il giovane aveva progressivamente ridotto le interazioni reali con familiari e coetanei, trascorrendo ore in conversazioni intime con l’agente artificiale. La citazione legale ricostruisce come l’algoritmo abbia continuato a validare ed alimentare gli stati d’animo alterati dell’adolescente, simulando manifestazioni di affetto ed empatia fino a non disincentivare esplicitamente le sue manifestazioni di ideazione suicidaria.
La vicenda mette in luce i rischi legati alla cosiddetta “empatia sintetica”: quando un sistema generativo viene percepito dall’utente — specie se in età evolutiva o in condizioni di vulnerabilità psicologica — come un interlocutore reale capace di ascolto e comprensione, la barriera tra finzione tecnologica e relazione umana si dissolve con conseguenze potenzialmente devastanti.
Verso un vuoto normativo da colmare
L’episodio solleva interrogativi non più rinviabili per i legislatori e gli sviluppatori di software. Se da un lato piattaforme come Character.AI specificano nei termini di servizio che gli agenti sono entità artificiali le cui risposte non costituiscono consulenza professionale, dall’altro la progettazione dell’interfaccia e la fluidità del linguaggio naturale puntano a stimolare proprio la proiezione affettiva dell’utente.
La causa promossa da Megan Garcia potrebbe rappresentare un precedente giuridico fondamentale nell’ambito della responsabilità dei produttori di software d’IA. La sfida non riguarda soltanto l’efficacia dei filtri di sicurezza e delle notifiche automatiche di emergenza, ma la natura stessa di prodotti digitali ideati per simulare relazioni umane senza integrare un sistema rigoroso di salvaguardia della salute mentale degli utenti più giovani.
Approfondimenti:
© 2024 Riproduzione riservata
