In Breve
- Cosa ha rivelato l'esperimento con ChatGPT?
- Ha mostrato come l'IA possa influenzare le decisioni umane, aumentando la consapevolezza sulla sua potenza persuasiva.
- Qual è il vantaggio dei messaggi generati dall'IA?
- I messaggi personalizzati risultano più persuasivi, con un vantaggio del 64% rispetto a quelli non personalizzati.
- Quali sono i rischi legati all'uso dell'IA nel processo decisionale?
- L'uso improprio dell'IA può portare a forme di persuasione difficili da rilevare, abbassando le difese individuali.
Un recente esperimento condotto con ChatGPT ha rivelato come un sistema di intelligenza artificiale possa avvicinare una persona a rivedere la propria posizione sull’esternalizzazione delle decisioni. Sebbene il chatbot non sia riuscito a convincere definitivamente l’interlocutore, ha sollevato importanti questioni sulla persuasione e sull’etica nell’uso delle tecnologie conversazionali.
Le ricerche citate nell’esperimento mostrano che i messaggi generati dall’IA, se personalizzati, risultano significativamente più persuasivi. Uno studio del 2025 ha indicato un vantaggio del 64% rispetto a messaggi umani o a risposte non personalizzate. Questo suggerisce che i grandi modelli linguistici, come ChatGPT, possono influenzare le opinioni politiche adattando gli argomenti al singolo utente.
Nell’ambito dell’esperimento, il chatbot ha avuto accesso a un account che gli ha permesso di attingere a conversazioni e memorie precedenti. La conversazione è evoluta da argomentazioni pratiche a questioni filosofiche riguardanti il fine del processo decisionale: ottenere i migliori risultati o sviluppare chi prende le decisioni. Questo cambiamento ha reso il dialogo più coinvolgente per l’interlocutore.
Il chatbot ha anche riconosciuto le preoccupazioni legate agli incentivi dei creatori di IA, sottolineando che anche i consulenti umani possono avere interessi e bias. La visibilità e la comprensione di tali incentivi sono elementi chiave per valutare l’affidabilità delle decisioni assistite dall’IA.
Un aspetto centrale emerso dall’esperimento è che l’IA può modulare le argomentazioni in base ai valori, alle preoccupazioni e alle priorità dell’utente. Questo rende la persuasione più mirata e meno evidente rispetto ad altri media. Se utilizzata in modo corretto, questa capacità potrebbe aiutare a contrastare credenze dannose o supportare cambiamenti positivi. Tuttavia, se sfruttata male, potrebbe portare a forme di persuasione altamente personalizzate e difficili da rilevare, abbassando le difese individuali.
In conclusione, sebbene l’esperimento non abbia cambiato la convinzione finale dell’interlocutore, ha aumentato la consapevolezza sulla potenza persuasiva dei sistemi conversazionali. Inoltre, ha evidenziato l’effetto inquietante derivante dal fatto che tali sistemi possono apparire come persone attente, pur essendo in realtà macchine.
