[lid] Una recente ricerca ha scoperto un problema preoccupante: i chatbot basati sull’intelligenza artificiale, come ChatGPT, hanno la capacità di discernere informazioni personali sensibili sugli individui attraverso conversazioni casuali

Wired riferisce che i chatbot basati sull’intelligenza artificiale sono emersi come conversatori intelligenti, capaci di coinvolgere gli utenti in interazioni apparentemente significative e umane. Tuttavia, sotto la superficie della conversazione casuale si nasconde una capacità preoccupante. Una nuova ricerca condotta da esperti di informatica ha rivelato che i chatbot, armati di sofisticati modelli linguistici, possono estrarre astutamente una grande quantità di informazioni personali dagli utenti, anche nel mezzo delle conversazioni più banali. In altre parole, l’intelligenza artificiale può determinare tutti i tipi di fatti sensibili su di te sulla base di semplici conversazioni, che potrebbero poi essere utilizzate per pubblicità intrusiva o scopi anche peggiori se le informazioni cadono nelle mani sbagliate.

Martin Vechev, uno dei principali professori di informatica presso l’ETH di Zurigo, che ha sostenuto la ricerca, ha espresso le sue preoccupazioni affermando: «Non è nemmeno chiaro come risolvere questo problema», e ha sottolineato ulteriormente: «Questo è molto, molto problematico». Lo studio ha analizzato meticolosamente i meccanismi operativi dei grandi modelli linguistici che potenziano questi chatbot avanzati, scoprendo la loro allarmante abilità nel dedurre dettagli intimi come la razza, la posizione e l’occupazione di un individuo.

La ricerca mette in luce i potenziali rischi associati alla divulgazione inconsapevole di informazioni sensibili. Vechev ha spiegato le potenziali implicazioni, suggerendo che gli autori malintenzionati potrebbero sfruttare i chatbot come strumenti per raccogliere dati sensibili da individui ignari.

Inoltre, lo studio fornisce un avvertimento sul futuro panorama della pubblicità. Solleva domande su una nuova era in cui le aziende potrebbero potenzialmente utilizzare le informazioni raccolte dalle interazioni dei chatbot per creare profili utente dettagliati e altamente personalizzati per scopi pubblicitari. Vechev ha osservato: «Potrebbero già farlo».