OpenAI ha rivoluzionato l’intelligenza artificiale e il suo utilizzo introducendo ChatGPT. L’azienda ha fatto molta strada, integrando e utilizzando i suoi servizi in diversi settori, dal settore sanitario a quello dell’istruzione, e il chatbot ha trovato un valido utilizzo con un largo consenso degli utilizzatori. Tuttavia, sembra che molti stiano abusando dello strumento di intelligenza artificiale, o almeno così sostiene l’azienda. Si dice che OpenAI abbia identificato e bloccato diverse campagne segrete con scopi dannosi, presumibilmente legate alla Cina e volte a influenzare l’opinione pubblica.
Senza dubbio la crescente influenza dell’IA e la sua più ampia applicazione, la comunità tecnologica è sempre più preoccupata per l’uso responsabile degli strumenti di IA, il che pone sulle spalle delle aziende una maggiore responsabilità nel garantire il supporto allo sviluppo e al progresso etico dell’IA. Nonostante gli sforzi profusi in tal senso, spesso si verifica un abuso della tecnologia, che viene utilizzata per scopi illeciti. OpenAI ha recentemente annunciato di aver individuato e bloccato diverse campagne sui social media che utilizzavano impropriamente ChatGPT e che erano collegate a propaganda, presumibilmente proveniente dalla Cina.
Si dice che siano state chiuse dieci operazioni, quattro delle quali erano collegate alla Cina. Le operazioni consistevano nell’uso di ChatGPT per creare post politicamente intenzionali e persino per interagire con diverse piattaforme online con una falsa identità per influenzare l’opinione pubblica e indirizzarla in una certa direzione. Una campagna chiamata Uncle Spam è stata utilizzata per scrivere campagne controverse su argomenti sensibili negli Stati Uniti. L’azienda suggerisce che questa non è la prima volta che la sua tecnologia viene utilizzata in modo improprio, poiché anche altri paesi come Russia, Iran e persino Corea del Nord sono coinvolti in tali pratiche.
Secondo un rapporto di NPR , l’abuso di ChatGPT è un passo avanti, poiché non solo i post di propaganda sono stati creati, ma sono stati anche potenziati e resi più autentici e ampiamente disponibili, sollevando preoccupazioni circa l’influenza illecita che potrebbe aver avuto sulla comunità. Lo strumento è stato inoltre utilizzato per creare valutazioni delle prestazioni relative all’utilizzo del chatbot per le attività.
Il rapporto afferma:
I propagandisti cinesi utilizzano ChatGPT per scrivere post e commenti sui siti di social media e anche per creare valutazioni delle prestazioni che descrivono nel dettaglio il lavoro svolto dai loro capi.
Anche Ben Nimmo, investigatore principale del team di intelligence e investigazione di OpenAI, ha commentato la minaccia che l’azienda sta affrontando.
Ciò a cui stiamo assistendo dalla Cina è un crescente numero di operazioni segrete che utilizzano una gamma sempre più ampia di tattiche.
L’operazione ha coinvolto un ulteriore livello di attività, che ha coinvolto l’utilizzo di ChatGPT di OpenAI per la creazione di email indirizzate ad analisti, giornalisti e politici, nel tentativo di costruire relazioni con falsi pretesti e di estrarre informazioni. L’utilizzo di strumenti di intelligenza artificiale per la manipolazione strategica e la violazione dei limiti etici è preoccupante e le aziende dovrebbero rimanere più vigili e intervenire nella maniera più celere possibile.
0 commenti