ChatGpt, perché collegarlo a internet è pericoloso

E se al momento la selezione dei plugin è limitata, la concorrenza potrebbe spingere OpenAi ad ampliare la sua offerta. Hendrycks vede una differenza tra i plugin di ChatGpt e i precedenti sforzi delle aziende tecnologiche per far crescere gli ecosistemi di sviluppatori intorno all’Ai conversazionale, come nel caso diAmazon e del suo assistente vocale Alexa.

Gpt-4 può per esempio eseguire comandi Linux ed è in grado di spiegare come realizzare armi biologiche, sintetizzare bombe o acquistare ransomware sul dark web. Hendrycks sospetta che le estensioni ispirate ai plugin di ChatGpt potrebbero rendere molto più semplici attività come il phishing.

Il passaggio dalla generazione di testo all’esecuzione di compiti per conto di una persona elimina un vuoto che finora ha impedito ai modelli linguistici di compiere azioni: “Sappiamo che sui modelli si può applicare il jailbreak [un processo che permette di aggirare le restrizioni di un sistema, ndr] e ora li stiamo collegando a internet in modo che possano potenzialmente intraprendere azioni – dice Hendrycks –. Questo non vuol dire che ChatGpt costruirà di sua spontanea volontà bombe o cose simili, ma rende molto più facile fare questo genere di cose“.

Anche Ali Alkhatib, direttore ad interim del Center for Applied Data Ethics dell’Università di San Francisco, concorda sul fatto che i plugin per i modelli linguistici potrebbero consentire di rimuovere più facilmente le limitazioni di questi sistemi. Dal momento che gli utenti interagiscono con l’Ai utilizzando il linguaggio naturale, ci sono potenzialmente milioni di vulnerabilità non ancora scoperte. 

“Le cose si stanno muovendo abbastanza velocemente da essere non solo pericolose, ma addirittura dannose per molte persone“, afferma Alkhatib, che teme che le aziende entusiaste di utilizzare i nuovi sistemi di intelligenza artificiale possano inserire i plugin in contesti sensibili come i servizi di consulenza.

L’aggiunta di nuove funzionalità a programmi di Ai come ChatGpt potrebbe avere anche conseguenze indesiderate, riporta l’amministratore delegato di Generally Intelligent Kanjun Qiu. Un chatbot, per esempio, potrebbe prenotare un volo eccessivamente costoso o essere usato per distribuire spam; in casi come questi, secondo Qiu dovremo capire anche chi avrebbe la responsabilità di un comportamento scorretto.

Qiu però aggiunge anche che l’utilità dei programmi di Ai connessi a internet rende la tecnologia di fatto inarrestabile: “Nei prossimi mesi e anni, possiamo aspettarci che gran parte di internet sia connessa a grandi modelli linguistici“, racconta.

Questo articolo è comparso originariamente su Wired US.