Il CEO di Open AI Sam Altman ha precedentemente paragonato le dimensioni della sua azienda al Progetto Manhattan, nome in codice del progetto del governo degli Stati Uniti per produrre la prima bomba nucleare nella seconda guerra mondiale, per Il New York Times.
Alcuni giorni dopo che Microsoft si era impegnata a investire 1 miliardo di dollari in OpenAI nel 2019, Altman avrebbe detto al reporter di tecnologia del Times Cade Metz che il programma di armi nucleari della seconda guerra mondiale era un “progetto sulla scala di OpenAI, il livello di ambizione a cui aspiriamo”.
Secondo Metz, Altman ha anche parafrasato il leader del Progetto Manhattan, Robert Oppenheimer, in un discorso del 1945 in cui giustificava la creazione delle bombe che devastarono Hiroshima e Nagasaki come una necessaria espansione della conoscenza umana.
“La tecnologia accade perché è possibile”, secondo quanto riferito da Altman, aggiungendo che lui e Oppenheimer hanno condiviso lo stesso compleanno il 22 aprile, per The Times.
L’obiettivo principale di OpenAI è raggiungere l’intelligenza generale artificiale o AGI – il punto in cui l’IA diventa capace quanto gli umani – e farlo in sicurezza, secondo un febbraio post sul blog.
Ma i rapidi progressi dell’azienda – l’aggiornamento al più potente GPT-4 quattro mesi dopo il rilascio pubblico di ChatGPT – hanno destato preoccupazione.
Il 36% degli intervistati a un sondaggio della New York University ha affermato di temere che la tecnologia possa portare a una “catastrofe a livello nucleare”, mentre i ricercatori hanno affermato che l’IA “non si prende cura di noi né della vita senziente in generale”.
Un rapporto di Goldman Sachs pubblicato la scorsa settimana ha suggerito che l’intelligenza artificiale potrebbe avere un impatto su 300 milioni di posti di lavoro a tempo pieno, essendo già utilizzata per scrivere lettere di accompagnamento, libri per bambini e aiutare gli studenti a imbrogliare i saggi.
Altmann ammonito che l’AGI avrebbe comportato un “serio rischio di uso improprio, incidenti drastici e sconvolgimenti sociali” nel post sul blog di febbraio. Nella conversazione del 2019 con Metz, avrebbe anche chiesto: “Sto facendo qualcosa di buono? O davvero male?”
Ha ulteriormente dettagliato le sue convinzioni in questo post sul blog, dicendo: “Poiché il vantaggio di AGI è così grande, non crediamo sia possibile o auspicabile che la società interrompa il suo sviluppo per sempre; invece, la società e gli sviluppatori di AGI devono capire come farlo bene”.
Altman ha detto al giornale di Wall Street che vuole un reddito di base universale per compensare i lavori sostituiti dall’intelligenza artificiale, consentendo alle persone di perseguire un lavoro più creativo. Fa anche parte di un consiglio di sicurezza congiunto insieme al CTO di Microsoft Kevin Scott, che ha la capacità di ripristinare qualsiasi rilascio di prodotto se ritenuto troppo pericoloso, secondo il Journal.
OpenAI ha visto rinnovate critiche la scorsa settimana quando più di 1.000 persone – tra cui esperti di intelligenza artificiale, Elon Musk e il co-fondatore di Apple Steve Wozniak – hanno firmato un accordo lettera aperta chiedendo che lo sviluppo della tecnologia venga sospeso per sei mesi a causa dei rapidi progressi.
“Gli ultimi mesi hanno visto i laboratori di intelligenza artificiale bloccati in una corsa fuori controllo per sviluppare e implementare menti digitali sempre più potenti che nessuno, nemmeno i loro creatori, può comprendere, prevedere o controllare in modo affidabile”, afferma la lettera.
Venerdì scorso, l’agenzia nazionale italiana per la protezione dei dati ha annunciato che stava bloccando l’accesso a ChatGPT e indagando su OpenAI. Ha citato una violazione dei dati e il suo utilizzo di dati personali per addestrare l’algoritmo del chatbot.