OpenAI ha riunito una squadra con l’obiettivo di scongiurare un giorno del giudizio dell’Intelligenza Artificiale (AI), poiché l’organizzazione esprime apprensione per il potenziale annientamento dell’umanità causato dalla Tecnologia AI rinnegata.
Secondo OpenAI, l’intelligenza artificiale possiede la capacità di evolversi in superintelligenza, che può rappresentare il salto tecnologico più epocale mai compiuto dall’umanità, facilitando soluzioni a dilemmi globali cruciali.
Tuttavia, Ilya Sutskever e Jan Leike di OpenAI attenzione che gli esseri umani non sono attrezzati per affrontare una tecnologia che supera le proprie capacità cognitive.
Il pericolo di un’intelligenza artificiale superintelligente
Il team di OpenAI riconosce il pericolo imminente di un’intelligenza artificiale superintelligente e ammette che al momento manca una soluzione per controllare o reindirizzare la sua condotta. Le metodologie esistenti per allineare l’IA, come l’apprendimento per rinforzo dal feedback umano, si basano sulla supervisione umana. Tuttavia, poiché i sistemi di intelligenza artificiale superano gli umani in termini di intelligenza, questa supervisione diventa inaffidabile.
Mentre la prospettiva della fine dell’umanità è allarmante, i leader di OpenAI mantengono una visione ottimistica sulla scoperta di una soluzione. Credono fermamente che con sforzi mirati e concertati, la situazione possa essere risolta. Concetti incoraggianti ed esperimenti preliminari, uniti a progressi misurabili e alla capacità di studiare empiricamente queste sfide utilizzando gli attuali modelli di intelligenza artificiale, contribuiscono alla loro ottimismo.
Mr. Sutskever e Mr. Leike sottolineano la loro incrollabile dedizione a diffondere ampiamente i risultati del loro lavoro. OpenAI sta reclutando attivamente ingegneri di ricerca, scienziati e manager che hanno interesse a prevenire il dominio o l’eradicazione dell’umanità da parte dell’IA. Inoltre, OpenAI ha annunciato l’ampia disponibilità di GPT-4, il loro modello di intelligenza artificiale più capace, con l’intenzione di renderlo più accessibile agli sviluppatori.