**ChatGPT: LA NUOVA FRONTIERA DEI GPT**
Dopo la presentazione di novembre 2023, OpenAI ha consegnato a fine maggio 2024 – anche agli utenti non paganti – la possibilità di usare **GPT** personalizzati all’interno di ChatGPT. Accessibili cliccando su *Esplora GPT* nella schermata principale dell’applicazione **ChatGPT**, questi strumenti arricchiscono le potenzialità del chatbot combinando le abilità del sottostante modello generativo con le informazioni provenienti da strumenti di terze parti o successivamente elaborate da quest’ultime.
**GPT, COSA SONO E A COSA SERVONO**
Quando si parla di GPT (*Generative Pre-trained Transformers*), si fa solitamente riferimento a una serie di **modelli generativi** sviluppati da OpenAI. Sono progettati per comprendere e generare testo in **linguaggio naturale** e la loro struttura è basata su una variante dei Transformer, un’architettura di rete neurale introdotta da un team di ingegneri Google nel 2017 (documento dal titolo “*Attention Is All You Need*“). I **Transformer** gestiscono in modo efficace sequenze molto lunghe di testo.
Il modello pre-addestrato è poi ulteriormente migliorato (*fine tuning*) su set di dati specifici per compiti particolari. In questo modo il modello diventa più abile nello svolgimento di mansioni specifiche come la traduzione, la risposta a domande o la generazione di testi coerenti e pertinenti. Queste attività fanno emergere anche gli **aspetti semantici** ovvero il significato intrinseco di parole, frasi e concetti.
**VETTORI E DIMENSIONI DEI MODELLI GENERATIVI**
Quando un modello GPT riceve un input testuale, trasforma il testo in **vettori numerici** (*embedding*) che rappresentano il significato delle parole nel contesto in cui sono utilizzate. Ne parliamo nell’articolo incentrato sui segreti dell’attenzione nei modelli per l’Intelligenza Artificiale generativa. I **vettori** sono fatti transitare attraverso i vari strati del modello ed elaborati per determinare quali parole sono rilevanti al fine della “comprensione” del contesto generale. Come ultimo passo, il modello genera un *output* testuale che risponde al *prompt* o input iniziale fornito dall’utente.
Ne è passato di tempo da quando, prima ancora di ChatGPT, OpenAI ha svelato il modello GPT-2 (2019) che nella versione più “evoluta usava 1,5 miliardi di parametri. **GPT-3** aveva 175 miliardi di parametri, mentre GPT-4 (sebbene il numero esatto non sia mai stato rivelato) potrebbe usare circa **1760 miliardi di parametri**. Il **numero di parametri** nei modelli generativi come GPT fa riferimento alla quantità di pesi (o coefficienti) che devono essere adattati durante il processo di addestramento del modello. Rappresentano i pesi delle connessioni tra i neuroni nelle varie parti della rete neurale.