ChatGPT contro il mondo: all’interno dei migliori modelli linguistici di intelligenza artificiale di oggi

Introduzione: Un’IA può scrivere la tua tesina, correggere il codice, e pianificare la cena meglio di te? I Large Language Models (LLM) come ChatGPT sono esplosi nel mainstream, stupendo il mondo con conversazioni simili a quelle umane e una conoscenza potenziata. In soli due mesi dal lancio, ChatGPT ha raggiunto 100 milioni di utenti – l’app in più rapida crescita mai vista reuters.com. Questi maghi dell’IA sono alimentati da reti neurali con miliardi o trilioni di parametri addestrati su oceani di testo. L’ultimo modello ChatGPT di OpenAI (GPT-4) è stimato in ben 1,8 trilioni di parametri explodingtopics.com, utilizzando una sofisticata progettazione “mixture-of-experts” per racchiudere più intelligenza. Ma OpenAI non è l’unica: concorrenti come Claude di Anthropic, Gemini di Google DeepMind, LLaMA di Meta, Mixtral di Mistral AI e altri sono in lotta per la corona degli LLM. Ognuno ha la sua architettura, i suoi punti di forza e le sue particolarità.

In questo rapporto completo, demistificheremo gli LLM – come funzionano e perché sono così rivoluzionari – quindi ci tufferemo in un’analisi approfondita di ChatGPT e dei suoi principali rivali. Confronteremo le specifiche tecniche, le capacità (anche con trucchi multimodali come le immagini!), il grado di apertura e i pro/contro che possono fare la differenza nella tua esperienza con l’IA. Infine, concluderemo con trend e consigli su come scegliere il modello di IA giusto per le tue esigenze. Preparati per un entusiasmante viaggio nell’attuale panorama dell’IA!

Introduzione agli LLM: come funzionano e perché sono rivoluzionari

Cosa sono gli LLM? I Large Language Models sono sistemi di IA addestrati per comprendere e generare testo. Si basano sull’architettura Transformer, che utilizza meccanismi di self-attention per apprendere i modelli della lingua. In sostanza, un LLM legge enormi quantità di testo e impara a prevedere la parola successiva in una frase. Addestrandosi su miliardi o trilioni di parole (libri, siti web, codice, di tutto), questi modelli sviluppano una padronanza quasi sorprendente del linguaggio, dei fatti e persino di un certo ragionamento. Gli LLM moderni vengono prima pre-addestrati su un corpus generale (imparando a completare o proseguire il testo) e poi spesso fine-tuned su compiti o istruzioni specifiche en.wikipedia.org en.wikipedia.org. Tecniche come il reinforcement learning from human feedback (RLHF) vengono usate per allineare i modelli alle preferenze umane, rendendoli più bravi a seguire le istruzioni e ad essere utili anthropic.com anthropic.com.

Pura scala: Il “large” negli LLM è davvero serio – i primi modelli Transformer come GPT-2 avevano 1,5 miliardi di parametri, ma ora parliamo di oltre 100 miliardi come standard, e i modelli all’avanguardia arrivano a superare il trilione. Ad esempio, GPT-3 aveva 175 miliardi di parametri, e si vocifera che l’architettura di GPT-4 (anche se non ufficialmente confermata) usi circa 8 modelli × 220 miliardi di parametri ciascuno (≈1,76 trilioni) explodingtopics.com explodingtopics.com. Questa scala conferisce agli LLM una memoria straordinaria dei dati di addestramento e la capacità di generare testo molto fluente e contestualmente rilevante. Tuttavia, li rende anche assetati di risorse – addestrare GPT-4 pare sia costato oltre 100 milioni di dollari di calcolo explodingtopics.com, e i ricercatori avvertono che i modelli di prossima generazione potrebbero arrivare a costare 10 miliardi di dollari per essere addestrati entro il 2025 explodingtopics.com. Per farli funzionare sono necessarie GPU potenti o hardware specializzato.

Contesto e “memoria”: Gli LLM non comprendono esattamente come gli esseri umani, ma usano una finestra di contesto per tenere traccia della conversazione o della storia di un documento. I primi modelli potevano gestire forse 2.000 token (~1500 parole), ma i più recenti vantano enormi lunghezze di contesto – Claude 2 di Anthropic accetta fino a 100.000 token (circa 75.000 parole), e Gemini 1.5 di Google ha sperimentato una pazzesca finestra di contesto da 1 milione di token en.wikipedia.org. Questo significa che un LLM può considerare come input un intero libro o ore di dialogo, abilitando lunghe conversazioni e analisi approfondite. Tuttavia, contesti lunghi richiedono più calcolo e possono diluire l’attenzione su ciò che conta davvero en.wikipedia.org.

Multimodalità: Mentre i primi LLM trattavano solo il testo, la frontiera sono i modelli multimodali che possono gestire immagini, audio o video insieme al testo. Gli “LLM multimodali” possono descrivere immagini, generare grafica a partire da descrizioni o ricevere input vocali. Ad esempio, GPT-4 di OpenAI può interpretare immagini (in ChatGPT Vision), e Gemini di Google è stato progettato fin dall’inizio per essere multimodale – processando testo, immagini e altro ancora en.wikipedia.org en.wikipedia.org. Questo apre le porte a un’IA che può vedere e parlare, non solo leggere e scrivere.

Capacità emergenti e limiti: Quando gli LLM sono cresciuti, hanno iniziato a mostrare capacità emergenti – risolvendo problemi di matematica, scrivendo codice, superando esami di conoscenza – compiti non programmati esplicitamente. Ad esempio, GPT-4 ha quasi raggiunto il 90° percentile all’esame di abilitazione forense (dove GPT-3.5 era circa al 10° percentile) law.stanford.edu e può ottenere i voti migliori in molti test accademici e professionali. Questi modelli eccellono nel generare testo coerente e contestuale e possono essere molto creativi. Tuttavia, hanno anche debolezze ben note. Allucinano – producendo risposte convincenti ma sbagliate o prive di senso en.wikipedia.org. Manca loro la comprensione reale o il ragionamento e possono avere difficoltà con logiche complesse o eventi recentissimi oltre i dati di addestramento. Inoltre, i modelli chiusi possono essere black box: non sappiamo sempre perché dicono ciò che dicono e la loro conoscenza è limitata alla data di addestramento (ad esempio, quella di ChatGPT era fissata a fine 2021 per molto tempo).

Modelli open e closed: Alcuni LLM sono open-source o open-weight, cioè i pesi dei modelli sono rilasciati e chiunque può usarli o fare fine-tuning. Questo favorisce una comunità di sviluppatori che costruisce su di essi e aumenta la trasparenza. Meta ha iniziato questa tendenza con LLaMA nel 2023, e anche altri player come Mistral AI e Cohere hanno pubblicato modelli potenti in modo aperto. I modelli aperti permettono applicazioni personalizzate, installazione on-premises, e auditing del comportamento dell’IA mistral.ai ibm.com. D’altra parte, molti modelli top (quelli di OpenAI e Google) sono closed-source, accessibili solo tramite API o interfaccia limitata. I modelli chiusi spesso sono leader per capacità, ma richiedono fiducia nel fornitore e impongono limiti d’uso.

Fatte queste premesse, conosciamo da vicino i maggiori LLM che stanno definendo l’attuale panorama dell’IA – la loro progettazione, i punti di forza, le debolezze e come si confrontano.

ChatGPT (OpenAI): il pioniere dell’IA conversazionale

Panoramica: ChatGPT di OpenAI è l’IA che ha acceso l’immaginazione del pubblico. Lanciata come chatbot gratuito nel novembre 2022, è diventata un fenomeno da un giorno all’altro per la sua capacità di sostenere conversazioni naturali, risolvere problemi e generare praticamente qualsiasi tipo di testo su richiesta. A gennaio 2023 contava già circa 100 milioni di utenti, diventando l’app consumer con la crescita più rapida della storia reuters.com. ChatGPT è alimentato dai modelli della serie GPT di OpenAI – inizialmente GPT-3.5 (un modello di 175 miliardi di parametri ottimizzato a partire dal GPT-3 del 2020) e ora spesso GPT-4 per gli utenti a pagamento. GPT-4 è una rete neurale Transformer massiccia, si pensa utilizzi un’architettura Mixture-of-Experts con circa 1,7–1,8 trilioni di parametri distribuiti su 8 modelli “esperti” explodingtopics.com explodingtopics.com. OpenAI non ha confermato i dettagli, ma GPT-4 è chiaramente molto più grande e avanzato dei suoi predecessori.

Formazione e tecnologia: I modelli GPT sono Transformer solo decoder addestrati su enormi dataset di testo (GPT-4 è stato alimentato con testi e codice da Internet, libri, Wikipedia, ecc., probabilmente per un totale di trilioni di token). Il modello impara a prevedere il token successivo in una sequenza, il che durante l’addestramento gli insegna la grammatica, fatti e alcune capacità di ragionamento. Dopo il pre-training, ChatGPT ha subito messa a punto supervisionata e RLHF – OpenAI ha ricevuto feedback dagli umani sulle risposte del modello e ha utilizzato l’apprendimento per rinforzo per far sì che il modello seguisse le istruzioni e fosse user-friendly anthropic.com anthropic.com. Questo è il motivo per cui ChatGPT spiega le risposte passo dopo passo o rifiuta richieste inappropriate in base a dei guardrail. GPT-4 ha introdotto capacità multimodali: può accettare input di immagini e descriverle o analizzarle (ChatGPT Vision). Ha inoltre ampliato la finestra di contesto fino a 32.000 token (circa 24.000 parole) nell’uscita 2023, permettendo di processare documenti lunghi o dialoghi estesi explodingtopics.com.

Utilizzo e integrazione: ChatGPT è accessibile tramite un’interfaccia chat web e l’API di OpenAI, rendendo facile per chiunque provarlo. Ora è integrato in innumerevoli prodotti – ad esempio, le funzioni Bing Chat e Copilot di Microsoft usano GPT-4 dietro le quinte e molte app offrono plugin ChatGPT. Questa diffusione, insieme al vantaggio temporale di OpenAI, ha dato a ChatGPT un first-mover advantage nel catturare l’interesse di utenti e sviluppatori reuters.com reuters.com. Le persone lo utilizzano per assistenza nella scrittura, supporto alla programmazione, ricerca, tutoraggio, brainstorming creativo, bot di assistenza clienti – i casi d’uso sono infiniti. OpenAI offre anche il fine-tuning dei modelli GPT-3.5, consentendo alle aziende di adattare ChatGPT a compiti specializzati (il fine-tuning di GPT-4 è previsto in futuro).

Punti di forza: ChatGPT (specialmente con GPT-4) è ancora considerato lo standard d’oro in molti ambiti. Ha una conoscenza sorprendentemente ampia (grazie all’addestramento su quasi tutto Internet). Produce risposte fluenti, coerenti e rilevanti in più lingue. Gestisce compiti complessi di ragionamento e programmazione molto meglio rispetto ai modelli precedenti – ad esempio, GPT-4 può risolvere problemi complessi di matematica applicata alla comprensione del testo e scrivere codice lungo, ed è diventato famoso per aver superato molti esami professionali (Bar, LSAT, ecc.) tra le percentuali più alte law.stanford.edu. ChatGPT è anche altamente user-friendly: è stato progettato per seguire le istruzioni e fornire risposte dettagliate, e con RLHF solitamente risponde in modo utile e sicuro. Di conseguenza, eccelle nei compiti creativi come la scrittura di storie o il brainstorming, ma riesce anche a spiegare o insegnare concetti in modo chiaro. Il suo ampio contesto permette di digerire input lunghi (come interi articoli) e mantenere conversazioni multi-turno efficaci. Infine, l’effetto network è un punto di forza – esistono così tanti plugin, integrazioni e forum per ChatGPT che gli utenti hanno un ecosistema ricco da cui attingere.

Punti deboli: Nonostante le sue capacità, ChatGPT presenta limiti notevoli. Il più grande è la tendenza a allucinare informazioni – può cioè fornire fatti errati o inventare contenuti con assoluta sicurezza en.wikipedia.org. Ad esempio, potrebbe citare studi o leggi inesistenti, perché il modello prevede una risposta plausibile anche quando non è sicuro. Inoltre, a volte fatica con eventi molto recenti (a seconda del cutoff di conoscenza; i dati di GPT-4 arrivano fino a metà 2021, con aggiornamenti limitati tramite Bing per info più nuove). Un’altra debolezza è la mancanza di trasparenza – essendo un modello chiuso, non conosciamo le fonti dei dati né il suo funzionamento interno, che può essere problematica se genera contenuti errati o di parte. I guardrail di OpenAI, anche se importanti per la sicurezza, fanno in modo che ChatGPT rifiuti alcune domande o dia risposte generiche come “Come IA, non posso farlo”, il che può frustrare alcuni utenti. Dal punto di vista delle prestazioni, GPT-4 è potente ma lento e costoso da eseguire; la versione gratuita (GPT-3.5) può essere visibilmente più debole in ragionamento o accuratezza. Infine, l’uso di ChatGPT richiede fiducia in OpenAI – dato che il modello non è open-source e si usa solo tramite la loro piattaforma, la privacy dei dati e la dipendenza dal servizio OpenAI sono considerazioni (specialmente per le aziende).

In sintesi, ChatGPT resta un assistente IA rivoluzionario e polivalente con capacità di altissimo livello su tutta la linea, ma la sua natura chiusa e le occasionali informazioni errate lasciano spazio ai concorrenti – che infatti non hanno tardato ad arrivare.

Claude (Anthropic): Il Conversazionalista Etico con una Memoria Gigante

Panoramica: Claude è un LLM sviluppato da Anthropic, una startup focalizzata sulla sicurezza dell’IA fondata da ex ricercatori di OpenAI. Se ChatGPT è il beniamino mainstream, Claude è l’alternativa safety-first concepita per essere utile, onesta e innocua. Anthropic ha lanciato Claude all’inizio del 2023 e ha rilasciato Claude 2 a luglio 2023 come modello migliorato. Claude funziona in modo simile a ChatGPT (si accede anch’esso via chat o API), ma Anthropic lo ha differenziato puntando su metodi di addestramento etici e un’enorme finestra di contesto. Claude 2 è stato introdotto con fino a 100.000 token di contesto (circa 75.000 parole), il che significa che può gestire documenti lunghissimi o addirittura libri interi in una sola volta en.wikipedia.org. Questo rappresentava un ordine di grandezza superiore rispetto al contesto gestito da GPT-4 all’epoca, rendendo Claude particolarmente adatto ad attività come analisi testuale su larga scala o conversazioni lunghe senza che l’IA “dimentichi” i dettagli precedenti.

Architettura e addestramento: Claude si basa su un’architettura Transformer simile a GPT e, sebbene Anthropic non abbia pubblicato la dimensione esatta, si stima che Claude 2 abbia ~137 miliardi di parametri (contro ~93 miliardi del primo Claude) datasciencedojo.com. Quindi leggermente più piccolo di GPT-4 in termini di scala, ma paragonabile a modelli come PaLM 2. L’innovazione chiave di Anthropic è la “Constitutional AI” – una tecnica di addestramento in cui il modello è guidato da un insieme di principi scritti (una “costituzione”) che ne regolano il comportamento anthropic.com anthropic.com. Invece di affidarsi solo al feedback umano per penalizzare le risposte scorrette, Anthropic ha fatto sì che Claude valutasse e migliorasse autonomamente le sue risposte in base ad un elenco esplicito di regole su cosa sia considerato innocuo e utile. La costituzione di Claude si ispira, per esempio, alla Dichiarazione Universale dei Diritti Umani e ad altre linee guida etiche anthropic.com anthropic.com. Questo approccio mira a produrre un modello che rifiuta richieste inappropriate ed evita contenuti tossici o di parte in modo più autonomo. In pratica, Claude è molto avverso nel fornire contenuti proibiti – rifiuta cortesemente richieste di violenza, odio, comportamenti illeciti, ecc., citando i propri principi. Anthropic ha osservato che il feedback IA (usare il modello per valutare le proprie risposte secondo la costituzione) ha consentito una migliore scalabilità e ha evitato che i valutatori umani fossero esposti a contenuti disturbanti anthropic.com anthropic.com.

Capacità: Le prestazioni di Claude sono in genere paragonabili al range GPT-3.5/GPT-4, a seconda del compito. È molto forte su dialoghi estesi e mantenimento del contesto, proprio grazie alla sua enorme memoria. Ad esempio, utenti hanno fornito a Claude interi romanzi e ne hanno ricevuto analisi o revisioni. Può anche svolgere compiti strutturati come riassumere trascrizioni, scrivere codice o rispondere a domande, con risultati spesso comparabili a ChatGPT. Su alcuni benchmark, Claude 2 si avvicina al livello di GPT-4. (Infatti, a fine 2023, Anthropic stava testando Claude 2.1 e successive versioni; Claude 3 era in arrivo, con voci su un aumento significativo di scala.) Claude è anche multilingue e può gestire inglese, francese, ecc., anche se il suo punto di forza principale resta l’inglese. Anthropic afferma che Claude è meno incline ad allucinare o produrre contenuti dannosi grazie all’addestramento; tende ad essere più prudente e fornisce risposte verbose sulla motivazione dei suoi eventuali rifiuti o dubbi. Una caratteristica notevole – Claude era disponibile con un limite di output molto elevato (può generare risposte estremamente lunghe su richiesta, sfruttando quella dimensione di contesto), cosa utile per scritture articolate o generazione di documenti lunghi.

Accesso e utilizzo: Inizialmente, Claude era disponibile tramite API (notoriamente integrato in Slack come assistente chatbot durante la beta). Anthropic ha poi aperto un’interfaccia web (claude.ai) per l’uso diretto. Attualmente è gratuito con alcuni limiti e Anthropic collabora anche con aziende (Claude è disponibile su piattaforme come AWS Bedrock). Claude non ha ancora tante integrazioni consumer come ChatGPT, ma alcuni prodotti (come Poe di Quora) offrono Claude come opzione. Poiché Anthropic dà priorità alla sicurezza, Claude potrebbe essere preferito in contesti aziendali o educativi dove il controllo del comportamento dell’IA è fondamentale.

Punti di forza: I maggiori punti di forza di Claude includono la sua enorme finestra di contesto – può ricevere e analizzare molte più informazioni in un’unica volta rispetto alla maggior parte dei concorrenti, il che è fondamentale per attività come l’elaborazione di lunghi PDF o trascrizioni di riunioni di diverse ore. È inoltre tarato per elevati standard etici; raramente produce contenuti offensivi o rischiosi e spesso spiega il proprio ragionamento, il che può aumentare la fiducia dell’utente. Gli utenti riportano spesso che Claude ha una personalità molto amichevole e solare ed è abile nella scrittura creativa. Le sue risposte sono dettagliate ed è meno incline a rifiutare una richiesta valida (cerca di essere d’aiuto pur continuando a rispettare le regole). Nei compiti di programmazione, Claude 2 è competitivo e ha un vantaggio nella gestione di davvero grandi codebase o documenti grazie alla dimensione del contesto. Un altro punto di forza: Anthropic migliora costantemente la conoscenza e il ragionamento di Claude – ad esempio, Claude 2 ha superato l’80% su una suite di benchmark accademici e di coding, riducendo il divario con GPT-4 ibm.com ibm.com. Infine, per le organizzazioni, Claude offre un’alternativa al fare affidamento esclusivo su OpenAI – è sempre positivo avere un altro modello di alto livello sul mercato.

Punti deboli: Claude, pur essendo potente, a volte può sembrare meno brillante di GPT-4 sui problemi più difficili. La sua conoscenza potrebbe essere un po’ più limitata (se il numero di parametri e i dati di training sono effettivamente inferiori a quelli di GPT-4). Tende anche a dilungarsi: le risposte di Claude possono essere estremamente lunghe e troppo strutturate (talvolta ripetendo la domanda o fornendo spiegazioni eccessive). Questa prolissità è una conseguenza del suo addestramento a essere d’aiuto e a non trascurare dettagli, ma può costringere l’utente a riportarlo sul binario giusto. Nonostante l’attenzione alla veridicità, Claude ancora talvolta “allucina” – non è immune dall’inventare risposte se “pensa” di dover rispondere. Un altro problema: Disponibilità e integrazione. Al di fuori dell’ambiente tech, Claude è meno noto rispetto a ChatGPT e gli utenti occasionali potrebbero nemmeno saperne dell’esistenza. La sua interfaccia ed ecosistema sono meno sviluppati (meno plugin o demo pubbliche). Inoltre, essendo un modello chiuso (seppur non quanto OpenAI), bisogna ottenere l’accesso all’API o alla piattaforma di Anthropic, attualmente ancora su invito per alcune funzionalità. Infine, l’ultra-grande finestra di contesto di Claude, pur essendo un punto di forza, può essere lenta – gestire 100.000 token può risultare macchinoso o costoso, quindi l’utilizzo reale dell’intera finestra è ancora limitato dai vincoli computazionali.

In sintesi, Claude di Anthropic è come il caro amico responsabile di ChatGPT – magari non così esuberantemente intelligente come GPT-4 ai suoi massimi, ma affidabile, estremamente attento al contesto e allineato per essere il più sicuro e utile possibile. È una scelta solida per attività che richiedono elaborazione di testi lunghi o stretta osservanza di linee guida etiche.

Gemini (Google DeepMind): La Potenza Multimodale Pronta a Superare GPT-4

Panoramica: Gemini è il più recente LLM di punta di Google DeepMind, introdotto alla fine del 2023 come risposta di Google a GPT-4. Non è solo un singolo modello ma una famiglia di modelli destinati a vari livelli di scala (simile a come OpenAI propone GPT-4 e le versioni “Turbo”). Lo sviluppo di Gemini è stata una collaborazione tra Google Brain e DeepMind (dopo la loro fusione in Google DeepMind nel 2023) en.wikipedia.org. Sin dall’inizio, Google ha presentato Gemini come un’IA di nuova generazione che avrebbe dovuto superare di slancio ChatGPT combinando tecniche avanzate – incluse quelle dietro AlphaGo (l’IA che gioca a Go) per infondere capacità di pianificazione e problem solving en.wikipedia.org. A differenza di molti LLM testuali, Gemini è nativamente multimodale. È progettato per gestire testo, immagini, e potenzialmente altre modalità come audio o video, tutto all’interno dello stesso modello en.wikipedia.org en.wikipedia.org. In sostanza, Google ha costruito Gemini per essere il motore dietro le sue funzionalità AI in Search, Google Cloud e nei prodotti consumer.

Architettura e Scala: Google è stata piuttosto riservata sui dettagli interni di Gemini, ma ecco cosa si sa. Gemini 1.0 è stato lanciato a dicembre 2023 su tre livelli: Gemini Nano (piccolo, per dispositivi mobili), Gemini Pro (medio, uso generico), e Gemini Ultra (enorme, per i compiti più complessi) en.wikipedia.org. Al lancio, Ultra era il più grande e potente modello mai realizzato da Google – definito come “il più grande e capace modello AI di Google” en.wikipedia.org. Secondo quanto riportato, ha superato GPT-4 di OpenAI, Claude 2 di Anthropic, LLaMA 2 70B di Meta, ecc., in molti benchmark en.wikipedia.org. In effetti, Gemini Ultra è stato il primo modello a superare il 90% all’esame benchmark MMLU, oltrepassando il livello degli esperti umani en.wikipedia.org. Dietro le quinte, con l’arrivo di Gemini 1.5 (inizio 2024), Google ha rivelato di aver adottato un’architettura Mixture-of-Experts (MoE) e di aver raggiunto una colossale finestra di contesto da 1 milione di token en.wikipedia.org en.wikipedia.org. MoE significa che il modello consiste in numerosi sub-modelli “esperti”, dei quali solo una parte si attiva per ogni richiesta mistral.ai – questo aumenta drasticamente il numero di parametri senza rallentamenti proporzionali. (Si può dedurre che Gemini Ultra abbia dell’ordine di trilioni di parametri, similmente a GPT-4, ma Google non ha fornito i numeri esatti.) Il lungo contesto (1M token) è una svolta – corrispondente a un intero libro o circa 700.000 parole in contesto en.wikipedia.org – anche se probabilmente si tratta di una funzione sperimentale con infrastruttura specializzata. Entro la fine del 2024, Gemini 2.0 era in sviluppo, e Google ha rilasciato anche Gemma, una serie open-source più piccola (2B e 7B parametri) collegata a Gemini per la comunità en.wikipedia.org.

Integrazione con i prodotti Google: Gemini è stato rapidamente integrato nell’ecosistema di Google. Al lancio, Bard (il chatbot di Google) è stato aggiornato a Gemini (inizialmente Gemini Pro per la maggior parte degli utenti, e lista d’attesa per Ultra come “Bard Advanced”) en.wikipedia.org. Lo smartphone Pixel 8 di Google ha ricevuto Gemini Nano su dispositivo per funzionalità AI en.wikipedia.org. Google ha inoltre annunciato piani per integrare Gemini in Search (Search Generative Experience ora usa Gemini per generare risposte), Google Ads (per aiutare a creare copy pubblicitari), Google Workspace (Duet AI) per suggerimenti di scrittura in Docs/Gmail, Chrome (per assistenza alla navigazione più intelligente) e persino tool di sviluppo software en.wikipedia.org. Nel primo trimestre 2024, Google ha reso Gemini Pro disponibile ai clienti enterprise tramite la sua piattaforma cloud Vertex AI en.wikipedia.org. In sostanza, Gemini è la colonna portante AI di Google per servizi consumer ed enterprise – garantendogli un’enorme diffusione.

Capacità: Gemini è all’avanguardia su molti fronti. Eccelle nella comprensione e generazione linguistica in più lingue. È anche specializzato per il codice (una delle varianti probabilmente è allenata per la programmazione, come la versione “Codey” del precedente PaLM 2 di Google). La sua capacità multimodale consente di fornirgli un’immagine e porre domande – simile alla visione di GPT-4 – o generare descrizioni. Il CEO di Google Sundar Pichai ha dichiarato che Gemini può creare immagini contestuali partendo dai prompt, lasciando intendere l’integrazione della generazione testo-immagine en.wikipedia.org. Dato il coinvolgimento di DeepMind, Gemini potrebbe integrare strategie avanzate di ragionamento – ad esempio, usare algoritmi di pianificazione o strumenti, ispirati all’approccio di AlphaGo, per gestire compiti complessi (Demis Hassabis ha suggerito che potrebbe combinare la potenza di AlphaGo con gli LLM en.wikipedia.org). Nei benchmark, come già detto, Gemini Ultra ha eguagliato o superato GPT-4 in molti test accademici e di ragionamento comune en.wikipedia.org. Gemini 1.5 ha ulteriormente migliorato le prestazioni usando meno risorse computazionali (guadagni di efficienza grazie alla nuova architettura) blog.google blog.google. Si può affermare con certezza che Gemini è tra i modelli più potenti al mondo tra il 2024 e il 2025.

Punti di forza: Uno dei principali punti di forza di Gemini è la multimodalità: mentre la comprensione delle immagini di GPT-4 è piuttosto limitata e non tutti i modelli la offrono, Gemini è stato progettato nativamente per gestire più tipi di dati en.wikipedia.org. Questo può permettere interazioni più ricche (ad esempio: analizzare un’immagine di un grafico e rispondere a domande, o generare un’immagine da una descrizione in tempo reale). Un altro punto di forza è la stretta integrazione con la ricerca/i dati. Poiché Google controlla sia il LLM sia l’indice di ricerca, Bard alimentato da Gemini può recuperare informazioni in tempo reale e citare le fonti, riducendo le allucinazioni e mantenendo le risposte aggiornate. (Google ha dimostrato Bard mentre effettuava ricerche Google in tempo reale per trovare fatti – qualcosa che ChatGPT può fare solo con plugin o modalità di navigazione.) La leadership prestazionale di Gemini nei benchmark come MMLU dimostra la sua forza in diversi domini di conoscenza en.wikipedia.org. Inoltre, Google ha posto molta enfasi su efficienza e sicurezza: Gemini 1.5 ha raggiunto un livello qualitativo simile a GPT-4 con meno risorse computazionali blog.google blog.google, il che significa inferenza più veloce ed economica. Sono stati inoltre implementati test di sicurezza rigorosi – il rilascio pubblico di Gemini Ultra è stato ritardato fino a quando non è stato effettuato un approfondito red-teaming en.wikipedia.org. Un altro vantaggio: ecosistema. Gli sviluppatori possono usare Gemini tramite Google Cloud, ed è accessibile in app familiari (nessuna registrazione separata richiesta per milioni di utenti Gmail o Android). Per le aziende già sulla piattaforma Google, adottare i servizi Gemini è perfettamente integrato.

Debolezze/Limiti: Nella sua fase iniziale, la disponibilità di Gemini era limitata – al lancio, Gemini Ultra (il modello migliore) non era subito accessibile a tutti a causa di vincoli di sicurezza e risorse computazionali en.wikipedia.org. Soltanto alcuni partner selezionati o utenti a pagamento hanno avuto accesso, quindi il pubblico generale ha inizialmente usufruito di Gemini tramite Bard, con alcuni limiti. Inoltre, essendo un prodotto Google, è closed-source (ad eccezione dei piccoli modelli Gemma). Non è possibile scaricare Gemini Ultra per eseguirlo in locale – occorre utilizzare l’API o l’interfaccia di Google. Ciò significa che se Google modifica o aggiorna il modello, gli utenti devono accettarlo (è un bersaglio mobile, anche se in miglioramento). Un’altra possibile debolezza è la fiducia e il bias – le persone potrebbero preoccuparsi per possibili bias, visto che il modello è addestrato su dati selezionati da Google e allineato alle regole sulla sicurezza dell’IA di Google. (Anche se il rilascio di modelli open da parte di Google mostra uno sforzo verso una maggiore trasparenza en.wikipedia.org.) Vale anche la pena notare che, benché integrato alla ricerca, alcuni utenti hanno trovato Bard (Gemini) inizialmente meno capace creativamente o “meno disposto a rischiare” rispetto a ChatGPT. Tendeva a evitare alcune opinioni personali o ipotesi creative, probabilmente a causa di limiti più rigidi. Questo poteva farlo sembrare più vincolato o generico nelle risposte, anche se tali comportamenti spesso evolvono con gli aggiornamenti. Infine, la concorrenza è un fattore – quando è uscito Gemini, GPT-4 era già ben consolidato e i modelli open di Meta si stavano evolvendo rapidamente. Quindi Gemini deve dimostrare la sua superiorità nell’uso reale, non solo nei benchmark. Il vero test sarà quando più utenti lo utilizzeranno nei prodotti Google.

In sostanza, Gemini è il peso massimo di Google nel settore dei LLM – potente, versatile e profondamente integrato. Se OpenAI ha dato inizialmente il ritmo, Google sta correndo veloce per riconquistare la leadership con una IA presente in tutto, dalla barra di ricerca fino allo smartphone.

LLaMA (Meta): LLM Open-Source per tutti – Dai 7B ai 405B parametri

Panoramica: LLaMA (Large Language Model Meta AI) è una famiglia di LLM sviluppata da Meta (la casa madre di Facebook) che ha dato il via alla rivoluzione dell’AI open-source. La strategia di Meta si è discostata da quella di OpenAI/Google – invece di offrire solo API “scatola nera”, Meta ha rilasciato i pesi dei suoi modelli ai ricercatori e successivamente al pubblico, consentendo a chiunque di eseguirli e costruirci sopra. Il primo LLaMA 1 è stato annunciato a febbraio 2023 come una serie di modelli da 7B a 65B parametri, destinati alla ricerca. Sebbene LLaMA 1 fosse inizialmente a licenza chiusa (solo ricerca), i suoi pesi sono trapelati online e presto la comunità AI ha iniziato ad affinarlo per ogni tipo di utilizzo (chatbot, assistenti di programmazione ecc.). Meta, riconoscendo l’interesse, ha raddoppiato l’impegno con LLaMA 2, presentato a luglio 2023, open-source (accessibile a tutti) con una licenza permissiva (che consente l’uso commerciale con alcune condizioni) siliconangle.com siliconangle.com. LLaMA 2 includeva modelli da 7B, 13B e 70B parametri, oltre a versioni “Chat” ottimizzate. Ma Meta non si è fermata qui – nel 2024 sono arrivati i modelli LLaMA 3, inclusa una enorme versione da 405 miliardi di parametri (Llama 3.1), il più grande LLM open mai reso disponibile, eguagliando le dimensioni di modelli chiusi come GPT-4 ai.meta.com ibm.com.

Architettura e Addestramento: I modelli LLaMA sono architetture Transformer decoder-only, simili nel design ai modelli in stile GPT. Sono addestrati su enormi corpora testuali; ad esempio, LLaMA 2 è stato addestrato su 2 trilioni di token di dati (il doppio rispetto al dataset di LLaMA 1) originality.ai viso.ai. L’obiettivo era una miscela diversificata di fonti (web pubblico, codice, Wikipedia, ecc.) con un’intensa pulizia dei dati. Il traguardo di Meta è stato raggiungere grandi prestazioni a dimensioni contenute tramite efficienza nell’addestramento – LLaMA 1 ha sorpreso il mondo mostrando che un modello da 13B poteva superare GPT-3 (175B) in molti compiti siliconangle.com. Questo grazie all’uso di più token e ad un tuning accurato. LLaMA 2 70B ha ulteriormente migliorato aspetti come il coding e il ragionamento. Con l’arrivo di LLaMA 3, Meta ha non solo ampliato i parametri (con un modello da 405B parametri), ma anche migliorato il multilinguismo, la lunghezza del contesto, e persino introdotto il supporto visivo in alcune varianti ai.meta.com ai.meta.com. (Meta ha suggerito di rendere LLaMA 3 multimodale e infatti più tardi ha rilasciato versioni Llama capaci di elaborare immagini ai.meta.com.) Il grande modello 405B Llama 3.1 pare utilizzi grouped-query attention e altre ottimizzazioni per gestire contesti più lunghi, forse fino a 32k token, anche se le specifiche dettagliate sono tecniche. Importante, Meta rilascia sia modelli pre-addestrati sia versioni instruction-tuned (es: Llama-2-Chat, Llama-3.1-Instruct), già allineate al dialogo per l’uso immediato.

Pesi aperti e comunità: La natura open di LLaMA ha portato a un’esplosione di innovazione guidata dalla comunità. Dopo la fuga di LLaMA 1, i ricercatori lo hanno ottimizzato per creare Alpaca (il modello Stanford 7B ottimizzato sui risultati di GPT), Vicuna, WizardLM e innumerevoli altre varianti – spesso a basso costo – dimostrando che anche i modelli open più piccoli possono raggiungere qualità sorprendenti. Con il rilascio ufficiale open di LLaMA 2 (in partnership con Microsoft/Azure), aziende e start-up hanno iniziato a usare la famiglia LLaMA come base per i propri modelli, senza le incertezze legali della fuga di notizie siliconangle.com siliconangle.com. Aziende come IBM, Amazon e altre hanno adottato modelli della famiglia LLaMA nelle loro offerte cloud ibm.com ibm.com. Rilasciando un modello da 405B, Meta ha praticamente eguagliato la scala dei più grandi modelli proprietari, offrendo così alla comunità un enorme terreno di gioco su cui sperimentare ibm.com ibm.com. Quel modello da 405B (Llama 3.1 405B) ha dimostrato parità prestazionale coi migliori modelli closed-source su molti benchmark – per esempio, ha totalizzato 87,3% su MMLU, essenzialmente a pari merito con GPT-4 e Claude 3 su quell’esame ibm.com. Si è infatti distinto anche nel coding (HumanEval), comprensione del testo e altro ancora, spesso eguagliando o superando GPT-4 Turbo e Google Gemini nei test interni ibm.com ibm.com.

Applicazioni e casi d’uso: Poiché chiunque può eseguire i modelli LLaMA localmente (con hardware sufficiente) o sui propri server, questi modelli sono stati utilizzati in una vasta gamma di applicazioni. Le persone hanno perfezionato LLaMA per domini specializzati: bot per consigli medici, analizzatori di documenti legali, chatbot per il role-play, assistenti alla programmazione e strumenti di ricerca. I modelli LLaMA 2 da 7B e 13B possono persino girare su laptop o smartphone di fascia alta (con quantizzazione), abilitando l’AI al margine. LLaMA è anche diventato una piattaforma di ricerca – gli scienziati lo usano per studiare il comportamento dei modelli, l’allineamento e le tecniche di efficienza, poiché possono ispezionare direttamente i pesi del modello. Meta stessa ha integrato LLaMA nei suoi prodotti consumer: alla fine del 2023, Meta ha lanciato il Meta AI Assistant su WhatsApp, Instagram e Messenger, inizialmente alimentato da LLaMA 2 e poi aggiornato a LLaMA 3 about.fb.com about.fb.com. Questo assistente può rispondere a domande in chat, generare immagini (tramite prompt “/imagine”) e offre personaggi AI a tema celebrità – mostrando così le capacità di LLaMA in un contesto reale.

Punti di forza: La forza più ovvia è l’apertura. Disporre dei pesi del modello significa totale trasparenza e controllo – gli sviluppatori possono personalizzare il modello (affinarlo sui propri dati), ispezionarlo per bias o debolezze, e distribuirlo senza mandare dati su cloud di terze parti. Questo è ottimo per applicazioni sensibili e per la privacy. I modelli LLaMA sono anche altamente efficienti in termini di performance per parametro. I LLaMA più piccoli (7B, 13B) offrono prestazioni sopra la media anche su hardware modesto siliconangle.com. Nel frattempo, i LLaMA più grandi (70B, 405B) sono risultati di livello mondiale in termini di capacità ibm.com ibm.com. Un altro punto di forza è il supporto della comunità – con migliaia di contributori, esistono molte migliorie pronte: librerie di quantizzazione per ridurre la dimensione del modello, ricette per il fine-tuning e estensioni per gestire contesti più lunghi o memoria. Meta ha inoltre integrato funzionalità di safety in LLaMA 2 e 3, pubblicando model card e una policy di utilizzo accettabile; i modelli open non sono privi di controllo – le versioni chat sono ragionevolmente allineate per non produrre contenuti vietati (anche se non in modo severo quanto le AI closed, che alcuni utenti preferiscono). La versatilità del deployment on-premises è molto apprezzata dalle aziende attente alla governance dei dati. Inoltre, la rapida iterazione di Meta (da LLaMA 1 a 3 in circa un anno) mostra l’impegno a mantenere i modelli open allo stato dell’arte.

Punti deboli: Nonostante tutto l’entusiasmo, i modelli LLaMA hanno alcuni limiti. Out of the box, i più piccoli (7B/13B) sono comunque più deboli dei giganti come GPT-4 – possono avere difficoltà con ragionamenti complessi, fornire risposte più generiche o perdersi su richieste molto dettagliate. Il fine-tuning può mitigare queste criticità, ma richiede lavoro. Il LLaMA più grande (405B) è molto potente, ma l’inferenza non è banale – eseguire un modello da 405B richiede una memoria enorme (centinaia di GB di VRAM) ed è lento; la maggior parte degli utenti userà servizi cloud o versioni quantizzate con qualche perdita di qualità. Inoltre, i modelli open non godono dello stesso RLHF finetuning di ChatGPT – esistono fine-tuning della community ma potrebbero non essere altrettanto raffinati. Questo significa che i modelli open base a volte possono produrre risultati più grezzi o meno filtrati (il che può essere un vantaggio o uno svantaggio). Le allucinazioni e le imprecisioni restano ancora un problema aperto; LLaMA 2 Chat era discreto ma non immune dal “farseli venire in mente”. Un altro aspetto: responsabilità. Quando distribuisci un modello open da solo, non hai i filtri di contenuto o le policy di OpenAI o Google – sei tu a doverti occupare della prevenzione degli abusi. Questo dà potere ma comporta anche dei rischi (qualcuno potrebbe perfezionare un open model per fini malevoli, un problema spesso sollevato). La licenza di Meta per LLaMA ha una limitazione importante: se la tua applicazione supera i 700 milioni di utenti (diciamo, se sei al livello di Google o OpenAI), dovresti acquisire una licenza speciale da Meta huggingface.co huggingface.co – non è un problema per quasi nessun altro, ma va riportato. Infine, supporto e responsabilità: se un modello open si rompe, non c’è un’assistenza dedicata; ti affidi ai forum della comunità, il che può preoccupare alcune aziende.

Nel complesso, LLaMA ha democratizzato l’AI. Ha dimostrato che i modelli linguistici di alto livello non devono essere il tesoro custodito di poche aziende – puoi avere il tuo modello di classe GPT se sei disposto a gestire l’ingegneria. Con il modello da 405B di LLaMA 3 che uguaglia molte AI proprietarie in tanti compiti ibm.com ibm.com, il divario tra open e closed si è di fatto annullato. Meta punta su un futuro in cui open model è la regola per gli sviluppatori (con il Meta AI Assistant a mostrarne l’uso nei prodotti). Per utenti e aziende, LLaMA offre flessibilità e libertà: uno strumento potente che puoi plasmare secondo le tue necessità, senza il filtro di una corporation.

Mistral e Mixtral: piccola startup, grandi idee nell’AI open

Panoramica: Mistral AI è una startup francese sbucata sulla scena nel 2023 con una missione ambiziosa: costruire i migliori LLM open-access al mondo, sfidando i giganti con un team snello e idee innovative. Dopo appena quattro mesi dalla fondazione (e un finanziamento da 105 milioni €), Mistral ha rilasciato a settembre 2023 il Mistral 7B – un modello da 7,3 miliardi di parametri che ha fissato subito nuovi standard per la sua categoria siliconangle.com siliconangle.com. Pur essendo minuscolo rispetto a GPT-4, Mistral 7B è riuscito a superare tutti i modelli open fino a 13B e persino a rivaleggiare con alcuni modelli da 34B nei benchmark standard siliconangle.com. È stato distribuito completamente open source (licenza Apache 2.0) senza restrizioni d’uso siliconangle.com siliconangle.com, in linea con la filosofia di Mistral secondo cui l’open model guida l’innovazione. L’azienda non si è fermata a un modello “denso” – nel dicembre 2023 ha presentato Mixtral 8×7B, un modello sparse Mixture-of-Experts che ha alzato ulteriormente l’asticella per l’efficienza AI open mistral.ai mistral.ai. “Mixtral” (una fusione tra Mistral + Mixture) mostra la volontà di Mistral di esplorare architetture avanzate oltre i classici scaling Transformer.

Filosofia progettuale: L’idea centrale di Mistral è che le soluzioni open supereranno rapidamente quelle proprietarie sfruttando il contributo della comunità e l’eccellenza tecnica mistral.ai mistral.ai. Confrontano esplicitamente il panorama AI con epoche tecnologiche precedenti in cui l’open source ha finito per dominare (per esempio, Linux per i sistemi operativi, Kubernetes per il cloud) mistral.ai. Rilasciando modelli potenti in modo open, vogliono mettere in mano agli sviluppatori gli strumenti, evitare un controllo centralizzato o un’“oligarchia AI” e abilitare una customizzazione che le API closed non possono offrire mistral.ai mistral.ai. Questo implica anche puntare sull’efficienza: invece di costruire solo un modello enorme con requisiti computazionali spropositati, Mistral cerca di ottenere di più con meno. L’addestramento di Mistral 7B ha richiesto la progettazione di una pipeline di dati sofisticata da zero in 3 mesi mistral.ai e la massimizzazione dei token di training e delle tecniche impiegate per “colpire sopra la sua categoria”. La sua performance – arrivando a circa il 60% su MMLU, valore che storicamente richiedeva modelli da centinaia di miliardi di parametri – è stata una prova concettuale mistral.ai. Il team è guidato da ex-ricercatori di Meta e Google (uno dei co-fondatori ha guidato lo sviluppo di LLaMA in Meta siliconangle.com), conferendo loro una profonda esperienza.

Mistral 7B: Questo modello ha 7,3 miliardi di parametri, contesto di 8.000 token ed è stato addestrato su un dataset curato di alta qualità (i dettagli esatti non sono completamente pubblici, ma probabilmente fonti simili a LLaMA). Al momento del rilascio, Mistral 7B ha mostrato eccellenti capacità di generazione di prosa, sintesi e persino completamento di codice siliconangle.com siliconangle.com. L’amministratore delegato di Mistral ha dichiarato che il modello ha raggiunto prestazioni paragonabili a un LLaMA da 34B su molti compiti siliconangle.com, il che è sorprendente data la differenza di dimensioni. Funzionava anche molto più velocemente e in modo più economico, rendendolo ideale per applicazioni che richiedono bassa latenza o l’utilizzo su hardware modesto siliconangle.com. In sostanza, Mistral 7B ha dimostrato che con il giusto addestramento, anche un modello piccolo può ottenere risultati da modello grande – un vantaggio in termini di efficienza. Essendo con licenza Apache-2.0 significava che le aziende potevano integrarlo liberamente. Infatti, le persone hanno rapidamente ottimizzato Mistral 7B all’uso su istruzioni (l’azienda ha in seguito rilasciato una versione ufficiale Mistral-7B-Instruct), ed è diventato una base popolare per chatbot su smartphone o in app chat open source.

Mixtral 8×7B (modello MoE Sparso): Qui Mistral è diventata davvero innovativa. Gli LLM tradizionali sono “densi” – ogni parametro viene usato per ogni token elaborato. Mixtral ha introdotto la sparzità: presenta 8 sottoreti esperte (ognuna di circa 7B parametri) e una rete di gating che attiva solo 2 esperti per token mistral.ai mistral.ai. Il risultato? Il totale dei parametri del modello è 46,7 miliardi, ma in ogni momento vengono utilizzati solo 12,9 miliardi di parametri per token di input mistral.ai. È come avere un cervello da 46 miliardi di parametri che pensa con ~13 miliardi alla volta, riducendo drasticamente il calcolo richiesto. Questo permette inferenza molto più veloce – Mixtral funziona a velocità paragonabile a un modello da 13B, ma ha qualità equivalente a modelli molto più grandi. Nei benchmark, Mixtral 8×7B ha superato il LLaMA-2 70B di Meta e ha persino pareggiato o superato GPT-3.5 di OpenAI su molti test standard mistral.ai mistral.ai. Il tutto essendo 6 volte più veloce rispetto a un modello da 70B mistral.ai. Gestisce facilmente un contesto di 32.000 token mistral.ai, supporta più lingue (inglese, francese, tedesco, ecc.) mistral.ai mistral.ai, ed è molto valido nella generazione di codice. Mistral ha rilasciato sia una base che una versione Instruct fine-tuned di Mixtral 8×7B, che ha ottenuto un punteggio molto alto (8,3) sul benchmark chat MT-Bench – il migliore tra i modelli open al momento, vicino al livello GPT-3.5 nella chat interattiva mistral.ai. Importante, anche Mixtral 8×7B è con licenza Apache 2.0, cioè pienamente open.

Impatto nel mondo reale: I modelli di Mistral, anche se recenti, sono stati rapidamente adottati dalla comunità open-source AI. In particolare, Mixtral ha generato entusiasmo perché ha dimostrato che MoE poteva mantenere le promesse per gli LLM. Gli sviluppatori hanno utilizzato Mistral 7B e Mixtral per alimentare chatbot in progetti open-source (come integrazioni con text-generation-webui, demo su Hugging Face, ecc.). Date le loro prestazioni, questi modelli sono adatti a casi d’uso come bot di supporto clienti, assistenti virtuali su dispositivi o come alternativa economica a GPT-3.5 per l’elaborazione di testo. Mistral AI gestisce anche una propria piattaforma dove è possibile interrogare i loro modelli (hanno un chatbot “Le Chat” e una API in beta mistral.ai). Hanno anche contribuito agli strumenti open-source – ad esempio ottimizzando la libreria vLLM per inferenza più veloce con i loro modelli mistral.ai.

Punti di forza: La combinazione di alte prestazioni e apertura è il vero asso nella manica di Mistral. Mistral 7B ha reso l’IA all’avanguardia accessibile a chiunque abbia un laptop (con la quantizzazione a 4 bit, può funzionare persino su alcune GPU consumer). Mixtral ha mostrato una strada per scalare senza i costi tipici – un modello medio che si comporta come uno grande. Questa efficienza è ottima sia per il deployment che per l’impatto ambientale. Il focus di Mistral su multilinguismo e capacità di coding rende i loro modelli non solo centrati sull’inglese – un vantaggio per utenti e sviluppatori globali mistral.ai mistral.ai. Essendo open-source sotto Apache 2.0, non ci sono vincoli – puoi usarli commercialmente, modificarli, qualunque cosa, senza chiamate ai server. Questa libertà è molto apprezzata dalle aziende che vogliono evitare costi API o condivisione dati. Un altro vantaggio è la velocità nell’innovazione: una startup può muoversi più rapidamente, e Mistral ha dimostrato di poter passare da zero a modello all’avanguardia in pochi mesi, poi rilasciare un MoE innovativo in pochi mesi ancora. Questa agilità potrebbe portare altre innovazioni (si dice che Mistral stesse addestrando modelli più grandi e più esperti MoE tipo 8×22B nel 2024). Inoltre, il marchio di Mistral come player AI europeo open piace a chi vuole che l’AI non sia dominata solo dai colossi USA – diversità nell’ecosistema.

Punti deboli: Al momento, Mistral è ancora giovane. I suoi modelli, seppur eccellenti per dimensione, non possono ancora eguagliare i modelli più grandi in tutti i compiti. Ad esempio, Mixtral 8×7B, pur battendo molti modelli da 70B, potrebbe non superare un modello denso da 100B+ su ragionamenti estremamente complessi o conoscenze di nicchia – problemi di fisica o finezze di buon senso potrebbero ancora favorire GPT-4 o Llama-405B. L’approccio MoE può inoltre risultare più difficile da ottimizzare (il gating e gli esperti complicano l’addestramento, anche se Mistral ha gestito bene il pre-training). Un’altra considerazione: supporto e longevità. La roadmap di Mistral AI è promettente, ma essendo una startup non ha le risorse di Google o Meta – riusciranno a competere costantemente nell’allenare la prossima generazione di modelli (che possono essere 100B+ densi o con più esperti)? Resta da vedere. Inoltre, essere open significa minor controllo centrale – ad esempio, la safety tuning dei modelli Mistral non è così estesa come su ChatGPT. Il modello base di Mixtral esegue qualunque istruzione (inclusi contenuti non consentiti) se non applichi tu stesso moderazione o fine-tuning mistral.ai. Questo significa che chi usa i modelli Mistral dovrebbe implementare dei filtri se li rende pubblici. A livello di funzionalità, i modelli Mistral non hanno ancora capacità multimodali (niente input immagini, solo testo). E un punto debole pratico: per replicare i risultati di Mistral serve hardware di fascia alta; addestrare questi modelli è fuori portata per la maggior parte (anche se questo vale per tutti i modelli di frontiera).

In sintesi, Mistral AI rappresenta ciò che di meglio può fare un approccio agile e open-first. Hanno lanciato modelli che rendono molto di più delle aspettative e li hanno resi liberamente disponibili, catalizzando molto progresso comunitario. Se cerchi una soluzione LLM open efficiente e non vuoi dipendere dalle API dei Big Tech, le offerte di Mistral sono tra le più interessanti. Tienili d’occhio – incarnano l’idea che le prossime rivoluzioni AI potrebbero arrivare tanto dagli outsider quanto dai giganti della tecnologia.

Cohere, Command R e altri LLM importanti: un panorama più ampio

Il boom dell’IA ha dato vita a un panorama ricco di LLM oltre ai nomi più famosi citati finora. In questa sezione mettiamo in evidenza i modelli di Cohere (come Command R) e qualche altra iniziativa LLM di rilievo, per completare il quadro di ciò che è disponibile.

Cohere e Command R

Cohere è una startup (fondata da ex-ricercatori di Google Brain) che si concentra nella fornitura di modelli NLP per aziende tramite API. È stata tra le prime a offrire servizi commerciali basati su large language model (dal 2021 circa), puntando alle imprese che necessitano di NLP personalizzato. I modelli di Cohere inizialmente non avevano nomi accattivanti come “GPT”, ma solo etichette di taglia (small, medium, xlarge). Ma tra il 2023 e il 2024, Cohere ha introdotto la serie di modelli Command, ottimizzati specificamente per seguire istruzioni e uso conversazionale (diversi rispetto ai modelli “Embed” per embedding vettoriali).

La punta di diamante è Command R, che (secondo Cohere) è un modello ottimizzato per “Reasoning” (ragionamento) e contesto di lungo raggio. È un Transformer da 35 miliardi di parametri, addestrato su un corpus multilingue enorme e poi ottimizzato per eccellere in dialogo, istruzioni complesse, uso degli strumenti e task collegati al retrieval huggingface.co huggingface.co. Cohere ha fatto qualcosa di notevole a fine 2024: ha rilasciato i pesi di Command R apertamente (per uso di ricerca/non commerciale) su Hugging Face huggingface.co huggingface.co. Questo ha reso disponibile alla comunità un potente modello da 35B (con una licenza che ne vieta l’uso commerciale senza autorizzazione). Command R ha una finestra di contesto da 128k token docs.cohere.com docs.cohere.com, simile a quella di Claude, rendendolo ottimo per documenti lunghi. È anche multilingue (supporta fluentemente 10 lingue) docs.cohere.com huggingface.co, e Cohere lo ha ottimizzato appositamente per casi d’uso come Retrieval-Augmented Generation (RAG) ed anche “agent” (dove il modello decide di chiamare strumenti/funzioni esterne) docs.cohere.com docs.cohere.com. In pratica, Command R può gestire richieste molto dettagliate, svolgere ragionamento step-by-step e poi recuperare fatti se collegato a una knowledge base.

Cohere offre anche Command R+, una versione potenziata presumibilmente con più addestramento o una dimensione maggiore (alcune fonti indicano che potrebbe essere un ensemble o un modello da 70B). Su AWS Bedrock e altre piattaforme cloud, Command R e R+ sono presentati come alternative di alta qualità a GPT-3.5, proposte alle aziende che necessitano che i dati rimangano entro determinate giurisdizioni (Cohere consente il deployment cloud in regioni specifiche) e desiderano più controllo sul comportamento del modello.

Punti di forza degli LLM di Cohere: Sono pronti per l’impresa – cioè vengono forniti con supporto SLA, possono essere implementati in cloud privati virtuali e sono documentati con linee guida per casi d’uso. I modelli Command hanno prestazioni eccellenti in compiti aziendali come la sintesi, la scrittura di email, l’estrazione di informazioni e sono progettati per integrarsi con sistemi di recupero (Cohere offre un intero stack che include embeddings, reranker, ecc.). Un altro punto di forza sono le ottimizzazioni di latenza/throughput – Cohere ha sottolineato la rapidità e l’efficienza dei suoi modelli per l’uso in produzione docs.cohere.com docs.cohere.com. Infatti, l’aggiornamento di agosto 2024 di Command R ha fornito un throughput superiore del 50% e una latenza inferiore del 20% rispetto a prima docs.cohere.com. Hanno anche introdotto “modalità di sicurezza” dove lo sviluppatore può regolare la severità del filtro dei contenuti a seconda delle necessità docs.cohere.com, offrendo così un comodo controllo granulare per la moderazione.

Punti deboli: Il nome Cohere non è così famoso fuori dai contesti enterprise, quindi la community che lo circonda è più piccola. I modelli Command, per quanto potenti, erano leggermente indietro rispetto allo stato dell’arte assoluto (ad esempio, un modello 35B non eguaglierà GPT-4 o LLaMA-70B+ nei compiti più complessi). Inoltre, fino al rilascio della ricerca su Command R, Cohere era completamente chiuso – il che significava meno feedback dalla community per migliorare le singolarità del modello. Il rilascio dei pesi open è non-commerciale, quindi le aziende devono comunque pagare per l’API o ottenere una licenza speciale. Inoltre, la focalizzazione di Cohere sulla sicurezza per l’impresa ha talvolta reso il modello molto conservatore nelle risposte (simile alle prime versioni di Bard), rendendolo forse meno fantasioso. Ma viene continuamente perfezionato, e Command R+ è detto essere molto migliore (alcuni riscontri dalla community riportano che si avvicina alla qualità di GPT-4 in molte aree).

Altri LLM di rilievo

Oltre ai “Big 5” descritti, molti altri attori hanno proposte LLM significative:

• PaLM 2 (Google) – Prima di Gemini, il principale LLM di Google era PaLM 2 (lanciato a I/O 2023). È un modello da 340 miliardi di parametri addestrato su 3,6 trilioni di token cnbc.com research.google, con forti competenze multilingue, di ragionamento e di coding. PaLM 2 ha alimentato Google Bard per quasi tutto il 2023 ed è stato rilasciato in molteplici varianti (Gecko, Otter, Bison) per diverse dimensioni. Era particolarmente valido nel coding e nei giochi di logica, ed è stato raffinato in varianti specialistiche come Med-PaLM (per Q&A medico). PaLM 2 ha fatto da apripista al lancio di Gemini e ha dimostrato la maturità di Google (già superiore all’originale PaLM, che aveva 540B parametri ma meno addestramento). Bard con PaLM 2 è stato il primo a offrire l’integrazione esporta su Gmail/Docs. Anche se ora PaLM 2 è stato superato da Gemini, rimane presente in molti servizi Google Cloud ed è un modello solido a sé stante.
• Jurassic-2 (AI21 Labs) – AI21, startup israeliana, è stata una delle prime concorrenti di OpenAI. Il loro Jurassic-1 (178B parametri) nel 2021 era tra i più grandi allora disponibili. Jurassic-2, lanciato nel 2023, ha continuato quella linea con modelli in varie lingue (con particolare attenzione anche a ebraico e francese, ecc.). I modelli AI21 sono noti per l’eccellenza nella scrittura lunga e nella conoscenza, anche perché i co-founder di AI21 sono veterani NLP (uno ha co-inventato l’architettura Transformer). Sono disponibili tramite AI21 Studio API. AI21 alimenta anche prodotti come Wordtune (un assistente di scrittura). Jurassic-2 vanta una versione “J2 Jumbo” probabilmente intorno ai 178B e modelli “Large” più piccoli (circa 20B). Punto di forza: scrittura molto coerente e, secondo alcuni, maggiore accuratezza su alcune domande fattuali. Punti deboli: meno forte nel coding e non open-source.
• Claude Instant & altri (Anthropic) – Oltre al Claude principale, Anthropic offre Claude Instant, un modello più leggero (~1/5 della dimensione) che è più veloce e economico. Ottimo per chat in tempo reale dove non è richiesta la massima qualità. In modo simile, OpenAI offre GPT-3.5 Turbo come alternativa più veloce/economica rispetto a GPT-4. Questi “fratelli minori” sono rilevanti perché rendono economicamente realizzabili le applicazioni ad alto volume (es. un chatbot di customer service può usare Claude Instant per gestire migliaia di richieste rapidamente e far scalare solo le più difficili a Claude 2).
• Inflection-1 / Pi (Inflection AI) – Inflection AI, co-fondata da Mustafa Suleyman (ex DeepMind), ha lanciato Pi, un compagno AI personale pensato più per conversazioni (spesso di supporto/emotive) che per task pratici. Utilizza un LLM proprietario (Inflection-1, e dalla fine del 2023 era in sviluppo Inflection-2). Pi spicca per lo stile amichevole, colloquiale e il rifiuto di compiere azioni come il coding o rispondere a domande fattuali; è un esperimento nel rendere l’AI “amica”. Anche se non è un competitore diretto nei benchmark, rappresenta la tendenza verso LLM specializzati per un’esperienza particolare. Inflection avrebbe costruito un supercomputer con 22.000 GPU per il training, quindi Inflection-2 potrebbe essere molto grande (alcune voci puntavano a oltre 100B parametri). Nulla è stato open-source; è un’esperienza curata accessibile da app/sito.
• Modelli open-source della community – Oltre a LLaMA e Mistral, molti progetti collaborativi hanno creato LLM degni di nota:
  • BLOOM (di BigScience) – Un modello multilingue da 176B parametri rilasciato a metà 2022 con licenza aperta. È stato un punto di svolta in quanto primo modello open delle dimensioni di GPT-3. BLOOM funziona bene, specie nelle lingue diverse dall’inglese, ma è meno efficiente dei modelli più recenti. Resta comunque un esempio di successo per iniziative guidate da volontari.
  • Falcon (di Technology Innovation Institute degli EAU) – Falcon 40B e 7B sono usciti nel 2023 come modelli open di vertice, con Falcon 40B in cima alle classifiche per un periodo. Sono anche utilizzabili liberamente (il 40B ora è royalty-free Apache 2.0). Falcon 40B è stato addestrato su dati di alta qualità (RefinedWeb) e ha ottenuto ottime prestazioni, segnalando contributi significativi anche extra USA/Europa.
  • MosaicML MPT – Prima di essere acquisita da Databricks, MosaicML ha rilasciato MPT-7B (notevole per il supporto di contesti estesi, fino a 84k token con attenzione efficiente) e MPT-30B. Questi modelli open sono stati usati per molti fine-tune, sperimentando nuove funzionalità come il tuning dei system message e la gestione di testi lunghi.
  • WizardCoder, Phi-1, ecc. – Sono emersi modelli specializzati per il coding: ad esempio WizardCoder (un fine-tune di Code LLaMA) che per un periodo ha avuto i punteggi di benchmark più alti tra i modelli open per il coding. E Phi-1 (dei ricercatori Microsoft) ha mostrato come l’addestramento su solo codice e matematica abbia permesso a un modello da appena 1,3B (!) di risolvere problemi Leetcode hard – segno che l’innovazione nell’addestramento può competere con la sola scala in certi ambiti.
• Grok di xAI – Alla fine del 2023, la nuova avventura AI di Elon Musk, xAI, ha rilasciato un beta di Grok, un chatbot dalla personalità “irriverente”, accessibile solo su X (Twitter) per abbonati. Grok sarebbe basato su fondamenta open-source (probabilmente un fine-tune di LLaMA 2, forse un modello da 70B). Musk ha suggerito che Grok sarebbe un’AI “cercatrice di verità” con meno limiti sull’umorismo, ecc. Anche se Grok non ha avuto impatto nelle metriche di ricerca, è interessante a livello culturale come parte dell’iniziativa di Musk di offrire un’alternativa a ChatGPT/Bard che, secondo lui, non “mentirà” su temi controversi. Sottolinea anche come persino i social network vedano gli LLM centrali nell’engagement.
• Modelli enterprise dei Big Tech – Aziende come IBM e Amazon hanno scelto di non sviluppare da zero rivali di GPT-4 ma di curare o ospitare modelli:
  • IBM watsonx.ai offre accesso a modelli open come LLaMA-2 e altri modelli più piccoli selezionati (e IBM ha una serie Granite di modelli intorno ai 20B parametri per specifici task NLP aziendali).
  • Il servizio Bedrock di Amazon AWS ospita modelli di Anthropic (Claude), AI21 (Jurassic), Cohere, Stability AI, ecc., e anche la famiglia Titan di Amazon (modelli intorno ai 20B per task come chatbot di customer service e riassunto testo).
  • Microsoft sponsorizza essenzialmente i modelli OpenAI (integrati in Azure come Azure OpenAI Service), ma MS ha anche modelli di ricerca (come Phi-1 menzionato sopra e altri) e potrebbe rilasciare altri LLM propri per domini specialistici.

In sintesi, il panorama LLM è pieno di concorrenti, ognuno con la propria nicchia – che si tratti di servizi enterprise-ready (Cohere, AI21), AI compagnone specializzati (Inflection Pi) o sfidanti open-source (Meta, Mistral, Falcon). Questa diversità è un vantaggio per gli utenti: puoi scegliere il modello in base alle tue necessità specifiche – miglior accuratezza, costo più basso, maggiore controllo/privacy o sicurezza e allineamento garantiti.

Ora che abbiamo esaminato i principali attori nel campo degli LLM, la tabella seguente offre un confronto affiancato delle loro caratteristiche chiave:

Tabella di Confronto: Principali LLM (ChatGPT, Claude, Gemini, LLaMA, Mistral, ecc.)

(Note alla tabella: “Parametri” per GPT-4 e Gemini sono approssimativi perché non pubblicati ufficialmente. “Multimodale” indica se il modello può processare modalità non testuali. Aperto vs Chiuso indica se i pesi del modello sono disponibili. La colonna Licenza riassume come può essere utilizzato il modello.)

Tendenze, Direzioni Future e Come Scegliere il Giusto LLM

Il rapido sviluppo di ChatGPT e delle sue alternative ha chiarito una cosa: le capacità dell’IA stanno avanzando a una velocità vertiginosa. Ecco alcune tendenze chiave e cosa significano per il futuro, oltre a delle indicazioni su come utenti e aziende possono orientarsi nel panorama degli LLM:

Principali Tendenze del Settore

• La multimodalità è il futuro: I modelli capaci di gestire testo, immagini, audio e altro diventeranno la norma. Lo vediamo con gli input visivi di GPT-4, Gemini di Google multimodale dal primo giorno e Meta che spinge LLaMA verso la visione. I futuri LLM potrebbero ricevere senza problemi uno screenshot di una pagina web, un foglio di calcolo o una trascrizione video e rispondere a domande combinando tutte queste fonti. Le aziende dovrebbero aspettarsi un’IA che comprenda tutte le forme di dati, abilitando applicazioni più ricche (es. un’IA che legge mockup di design, codice e specifiche di prodotto insieme per fornire feedback).
• Contesti più lunghi & Memoria: L’espansione delle finestre di contesto a 100k token e oltre en.wikipedia.org fa pensare che presto la “smemoratezza” sarà meno un problema. Potremmo avere modelli in grado di ingerire interi database o libri in un’unica volta. Combinati con una generazione potenziata dal recupero (retrieval-augmented generation, dove il modello recupera attivamente informazioni rilevanti all’occorrenza), gli LLM fungeranno da una sorta di memoria estesa – sempre con la conoscenza più pertinente a portata di mano. Ciò ridurrà le allucinazioni e migliorerà l’accuratezza dei fatti, dato che i modelli potranno fare riferimento alle fonti.
• Slancio dell’open-source: Il periodo in cui poche aziende avevano il monopolio dei migliori modelli sta finendo. Il modello LLaMA 3 405B di Meta, che raggiunge la parità con modelli closed-source ibm.com, è una svolta. Startup come Mistral dimostrano che l’innovazione può arrivare anche da piccoli gruppi di lavoro. Probabilmente vedremo una proliferazione di modelli open specializzati (per medicina, diritto, finanza, ecc.) e strumenti migliorati per affinarli e distribuirli facilmente. Per le organizzazioni con problemi di privacy, è una grande novità: possono eseguire IA potenti in locale. Anche i giganti tech stanno abbracciando questo approccio: Google ha rilasciato Gemma e Meta rende open source i modelli, indicando un futuro ibrido in cui prosperano sia i modelli chiusi che open.
• Efficienza & Nuove Architetture: Non tutti possono permettersi modelli da trilioni di parametri, quindi l’attenzione si sposta su come rendere i modelli più intelligenti, non solo più grandi. Tecniche come Mixture-of-Experts (MoE) (come visto in Gemini 1.5 en.wikipedia.org e Mixtral mistral.ai), Low-Rank Adaptation (LoRA) per rapidi fine-tuning e modelli distillati renderanno possibile ottenere grandi prestazioni con minori risorse. Si ricerca anche l’IA modulare o composita – ad esempio usando più modelli specializzati più piccoli orchestrati insieme (uno per il ragionamento, uno per la matematica, uno per il codice, ecc.). L’LLM del futuro potrebbe essere in realtà un team di modelli “sotto il cofano”.
• Regolamentazione e Sicurezza: Con gli LLM utilizzati da milioni di persone, aumenta l’attenzione dei regolatori sull’IA. Trasparenza sui dati di training, comportamento dei modelli e barriere per l’uso improprio (spam, deepfake, ecc.) sono discussi a livello governativo. Le aziende stanno implementando misure preventive di sicurezza – Claude di Anthropic ha la Constitutional AI, OpenAI raffina costantemente i filtri sui contenuti, Meta include valutazioni sulla tossicità/bias nei suoi rilasci. Aspettatevi più controlli per l’utente – ad esempio una “manopola di tossicità” per regolare quanto il modello sia sicuro vs. diretto, o dashboard aziendali per monitorare le risposte dell’IA rispetto alla conformità. Inoltre, la filigranatura dei contenuti generati da IA è un’area attiva (OpenAI ci sta lavorando) per aiutare a rilevare testo IA, che potrebbe diventare uno standard.
• Integrazione e AI Agenti: Gli LLM stanno diventando parti di sistemi di agenti più ampi – come autoGPT o LangChain agenti che possono prendere l’output dell’IA ed eseguire azioni (navigare sul web, eseguire codice, ecc.). GPT-4 di OpenAI ha plug-in che gli consentono di chiamare API (es. per prenotare un volo o eseguire un calcolo). La tendenza è verso un’IA che non solo dialoga, ma agisce – può usare strumenti, aggiornarsi con nuovi dati e forse concatenare più passaggi autonomamente. Le aziende potrebbero implementare agenti IA che eseguono flussi di lavoro multi-step (con supervisione umana). Ciò aumenta ciò che un LLM può fare, ma richiede anche solide misure di sicurezza (per evitare che gli errori si propaghino a catena).
• Personalizzazione e Fine-Tuning: La domanda di modelli LLM personalizzati su dati proprietari o nello stile del brand è in crescita. I modelli open-source lo rendono più facile (si possono aggiornare i pesi). Anche i modelli chiusi stanno offrendo più personalizzazione – OpenAI ha introdotto il function calling e i system message per guidare ChatGPT, e la funzione “On Your Data” di Azure per ChatGPT permette grounding su dati aziendali. In futuro, potremmo vedere LLM personalizzati – un tuo assistente IA che conosce le tue email, preferenze, documenti di lavoro (il tutto in modo sicuro, personalizzato localmente), fornendo risposte altamente rilevanti. Gli strumenti per il fine-tuning a basso costo (come LoRA) miglioreranno, consentendo anche alle aziende di medie dimensioni di avere un’IA su misura.

Come Scegliere il LLM Giusto per le Tue Esigenze

Con così tante opzioni disponibili, come scegliere un LLM? Considera questi criteri:

• Performance vs. Costo: Se hai bisogno delle massime prestazioni (ad esempio per ragionamenti legali complessi o risposte all’avanguardia nella ricerca), GPT-4, Gemini Ultra o LLaMA 3 405B sono i leader. Ma sono costosi (prezzi API o infrastruttura per eseguirli). Per molte applicazioni, un modello di fascia media (come Claude 2 o Cohere Command, o un open 13B-70B) può offrire performance quasi top a una frazione del costo. Valuta sulle tue attività specifiche: ad esempio, la generazione di codice potrebbe funzionare benissimo con un modello 34B ottimizzato (come CodeLlama o WizardCoder) senza dover usare GPT-4 ogni volta. Usa i benchmark come guida, ma testa anche con i tuoi casi d’uso.
• Apertura e controllo: Se la privacy dei dati o il deployment on-prem sono fondamentali (sanità, finanza, pubblica amministrazione), orientati su LLM open-source. LLaMA 2, LLaMA 3, Mistral/Mixtral, Falcon, ecc. possono essere distribuiti internamente senza inviare dati a terzi. Permettono anche audit del modello, se necessario (per verificare bias). Il compromesso è che serve personale ML specializzato per gestirli. Le API chiuse (OpenAI, Anthropic, ecc.) si occupano di tutto – scalabilità, aggiornamenti, sicurezza – il che può valere la pena se il caso d’uso consente l’uso cloud. Alcune aziende optano per un approccio ibrido: API chiuse per attività generiche, modelli open per dati sensibili.
• Esigenze in termini di lunghezza del contesto: Hai bisogno di inserire documenti molto lunghi o dialogare ore con l’IA? In tal caso, il contesto 100k di Claude o 128k di Cohere potrebbe essere decisivo. Allo stesso modo, se il tuo caso d’uso riguarda la sintesi di libri interi o l’analisi di contratti lunghi, scegli un modello noto per la gestione di grandi contesti. Anche gli open model stanno recuperando terreno (alcune versioni affinate di LLaMA offrono 32k o più con tecniche speciali), ma i re del contesto lungo “pronti all’uso” sono Claude e Command R.
• Requisiti multimodali: Vuoi un’IA che analizzi immagini o diagrammi oltre al testo? Attualmente GPT-4 con visione (tramite ChatGPT Plus) o Gemini sono le scelte principali. Altri seguiranno, ma nel 2025 OpenAI e Google guidano nell’integrazione visiva. Se questo è fondamentale (es. per un’IA che analizzi screenshot di UI o grafici), le opzioni si restringono a queste piattaforme.
• Specializzazione di dominio: Alcuni modelli sono più adatti a determinati settori. Ad esempio, per risposte mediche, Med-PaLM di Google o un modello open fine-tuned su Q&A mediche potrebbero essere migliori del ChatGPT standard. Per assistenza col codice, modelli come code-davinci di OpenAI o Code Llama di Meta sono ottimizzati per questo. I modelli Cohere sono noti per i compiti su documenti aziendali. Controlla sempre se esiste un modello specifico per il tuo dominio – spesso supererà i modelli generali nei compiti di nicchia. E se non esiste, puoi crearlo (affinando un modello generale sui tuoi dati di settore).
• Sicurezza e moderazione: I vari provider hanno approcci diversi. OpenAI è abbastanza restrittiva (ChatGPT rifiuta molte richieste potenzialmente rischiose). Claude di Anthropic è anch’esso rigoroso ma cerca di essere d’aiuto riformulando le richieste in modo sicuro. I modelli open fanno ciò che chiedi (a meno che non siano stati fine-tuned per rifiutare). Per un’app pubblica, potresti volere un modello con moderazione integrata o filtri esterni. Se è in gioco la reputazione del brand, un modello troppo “rischioso” o incline a output offensivi è problematico. I provider enterprise (Cohere, Azure OpenAI) permettono spesso filtri o audit aggiuntivi. Considera quanto sia importante che il modello si “comporti bene” senza interventi rispetto a implementare tu i controlli.
• Licenze e termini d’uso: Assicurati che la licenza del modello sia compatibile con l’uso che vuoi farne. OpenAI e altri vietano alcuni usi (es. generazione di disinformazione, elaborazione di certi dati personali). La licenza LLaMA di Meta proibisce di usare il modello per migliorare un altro modello (per impedire che venga usato per addestrare concorrenti). Se vuoi integrare il modello in un prodotto, leggi con attenzione i termini. Le licenze open-source come Apache/MIT sono le più semplici (praticamente senza limiti forti). Alcuni modelli open (come LLaMA 2) richiedono attribuzione o la condivisione dei miglioramenti. E come già detto, se sei una grande azienda, verifica la clausola “700M utenti” nei modelli Meta.

La Strada Davanti a Noi

La competizione tra ChatGPT, Claude, Gemini, LLaMA e altri ha portato enormi benefici a consumatori e aziende – la qualità dell’IA è aumentata e le opzioni di accesso sono più ampie. In futuro, aspettati ancora più convergenza: modelli chiusi che adottano pratiche open (OpenAI parla di rilasciare un toolkit per l’hosting sicuro di modelli on-premises; Google rende open-source modelli piccoli), e modelli open che incorporano le tecniche più recenti della ricerca closed-source.

Per gli utenti, questo significa più scelta e probabilmente costi più bassi. Eseguire un’IA potente potrebbe presto diventare economico come ospitare un server web, grazie alle ottimizzazioni. Le aziende probabilmente utilizzeranno un portafoglio di LLM: magari un modello chiuso di alto livello per i passaggi di ragionamento più critici, un modello open per la sintesi di dati sensibili e alcuni modelli specializzati per attività come OCR o codice.

Nella scelta dell’LLM “giusto”, ricordate che non esiste una soluzione universale. Definite cosa significa per voi “giusto”: il più veloce? il più economico? il più preciso? il più privato? – e usate i confronti sopra come guida. La cosa bella è che potete sperimentare molti di questi modelli gratis o a costi minimi (ad esempio, tramite versioni di prova gratuite o download open source). È buona pratica prototipare il vostro caso d’uso con 2–3 modelli diversi per vedere la qualità degli output e poi decidere.

Una cosa è certa: gli LLM sono qui per restare e continueranno a migliorare. Tenere d’occhio questo settore in rapida evoluzione è saggio. Iscriversi a notiziari AI, provare i nuovi modelli rilasciati (sembra che esca un nuovo “GPT-killer” ogni pochi mesi!), e possibilmente instaurare rapporti con diversi fornitori di IA può assicurarvi di avere sempre il miglior strumento a disposizione. Che siate utenti finali alla ricerca di un assistente intelligente o un’azienda che vuole integrare l’AI nei propri prodotti, le opzioni non sono mai state così interessanti.

In questa nuova era dell’IA, la conoscenza è potere – sia la conoscenza contenuta in questi LLM, sia quella sulle loro differenze. Speriamo che questo report vi abbia fornito la seconda, così da poter sfruttare al massimo la prima.

Capacità: Gemini è all’avanguardia su molti fronti. Eccelle nella comprensione e generazione linguistica in più lingue. È anche specializzato per il codice (una delle varianti probabilmente è allenata per la programmazione, come la versione “Codey” del precedente PaLM 2 di Google). La sua capacità multimodale consente di fornirgli un’immagine e porre domande – simile alla visione di GPT-4 – o generare descrizioni. Il CEO di Google Sundar Pichai ha dichiarato che Gemini può creare immagini contestuali partendo dai prompt, lasciando intendere l’integrazione della generazione testo-immagine en.wikipedia.org. Dato il coinvolgimento di DeepMind, Gemini potrebbe integrare strategie avanzate di ragionamento – ad esempio, usare algoritmi di pianificazione o strumenti, ispirati all’approccio di AlphaGo, per gestire compiti complessi (Demis Hassabis ha suggerito che potrebbe combinare la potenza di AlphaGo con gli LLM en.wikipedia.org). Nei benchmark, come già detto, Gemini Ultra ha eguagliato o superato GPT-4 in molti test accademici e di ragionamento comune en.wikipedia.org. Gemini 1.5 ha ulteriormente migliorato le prestazioni usando meno risorse computazionali (guadagni di efficienza grazie alla nuova architettura) blog.google blog.google. Si può affermare con certezza che Gemini è tra i modelli più potenti al mondo tra il 2024 e il 2025.

Punti di forza: Uno dei principali punti di forza di Gemini è la multimodalità: mentre la comprensione delle immagini di GPT-4 è piuttosto limitata e non tutti i modelli la offrono, Gemini è stato progettato nativamente per gestire più tipi di dati en.wikipedia.org. Questo può permettere interazioni più ricche (ad esempio: analizzare un’immagine di un grafico e rispondere a domande, o generare un’immagine da una descrizione in tempo reale). Un altro punto di forza è la stretta integrazione con la ricerca/i dati. Poiché Google controlla sia il LLM sia l’indice di ricerca, Bard alimentato da Gemini può recuperare informazioni in tempo reale e citare le fonti, riducendo le allucinazioni e mantenendo le risposte aggiornate. (Google ha dimostrato Bard mentre effettuava ricerche Google in tempo reale per trovare fatti – qualcosa che ChatGPT può fare solo con plugin o modalità di navigazione.) La leadership prestazionale di Gemini nei benchmark come MMLU dimostra la sua forza in diversi domini di conoscenza en.wikipedia.org. Inoltre, Google ha posto molta enfasi su efficienza e sicurezza: Gemini 1.5 ha raggiunto un livello qualitativo simile a GPT-4 con meno risorse computazionali blog.google blog.google, il che significa inferenza più veloce ed economica. Sono stati inoltre implementati test di sicurezza rigorosi – il rilascio pubblico di Gemini Ultra è stato ritardato fino a quando non è stato effettuato un approfondito red-teaming en.wikipedia.org. Un altro vantaggio: ecosistema. Gli sviluppatori possono usare Gemini tramite Google Cloud, ed è accessibile in app familiari (nessuna registrazione separata richiesta per milioni di utenti Gmail o Android). Per le aziende già sulla piattaforma Google, adottare i servizi Gemini è perfettamente integrato.

Debolezze/Limiti: Nella sua fase iniziale, la disponibilità di Gemini era limitata – al lancio, Gemini Ultra (il modello migliore) non era subito accessibile a tutti a causa di vincoli di sicurezza e risorse computazionali en.wikipedia.org. Soltanto alcuni partner selezionati o utenti a pagamento hanno avuto accesso, quindi il pubblico generale ha inizialmente usufruito di Gemini tramite Bard, con alcuni limiti. Inoltre, essendo un prodotto Google, è closed-source (ad eccezione dei piccoli modelli Gemma). Non è possibile scaricare Gemini Ultra per eseguirlo in locale – occorre utilizzare l’API o l’interfaccia di Google. Ciò significa che se Google modifica o aggiorna il modello, gli utenti devono accettarlo (è un bersaglio mobile, anche se in miglioramento). Un’altra possibile debolezza è la fiducia e il bias – le persone potrebbero preoccuparsi per possibili bias, visto che il modello è addestrato su dati selezionati da Google e allineato alle regole sulla sicurezza dell’IA di Google. (Anche se il rilascio di modelli open da parte di Google mostra uno sforzo verso una maggiore trasparenza en.wikipedia.org.) Vale anche la pena notare che, benché integrato alla ricerca, alcuni utenti hanno trovato Bard (Gemini) inizialmente meno capace creativamente o “meno disposto a rischiare” rispetto a ChatGPT. Tendeva a evitare alcune opinioni personali o ipotesi creative, probabilmente a causa di limiti più rigidi. Questo poteva farlo sembrare più vincolato o generico nelle risposte, anche se tali comportamenti spesso evolvono con gli aggiornamenti. Infine, la concorrenza è un fattore – quando è uscito Gemini, GPT-4 era già ben consolidato e i modelli open di Meta si stavano evolvendo rapidamente. Quindi Gemini deve dimostrare la sua superiorità nell’uso reale, non solo nei benchmark. Il vero test sarà quando più utenti lo utilizzeranno nei prodotti Google.

In sostanza, Gemini è il peso massimo di Google nel settore dei LLM – potente, versatile e profondamente integrato. Se OpenAI ha dato inizialmente il ritmo, Google sta correndo veloce per riconquistare la leadership con una IA presente in tutto, dalla barra di ricerca fino allo smartphone.

LLaMA (Meta): LLM Open-Source per tutti – Dai 7B ai 405B parametri

Panoramica: LLaMA (Large Language Model Meta AI) è una famiglia di LLM sviluppata da Meta (la casa madre di Facebook) che ha dato il via alla rivoluzione dell’AI open-source. La strategia di Meta si è discostata da quella di OpenAI/Google – invece di offrire solo API “scatola nera”, Meta ha rilasciato i pesi dei suoi modelli ai ricercatori e successivamente al pubblico, consentendo a chiunque di eseguirli e costruirci sopra. Il primo LLaMA 1 è stato annunciato a febbraio 2023 come una serie di modelli da 7B a 65B parametri, destinati alla ricerca. Sebbene LLaMA 1 fosse inizialmente a licenza chiusa (solo ricerca), i suoi pesi sono trapelati online e presto la comunità AI ha iniziato ad affinarlo per ogni tipo di utilizzo (chatbot, assistenti di programmazione ecc.). Meta, riconoscendo l’interesse, ha raddoppiato l’impegno con LLaMA 2, presentato a luglio 2023, open-source (accessibile a tutti) con una licenza permissiva (che consente l’uso commerciale con alcune condizioni) siliconangle.com siliconangle.com. LLaMA 2 includeva modelli da 7B, 13B e 70B parametri, oltre a versioni “Chat” ottimizzate. Ma Meta non si è fermata qui – nel 2024 sono arrivati i modelli LLaMA 3, inclusa una enorme versione da 405 miliardi di parametri (Llama 3.1), il più grande LLM open mai reso disponibile, eguagliando le dimensioni di modelli chiusi come GPT-4 ai.meta.com ibm.com.

Architettura e Addestramento: I modelli LLaMA sono architetture Transformer decoder-only, simili nel design ai modelli in stile GPT. Sono addestrati su enormi corpora testuali; ad esempio, LLaMA 2 è stato addestrato su 2 trilioni di token di dati (il doppio rispetto al dataset di LLaMA 1) originality.ai viso.ai. L’obiettivo era una miscela diversificata di fonti (web pubblico, codice, Wikipedia, ecc.) con un’intensa pulizia dei dati. Il traguardo di Meta è stato raggiungere grandi prestazioni a dimensioni contenute tramite efficienza nell’addestramento – LLaMA 1 ha sorpreso il mondo mostrando che un modello da 13B poteva superare GPT-3 (175B) in molti compiti siliconangle.com. Questo grazie all’uso di più token e ad un tuning accurato. LLaMA 2 70B ha ulteriormente migliorato aspetti come il coding e il ragionamento. Con l’arrivo di LLaMA 3, Meta ha non solo ampliato i parametri (con un modello da 405B parametri), ma anche migliorato il multilinguismo, la lunghezza del contesto, e persino introdotto il supporto visivo in alcune varianti ai.meta.com ai.meta.com. (Meta ha suggerito di rendere LLaMA 3 multimodale e infatti più tardi ha rilasciato versioni Llama capaci di elaborare immagini ai.meta.com.) Il grande modello 405B Llama 3.1 pare utilizzi grouped-query attention e altre ottimizzazioni per gestire contesti più lunghi, forse fino a 32k token, anche se le specifiche dettagliate sono tecniche. Importante, Meta rilascia sia modelli pre-addestrati sia versioni instruction-tuned (es: Llama-2-Chat, Llama-3.1-Instruct), già allineate al dialogo per l’uso immediato.

Pesi aperti e comunità: La natura open di LLaMA ha portato a un’esplosione di innovazione guidata dalla comunità. Dopo la fuga di LLaMA 1, i ricercatori lo hanno ottimizzato per creare Alpaca (il modello Stanford 7B ottimizzato sui risultati di GPT), Vicuna, WizardLM e innumerevoli altre varianti – spesso a basso costo – dimostrando che anche i modelli open più piccoli possono raggiungere qualità sorprendenti. Con il rilascio ufficiale open di LLaMA 2 (in partnership con Microsoft/Azure), aziende e start-up hanno iniziato a usare la famiglia LLaMA come base per i propri modelli, senza le incertezze legali della fuga di notizie siliconangle.com siliconangle.com. Aziende come IBM, Amazon e altre hanno adottato modelli della famiglia LLaMA nelle loro offerte cloud ibm.com ibm.com. Rilasciando un modello da 405B, Meta ha praticamente eguagliato la scala dei più grandi modelli proprietari, offrendo così alla comunità un enorme terreno di gioco su cui sperimentare ibm.com ibm.com. Quel modello da 405B (Llama 3.1 405B) ha dimostrato parità prestazionale coi migliori modelli closed-source su molti benchmark – per esempio, ha totalizzato 87,3% su MMLU, essenzialmente a pari merito con GPT-4 e Claude 3 su quell’esame ibm.com. Si è infatti distinto anche nel coding (HumanEval), comprensione del testo e altro ancora, spesso eguagliando o superando GPT-4 Turbo e Google Gemini nei test interni ibm.com ibm.com.

Applicazioni e casi d’uso: Poiché chiunque può eseguire i modelli LLaMA localmente (con hardware sufficiente) o sui propri server, questi modelli sono stati utilizzati in una vasta gamma di applicazioni. Le persone hanno perfezionato LLaMA per domini specializzati: bot per consigli medici, analizzatori di documenti legali, chatbot per il role-play, assistenti alla programmazione e strumenti di ricerca. I modelli LLaMA 2 da 7B e 13B possono persino girare su laptop o smartphone di fascia alta (con quantizzazione), abilitando l’AI al margine. LLaMA è anche diventato una piattaforma di ricerca – gli scienziati lo usano per studiare il comportamento dei modelli, l’allineamento e le tecniche di efficienza, poiché possono ispezionare direttamente i pesi del modello. Meta stessa ha integrato LLaMA nei suoi prodotti consumer: alla fine del 2023, Meta ha lanciato il Meta AI Assistant su WhatsApp, Instagram e Messenger, inizialmente alimentato da LLaMA 2 e poi aggiornato a LLaMA 3 about.fb.com about.fb.com. Questo assistente può rispondere a domande in chat, generare immagini (tramite prompt “/imagine”) e offre personaggi AI a tema celebrità – mostrando così le capacità di LLaMA in un contesto reale.

Punti di forza: La forza più ovvia è l’apertura. Disporre dei pesi del modello significa totale trasparenza e controllo – gli sviluppatori possono personalizzare il modello (affinarlo sui propri dati), ispezionarlo per bias o debolezze, e distribuirlo senza mandare dati su cloud di terze parti. Questo è ottimo per applicazioni sensibili e per la privacy. I modelli LLaMA sono anche altamente efficienti in termini di performance per parametro. I LLaMA più piccoli (7B, 13B) offrono prestazioni sopra la media anche su hardware modesto siliconangle.com. Nel frattempo, i LLaMA più grandi (70B, 405B) sono risultati di livello mondiale in termini di capacità ibm.com ibm.com. Un altro punto di forza è il supporto della comunità – con migliaia di contributori, esistono molte migliorie pronte: librerie di quantizzazione per ridurre la dimensione del modello, ricette per il fine-tuning e estensioni per gestire contesti più lunghi o memoria. Meta ha inoltre integrato funzionalità di safety in LLaMA 2 e 3, pubblicando model card e una policy di utilizzo accettabile; i modelli open non sono privi di controllo – le versioni chat sono ragionevolmente allineate per non produrre contenuti vietati (anche se non in modo severo quanto le AI closed, che alcuni utenti preferiscono). La versatilità del deployment on-premises è molto apprezzata dalle aziende attente alla governance dei dati. Inoltre, la rapida iterazione di Meta (da LLaMA 1 a 3 in circa un anno) mostra l’impegno a mantenere i modelli open allo stato dell’arte.

Punti deboli: Nonostante tutto l’entusiasmo, i modelli LLaMA hanno alcuni limiti. Out of the box, i più piccoli (7B/13B) sono comunque più deboli dei giganti come GPT-4 – possono avere difficoltà con ragionamenti complessi, fornire risposte più generiche o perdersi su richieste molto dettagliate. Il fine-tuning può mitigare queste criticità, ma richiede lavoro. Il LLaMA più grande (405B) è molto potente, ma l’inferenza non è banale – eseguire un modello da 405B richiede una memoria enorme (centinaia di GB di VRAM) ed è lento; la maggior parte degli utenti userà servizi cloud o versioni quantizzate con qualche perdita di qualità. Inoltre, i modelli open non godono dello stesso RLHF finetuning di ChatGPT – esistono fine-tuning della community ma potrebbero non essere altrettanto raffinati. Questo significa che i modelli open base a volte possono produrre risultati più grezzi o meno filtrati (il che può essere un vantaggio o uno svantaggio). Le allucinazioni e le imprecisioni restano ancora un problema aperto; LLaMA 2 Chat era discreto ma non immune dal “farseli venire in mente”. Un altro aspetto: responsabilità. Quando distribuisci un modello open da solo, non hai i filtri di contenuto o le policy di OpenAI o Google – sei tu a doverti occupare della prevenzione degli abusi. Questo dà potere ma comporta anche dei rischi (qualcuno potrebbe perfezionare un open model per fini malevoli, un problema spesso sollevato). La licenza di Meta per LLaMA ha una limitazione importante: se la tua applicazione supera i 700 milioni di utenti (diciamo, se sei al livello di Google o OpenAI), dovresti acquisire una licenza speciale da Meta huggingface.co huggingface.co – non è un problema per quasi nessun altro, ma va riportato. Infine, supporto e responsabilità: se un modello open si rompe, non c’è un’assistenza dedicata; ti affidi ai forum della comunità, il che può preoccupare alcune aziende.

Nel complesso, LLaMA ha democratizzato l’AI. Ha dimostrato che i modelli linguistici di alto livello non devono essere il tesoro custodito di poche aziende – puoi avere il tuo modello di classe GPT se sei disposto a gestire l’ingegneria. Con il modello da 405B di LLaMA 3 che uguaglia molte AI proprietarie in tanti compiti ibm.com ibm.com, il divario tra open e closed si è di fatto annullato. Meta punta su un futuro in cui open model è la regola per gli sviluppatori (con il Meta AI Assistant a mostrarne l’uso nei prodotti). Per utenti e aziende, LLaMA offre flessibilità e libertà: uno strumento potente che puoi plasmare secondo le tue necessità, senza il filtro di una corporation.

Mistral e Mixtral: piccola startup, grandi idee nell’AI open

Panoramica: Mistral AI è una startup francese sbucata sulla scena nel 2023 con una missione ambiziosa: costruire i migliori LLM open-access al mondo, sfidando i giganti con un team snello e idee innovative. Dopo appena quattro mesi dalla fondazione (e un finanziamento da 105 milioni €), Mistral ha rilasciato a settembre 2023 il Mistral 7B – un modello da 7,3 miliardi di parametri che ha fissato subito nuovi standard per la sua categoria siliconangle.com siliconangle.com. Pur essendo minuscolo rispetto a GPT-4, Mistral 7B è riuscito a superare tutti i modelli open fino a 13B e persino a rivaleggiare con alcuni modelli da 34B nei benchmark standard siliconangle.com. È stato distribuito completamente open source (licenza Apache 2.0) senza restrizioni d’uso siliconangle.com siliconangle.com, in linea con la filosofia di Mistral secondo cui l’open model guida l’innovazione. L’azienda non si è fermata a un modello “denso” – nel dicembre 2023 ha presentato Mixtral 8×7B, un modello sparse Mixture-of-Experts che ha alzato ulteriormente l’asticella per l’efficienza AI open mistral.ai mistral.ai. “Mixtral” (una fusione tra Mistral + Mixture) mostra la volontà di Mistral di esplorare architetture avanzate oltre i classici scaling Transformer.

Filosofia progettuale: L’idea centrale di Mistral è che le soluzioni open supereranno rapidamente quelle proprietarie sfruttando il contributo della comunità e l’eccellenza tecnica mistral.ai mistral.ai. Confrontano esplicitamente il panorama AI con epoche tecnologiche precedenti in cui l’open source ha finito per dominare (per esempio, Linux per i sistemi operativi, Kubernetes per il cloud) mistral.ai. Rilasciando modelli potenti in modo open, vogliono mettere in mano agli sviluppatori gli strumenti, evitare un controllo centralizzato o un’“oligarchia AI” e abilitare una customizzazione che le API closed non possono offrire mistral.ai mistral.ai. Questo implica anche puntare sull’efficienza: invece di costruire solo un modello enorme con requisiti computazionali spropositati, Mistral cerca di ottenere di più con meno. L’addestramento di Mistral 7B ha richiesto la progettazione di una pipeline di dati sofisticata da zero in 3 mesi mistral.ai e la massimizzazione dei token di training e delle tecniche impiegate per “colpire sopra la sua categoria”. La sua performance – arrivando a circa il 60% su MMLU, valore che storicamente richiedeva modelli da centinaia di miliardi di parametri – è stata una prova concettuale mistral.ai. Il team è guidato da ex-ricercatori di Meta e Google (uno dei co-fondatori ha guidato lo sviluppo di LLaMA in Meta siliconangle.com), conferendo loro una profonda esperienza.

Mistral 7B: Questo modello ha 7,3 miliardi di parametri, contesto di 8.000 token ed è stato addestrato su un dataset curato di alta qualità (i dettagli esatti non sono completamente pubblici, ma probabilmente fonti simili a LLaMA). Al momento del rilascio, Mistral 7B ha mostrato eccellenti capacità di generazione di prosa, sintesi e persino completamento di codice siliconangle.com siliconangle.com. L’amministratore delegato di Mistral ha dichiarato che il modello ha raggiunto prestazioni paragonabili a un LLaMA da 34B su molti compiti siliconangle.com, il che è sorprendente data la differenza di dimensioni. Funzionava anche molto più velocemente e in modo più economico, rendendolo ideale per applicazioni che richiedono bassa latenza o l’utilizzo su hardware modesto siliconangle.com. In sostanza, Mistral 7B ha dimostrato che con il giusto addestramento, anche un modello piccolo può ottenere risultati da modello grande – un vantaggio in termini di efficienza. Essendo con licenza Apache-2.0 significava che le aziende potevano integrarlo liberamente. Infatti, le persone hanno rapidamente ottimizzato Mistral 7B all’uso su istruzioni (l’azienda ha in seguito rilasciato una versione ufficiale Mistral-7B-Instruct), ed è diventato una base popolare per chatbot su smartphone o in app chat open source.

Mixtral 8×7B (modello MoE Sparso): Qui Mistral è diventata davvero innovativa. Gli LLM tradizionali sono “densi” – ogni parametro viene usato per ogni token elaborato. Mixtral ha introdotto la sparzità: presenta 8 sottoreti esperte (ognuna di circa 7B parametri) e una rete di gating che attiva solo 2 esperti per token mistral.ai mistral.ai. Il risultato? Il totale dei parametri del modello è 46,7 miliardi, ma in ogni momento vengono utilizzati solo 12,9 miliardi di parametri per token di input mistral.ai. È come avere un cervello da 46 miliardi di parametri che pensa con ~13 miliardi alla volta, riducendo drasticamente il calcolo richiesto. Questo permette inferenza molto più veloce – Mixtral funziona a velocità paragonabile a un modello da 13B, ma ha qualità equivalente a modelli molto più grandi. Nei benchmark, Mixtral 8×7B ha superato il LLaMA-2 70B di Meta e ha persino pareggiato o superato GPT-3.5 di OpenAI su molti test standard mistral.ai mistral.ai. Il tutto essendo 6 volte più veloce rispetto a un modello da 70B mistral.ai. Gestisce facilmente un contesto di 32.000 token mistral.ai, supporta più lingue (inglese, francese, tedesco, ecc.) mistral.ai mistral.ai, ed è molto valido nella generazione di codice. Mistral ha rilasciato sia una base che una versione Instruct fine-tuned di Mixtral 8×7B, che ha ottenuto un punteggio molto alto (8,3) sul benchmark chat MT-Bench – il migliore tra i modelli open al momento, vicino al livello GPT-3.5 nella chat interattiva mistral.ai. Importante, anche Mixtral 8×7B è con licenza Apache 2.0, cioè pienamente open.

Impatto nel mondo reale: I modelli di Mistral, anche se recenti, sono stati rapidamente adottati dalla comunità open-source AI. In particolare, Mixtral ha generato entusiasmo perché ha dimostrato che MoE poteva mantenere le promesse per gli LLM. Gli sviluppatori hanno utilizzato Mistral 7B e Mixtral per alimentare chatbot in progetti open-source (come integrazioni con text-generation-webui, demo su Hugging Face, ecc.). Date le loro prestazioni, questi modelli sono adatti a casi d’uso come bot di supporto clienti, assistenti virtuali su dispositivi o come alternativa economica a GPT-3.5 per l’elaborazione di testo. Mistral AI gestisce anche una propria piattaforma dove è possibile interrogare i loro modelli (hanno un chatbot “Le Chat” e una API in beta mistral.ai). Hanno anche contribuito agli strumenti open-source – ad esempio ottimizzando la libreria vLLM per inferenza più veloce con i loro modelli mistral.ai.

Punti di forza: La combinazione di alte prestazioni e apertura è il vero asso nella manica di Mistral. Mistral 7B ha reso l’IA all’avanguardia accessibile a chiunque abbia un laptop (con la quantizzazione a 4 bit, può funzionare persino su alcune GPU consumer). Mixtral ha mostrato una strada per scalare senza i costi tipici – un modello medio che si comporta come uno grande. Questa efficienza è ottima sia per il deployment che per l’impatto ambientale. Il focus di Mistral su multilinguismo e capacità di coding rende i loro modelli non solo centrati sull’inglese – un vantaggio per utenti e sviluppatori globali mistral.ai mistral.ai. Essendo open-source sotto Apache 2.0, non ci sono vincoli – puoi usarli commercialmente, modificarli, qualunque cosa, senza chiamate ai server. Questa libertà è molto apprezzata dalle aziende che vogliono evitare costi API o condivisione dati. Un altro vantaggio è la velocità nell’innovazione: una startup può muoversi più rapidamente, e Mistral ha dimostrato di poter passare da zero a modello all’avanguardia in pochi mesi, poi rilasciare un MoE innovativo in pochi mesi ancora. Questa agilità potrebbe portare altre innovazioni (si dice che Mistral stesse addestrando modelli più grandi e più esperti MoE tipo 8×22B nel 2024). Inoltre, il marchio di Mistral come player AI europeo open piace a chi vuole che l’AI non sia dominata solo dai colossi USA – diversità nell’ecosistema.

Punti deboli: Al momento, Mistral è ancora giovane. I suoi modelli, seppur eccellenti per dimensione, non possono ancora eguagliare i modelli più grandi in tutti i compiti. Ad esempio, Mixtral 8×7B, pur battendo molti modelli da 70B, potrebbe non superare un modello denso da 100B+ su ragionamenti estremamente complessi o conoscenze di nicchia – problemi di fisica o finezze di buon senso potrebbero ancora favorire GPT-4 o Llama-405B. L’approccio MoE può inoltre risultare più difficile da ottimizzare (il gating e gli esperti complicano l’addestramento, anche se Mistral ha gestito bene il pre-training). Un’altra considerazione: supporto e longevità. La roadmap di Mistral AI è promettente, ma essendo una startup non ha le risorse di Google o Meta – riusciranno a competere costantemente nell’allenare la prossima generazione di modelli (che possono essere 100B+ densi o con più esperti)? Resta da vedere. Inoltre, essere open significa minor controllo centrale – ad esempio, la safety tuning dei modelli Mistral non è così estesa come su ChatGPT. Il modello base di Mixtral esegue qualunque istruzione (inclusi contenuti non consentiti) se non applichi tu stesso moderazione o fine-tuning mistral.ai. Questo significa che chi usa i modelli Mistral dovrebbe implementare dei filtri se li rende pubblici. A livello di funzionalità, i modelli Mistral non hanno ancora capacità multimodali (niente input immagini, solo testo). E un punto debole pratico: per replicare i risultati di Mistral serve hardware di fascia alta; addestrare questi modelli è fuori portata per la maggior parte (anche se questo vale per tutti i modelli di frontiera).

In sintesi, Mistral AI rappresenta ciò che di meglio può fare un approccio agile e open-first. Hanno lanciato modelli che rendono molto di più delle aspettative e li hanno resi liberamente disponibili, catalizzando molto progresso comunitario. Se cerchi una soluzione LLM open efficiente e non vuoi dipendere dalle API dei Big Tech, le offerte di Mistral sono tra le più interessanti. Tienili d’occhio – incarnano l’idea che le prossime rivoluzioni AI potrebbero arrivare tanto dagli outsider quanto dai giganti della tecnologia.

Cohere, Command R e altri LLM importanti: un panorama più ampio

Il boom dell’IA ha dato vita a un panorama ricco di LLM oltre ai nomi più famosi citati finora. In questa sezione mettiamo in evidenza i modelli di Cohere (come Command R) e qualche altra iniziativa LLM di rilievo, per completare il quadro di ciò che è disponibile.

Cohere e Command R

Cohere è una startup (fondata da ex-ricercatori di Google Brain) che si concentra nella fornitura di modelli NLP per aziende tramite API. È stata tra le prime a offrire servizi commerciali basati su large language model (dal 2021 circa), puntando alle imprese che necessitano di NLP personalizzato. I modelli di Cohere inizialmente non avevano nomi accattivanti come “GPT”, ma solo etichette di taglia (small, medium, xlarge). Ma tra il 2023 e il 2024, Cohere ha introdotto la serie di modelli Command, ottimizzati specificamente per seguire istruzioni e uso conversazionale (diversi rispetto ai modelli “Embed” per embedding vettoriali).

La punta di diamante è Command R, che (secondo Cohere) è un modello ottimizzato per “Reasoning” (ragionamento) e contesto di lungo raggio. È un Transformer da 35 miliardi di parametri, addestrato su un corpus multilingue enorme e poi ottimizzato per eccellere in dialogo, istruzioni complesse, uso degli strumenti e task collegati al retrieval huggingface.co huggingface.co. Cohere ha fatto qualcosa di notevole a fine 2024: ha rilasciato i pesi di Command R apertamente (per uso di ricerca/non commerciale) su Hugging Face huggingface.co huggingface.co. Questo ha reso disponibile alla comunità un potente modello da 35B (con una licenza che ne vieta l’uso commerciale senza autorizzazione). Command R ha una finestra di contesto da 128k token docs.cohere.com docs.cohere.com, simile a quella di Claude, rendendolo ottimo per documenti lunghi. È anche multilingue (supporta fluentemente 10 lingue) docs.cohere.com huggingface.co, e Cohere lo ha ottimizzato appositamente per casi d’uso come Retrieval-Augmented Generation (RAG) ed anche “agent” (dove il modello decide di chiamare strumenti/funzioni esterne) docs.cohere.com docs.cohere.com. In pratica, Command R può gestire richieste molto dettagliate, svolgere ragionamento step-by-step e poi recuperare fatti se collegato a una knowledge base.

Cohere offre anche Command R+, una versione potenziata presumibilmente con più addestramento o una dimensione maggiore (alcune fonti indicano che potrebbe essere un ensemble o un modello da 70B). Su AWS Bedrock e altre piattaforme cloud, Command R e R+ sono presentati come alternative di alta qualità a GPT-3.5, proposte alle aziende che necessitano che i dati rimangano entro determinate giurisdizioni (Cohere consente il deployment cloud in regioni specifiche) e desiderano più controllo sul comportamento del modello.

Punti di forza degli LLM di Cohere: Sono pronti per l’impresa – cioè vengono forniti con supporto SLA, possono essere implementati in cloud privati virtuali e sono documentati con linee guida per casi d’uso. I modelli Command hanno prestazioni eccellenti in compiti aziendali come la sintesi, la scrittura di email, l’estrazione di informazioni e sono progettati per integrarsi con sistemi di recupero (Cohere offre un intero stack che include embeddings, reranker, ecc.). Un altro punto di forza sono le ottimizzazioni di latenza/throughput – Cohere ha sottolineato la rapidità e l’efficienza dei suoi modelli per l’uso in produzione docs.cohere.com docs.cohere.com. Infatti, l’aggiornamento di agosto 2024 di Command R ha fornito un throughput superiore del 50% e una latenza inferiore del 20% rispetto a prima docs.cohere.com. Hanno anche introdotto “modalità di sicurezza” dove lo sviluppatore può regolare la severità del filtro dei contenuti a seconda delle necessità docs.cohere.com, offrendo così un comodo controllo granulare per la moderazione.

Punti deboli: Il nome Cohere non è così famoso fuori dai contesti enterprise, quindi la community che lo circonda è più piccola. I modelli Command, per quanto potenti, erano leggermente indietro rispetto allo stato dell’arte assoluto (ad esempio, un modello 35B non eguaglierà GPT-4 o LLaMA-70B+ nei compiti più complessi). Inoltre, fino al rilascio della ricerca su Command R, Cohere era completamente chiuso – il che significava meno feedback dalla community per migliorare le singolarità del modello. Il rilascio dei pesi open è non-commerciale, quindi le aziende devono comunque pagare per l’API o ottenere una licenza speciale. Inoltre, la focalizzazione di Cohere sulla sicurezza per l’impresa ha talvolta reso il modello molto conservatore nelle risposte (simile alle prime versioni di Bard), rendendolo forse meno fantasioso. Ma viene continuamente perfezionato, e Command R+ è detto essere molto migliore (alcuni riscontri dalla community riportano che si avvicina alla qualità di GPT-4 in molte aree).

Altri LLM di rilievo

Oltre ai “Big 5” descritti, molti altri attori hanno proposte LLM significative:

• PaLM 2 (Google) – Prima di Gemini, il principale LLM di Google era PaLM 2 (lanciato a I/O 2023). È un modello da 340 miliardi di parametri addestrato su 3,6 trilioni di token cnbc.com research.google, con forti competenze multilingue, di ragionamento e di coding. PaLM 2 ha alimentato Google Bard per quasi tutto il 2023 ed è stato rilasciato in molteplici varianti (Gecko, Otter, Bison) per diverse dimensioni. Era particolarmente valido nel coding e nei giochi di logica, ed è stato raffinato in varianti specialistiche come Med-PaLM (per Q&A medico). PaLM 2 ha fatto da apripista al lancio di Gemini e ha dimostrato la maturità di Google (già superiore all’originale PaLM, che aveva 540B parametri ma meno addestramento). Bard con PaLM 2 è stato il primo a offrire l’integrazione esporta su Gmail/Docs. Anche se ora PaLM 2 è stato superato da Gemini, rimane presente in molti servizi Google Cloud ed è un modello solido a sé stante.
• Jurassic-2 (AI21 Labs) – AI21, startup israeliana, è stata una delle prime concorrenti di OpenAI. Il loro Jurassic-1 (178B parametri) nel 2021 era tra i più grandi allora disponibili. Jurassic-2, lanciato nel 2023, ha continuato quella linea con modelli in varie lingue (con particolare attenzione anche a ebraico e francese, ecc.). I modelli AI21 sono noti per l’eccellenza nella scrittura lunga e nella conoscenza, anche perché i co-founder di AI21 sono veterani NLP (uno ha co-inventato l’architettura Transformer). Sono disponibili tramite AI21 Studio API. AI21 alimenta anche prodotti come Wordtune (un assistente di scrittura). Jurassic-2 vanta una versione “J2 Jumbo” probabilmente intorno ai 178B e modelli “Large” più piccoli (circa 20B). Punto di forza: scrittura molto coerente e, secondo alcuni, maggiore accuratezza su alcune domande fattuali. Punti deboli: meno forte nel coding e non open-source.
• Claude Instant & altri (Anthropic) – Oltre al Claude principale, Anthropic offre Claude Instant, un modello più leggero (~1/5 della dimensione) che è più veloce e economico. Ottimo per chat in tempo reale dove non è richiesta la massima qualità. In modo simile, OpenAI offre GPT-3.5 Turbo come alternativa più veloce/economica rispetto a GPT-4. Questi “fratelli minori” sono rilevanti perché rendono economicamente realizzabili le applicazioni ad alto volume (es. un chatbot di customer service può usare Claude Instant per gestire migliaia di richieste rapidamente e far scalare solo le più difficili a Claude 2).
• Inflection-1 / Pi (Inflection AI) – Inflection AI, co-fondata da Mustafa Suleyman (ex DeepMind), ha lanciato Pi, un compagno AI personale pensato più per conversazioni (spesso di supporto/emotive) che per task pratici. Utilizza un LLM proprietario (Inflection-1, e dalla fine del 2023 era in sviluppo Inflection-2). Pi spicca per lo stile amichevole, colloquiale e il rifiuto di compiere azioni come il coding o rispondere a domande fattuali; è un esperimento nel rendere l’AI “amica”. Anche se non è un competitore diretto nei benchmark, rappresenta la tendenza verso LLM specializzati per un’esperienza particolare. Inflection avrebbe costruito un supercomputer con 22.000 GPU per il training, quindi Inflection-2 potrebbe essere molto grande (alcune voci puntavano a oltre 100B parametri). Nulla è stato open-source; è un’esperienza curata accessibile da app/sito.
• Modelli open-source della community – Oltre a LLaMA e Mistral, molti progetti collaborativi hanno creato LLM degni di nota:
  • BLOOM (di BigScience) – Un modello multilingue da 176B parametri rilasciato a metà 2022 con licenza aperta. È stato un punto di svolta in quanto primo modello open delle dimensioni di GPT-3. BLOOM funziona bene, specie nelle lingue diverse dall’inglese, ma è meno efficiente dei modelli più recenti. Resta comunque un esempio di successo per iniziative guidate da volontari.
  • Falcon (di Technology Innovation Institute degli EAU) – Falcon 40B e 7B sono usciti nel 2023 come modelli open di vertice, con Falcon 40B in cima alle classifiche per un periodo. Sono anche utilizzabili liberamente (il 40B ora è royalty-free Apache 2.0). Falcon 40B è stato addestrato su dati di alta qualità (RefinedWeb) e ha ottenuto ottime prestazioni, segnalando contributi significativi anche extra USA/Europa.
  • MosaicML MPT – Prima di essere acquisita da Databricks, MosaicML ha rilasciato MPT-7B (notevole per il supporto di contesti estesi, fino a 84k token con attenzione efficiente) e MPT-30B. Questi modelli open sono stati usati per molti fine-tune, sperimentando nuove funzionalità come il tuning dei system message e la gestione di testi lunghi.
  • WizardCoder, Phi-1, ecc. – Sono emersi modelli specializzati per il coding: ad esempio WizardCoder (un fine-tune di Code LLaMA) che per un periodo ha avuto i punteggi di benchmark più alti tra i modelli open per il coding. E Phi-1 (dei ricercatori Microsoft) ha mostrato come l’addestramento su solo codice e matematica abbia permesso a un modello da appena 1,3B (!) di risolvere problemi Leetcode hard – segno che l’innovazione nell’addestramento può competere con la sola scala in certi ambiti.
• Grok di xAI – Alla fine del 2023, la nuova avventura AI di Elon Musk, xAI, ha rilasciato un beta di Grok, un chatbot dalla personalità “irriverente”, accessibile solo su X (Twitter) per abbonati. Grok sarebbe basato su fondamenta open-source (probabilmente un fine-tune di LLaMA 2, forse un modello da 70B). Musk ha suggerito che Grok sarebbe un’AI “cercatrice di verità” con meno limiti sull’umorismo, ecc. Anche se Grok non ha avuto impatto nelle metriche di ricerca, è interessante a livello culturale come parte dell’iniziativa di Musk di offrire un’alternativa a ChatGPT/Bard che, secondo lui, non “mentirà” su temi controversi. Sottolinea anche come persino i social network vedano gli LLM centrali nell’engagement.
• Modelli enterprise dei Big Tech – Aziende come IBM e Amazon hanno scelto di non sviluppare da zero rivali di GPT-4 ma di curare o ospitare modelli:
  • IBM watsonx.ai offre accesso a modelli open come LLaMA-2 e altri modelli più piccoli selezionati (e IBM ha una serie Granite di modelli intorno ai 20B parametri per specifici task NLP aziendali).
  • Il servizio Bedrock di Amazon AWS ospita modelli di Anthropic (Claude), AI21 (Jurassic), Cohere, Stability AI, ecc., e anche la famiglia Titan di Amazon (modelli intorno ai 20B per task come chatbot di customer service e riassunto testo).
  • Microsoft sponsorizza essenzialmente i modelli OpenAI (integrati in Azure come Azure OpenAI Service), ma MS ha anche modelli di ricerca (come Phi-1 menzionato sopra e altri) e potrebbe rilasciare altri LLM propri per domini specialistici.

In sintesi, il panorama LLM è pieno di concorrenti, ognuno con la propria nicchia – che si tratti di servizi enterprise-ready (Cohere, AI21), AI compagnone specializzati (Inflection Pi) o sfidanti open-source (Meta, Mistral, Falcon). Questa diversità è un vantaggio per gli utenti: puoi scegliere il modello in base alle tue necessità specifiche – miglior accuratezza, costo più basso, maggiore controllo/privacy o sicurezza e allineamento garantiti.

Ora che abbiamo esaminato i principali attori nel campo degli LLM, la tabella seguente offre un confronto affiancato delle loro caratteristiche chiave:

Tabella di Confronto: Principali LLM (ChatGPT, Claude, Gemini, LLaMA, Mistral, ecc.)

(Note alla tabella: “Parametri” per GPT-4 e Gemini sono approssimativi perché non pubblicati ufficialmente. “Multimodale” indica se il modello può processare modalità non testuali. Aperto vs Chiuso indica se i pesi del modello sono disponibili. La colonna Licenza riassume come può essere utilizzato il modello.)

Tendenze, Direzioni Future e Come Scegliere il Giusto LLM

Il rapido sviluppo di ChatGPT e delle sue alternative ha chiarito una cosa: le capacità dell’IA stanno avanzando a una velocità vertiginosa. Ecco alcune tendenze chiave e cosa significano per il futuro, oltre a delle indicazioni su come utenti e aziende possono orientarsi nel panorama degli LLM:

Principali Tendenze del Settore

• La multimodalità è il futuro: I modelli capaci di gestire testo, immagini, audio e altro diventeranno la norma. Lo vediamo con gli input visivi di GPT-4, Gemini di Google multimodale dal primo giorno e Meta che spinge LLaMA verso la visione. I futuri LLM potrebbero ricevere senza problemi uno screenshot di una pagina web, un foglio di calcolo o una trascrizione video e rispondere a domande combinando tutte queste fonti. Le aziende dovrebbero aspettarsi un’IA che comprenda tutte le forme di dati, abilitando applicazioni più ricche (es. un’IA che legge mockup di design, codice e specifiche di prodotto insieme per fornire feedback).
• Contesti più lunghi & Memoria: L’espansione delle finestre di contesto a 100k token e oltre en.wikipedia.org fa pensare che presto la “smemoratezza” sarà meno un problema. Potremmo avere modelli in grado di ingerire interi database o libri in un’unica volta. Combinati con una generazione potenziata dal recupero (retrieval-augmented generation, dove il modello recupera attivamente informazioni rilevanti all’occorrenza), gli LLM fungeranno da una sorta di memoria estesa – sempre con la conoscenza più pertinente a portata di mano. Ciò ridurrà le allucinazioni e migliorerà l’accuratezza dei fatti, dato che i modelli potranno fare riferimento alle fonti.
• Slancio dell’open-source: Il periodo in cui poche aziende avevano il monopolio dei migliori modelli sta finendo. Il modello LLaMA 3 405B di Meta, che raggiunge la parità con modelli closed-source ibm.com, è una svolta. Startup come Mistral dimostrano che l’innovazione può arrivare anche da piccoli gruppi di lavoro. Probabilmente vedremo una proliferazione di modelli open specializzati (per medicina, diritto, finanza, ecc.) e strumenti migliorati per affinarli e distribuirli facilmente. Per le organizzazioni con problemi di privacy, è una grande novità: possono eseguire IA potenti in locale. Anche i giganti tech stanno abbracciando questo approccio: Google ha rilasciato Gemma e Meta rende open source i modelli, indicando un futuro ibrido in cui prosperano sia i modelli chiusi che open.
• Efficienza & Nuove Architetture: Non tutti possono permettersi modelli da trilioni di parametri, quindi l’attenzione si sposta su come rendere i modelli più intelligenti, non solo più grandi. Tecniche come Mixture-of-Experts (MoE) (come visto in Gemini 1.5 en.wikipedia.org e Mixtral mistral.ai), Low-Rank Adaptation (LoRA) per rapidi fine-tuning e modelli distillati renderanno possibile ottenere grandi prestazioni con minori risorse. Si ricerca anche l’IA modulare o composita – ad esempio usando più modelli specializzati più piccoli orchestrati insieme (uno per il ragionamento, uno per la matematica, uno per il codice, ecc.). L’LLM del futuro potrebbe essere in realtà un team di modelli “sotto il cofano”.
• Regolamentazione e Sicurezza: Con gli LLM utilizzati da milioni di persone, aumenta l’attenzione dei regolatori sull’IA. Trasparenza sui dati di training, comportamento dei modelli e barriere per l’uso improprio (spam, deepfake, ecc.) sono discussi a livello governativo. Le aziende stanno implementando misure preventive di sicurezza – Claude di Anthropic ha la Constitutional AI, OpenAI raffina costantemente i filtri sui contenuti, Meta include valutazioni sulla tossicità/bias nei suoi rilasci. Aspettatevi più controlli per l’utente – ad esempio una “manopola di tossicità” per regolare quanto il modello sia sicuro vs. diretto, o dashboard aziendali per monitorare le risposte dell’IA rispetto alla conformità. Inoltre, la filigranatura dei contenuti generati da IA è un’area attiva (OpenAI ci sta lavorando) per aiutare a rilevare testo IA, che potrebbe diventare uno standard.
• Integrazione e AI Agenti: Gli LLM stanno diventando parti di sistemi di agenti più ampi – come autoGPT o LangChain agenti che possono prendere l’output dell’IA ed eseguire azioni (navigare sul web, eseguire codice, ecc.). GPT-4 di OpenAI ha plug-in che gli consentono di chiamare API (es. per prenotare un volo o eseguire un calcolo). La tendenza è verso un’IA che non solo dialoga, ma agisce – può usare strumenti, aggiornarsi con nuovi dati e forse concatenare più passaggi autonomamente. Le aziende potrebbero implementare agenti IA che eseguono flussi di lavoro multi-step (con supervisione umana). Ciò aumenta ciò che un LLM può fare, ma richiede anche solide misure di sicurezza (per evitare che gli errori si propaghino a catena).
• Personalizzazione e Fine-Tuning: La domanda di modelli LLM personalizzati su dati proprietari o nello stile del brand è in crescita. I modelli open-source lo rendono più facile (si possono aggiornare i pesi). Anche i modelli chiusi stanno offrendo più personalizzazione – OpenAI ha introdotto il function calling e i system message per guidare ChatGPT, e la funzione “On Your Data” di Azure per ChatGPT permette grounding su dati aziendali. In futuro, potremmo vedere LLM personalizzati – un tuo assistente IA che conosce le tue email, preferenze, documenti di lavoro (il tutto in modo sicuro, personalizzato localmente), fornendo risposte altamente rilevanti. Gli strumenti per il fine-tuning a basso costo (come LoRA) miglioreranno, consentendo anche alle aziende di medie dimensioni di avere un’IA su misura.

Come Scegliere il LLM Giusto per le Tue Esigenze

Con così tante opzioni disponibili, come scegliere un LLM? Considera questi criteri:

• Performance vs. Costo: Se hai bisogno delle massime prestazioni (ad esempio per ragionamenti legali complessi o risposte all’avanguardia nella ricerca), GPT-4, Gemini Ultra o LLaMA 3 405B sono i leader. Ma sono costosi (prezzi API o infrastruttura per eseguirli). Per molte applicazioni, un modello di fascia media (come Claude 2 o Cohere Command, o un open 13B-70B) può offrire performance quasi top a una frazione del costo. Valuta sulle tue attività specifiche: ad esempio, la generazione di codice potrebbe funzionare benissimo con un modello 34B ottimizzato (come CodeLlama o WizardCoder) senza dover usare GPT-4 ogni volta. Usa i benchmark come guida, ma testa anche con i tuoi casi d’uso.
• Apertura e controllo: Se la privacy dei dati o il deployment on-prem sono fondamentali (sanità, finanza, pubblica amministrazione), orientati su LLM open-source. LLaMA 2, LLaMA 3, Mistral/Mixtral, Falcon, ecc. possono essere distribuiti internamente senza inviare dati a terzi. Permettono anche audit del modello, se necessario (per verificare bias). Il compromesso è che serve personale ML specializzato per gestirli. Le API chiuse (OpenAI, Anthropic, ecc.) si occupano di tutto – scalabilità, aggiornamenti, sicurezza – il che può valere la pena se il caso d’uso consente l’uso cloud. Alcune aziende optano per un approccio ibrido: API chiuse per attività generiche, modelli open per dati sensibili.
• Esigenze in termini di lunghezza del contesto: Hai bisogno di inserire documenti molto lunghi o dialogare ore con l’IA? In tal caso, il contesto 100k di Claude o 128k di Cohere potrebbe essere decisivo. Allo stesso modo, se il tuo caso d’uso riguarda la sintesi di libri interi o l’analisi di contratti lunghi, scegli un modello noto per la gestione di grandi contesti. Anche gli open model stanno recuperando terreno (alcune versioni affinate di LLaMA offrono 32k o più con tecniche speciali), ma i re del contesto lungo “pronti all’uso” sono Claude e Command R.
• Requisiti multimodali: Vuoi un’IA che analizzi immagini o diagrammi oltre al testo? Attualmente GPT-4 con visione (tramite ChatGPT Plus) o Gemini sono le scelte principali. Altri seguiranno, ma nel 2025 OpenAI e Google guidano nell’integrazione visiva. Se questo è fondamentale (es. per un’IA che analizzi screenshot di UI o grafici), le opzioni si restringono a queste piattaforme.
• Specializzazione di dominio: Alcuni modelli sono più adatti a determinati settori. Ad esempio, per risposte mediche, Med-PaLM di Google o un modello open fine-tuned su Q&A mediche potrebbero essere migliori del ChatGPT standard. Per assistenza col codice, modelli come code-davinci di OpenAI o Code Llama di Meta sono ottimizzati per questo. I modelli Cohere sono noti per i compiti su documenti aziendali. Controlla sempre se esiste un modello specifico per il tuo dominio – spesso supererà i modelli generali nei compiti di nicchia. E se non esiste, puoi crearlo (affinando un modello generale sui tuoi dati di settore).
• Sicurezza e moderazione: I vari provider hanno approcci diversi. OpenAI è abbastanza restrittiva (ChatGPT rifiuta molte richieste potenzialmente rischiose). Claude di Anthropic è anch’esso rigoroso ma cerca di essere d’aiuto riformulando le richieste in modo sicuro. I modelli open fanno ciò che chiedi (a meno che non siano stati fine-tuned per rifiutare). Per un’app pubblica, potresti volere un modello con moderazione integrata o filtri esterni. Se è in gioco la reputazione del brand, un modello troppo “rischioso” o incline a output offensivi è problematico. I provider enterprise (Cohere, Azure OpenAI) permettono spesso filtri o audit aggiuntivi. Considera quanto sia importante che il modello si “comporti bene” senza interventi rispetto a implementare tu i controlli.
• Licenze e termini d’uso: Assicurati che la licenza del modello sia compatibile con l’uso che vuoi farne. OpenAI e altri vietano alcuni usi (es. generazione di disinformazione, elaborazione di certi dati personali). La licenza LLaMA di Meta proibisce di usare il modello per migliorare un altro modello (per impedire che venga usato per addestrare concorrenti). Se vuoi integrare il modello in un prodotto, leggi con attenzione i termini. Le licenze open-source come Apache/MIT sono le più semplici (praticamente senza limiti forti). Alcuni modelli open (come LLaMA 2) richiedono attribuzione o la condivisione dei miglioramenti. E come già detto, se sei una grande azienda, verifica la clausola “700M utenti” nei modelli Meta.

La Strada Davanti a Noi

La competizione tra ChatGPT, Claude, Gemini, LLaMA e altri ha portato enormi benefici a consumatori e aziende – la qualità dell’IA è aumentata e le opzioni di accesso sono più ampie. In futuro, aspettati ancora più convergenza: modelli chiusi che adottano pratiche open (OpenAI parla di rilasciare un toolkit per l’hosting sicuro di modelli on-premises; Google rende open-source modelli piccoli), e modelli open che incorporano le tecniche più recenti della ricerca closed-source.

Per gli utenti, questo significa più scelta e probabilmente costi più bassi. Eseguire un’IA potente potrebbe presto diventare economico come ospitare un server web, grazie alle ottimizzazioni. Le aziende probabilmente utilizzeranno un portafoglio di LLM: magari un modello chiuso di alto livello per i passaggi di ragionamento più critici, un modello open per la sintesi di dati sensibili e alcuni modelli specializzati per attività come OCR o codice.

Nella scelta dell’LLM “giusto”, ricordate che non esiste una soluzione universale. Definite cosa significa per voi “giusto”: il più veloce? il più economico? il più preciso? il più privato? – e usate i confronti sopra come guida. La cosa bella è che potete sperimentare molti di questi modelli gratis o a costi minimi (ad esempio, tramite versioni di prova gratuite o download open source). È buona pratica prototipare il vostro caso d’uso con 2–3 modelli diversi per vedere la qualità degli output e poi decidere.

Una cosa è certa: gli LLM sono qui per restare e continueranno a migliorare. Tenere d’occhio questo settore in rapida evoluzione è saggio. Iscriversi a notiziari AI, provare i nuovi modelli rilasciati (sembra che esca un nuovo “GPT-killer” ogni pochi mesi!), e possibilmente instaurare rapporti con diversi fornitori di IA può assicurarvi di avere sempre il miglior strumento a disposizione. Che siate utenti finali alla ricerca di un assistente intelligente o un’azienda che vuole integrare l’AI nei propri prodotti, le opzioni non sono mai state così interessanti.

In questa nuova era dell’IA, la conoscenza è potere – sia la conoscenza contenuta in questi LLM, sia quella sulle loro differenze. Speriamo che questo report vi abbia fornito la seconda, così da poter sfruttare al massimo la prima.