Code Llama è stato annunciato da Meta, si tratta di un modello linguistico di grandi dimensioni (LLM = Large Language Model), analogo a GPT di OpenAI e LaMDA / PaLM di Google (alla base di Bard). Code Llama è realizzato dalla base di Llama 2, open source, sempre realizzato da Meta (vedi ai.meta.com).
Il focus di Code Llama è l'Intelligenza Artificiale per la programmazione! Ricordiamo che in generale è molto più semplice e funzionale "indirizzare" un tool di IA in un contesto specifico (es. programmazione) piuttosto del solito tentativo di creare un'Intelligenza Artificiale per "fare di tutto" (ChatGPT, Google Bard).
Quindi per i Developers Code Llama sarà utilissimo per scrivere, analizzare, completare, debuggare codice, per tutti i linguaggi di programmazione più noti.
Dal sito ufficiale ai.meta.com vediamo che Code Llama si presenta in tre varianti:
- << Code Llama, the foundational code model >>
- << Code Llama - Python specialized for Python >>
- << Code Llama - Instruct, which is fine-tuned for understanding natural language instructions >>
Ognuna di queste varianti di Code Llama verrà rilasciata in tre versioni rispettivamente con 7, 13, 34 miliardi di parametri, tutte le versioni addestrate (training) con 500 miliardi di tokens! Lo scopo di creare versioni con differente numero di parametri è dato dal fatto che la versione più leggera è più rapida nell'esecuzione, adatta quando occorre semplice codice "al volo" (real time code compeltion) mentre la versione con 34 miliardi di parametri è quella più completa, assistenza complessivamente migliore, di qualità più elevata (ovviamente richiede più tempo e risorse).
Infine un'interessante tabella di comparazione, che fa un benchmark, confronto con altri modelli (GPT-3.5, GPT-4, ecc): accuratezza e numero di parametri fra i vari LLM.

Secondo altre fonti, GPT-3.5 ha 175 miliardi di parametri, GPT-4 circa 1,8 trilion (NB "trilion" = 1012, attenzione a non tradurlo come "trilione" che invece è 1018) ovvero 1800 miliardi di parametri, fonte.
Conclusioni: oltre al numero di parametri, ricordiamo l'importanza della specificità! Un'applicazione specifica (es. programmazione informatica), anche se con meno parametri, sarà enormemente più funzionale rispetto ad un tool generico, che cerca di spaziare fra tutti i possibili ambiti di applicazione. Sarà quindi molto interessante vedere l'efficacia di Code Llama! Ricordiamo ovviamente che questi strumenti forniscono un output più o meno accurato, sta a noi farne l'uso corretto. Significa che il template generale può essere mediamente valido, ci viene fornito un utile spunto, noi che dobbiamo comunque conoscere il settore e quindi eventualmente modificare, adattare il risultato per il nostro caso specifico (facendo un copia-incolla banale, senza conoscere il tema, se è presente un errore non saremmo in grado di comprenderlo, correggerlo, farne quindi un uso corretto).