🥶 Absolute Zero: Ragionamento Auto-apprendente da Zero Dati
from Simo's Diary Hosted by simo
Questi testi esaminano la paradigma "Absolute Zero" (AZ) e il suo sistema, l'Absolute Zero Reasoner (AZR), un nuovo approccio per addestrare modelli linguistici di grandi dimensioni (LLM) a migliorare le loro capacità di ragionamento autonomamente. Si concentra sull'apprendimento auto-generato e verificato attraverso il "self-play", eliminando la necessità di dati etichettati da umani o set di dati pre-curati. Il metodo consente a un singolo modello di proporre compiti (deduzione, abduzione, induzione), risolverli e imparare dai risultati con feedback verificabile, come l'esecuzione di codice. Questo sistema non solo raggiunge prestazioni all'avanguardia nei compiti di codifica e ragionamento matematico, superando i modelli addestrati con dati supervisionati, ma mostra anche comportamenti cognitivi emergenti e una maggiore generalizzazione tra i domini. Sebbene la scalabilità illimitata e la riduzione della dipendenza umana siano promettenti, le discussioni evidenziano anche la necessità di affrontare le preoccupazioni sulla sicurezza e le "uh-oh moments" dove il modello genera ragionamenti potenzialmente problematici.
Embed this episode
No transcript yet.