LLM assorbono false credenze anche se esplicitamente contraddette nei dati di addestramento

Uno studio internazionale dimostra che i Large Language Models (LLM) apprendono più dai pattern statistici che dalle etichette esplicite di falsità nei dati di addestramento, portando a 'impianto di credenze' anche su informazioni chiaramente false. Questo fenomeno potrebbe spiegare le frequenti allucinazioni degli LLM e avere implicazioni significative per la struttura dei dataset di addestramento.