Vědci odhalili, že AI vlastně "tuší", kdy si vymýšlí

Fascinující výzkum odhaluje, že umělá inteligence má překvapivou schopnost rozlišit, co zná a co ne. Vědci pomocí speciálních nástrojů nazývaných "řidké autoencodery" nahlédli pod kapotu modelů jako Gema 2 nebo Lama 3 a objevili specifické vnitřní signály. Tyto signály se aktivují různě podle toho, zda AI danou informaci (například jméno sportovce LeBron James) zná z tréninku, nebo jde o něco úplně nového (fiktivní Wilson Brown). Experimenty prokázaly, že signály přímo ovlivňují chování modelu - když výzkumníci uměle zesílili signál "neznám" u známé informace, AI odmítla odpovědět. Opačný experiment vedl k halucinacím. Za vším stojí narušení mechanismu pozornosti, který modelu pomáhá zaostřit na klíčová slova. Kromě rozlišení známého a neznámého objevili i signály pro různé úrovně nejistoty. Tento průlom otevírá cestu k AI, která by mohla být mnohem spolehlivější a méně náchylná k halucinacím.#konverzace