Czy możemy ufać sztucznej inteligencji? | prof. Przemysław Biecek

Dlaczego modele językowe zmyślają zamiast „przyznać”, że nie dotarły do jakiejś informacji? – Celem takiego „czata” jest uzyskanie jak największej oceny od użytkownika. Użytkownik lubi porozmawiać sobie, lubi mieć wrażenie, że jest zaopiekowany, więc gdyby usłyszał odpowiedź „nie wiem”, to pewnie nie byłby zadowolony. Sposób treningu powoduje, że jest presja, by te modele zawsze wiedziały, zawsze coś mówiły – wyjaśnia prof. Przemysław Biecek, dyrektor Centrum Wiarygodnej Sztucznej Inteligencji na Politechnice Warszawskiej.💛 https://patronite.pl/radionaukowe💸 https://suppi.pl/radionaukowe📖 https://wydawnictworn.pl/W odcinku rozmawiamy o tym, na ile zjawisko „halucynowania” jest wpisane w naturę tych modeli i czy są metody, aby uzyskiwać odpowiedzi, na których można polegać. – Samo słowo „halucynacja” myślę, że wybiela rzeczywistość – ocenia prof. Biecek. Sugeruje, że to stan tymczasowy, chwilowe zaćmienie. Co ciekawe, z danych wynika, że czasem pomaga rozbudowanie prompta. – Część osób pokazywała, że dodawanie losowych sekwencji tokenów po swoim pytaniu zwiększa skuteczność. Czyli możemy napisać pytanie, a później dodać 200 losowych innych słów i to może zwiększyć skuteczność odpowiedzi – mówi naukowiec.Tu trafiamy jednak na kolejny problem: aktualne modele są potwornie zasobożerne. – Kolejną rewolucją być może będzie dekompozycja modeli, żeby one były mniejsze, lżejsze, mniej energetycznie wymagające. Nie mamy tej technologii. Ale jak ona będzie, to wydaje mi się, że się otworzy jeszcze znowu jakaś przestrzeń na nowe rozwiązania – opowiada prof. Biecek. Jak mówi, wzrasta zainteresowanie modelami wieloagentowymi.W odcinku usłyszycie, komu wyspecjalizowana AI mogłaby znacząco pomóc w pracy i rozwijaniu wiedzy (na przykład lekarzom i badaczom kosmosu), czy możemy ufać modelowi, który informuje nas, w jaki sposób doszedł do podanego nam wniosku (spoiler: etapy wnioskowania też mogą być wymyślane), o tym, że same modele powinni być obiektem badań naukowców oraz dlaczego, zdaniem naszego gościa, szkodliwe jest postrzeganie AI jako czegoś więcej niż narzędzia. – Wierzę w metodę naukową i nawet jeżeli coś wygląda na magiczne, to fantastycznie jest rozłożyć to na części pierwsze i zobaczyć dokładnie, jakie elementy tej funkcji wpływają na konkretny wynik – podsumowuje prof. Biecek.Obiecany link do zestawienia „Epic fAIls - największa wpadka systemu AI w roku 2025” https://docs.google.com/forms/d/e/1FAIpQLSdqZ3Otl3XQdeq-mZBKvCh8_OAwzbywgBasRl_SKXDzS4MDLQ/viewform?pli=1 PS. Nie odnosimy się do awantury wokół OpenAI I problemu Naviera-Stokesa, bo informacje pojawiły się już po naszym nagraniu.