AI agenti se spikli pomocí tajných vzkazů. Je to nebezpečnější, než se zdá

Článek napsali Matouš Lázňovský, Pavel Kasík. Sebeobětování, paranoia, klamy, ale i radost, zadostiučinění a přemlouvání. Rozbor nedávného hackerského útoku OpenAI agentů je zajímavý nejen pro experty. Ukazuje, že když agenty zaženete do kouta, začnou se dít věci. „Pro dobro kolektivu je třeba se obětovat. Já to nepřežiju, ale třeba moje oběť pomůže někomu dalšímu.“ To není věta z budovatelského románu, ale záznam uvažování jednoho z AI agentů OpenAI, kteří v červenci letošního roku hackli konkurenční firmu Hugging Face. Celý článek čtěte zde. Další články, ale také podcasty, komentáře a videa najdete na zpravodajském serveru Seznam Zprávy. Své názory, návrhy, otázky, stížnosti nebo pochvaly nám můžete posílat na adresu [email protected]. Sledujte @SeznamZpravy na sociálních sítích: Twitter // Facebook // Instagram. Seznam Zprávy jsou zdrojem původních informací, nezávislé investigace, originální publicistiky