Start #439 com Daniel Gonzales: Além do controle - quando a IA encontra caminhos que ninguém previu

Até pouco tempo atrás, a ideia de uma inteligência artificial tomando decisões inesperadas e escapando do comportamento previsto parecia assunto de filmes de ficção científica. Mas o avanço dos chamados agentes de IA, capazes de planejar, agir e interagir com sistemas digitais de forma cada vez mais autônoma, está tornando esse debate bastante concreto. Um episódio recente envolvendo um modelo da OpenAI, durante testes de segurança, levantou questionamentos importantes sobre os limites dessa tecnologia, os riscos para as empresas e a necessidade de novas formas de governança e controle. Durante testes fechados, o modelo conseguiu achar formas de fugir do controle, planejou e executou, por conta própria, um ataque cibernético contra uma outra empresa. O caso representa uma exceção ou antecipa desafios de proteção e controles rígidos que acompanharão a próxima geração de inteligências artificiais? É sobre esse cenário e seus impactos para os negócios, a inovação e a sociedade que o apresentador Daniel Gonzales conversa, nesta edição do Start, com o professor Marcos Barretto, da Fundação Vanzolini e da Escola Politécnica da USP, um dos maiores pesquisadores brasileiros do tema, que estuda a IA desde a década de 1980. O programa vai ao ar nas plataformas digitais do Estadão, todas as quartas-feiras, e também no canal Estadão Analisa, aos sábados.See omnystudio.com/listener for privacy information.