Episódio #354 – IA Vulnerável

Neste episódio falamos sobre a crise de cybersegurança na inteligência artificial, onde você irá descobrir os riscos da sua adoção desenfreada e os principais ataques baseados em linguagem natural.​ Guilherme Goulart e Vinícius Serafim analisam as vulnerabilidades críticas da inteligência artificial, discutindo o artigo "Cyber Security Crisis of artificial intelligence". O debate aprofunda-se em ataques como o prompt injection e o envenenamento de modelo (model poisoning), que exploram falhas em grandes modelos de linguagem como o ChatGPT da OpenAI. Abordamos os perigos da rápida integração da IA sem a devida análise de riscos, o que pode gerar uma crise sistêmica em segurança da informação. A discussão também explora a ética da IA, a necessidade de transparência dos provedores e a importância da proteção de dados em um cenário de inovação acelerada. Assine, siga e avalie o nosso podcast para não perder nenhuma análise sobre tecnologia e segurança. ShowNotes campanha de financiamento coletivo Artigo: The Cybersecurity Crisis of Artificial Intelligence: Unrestrained Adoption and Natural Language-Based Attacks por Andreas Tsamados, Luciano Floridi e Mariarosaria Taddeo Open IA Security Portal