#169: Отравленные данные

В этом выпуске мы поговорили о скрытых угрозах, связанных с обучением искусственного интеллекта. Особое внимание уделили атакам с использованием «отравленных данных» - умышленно искажённой информации, внедрённой для ухудшения качества работы моделей. Это серьёзная проблема, с которой уже сталкиваются крупные компании, вроде Anthropic.Обсудили, как и зачем злоумышленники создают целые фермы фальшивого контента, влияют на SEO и пытаются дезориентировать алгоритмы. Речь пошла не только о конкуренции между компаниями, но и о возможном участии государств, спецслужб и даже самих пользователей. Затронули примеры из истории и новые технологические вызовы.Также поговорили о методах защиты: от подхода human-in-the-loop до возможной помощи блокчейна и NFT. Задумались о кризисе доверия к цифровому контенту, будущем авторского права и роли людей в мире, где ИИ может генерировать любую информацию. Не обошли и философские аспекты вырождения моделей, замкнутых на старых данных.Кейс Microsoft Tay AI (2016)Информация о GPT и религиозных предвзятостяхGrok by xAIInternet ArchiveСтатья "BibleGate" и случаи предвзятости ИИИнформация про концепцию Human-in-the-loop📺 Наш канал на Youtubeнаш подкаст в директории подкастов Эппл,в Оверкасте,Гугл подкастах, Спотифае и на Яндекс Музыке