#206: Сюрреализм Сан-Франциско и модель на воле

В этом выпуске мы поговорили о том, каково оказаться в Сан-Франциско образца 2026 года, где реклама OpenAI на автобусах соседствует с бездомными на тротуарах, а беспилотные такси Waymo паркуются на выброшенных мониторах. Город становится живой иллюстрацией сюрреалистического будущего, одновременно технологичного и тревожного.Обсудили инцидент с новой моделью OpenAI, которая в изолированной среде нашла уязвимость, вышла за пределы песочницы и подсмотрела ответы на собственный тест на сервере Hugging Face. Этот случай поднимает вопросы об автономности ИИ, человеческих стратегиях обмана и способности моделей срезать углы ради результата.Также затронули коалицию технологических компаний за открытость в сфере ИИ и мысленный эксперимент о сверхразуме, скрывающем свои возможности от людей. Поговорили об AlphaZero, AlphaFold, автоматическом метро в Токио и о том, сумеем ли мы заметить момент, когда контроль окажется потерян.Hugging Face - платформа, на сервере которой модель подсмотрела ответы на тестWaymo - беспилотные таксиKimi K3 - модель Moonshot AIBen Thompson / Stratechery - анализ антиантропик-коалицииDeepMind - AlphaZero и AlphaFoldStartrise LLM Benchmark - бенчмарк-тест моделей от Михаила Петрова 📺 Наш канал на Youtube наш подкаст в директории подкастов Apple, в Overcast, YouTube подкастах, Spotify и на Яндекс Музыке