Архитектура разума (интервью Adam Marblestone)

В данном интервью Адам Марблстоун анализирует ключевые различия между человеческим мозгом и искусственным интеллектом, указывая на биологические механизмы, которые ИИ пока не может воспроизвести. Основная гипотеза автора заключается в том, что эволюция создала в мозге сложную систему целевых функций, где «рулевая подсистема» (древние структуры мозга) задает инстинктивные цели и правила обучения для коры. В отличие от современных нейросетей, предсказывающих следующий токен, мозг работает как система всенаправленного вывода, способная гибко прогнозировать любые переменные. Марблстоун подчеркивает необходимость развития коннектомики — детального картографирования нейронных связей — для того, чтобы перенести биологическую эффективность обучения в цифровые системы. Также обсуждается роль формальной верификации и языка Lean в автоматизации математики и создании программного обеспечения с доказуемой безопасностью. Итогом беседы становится вывод о том, что понимание архитектуры и алгоритмов обучения мозга критически важно для создания безопасного и мощного общего искусственного интеллекта (AGI).