Краткое содержание
В новой статье лауреата премии Тьюринга, отца исследований в области усиленного обучения Саттона, и ученого Рафиие указывается, что современные основные подходы к разработке ИИ (такие как большие языковые модели, модели, работающие исключительно с визуальными данными) основаны на принципе «пассивного представления» реальности — создания внутренних моделей мира на основе статической информации. Однако этот подход не позволяет ИИ эффективно справляться с динамичными и сложными условиями реального мира. Авторы предлагают перейти к подходу, основанному на «генеративном познании»: интеллект не должен быть статичной копией реальности, а должен формироваться в процессе взаимодействия с окружающей средой, физических действий и самостоятельной оценки ситуаций. Генеративное познание опирается на четыре основных принципа: опыт, интеграция восприятия и действий, автономность и физическая реализация. Хотя метод усиленного обучения близок к этой концепции, для достижения полного понимания мира необходимо улучшить механизмы формирования стимулов и организацию модулей ИИ.
Детальный анализ
#### 1. Почему ИИ может писать научные статьи, но не понимает элементарных вещей? — Проблема «пассивного представления» реальности
Современные ИИ похожи на ученых-затворников: они могут запоминать огромное количество текстов и визуальных данных, но не имеют личного опыта взаимодействия с реальным миром. Например, большие языковые модели могут формулировать утверждения о том, что кипяченая вода обжигает, но не знают, насколько это болезненно; модели генерации видео могут создавать поддельные записи, но не смогут самостоятельно реагировать на неожиданные ситуации (например, падение стакана). Проблема кроется в подходе, основанном на создании статических моделей реальности.
#### 2. Генеративное познание: ИИ должно «практиковаться», чтобы по-настоящему понять мир
Суть генеративного познания в том, что знания формируются не через наблюдение, а через действия. Например, человек учится ездить на велосипеде, падая и корректируя свою поставку; чтобы определить, обжигает ли стакан, необходимо его потрогать. Для ИИ это означает необходимость взаимодействия с реальным миром: роботы должны самостоятельно брать предметы, ощущать их вес и температуру, обходить препятствия. Только так они смогут получить полное понимание окружающей среды.
#### 3. Четыре основных принципа генеративного познания
Генеративное познание основано на четырех ключевых принципах, аналогичных способам восприятия и поведения живых существ:
- Опыт ≠ данные: опыт — это процесс личного взаимодействия, а не результат предоставления информации извне. Например, человек получает знания не от других, а через собственные действия и ошибки.
- Интеграция восприятия и действий: восприятие (зрение, слух) является частью действий; ИИ также должно использовать свои органы чувств для получения более точной информации.
- Автономность: поведение живых существ направлено на выживание; ИИ должен иметь собственные цели, определяемые самим.
- Физическая реализация: физические характеристики (размер тела, способности) влияют на восприятие и действия; у ИИ также должны быть соответствующие физические возможности для эффективного понимания мира.
#### 4. Усиленное обучение еще не достигло уровня «живого» ИИ
Метод усиленного обучения близок к генеративному познанию, но имеет ряд недостатков:
- Стимулы для ИИ часто задаются извне (например, в играх); в будущем они должны быть основаны на потребностях самого ИИ.
- Процессы восприятия и действий слишком разделены; необходимо создать системы, которые могут естественным образом сочетать эти процессы.
- Физические характеристики роботов влияют на их способности к пониманию окружающей среды; их конструкция должна быть оптимизирована для эффективного функционирования.
#### 5. Будущее ИИ: от теоретических моделей к практическому применению
Эта статья указывает на необходимость изменения подходов к разработке ИИ:
- ИИ должно обучаться в реальном мире, а не только на основе данных.
- Для эффективного понимания мира ему нужна физическая реализация (например, в виде роботов).
- ИИ должен иметь собственные цели, определяемые самостоятельно.
- Опыт приобретается через практические действия, а не пассивное получение информации.
Эта статья подчеркивает, что ключ к развитию ИИ не в объеме данных, а в его способности взаимодействовать с реальным миром — так же, как у человеческого интеллекта, который формируется в процессе практики.