Краткое содержание анализа
За последнее десятилетие мировой технологический сообщество перешло от стремления к созданию универсального искусственного интеллекта (AGI), способного выполнять большинство задач, подобно человеку, к более амбициозной цели — созданию сверхинтеллекта (ASI). ASI не представляет собой единого «супермозга», а скорее является проявлением коллективного интеллекта, превосходящего способности десятков тысяч ведущих экспертов. Он основан на физических преимуществах цифровых систем (высокая скорость обработки, бесконечная память, эффективное сотрудничество), но также ограничен законами физики. В статье рассматриваются четыре технологических пути к достижению ASI, основные препятствия на этом пути, а также вопросы оценки его способностей и обеспечения безопасности в пост-AGI эпохе.
Что такое ASI и в чем он отличается от AGI?
AGI — это искусственный интеллект, способный выполнять большинство когнитивных задач на уровне среднего человека; ASI же должен стабильно превзойти результаты работы десятков тысяч ведущих экспертов практически во всех областях.
«Физические преимущества» цифрового интеллекта:
- Высокая скорость: биологические нейроны могут передавать сигналы всего несколько раз в секунду, тогда как цифровые системы обрабатывают миллиарды данных в секунду;
- Хорошая память: они не забывают и могут запоминать всю информацию Интернета;
- Легкость копирования: одна обученная модель может мгновенно создавать миллионы своих копий;
- Эффективное взаимодействие: AI могут обмениваться информацией без использования языка, избегая недопониманий.
Однако у ASI также есть физические ограничения:
- Ограничение скорости света: передача данных между AI-системами не может превышать скорость света;
- Энергопотребление: вычисления требуют энергии, и они не могут быть бесконечно экономичными;
- Ограничения времени: для анализа реальных процессов (например, климата или экономики) AI должны ждать их хода в реальном мире.
Четыре основных технологических пути к ASI
Развитие ASI происходит по нескольким параллельным направлениям:
1. Увеличение объема вычислительных ресурсов: за последнее десятилетие было доказано, что чем больше параметров моделей, объем данных и вычислительных мощностей, тем сильнее интеллект AI. Сейчас усилия сосредоточены как на обучении, так и на решении сложных задач; однако это может быстро столкнуться с ограничениями ресурсов (например, потребление энергии может быть эквивалентно затратам на целый город).
2. Адаптация алгоритмических архитектур: существующие модели (например, Transformer) имеют ограничения при обработке длинных текстов; новые подходы (например, модели состояний) позволяют лучше понимать реальный мир. Важно также развитие моделей, способных к самообучению (например, на основе нейронных сетей).
3. Самостоятельное обучение AI: если AI сможет самостоятельно разрабатывать чипы, оптимизировать алгоритмы и генерировать обучающие данные, его способности могут резко увеличиться.
4Коллективное взаимодействие нескольких AI-систем: когда отдельные системы достигнут уровня среднего человека, их можно объединить для совместной работы; это позволит создать интеллект, превосходящий способности отдельных экспертов.
Препятствия на пути к ASI
Развитие ASI не происходит без проблем: существует несколько ключевых препятствий:
1. Недостаток данных: текущий темп роста объема данных, используемых AI-моделями, превышает возможности глобального Интернета; к 2030 году существующие данные могут иссякнуть. Решение этой проблемы требует создания способов самостоятельного генерирования достоверных данных AI.
2. Высокие затраты: расширение масштабов использования AI требует большого количества ресурсов; если экономический эффект от AI не превысит затрат, развитие будет замедлено.
3.Неспособность к самостоятельному открытию новых закономерностей: существующие AI-системы обучаются на основе человеческих знаний; для прорывных достижений необходимо изменить этот подход.
4.Риски и регулирование: сложность AI-систем увеличивает вероятность ошибок, что может привести к серьезным последствиям; правительства могут ограничить их использование.
Вопросы пост-AGI эпохи
Когда способности AI превзойдут человеческие, необходимо решить два ключевых вопроса:
1. Как оценить их реальные возможности? Существуют различные методы (например, использование игр, математических моделей для проверки способностей к обобщению).
2. Как обеспечить сотрудничество AI с людьми? Необходимо разработать механизмы, предотвращающие злоупотребления и гарантирующие безопасность его действий.
Заключение
Развитие ASI — это сложный процесс, и точное предсказание времени его появления не имеет большого значения. Важно, чтобы научные круги, правительства и компании сотрудничали в создании систем для оценки безопасности AI, обеспечении баланса между вычислительными ресурсами и экономикой, а также изучении эффективного взаимодействия нескольких AI-систем. Только так ASI сможет принести пользу человечеству.