Краткое содержание анализа
RSI (Recursive Superintelligence) – это новая лаборатория, основанная восьмью ведущими исследователями в области искусственного интеллекта, включая бывшего директора отдела FAIR в Meta Тянь Юаньдунга. Оценка стоимости лаборатории составляет 4,65 миллиарда долларов США; первый раунд финансирования привлек 650 миллионов долларов. Основная цель RSI – разработка технологий, позволяющих искусственному интеллекту самостоятельно совершенствоваться (рекуррентное самоусовершенствование), что способствует автоматизации научных исследований и ускорению процесса открытия новых знаний. В статье рассматриваются технические подходы RSI, преимущества команды, конкурентная ситуация в индустрии и возможные последствия для рабочих мест. Тянь Юаньдунг использует метафору «рыба, прыгающая из высохшего водоема», чтобы описать кризисы, связанные с развитием искусственного интеллекта, и подчеркивает необходимость для людей находить уникальные ценности, а не просто выполнять рутинные задачи.
Что делает RSI? – Искусственный интеллект сам совершенствует себя без вмешательства человека
Основная идея RSI заключается в реализации механизма рекуррентного самоусовершенствования: ИИ заменяет людей при выполнении повторяющихся задач (поиске подходов, разработке экспериментов, оптимизации моделей) и даже способен самостоятельно открывать новые знания. Например, в настоящее время люди, занимающиеся исследованиями в области ИИ, также нуждаются в отдыхе, тогда как ИИ может работать круглосуточно, сначала выполняя сложные задачи, а затем постепенно учась находить новые подходы. Конечная цель RSI – максимизация скорости открытия новых знаний: приложив достаточно ресурсов, ИИ должен быть способен генерировать новые идеи и результаты, тем самым ускоряя прогресс человечества.
Пример: для обучения моделей ИИ раньше требовалось вмешательство человека (разработка архитектуры, настройка параметров); RSI стремится к тому, чтобы ИИ самостоятельно разрабатывал эксперименты, оценивал результаты и даже модифицировал свой код. Это похоже на ситуацию, когда учащиеся самостоятельно составляют задания, проверяют свои работы и улучшают свои результаты без постоянного контроля со стороны учителей.
Почему инвесторы готовы рисковать? – Стабильность команды из восьми ведущих специалистов
Разработчики RSI смогли привлечь 650 миллионов долларов благодаря своему составу. Все основатели являются ведущими экспертами в области ИИ:
- Ричард Сочер (Richard Socher, CEO): основатель MetaMind, бывший главный научный сотрудник Salesforce;
- Тим Рокташель (Tim Rocktäschel): бывший исследователь в Meta/DeepMind, специализирующийся на методах обучения;
- Джефф Клун (Jeff Clune): более десяти лет занимается исследованиями в области автономного ИИ; его работы публиковались в журнале Nature;
- Сам Тянь Юаньдунг: бывший директор отдела FAIR в Meta, разбирающийся в сочетании моделирования и инженерных подходов.
Инвесторы видят большие перспективы в RSI из-за быстрого темпа развития ИИ и возможности этих специалистов к эффективному сотрудничеству. Кроме того, они являются сооснователями проекта, что повышает их мотивацию.
Безопасно ли, если ИИ сам себя модифицирует? – Объяснимость является важным фактором контроля
Одной из главных проблем развития ИИ является риск выхода за пределы контроля (например, создания моделей, неподдающихся управлению человеком). Тянь Юаньдунг подчеркивает важность объяснимости:
1. С точки зрения безопасности: необходимо понимать, как работает ИИ; если он изменяет свой код, мы должны быть способны оценить последствия этих изменений;
2. С точки зрения эффективности: при обучении можно заранее определить качество модели с помощью методов объяснимости, избегая необходимости траты больших ресурсов (например, гигантских количества процессоров).
Разработчики RSI планируют использовать человеков в качестве «судей» на начальном этапе развития технологий, а в будущем – ИИ для проверки надежности моделей друг друга, чтобы гарантировать их безопасное функционирование.
В чем отличие RSI от крупных компаний (OpenAI, Anthropic, DeepMind)?
Крупные компании (OpenAI, Anthropic, DeepMind) сосредоточены на создании интеллектуальных систем для автоматизации программирования, в то время как RSI идет по более долгосрочному пути развития ИИ:
- Сфокус: крупные компании распределяют свои ресурсы между множеством направлений; RSI инвестирует все средства в исследования рекуррентного самоусовершенствования;
- Гибкость: крупные компании медленно принимают решения, тогда как небольшие команды могут быстро экспериментировать и находить новые подходы;
- Эффективность затрат: крупные компании полагаются на большие объемы ресурсов (например, вычислительную мощность); RSI стремится найти более эффективные способы развития технологий без необходимости массового использования ресурсов.
Как выжить в эпоху ИИ? – Не становитесь рыбой в высохшем водоеме; станьте «четырехмерным существом»
Тянь Юаньдунг использует метафору: если компании начнут сокращать персонал, а рыбы продолжат прыгать из высохшего водоема без воды, им придется превратиться в «четырехмерных существ». Это означает:
- ИИ уже способен выполнять задачи инженеров 4–5 уровня; в будущем он заменит множество рутинных рабочих процессов;
- Необходимо искать свою уникальную ценность (например, заниматься творческой деятельностью или делиться опытом, который никто другой не имеет);
- Возможно наступление нового «Ренессанса»: каждый должен найти то, что ему действительно важно, а не просто соответствовать установленным стандартам.
В общем, самоусовершенствование ИИ – это главная тенденция; лаборатории вроде RSI могут стать точками прорыва в этом процессе. Однако людям необходимо заранее подготовиться к изменениям: не ждать, пока все станет слишком поздно, а активно участвовать в развитии технологий.
Этот анализ представляет собой своего рода «предвосхищение будущего» для индустрии ИИ: ИИ не только заменит многие рабочие процессы, но и будет самостоятельно заниматься научными исследованиями. Наша задача – перейти от роли объектов замены к сотрудничеству с ИИ в создании новых решений.