Анализ китайских новостей
I. Краткое содержание
В данном анализе рассматривается необычное явление, когда в последнее время представители технологического сообщества единодушно заявляют о прибытии технологии AGI (Artificial General Intelligence). Сначала Самюэль Ханг, гендиректор OpenAI Брокман и Илон Маск в течение пяти дней подряд официально объявили о наступлении эры AGI. За этим стоит изменение соглашения между Microsoft и OpenAI за четыре месяца до этих заявлений, в результате которого были полностью пересмотрены правила распределения выгод, связанные с определением того, что считается AGI. Далее, на примере двух тестов модели GPT-6 Astra, разница в результате составила 35,84 балла, что опровергло прежнее представление о том, что AGI – это момент, когда какая-либо одна модель преодолевает определенный порог производительности. На самом деле AGI представляет собой комплексную систему, состоящую из самой модели, инструментов внешней памяти и рабочих процессов человека. В заключение делается вывод, что настоящим признаком прибытия AGI является не то, что ИИ объявляет о своей способности выполнять все человеческие задачи, а то, что человеческое общество постепенно начинает полагаться на ИИ настолько сильно, что не может функционировать без него. Также отмечается серьезное недопонимание в мировом регулировании ИИ: регулирующие органы сосредоточены исключительно на отдельных моделях, не учитывая всю систему в целом.
II. Популярное объяснение по пунктам
1. Почему вдруг все ведущие компании единодушно заявляют о прибытии AGI? В основе этого лежат коммерческие интересы
В течение шести лет сотрудничества Microsoft и OpenAI технология AGI считалась «бомбой интересов», с которой обе стороны не решались связываться. Согласно старому соглашению, как только независимая экспертная группа подтвердила бы наличие AGI, сразу вступали в силу два условия: Microsoft не могла бы заниматься самыми важными исследованиями OpenAI, а OpenAI не должна была бы платить Microsoft. Это означало, что ни одна из сторон не могла бы открыто признать прибытие AGI, так как это привело бы к огромным убыткам. Однако в апреле 2026 года они тайно изменили соглашение: независимо от того, наступило ли AGI или нет, OpenAI продолжит платить Microsoft до 2030 года, а права на использование моделей Microsoft будут продлены до 2032 года. Таким образом, параметр, связанный с интересами, был полностью исключен из соглашения. Теперь все заявления о прибытии AGI имеют коммерческую подоплеку: Самюэль Ханг пишет в Твиттере о прибытии AGI и сразу же упоминает, что использовал для обучения модели 100 000 своих чипов и что в ближайшее время будет поставлено еще 400 000 графических процессоров. Это своего рода реклама собственных продуктов, связанных с обработкой данных.
2. Секрет разницы в результатах тестов модели Astra в 35 баллов: умность ИИ больше не определяется самой моделью
Многие удивляются, почему результаты тестов одной и той же модели Astra отличаются на 36 баллов. На самом деле разница кроется в правилах тестирования: в первом случае участнику разрешалось использовать только один лист бумаги для записи всех мыслей и расчетов; если он что-то забыл, это невозможно было восстановить, и результат составил 62 балла. Во втором случае участнику разрешалось использовать внешний носитель информации, на котором хранились все его записи, что позволило получить результат в 98 баллов и ускорить процесс решения задач в три раза. Разница в 35 баллов не связана с улучшением производительности самой модели, а с использованием дополнительных инструментов памяти. Раньше сравнение умности ИИ основывалось на его врожденных способностях, но теперь это уже не актуально. При добавлении таких инструментов способности ИИ могут значительно увеличиться, и простое сравнение результатов тестов не отражает его реальных возможностей.
3. Наши представления о AGI были ошибочными: не существует точного момента ее появления
Раньше все ждали момента, когда ИИ сможет самостоятельно выполнять все человеческие задачи, подобно звонку новогоднего колокола, после которого начнется новая эра. На деле такого момента не будет. Когда мы перестанем полагаться на навигационные приложения в телефонах и начнем забывать, как ориентироваться на местности, это будет означать, что мы постепенно стали зависимыми от ИИ. Точная дата такого момента неизвестна; это произойдет постепенно, в процессе использования технологий. Сама по себе модель ИИ может стать лишь инструментом, улучшающим наши возможности, но это не означает, что она сможет заменить человека.
4. Самая неловкая ситуация с регулированием: мы регулируем отдельные модели, но сама технология уже сильно изменилась
Существующие правила регулирования ИИ основаны на отдельных моделях: оценивается их производительность и уровень безопасности. Однако ИИ уже давно перестал быть простой «электромобилем» – это комплексная система. Например, модель Astra может использоваться для чатов, автоматического обработки кода и выполнения платежей. Изменения в структуре системы не отражаются в существующих правилах, что создает проблемы при расследовании возможных ошибок. Если произойдет серьезная ошибка, будет сложно определить, кто несет ответственность: модель, система памяти или человек, предоставивший ей доступ к данным. В прошлом для расследования авиакатастроф или промышленных аварий было легко выявить причины, но с ИИ все становится гораздо сложнее.