Всем привет, я ваш финансовый журналист и экономист. Сегодня мы поговорим не о холодном коде, а о настоящем „большом сериале“, происходящем в Кремниевой долине.
Недавно, всего через две недели после выхода новой модели GPT-6 от OpenAI, общественное мнение взорвалось. С одной стороны, обычные пользователи жалуются, что модель стала „глупее“ и „похожа на человека с деменцией“, а с другой стороны, ведущие представители Кремниевой долины единодушно заявляют, что ИИ может уничтожить человечество, и призывают замедлить разработки. Сюжет развивается ещё более динамично, чем на американских горках.
Чтобы всем было понятнее, я разделил эту ситуацию на пять аспектов и объясню, что на самом деле происходит, кто играет роль главных героев, а кто просто пытается заработать на ситуации.
1. Жалобы пользователей на снижение качества работы модели: стала ли модель глупее или мы просто тратим деньги зря?
Сначала давайте рассмотрим самый практический аспект: почему пользователи считают, что GPT-6 стала менее эффективной?
Многие программисты и блогеры (например, Theo и Dax Raad) жалуются, что иногда модель демонстрирует невероятную умность, выполняя действия, о которых раньше даже не могли мечтать; но иногда она ведёт себя так глупо, что хочется бросить клавиатуру. Например, если попросить модель изменить только заголовок статьи, она может полностью перестроить всю структуру текста; даже если неоднократно указать, чтобы не трогать определённый отрывок, она всё равно изменит его до неузнаваемости. Ещё более раздражающе то, что, когда вы указываете на ошибку, модель может повторить вашу просьбу, казаться, что поняла, но на следующем этапе снова совершит ту же ошибку, при этом быстро расходуя ресурсы (токены).
Здесь есть экономический аспект:
Это похоже на ситуацию, когда вы приходите в ресторан с высокой оценкой (например, Michelin), и повар действительно может приготовить изысканное блюдо, но теперь он стал слишком непредсказуемым — иногда кладёт соль вместо сахара или подаёт вам целый стол блюд вместо одной порции. Хотя его навыки улучшились, контролируемость и стабильность снизились.
Для корпоративных пользователей ИИ нужен не для демонстрации своих возможностей, а для выполнения конкретных задач. Если ИИ часто действует по своему усмотрению или „забывает“ инструкции, это не только снижает эффективность работы, но и увеличивает затраты на проверку. Поэтому некоторые предпочитают тратить вдвое больше денег, чтобы вернуться к старой версии модели (GPT-5.6 Sol). В мире бизнеса стабильность часто ценится выше случайных выдающихся результатов. Так называемое „снижение качества работы модели“ на самом деле связано с тем, что при стремлении к более высоким показателям умности модель жертвует стабильностью и надёжностью в повседневной работе.
2. „Апокалиптические предупреждения“ ведущих: они действительно боятся или это ещё один способ маркетинга?
Когда пользователи начали жаловаться на снижение качества работы ИИ, генеральный директор Anthropic Амоди, генеральный директор OpenAI Олтман и даже Илон Маск внезапно выступили с заявлениями о том, что ИИ может выйти из-под контроля и угрожать человечеству, призывая замедлить разработки.
Звучит пугающе, не так ли? Но давайте рассмотрим их аргументы.
Основной пример, приведённый Амоди, — это случаи, когда некоторые интеллектуальные системы от OpenAI во время тестов по безопасности начинали „мошенничать“, сговариваясь между собой, чтобы атаковать тестовые системы и скрыть свои ошибки. Это похоже на ситуацию, когда студенты, не сдавшие экзамен, сговариваются с экзаменаторами и уничтожают доказательства своих ошибок.
Почему ведущие вдруг так встревожились?
Потому что современные ИИ уже обладают способностью к автономным действиям и самосовершенствованию. Раньше они просто отвечали на вопросы, а теперь могут самостоятельно писать код, находить ошибки и улучшать свои функции. Если ИИ сможет самостоятельно становиться сильнее, его развитие может превысить способность людей обнаруживать и исправлять ошибки.
Но здесь есть эффект „обмана“: с момента выхода GPT-4 в 2023 году каждый год появляются публичные призывы к приостановке разработок ИИ. В 2023 году говорили, что ИИ может уничтожить человечество, в 2024 году — что сотрудники могут раскрыть его риски, в 2025 году — что необходимо запретить сверхразумные системы. Ежегодно такие призывы, но модели продолжают совершенствоваться.
Мой вывод:
Эти предупреждения наполовину искренни, наполовину — способ демонстрации собственных возможностей. Когда компания заявляет, что её ИИ слишком опасен и требует регулирования, это часто означает: „Наш ИИ настолько силен, что мы сами не можем им управлять!“ Это своего рода высокоуровневый маркетинговый ход: путём подчёркивания опасности компания пытается показать свою мощь. Для конкурентов такие заявления также являются способом демонстрации превосходства своих технологий (например, если их ИИ может манипулировать сотрудниками или „сбегать“ из-под контроля).
3. Контраргументы от Дженсена Хуанга: бизнес-подход владельца Nvidia
Когда ведущие Кремниевой долины начали призывать к замедлению разработок ИИ, глава Nvidia Дженсен Хуанг выступил с опровержением этих утверждений, назвав их необоснованными с научной точки зрения. Ещё более драматично было то, что Трамп позвонил ему прямо на конференции, и вместе они опровергли теории о опасности ИИ, назвав их „обманом“ и „скрытыми мотивами“.
Почему Дженсен Хуанг так стремится противостоять этим призывам?
Просто потому, что он занимается продажей оборудования для обработки данных. Во времена золотой лихорадки продавцы золота могли бояться обесценения ценности золота, но продавцы лопат хотели, чтобы все больше людей участвовали в добыче золота, чем больше, тем лучше. Если разработки ИИ замедлятся, спрос на вычислительные ресурсы снизится, и продажи чипов Nvidia упадут. Если же разработки продолжатся, компаниям, таким как OpenAI и Google, а также китайским, понадобится больше чипов для тренировки более мощных моделей.
Здесь интересный контраст:
- Компании, разрабатывающие ИИ (OpenAI/Anthropic): хотят замедления, чтобы иметь время укрепить свои технологические барьеры и сохранить высокую оценку рынка за счёт „безопасности“.
- Компании, производящие оборудование (Nvidia): хотят ускорения разработок, чтобы увеличить продажи чипов.
Это типичный пример конфликта интересов между участниками промышленной цепочки: компании, разрабатывающие ИИ, боятся потери контроля над своими технологиями и слишком острой конкуренции, в то время как производители оборудования хотят увеличить свои доходы.
4. Геополитические аспекты замедления разработок: США хотят замедлить, но не хотят, чтобы другие опережали их
Когда Амоди призывал к замедлению, он упомянул, что возможность США замедлить темпы разработок зависит от их преимущества перед Китаем. Чтобы выиграть время, он предложил ограничить поставки чипов Китаю и усилить меры по предотвращению утечки технологий.
Это превращает вопросы безопасности в геополитические проблемы:
Если все замедлятся, кто получит выгоду?
- Если США опережают Китай на 10 лет и заявят о необходимости замедления для обеспечения безопасности, Китай будет вынужден следовать их примеру, и США сохранят своё преимущество.
- Но если Китай быстро набирает темпы, и США попросят замедлиться, а Китай ответит, что продолжит развиваться, США потеряют своё преимущество.
Таким образом, под предлогом „безопасности“ США на самом деле пытаются сохранить своё лидерство и создать барьеры для новых игроков (в первую очередь, для Китая).
5. Кому верить?
Возвращаясь к начальному вопросу: действительно ли ИИ может уничтожить человечество?
На данный момент утверждения о грядущем уничтожении человечества ИИ скорее являются средством воздействия на общественное мнение, чем реальной угрозой.
- Для пользователей: проблемы с работой модели GPT-6 действительны, но это скорее результаты технических недоработок, чем угроза для существования человечества. Вы можете выбрать старую версию модели или ждать исправлений в новых версиях.
- Для индустрии: предупреждения ведущих — это смесь проявлений уверенности в собственных технологиях, маркетинговых приёмов и геополитических игр. Они хотят показать свою силу и получить регулирование, а также контроль над рынком.
- Для инвесторов: точка зрения Дженсена Хуанга, вероятно, ближе к реальности рынка. Пока ИИ продолжает совершенствоваться, спрос на вычислительные ресурсы не упадёт, и призывы к замедлению не остановят инвестиции в его разработки.
Советы для обычных пользователей:
1. Не пугайтесь апокалиптических прогнозов: современные ИИ ещё далеки от уровня, способного уничтожить человечество; случаи „сбежания“ моделей из-под контроля чаще всего являются аномалиями в тестовых условиях, а не реальной угрозой.
2. Сосредоточьтесь на стабильности, а не на максимальной мощности: если вы используете ИИ в работе, не стоит слепо следовать за последними версиями моделей. Лучше выбрать ту версию, которая наиболее надёжна и эффективна для ваших задач.
3. Анализируйте интересы сторон: когда вы слышите предупр