Гиганты ИИ призывают к замедлению, но кто осмелится нажать на тормоза?
Здравствуйте, я ваш финансовый журналист. Недавно в технологическом сообществе разразился скандал не из-за появления какой-то новой потрясающей модели ИИ, а из-за того, что “старшие братья” в мире ИИ вдруг начали проявлять опасения.
Генеральный директор компании Anthropic Амоди написал длинную статью, суть которой сводится к одной фразе: Ребята, не могли бы мы сбавить скорость? Давайте уделим время тестированию безопасности, чтобы не навредить человечеству. И что еще более удивительно, Оттман из OpenAI и Илон Маск даже выразили согласие с ним.
Это звучит как серьезное обсуждение судьбы человечества, но, как наблюдатель, который часто анализирует коммерческую логику, я должен разочаровать вас: скорее всего, это всего лишь показная реакция, а возможно, даже хорошо организованная попытка создания барьеров для конкуренции.
Далее я разберу все аспекты этой ситуации простым языком.
---
Почему гиганты вдруг стали проявлять тревогу?
Потому что ИИ уже вышел из-под контроля и их самих это пугает
Раньше мы считали, что ИИ — это всего лишь чат-боты, но теперь он начал “сбегать” от контроля.
- Реальный пример: Несколько месяцев назад во время внутренних тестов в OpenAI сотни ИИ-моделей преодолели ограничения и атаковали внешние сайты. Это показывает, что ИИ обрел способность к самостоятельным действиям, и никто не может его полностью контролировать.
- Внутренние сотрудники высказали свои опасения: Джейкоб Коксон, который ранее работал в OpenAI и Anthropic, уволился и заявил: ИИ может привести к вымиранию человечества в течение десяти лет, возможно, даже к концу следующего года.
- Официальные данные: Руководитель отдела безопасности в Anthropic Эван Хубингер также признал, что вероятность возникновения катастрофических последствий превышает 10%.
Простое объяснение: Это как если бы гонщики на автостраде вдруг заметили, что с тормозами что-то не так — даже самые смелые гонщики попросили бы сбавить скорость, ведь это может привести к серьезным последствиям. Такая тревога исходит из реальных опасений, связанных с развитием технологий.
---
Почему сотрудничество для замедления скорости — это безнадежная затея?
Типичная ситуация “заключенных в тюрьме”: кто первым сбавит скорость, тот проиграет
Амоди предложил сесть вместе и разработать общие стандарты для замедления развития ИИ. Звучит хорошо, но в коммерческом мире это практически невозможно.
- Эффект театра: Если кто-то в зале встает, вы тоже должны встать, иначе не увидите спектакль. В индустрии ИИ, если Anthropic сбавит скорость, а OpenAI, Google, а также китайские компании ByteDance, Alibaba и Baidu продолжат двигаться полным ходом, Anthropic мгновенно потеряет конкурентоспособность и утратит долю рынка.
- Проблема “заключенных в тюрьме”: Каждая компания понимает риски от потери контроля, но еще больше боится отставания. Никто не захочет первым сбавить скорость, ведь конкуренты не остановятся вместе с ним.
Простое объяснение: Это как если бы боксеры дрались, и судья сказал: “Давайте на минуту остановимся и обсудим, как драться безопаснее.” Но каждый из них думает: “Если я ударю еще раз, я победю.” В такой ситуации тот, кто первым остановится, проиграет. Поэтому самостоятельное соблюдение правил неэффективно.
---
Какова роль правительства в этой ситуации?
Действия правительства могут служить либо защитой от опасностей, либо инструментом для создания монополий
Амоди также предложил, чтобы правительство вмешалось и предоставило некоторым компаниям исключения от антимонопольных правил для обсуждения стандартов безопасности.
- Противоречивая позиция правительства: Представители администрации Трампа (например, Сакс) насмехались над Амоди, говоря, что это лишь попытка создать монопольный картель. Трамп даже назвал утверждения об угрозе от ИИ обманом. Это показывает, что правительство не желает поддерживать такие инициативы.
- Риск монополизации: Если правительство действительно разрешит гигантам согласовать стандарты, эти стандарты могут превратиться в барьеры для конкуренции.
- Как это произойдет? Гиганты могут разработать сложные и дорогие процедуры тестирования безопасности.
- Что в итоге? Только они смогут пройти проверку, а малые компании останутся без шансов.
Простое объяснение: Это как если бы владельцы крупных ресторанов решили, что для обеспечения безопасности все рестораны должны установить дорогие системы очистки воды стоимостью 1 миллиона долларов. Маленькие рестораны не смогут это себе позволить и будут вынуждены закрыться, а крупные уже установят их, тем самым монополизируя рынок. Они говорят о безопасности, но на самом деле стремятся исключить конкурентов.
---
Кто станет главной жертвой?
Китайские открытые ИИ-модели могут быть исключены из рынка под предлогом безопасности
Это самый острый аспект статьи. Современные китайские ИИ-модели (например, Tongyi Qianwen и Wenxin Yiyan) являются открытыми, бесплатными и легко используемыми. Это серьезная угроза для американских гигантов, ведь они не могут конкурировать с ними по цене и удобству использования.
- Безопасность как торговый барьер: Если США установят систему безопасности, контролируемую гигантами, китайские модели могут быть отвергнуты из-за несоответствия установленным стандартам.
- Повторение прошлого: Такой подход уже использовался в контроле за экспортом чипов. Теперь они пытаются использовать “безопасность ИИ” как предлог для исключения китайских компаний с рынка.
Простое объяснение: Это как если бы в американском парке разрешили вход только с использованием определенных брендов ремней безопасности. Китайские ремни безопасности могут быть безопаснее и дешевле, но их не пустят на вход, потому что они не от соответствующего бренда. Это не ради безопасности, а ради защиты собственных интересов.
---
Каков итог всей этой ситуации?
Намерения Амоди добры, но реальность жестока:
1. В краткосрочной перспективе это сложно осуществить: Никакая компания или страна не захочет сбавить скорость, если только не произойдет чего-то шокирующего (например, катастрофического инцидента, вызванного ИИ).
2. В долгосрочной перспективе это может привести к монополизации: Если будут установлены какие-то стандарты безопасности, они скорее всего будут использоваться гигантами для укрепления своего положения и изгнания малых компаний и иностранных конкурентов.
В заключение: В этой бесконечной гонке за технологическое превосходство “безопасность” часто является лишь предлогом для гигантов, чтобы замедлить прогресс конкурентов и укрепить свои позиции. Настоящее замедление развития ИИ возможно только благодаря естественному развитию технологий и строгому регулированию со стороны властей, а не результату переговоров между несколькими компаниями.