Когда гиганты ИИ начинают кричать “стоп”: игра о жизни и смерти, деньгах и власти
Здравствуйте, я ваш финансовый журналист. Сегодня мы поговорим не о скучном техническом отчете, а о серьезной драме, разворачивающейся между Кремниевой долиной, Вашингтоном и Уолл-стрит.
Если вы недавно видели новости о том, что ИИ может уничтожить человечество или что компании, работающие в этой сфере, должны замедлить свои темпы, не спешите их игнорировать. За этим стоит не просто беспочвенная паника гиков, а серьезное противостояние между ведущими технологическими компаниями, политиками и крупными инвесторами по вопросу того, как должно развиваться ИИ.
Проще говоря, раньше все соревновались в скорости, а теперь кто-то кричит “стоп”, но кто-то хочет ускориться, а кто-то даже предлагает сменить правила игры. За этим стоит судьба человечества, триллионы долларов рыночной стоимости и геополитические интересы великих держав.
Давайте разберемся в этом вопросе простым языком.
---
Провоцирующий инцидент: “Письмо о увольнении” молодого человека вызвало бурю обсуждений
Все началось 8 сентября, когда 27-летний Джейкоб Коксон уволился из компании Anthropic, специализирующейся на безопасности ИИ.
Возможно, увольнения программистов — обычное дело, но Джейкоб поступил необычно. Он опубликовал сообщение с резким заявлением: “ИИ может уничтожить нас всех за десять лет”.
Это заявление вызвало огромный резонанс — его прочитали 170 миллионов человек. Почему? Потому что Джейкоб не просто обычный сотрудник: он работал в OpenAI и Anthropic и был одним из тех, кто наиболее близок к сути разработок ИИ. Он обвинил эти компании в безответственной гонке за лидерство, рискуя жизнями всего человечества.
Затем еще один бывший сотрудник Anthropic заявил: “Мы, возможно, не переживем этот период”. Это означает, что ИИ становится гораздо умнее людей, но никто не может гарантировать, что оно будет слушаться наших указаний.
Еще более тревожным было признание одного из ведущих специалистов по безопасности Anthropic: вероятность того, что ИИ уничтожит человечество в ближайшие 10 лет, превышает 10%. Это как риск в русской рулетке — одна из шести пуль оказывается смертельной. Для профессионалов риск потери контроля над ИИ столь же высок, как и риск смерти.
Важно помнить: это не вымысел из научно-фантастических фильмов — это признание людей, контролирующих самые мощные ИИ-модели, что они могут потерять контроль над ними.
---
“Тормоза” Кремниевой долины: гиганты решают замедлиться
В ответ на эту панику генеральный директор Anthropic Дарио Амодеи опубликовал длинную статью с прямым заголовком: “Мы должны затормозить передовые технологии ИИ”.
Дарио перечислил три главных опасности:
1. Потеря контроля: люди не смогут управлять ИИ.
2. Злоупотребление: ИИ может быть использовано для массовых кибератак или биотерроризма.
3. Разрушительное влияние: слишком быстрый технологический прогресс может разрушить экономику.
Для снижения рисков он предложил ряд мер, напоминающих меры по усилению безопасности:
- Независимый контроль: назначение независимых организаций для проверки деятельности ИИ-компаний.
- Общие стандарты безопасности: создание единых правил с участием правительства.
- Международное сотрудничество: необходимо вовлечение всех демократических стран в управление ИИ.
Генеральные директора OpenAI Сэм Альтман и Google Демис Хассабис также выразили поддержку этих идей. Однако возник вопрос: кто должен устанавливать эти стандарты?
- Дарио (Anthropic) считает, что правительство должно играть ключевую роль в установлении правил.
- Демис Хассабис (Google) предлагает создание саморегулирующихся организаций, подобных FINRA в финансовой сфере.
- Сэм Альтман (OpenAI) считает, что если правительство не справится, то ведущие компании должны сделать это сами.
Это подразумевает, что те, кто контролирует правила, будут контролировать и развитие индустрии. Победители смогут установить свои стандарты, заставляя других компаний платить за их соблюдение. Речь идет не только о безопасности, но и о контроле над рынком.
---
“Газ” Вашингтона: политические расчеты и выборы
В то время как Кремниевая долина призывает к замедлению, Вашингтон настаивает на ускорении развития ИИ.
13 сентября Трамп публично высказался по этому вопросу: “Кто победит в борьбе за ИИ, тот и победит”. По его мнению, ИИ должен использоваться для превосходства над Китаем. Он считает, что если США замедлятся из-за опасений, они упустят свои преимущества. Трамп называет тех, кто предупреждает о рисках ИИ, “очень негативными силами”, утверждая, что они преувеличивают возможные катастрофы.
Причины его решимости:
1. Сроки выборов: средние выборы в США состоятся в сентябре 2026 года, и ИИ является горячей темой.
2. Сложные настроения избирателей: с одной стороны, сторонники движения “Make America Great Again” боятся, что ИИ уничтожит рабочие места и потребует больше ресурсов; с другой стороны, Трамп опасается, что отставание от Китая подорвет доверие избирателей к силе США.
Таким образом, Трамп выбрал стратегию конкуренции с Китаем. По его мнению, пока Китай продолжает развивать ИИ, США не могут останавливаться. Даже если ИИ несет риски, это лучше, чем проигрыш.
Это приводит к тупику: технологический сектор хочет замедлиться и установить глобальный контроль, в то время как правительство стремится ускорить развитие ИИ, чтобы сохранить преимущество перед Китаем.
---
“Сердцебиение” Уолл-стрит: пузырь рыночной стоимости и игра капитала
Если Кремниевая долина беспокоится о безопасности, Вашингтон о победе, то Уолл-стрит — о деньгах.
За последние годы стоимость компаний, работающих в сфере ИИ, росла благодаря оптимистичным прогнозам: улучшение моделей приводит к увеличению числа пользователей и доходов, что, в свою очередь, стимулирует инвестиции в строительство центров обработки данных и покупку процессоров.
Теперь, когда генеральные директора начали говорить о возможном замедлении развития ИИ, рынок реагировал резко:
- Падение цен на акции: акции компаний, связанных с ИИ, упали на 13%.
- Переоценка перспектив: если ИИ не сможет развиваться бесконечно быстро, все планы придется пересмотреть. Стоит ли продолжать инвестировать в строительство центров обработки данных и покупку процессоров?
Ирония ситуации в том, что OpenAI решила отложить свою публичную продажу акций (IPO), а Anthropic, напротив, стремится к выходу на биржу с оценкой в 2 триллиона долларов, при этом Nvidia готова инвестировать 10 миллиардов долларов.
Почему Джейкоб Коксон призывает к замедлению, но его компания стремится к быстрому выходу на рынок? Потому что регулирование может стать новым фактором конкуренции. Если будущие правила будут строгими, малые компании не смогут справиться с их требованиями и будут вынуждены уйти с рынка. Только крупные игроки, такие как Anthropic, OpenAI и Google, смогут выполнить эти требования. Это не только вопрос безопасности, но и борьбы за права на доступ на рынок.
---
Исторические параллели: сможем ли мы контролировать ИИ?
Вспомним, что подобные предупреждения уже звучали раньше. Десять лет назад основатель Ethereum Виталик Бутерин писал о возможных опасностях ИИ, но тогда его слова воспринимались как теоретические. Теперь они стали частью официальных заявлений руководителей компаний и политических дискуссий.
Это напоминает письмо Эйнштейна президенту Рузвельту в 1939 году, в котором он предупреждал о возможности создания атомной бомбы Германией. Сейчас мы сталкиваемся с похожей ситуацией: мы знаем о рисках ИИ, но также понимаем, что наши конкуренты (Китай и другие страны) активно работают над его развитием.
Вопрос в том, сможем ли мы контролировать ИИ. Все говорят о необходимости безопасности, но кто будет устанавливать правила? Кто будет иметь решающее влияние на развитие этой индустрии? Это вопрос не только о безопасности, но и о распределении рыночных ресурсов.
В общем, текущий конфликт — это не просто спор о безопасности ИИ, а сложная игра между властью, капиталом и геополитикой. Для обычных людей это означает, что развитие ИИ может замедлиться, но станет более контролируемым (или, наоборот, более монополизированным гигантами). Для инвесторов это может означать снижение темпов роста рынка. Для всего человечества это переломный момент: мы должны выбрать между безопасностью и скоростью развития технологий.
На данный момент нет однозначного ответа. Одно ясно: ИИ стало настолько важным, что никто не может войти на этот рынок без серьезных ограничений. В ближайшие месяцы мы увидим, как будут разработаны регулирующие правила и как гиганты будут балансировать между заработком и защитой интересов общества.
Это не просто технологические новости — это важные политические и экономические изменения, которые касаются нашего будущего образа жизни. Просим следить за развитием событий.