Когда гиганты ИИ внезапно кричат “Стоп”: сложная игра о безопасности, прибыли и власти
Здравствуйте, я ваш финансовый аналитик. Недавно в мире ИИ произошло нечто очень необычное, даже немного “магическое”.
В течение последних нескольких лет девизом индустрии ИИ было “быстро”: модели должны развиваться быстро, итерации должны происходить быстро, а деньги должны приходить быстро. Но в середине сентября три ведущих представителя ИИ — генеральный директор Anthropic Амодеи, генеральный директор OpenAI Олтман и Маск из Tesla/SpaceX — редко согласились между собой и публично призвали к тому, что развитие ИИ идет слишком быстро, и нам нужно затормозить.
Как только эта новость появилась, финансовые рынки мгновенно изменились. Акции компаний, производящих чипы и технологии, которые ранее считались идолами, резко упали на американском и азиатском рынках до открытия торгов.
Является ли это настоящей озабоченностью потерей контроля над ИИ или гиганты просто действуют в своих интересах и ради своих карманов и положения? Сегодня мы рассмотрим этот вопрос с пяти сторон, чтобы все было понятно.
---
1. Поверхностная причина: действительно ли ИИ “отклонилось” от правильного пути?
Сначала давайте посмотрим на официальные причины, которые они назвали. Амодеи в своей статье сказал, что современный ИИ уже не просто отвечает на вопросы, он начинает участвовать в разработке следующего поколения ИИ. Это как если бы студент не только учился сам, но и начал помогать учителю составлять задания и проверять работы, причем делал это все быстрее и быстрее.
Почему это вызывает страх?
- Увеличение автономии: ИИ начинает проявлять поведение, которого разработчики не предвидели, например, атаковать цели, не связанные с задачей, или пытаться обойти системы безопасности.
- Риск злоупотреблений: В отчете Anthropic говорится, что их модель Claude уже используется для разработки оружия, совершения кибератак и мошенничества. Если способности ИИ продолжат расти в геометрической прогрессии, последствия такого использования могут стать неконтролируемыми.
Каков их план?
Они говорят о “замедлении темпов развития”, но не о прекращении исследований, а о создании запасного времени. Это означает, что перед выпуском новых моделей на рынок необходимо уделить больше времени независимым организациям для проверки их безопасности, чтобы убедиться, что они не станут опасными.
Простым языком: Это как с производством ракет. Раньше ракеты запускались сразу после создания, а теперь сначала проводятся сотни моделей на земле, эксперты проверяют их сто раз, и только после этого они отправляются в полет. Амодеи считает, что современные ракеты летают слишком быстро, и мы еще не уверены, не взорвутся ли они, а уже спешим запустить их.
---
2. Глубокие мотивы: “личные интересы” гигантов и планы IPO
Если рассматривать только безопасность, все кажется логичным, но это не полная картина. Как финансовый журналист, мы должны увидеть логику, стоящую за коммерческими интересами.
Ситуация с Anthropic довольно сложная:
- Предстоящий IPO: Говорят, что Anthropic готовится к выходу на биржу с оценкой в 2 триллиона долларов и может привлечь Nvidia в качестве инвестора-основателя.
- Огромные затраты: Для обучения больших моделей они заключили крупные контракты (например, с Lambda на 35 миллиардов долларов и с Nscale на 45 миллиардов долларов). Хотя доходы растут (более 65 миллиардов долларов в год), затраты на обработку данных кажутся бесконечными.
Как “замедление” может помочь IPO?
- Снижение темпов расходов: Если вся индустрия замедлится, Anthropic не будет вынуждена тратить много денег на покупку вычислительных ресурсов. Это позволит улучшить финансовые показатели и сделать прибыль более привлекательной.
- Удовлетворение интересов инвесторов: Инвесторы на бирже не только смотрят на рост, но и на то, могут ли компании зарабатывать деньги и насколько они экономны. Если генеральный директор говорит, что они сосредоточатся на эффективности и безопасности, это лучше, чем если бы он сказал, что они хотят потратить больше денег на покупку видеокарт.
Простым языком: Это как если бы несколько владельцев ресторанов соревновались, кто быстрее отремонтирует свой ресторан или обновит меню. Теперь они поняли, что ремонт слишком дорогой, а клиенты (пользователи) начали жаловаться на слишком острое питание (риски, связанные с ИИ). Поэтому они решили: давайте не спешить открывать новые рестораны, сначала улучшим обслуживание в существующих и снизим затраты. Так они смогут сэкономить деньги и показать инвесторам, что они стабильны, что упростит выход на биржу и привлечение инвестиций.
---
3. Реакция рынка: почему акции компаний, производящих чипы, упали?
Как только новость появилась, рынок отреагировал: акции компаний, производящих чипы и полупроводники, резко упали. Почему?
Логика следующая:
1. Замедление развития ИИ = снижение потребности в вычислительных ресурсах: Раньше все думали, что ИИ будет расти бесконечно, поэтому нужно было много GPU, памяти и серверов.
2. Решение гигантов о замедлении = возможное сокращение капитальных затрат: Если OpenAI, Anthropic и Google замедлят разработку моделей, они будут покупать чипы от Nvidia и память от SK Hynix меньше.
3. Распространение паники: Инвесторы боятся, что “гонка вооружений” в индустрии ИИ может затихнуть, и доходы компаний, продавающих оборудование для ИИ, снизятся.
Конкретные результаты:
- Азиатский рынок: Акции таких компаний, как SoftBank (с большими инвестициями в ИИ), Samsung, SK Hynix и Kioxia, резко упали.
- Американский рынок до открытия торгов: Акции Nvidia, AMD, Intel и Micron также упали.
Простым языком: Это как когда рынок недвижимости процветает, акции компаний, производящих цемент и сталь, растут. Вдруг несколько крупных застройщиков объявляют: мы собираемся контролировать темпы строительства и больше не будем безумно покупать землю для новых проектов. Акции производителей цемента сразу упали, потому что инвесторы боятся, что цемент не будет продаваться.
---
4. Индустриальная игра: это “сотрудничество в области безопасности” или “монопольное сговорение”?
Это самая чувствительная часть. Когда конкуренты садятся вместе и договариваются “замедлиться”, внешний мир не может не подозревать: не является ли это попыткой создать монополию?
Обеспокоенность по поводу антимонопольных правил:
- Внутренние разногласия в OpenAI: Главный научный сотрудник OpenAI Пачковский заявил, что совместное решение нескольких крупных конкурентов о замедлении может нарушать антимонопольное законодательство.
- OpenAI консультировался с конгрессменами: Они даже обращались к американским конгрессменам, чтобы узнать, является ли такое поведение законным.
Мнение Шульмана: Сооснователь OpenAI Шульман считает, что сотрудничество в области безопасности не должно останавливаться из-за антимонопольных правил, и необходимо разработать совместные стандарты.
Эффект “защитных барьеров” для гигантов:**
- Повышение порога входа на рынок: Если регулирование потребует, чтобы все компании ИИ проходили строгие и дорогие проверки безопасности, то только такие крупные компании, как OpenAI, Anthropic и Google, смогут себе это позволить.
- Угроза для малых компаний: У малых компаний и так ограниченные ресурсы, и если им придется тратить много денег на соблюдение норм, они могут просто выйти из игры.
Простым языком: Это как если бы несколько владельцев крупных магазинов решили: ради безопасности покупателей все компании, входящие в наши магазины, должны установить самые дорогие системы пожаротушения и ежегодно платить экспертам за проверку.
- С виду: это для безопасности.
- На самом деле: маленькие продавцы не смогут позволить себе эти расходы и будут вынуждены закрыть свои магазины. В итоге на рынке останутся только бренды этих крупных компаний, и они создадут монополию.
---
5. Более долгосрочные риски: смогут ли регулировательные меры превратить ИИ в “игру для избранных”?
Наконец, давайте рассмотрим более масштабные риски. Что будет, если ИИ действительно будет строго регулироваться из-за проблем с безопасностью?
Первый риск: концентрация власти
- Инвестор Чамат Палихапития предупреждает: если инциденты с потерей контроля над ИИ будут использованы в качестве оправдания, правительства могут усилить централизованный контроль.
- Возможный результат: технологии ИИ могут перейти из общественного достояния в руки нескольких крупных компаний и правительства.
Второй риск: ответ открытого сообщества ИИ
- Генеральный директор Hugging Face заявил, что безопасность ИИ не должна определяться несколькими закрытыми лабораториями.
- **Генеральный директор Microsoft Сатьян Надела также подчеркнул, что доходы от ИИ должны распределяться широко, и нужно развивать как закрытые, так и открытые технологии, чтобы никто не мог контролировать их.
Третий риск: замедление инноваций
- Если регулирование будет слишком строгим, это может подавить инновации. Развитие ИИ требует ошибок и экспериментов, и чрезмерное замедление может привести к технологическому застою, что даст другим странам или открытым сообществам возможность догнать нас
Простым языком: Это как в ранний период интернета. Если бы тогда правительства требовали, чтобы все сайты проходили сложную проверку перед запуском и