За скандалом с „беседой по громкой связи“ Хуан Рэньсюня и Трампа: простое разъяснение проблем безопасности ИИ, коммерческих интересов и государственных игр
Здравствуйте, я ваш финансовый журналист. Сегодня мы поговорим не о скучном техническом отчете, а о „знаменитой сцене“, произошедшей на саммите All-In в Лос-Анджелесе.
Эта сцена была одновременно абсурдной и значимой: гендиректор Nvidia Хуан Рэньсюнь лежал на диване, когда ему позвонил президент США Дональд Трамп. Из-за неисправности громкой связи Трамп пошутил: „Вы можете создавать такие сложные чипы, а громкую связь не смогли наладить?“
После смеха разговор быстро перешел к самым острым и важным вопросам: будущему ИИ, угрозам, которые оно представляет, и тому, у кого есть право остановить его развитие.
Суть статьи заключается в рассмотрении кажущегося противоречивого явления: с одной стороны, технологические гиганты и политики ведут беседы весело, даже называя риски ИИ „обманом“; с другой стороны, исследователи в лабораториях встревожены, опасаясь, что вышедшие из-под контроля алгоритмы могут все разрушить. А мы, простые люди, хотим удобств, которые приносит ИИ, но боимся потери контроля над ним.
Чтобы все поняли, я разложу эту сложную ситуацию на пять аспектов и объясню их простым языком.
---
1. Каков подтекст „беседы по громкой связи“: сговор политики и бизнеса?
Сначала давайте разберем сам акт звонка.
В телефонном разговоре Трамп отверг идею о том, что роботы могут захватить мир, назвав это „обманом“. Он также пошутил, что у него есть дядя, преподающий в Массачусетском технологическом институте, и поэтому он тоже разбирается в ИИ. Хуан Рэньсюнь ответил: „Вот почему вы так хорошо разбираетесь в ИИ.“
Что скрывается за этими вежливыми словами?
- Определение тонких ноток: личное участие президента в определении рисков ИИ как „обмана“ — это не просто личное мнение, а политический подтекст. Это означает, что чрезмерные опасения по поводу безопасности ИИ могут быть расценены как проявление „непатриотизма“ или препятствие развитию.
- Связь интересов: Хуан Рэньсюнь, как владелец крупной чиповой компании, заинтересован в быстром развитии ИИ, поскольку чем быстрее развивается ИИ, тем больше чипов он продает. Трамп беспокоится, что это принесет выгоду Китаю, что напрямую касается ключевых американских интересов — государственной конкуренции.
- Подтекст: когда высшие лидеры и крупнейшие поставщики находятся на одной стороне и подчеркивают необходимость „не останавливаться“, они фактически дают сигнал всей индустрии: коммерческие интересы и национальная конкурентоспособность имеют больший приоритет перед неизвестными рисками безопасности.
Это похоже на гонку: гонщик (технологическая компания) говорит, что тормоза немного не работают, но босс команды (правительство/капитал) отвечает: „Не слушайте его, это предлог, нам нужно выиграть гонку, даже если машина развалится по пути к финишу.“
---
2. „Двойные стандарты“ Хуана Рэньсюня: нужно, чтобы лошадь бежала, но и чтобы она не погибла
В статье упоминается важное мнение Хуана Рэньсюня, отражающее его попытку сбалансировать разные интересы:
- С одной стороны, он против паники, вызванной одним случаем: он считает, что если проблема возникла в одной лаборатории, зачем требовать остановки всей индустрии? Использовать непроверенные вероятности катастрофы для остановки нормальных исследований и инвестиций неразумно.
- С другой стороны, он признает необходимость временной остановки в отдельных случаях: он одобряет решение ушедшего сотрудника Anthropic Джейкоба Коксона и считает, что если у некоторых компаний возникают конкретные проблемы с контролем, эти компании должны временно остановить свою деятельность.
Здесь есть большая логическая ловушка:
Логика Хуана Рэньсюня звучит разумно: проблемы нужно решать на месте; развитие не должно останавливаться. Но вопрос в том: кто определит, что является „локальной проблемой“?
- Если компания сама обнаруживает риск, она может остановиться — это одно дело.
- Но что, если риск системный или затрагивает другие компании?
- Более того, у компаний есть естественное желание продолжать работу: инженеры хотят провести дополнительные тесты, клиенты требуют срочной поставки, конкуренты уже выпустили новые версии продуктов. В таких условиях остановка означает огромные экономические потери и снижение конкурентоспособности.
Поэтому позволять компаниям самим решать, останавливаться ли им, — это как позволять водителю самому решать, стоит ли нажимать на тормоза. Если тормоза изношены (существует угроза безопасности), но водитель спешит (ради коммерческих интересов), скорее всего, он решит „продолжить путь“. Хуан Рэньсюнь, как продавец чипов, больше сосредоточен на выгоде от продаж чипов, чем на безопасности.
---
3. „Тактика отсрочек“ OpenAI: не выход на биржу ради безопасности или ради контроля?
В статье упоминается решение гендиректора OpenAI Самуэля Олтмана не выходить на биржу в этом году, а самое раннее — только в 2027 году.
Многие считают, что Олтман действует ради безопасности, не желая под давлением акционеров стремиться к краткосрочной прибыли. Это звучит благородно, но давайте рассмотрим подробнее:
- Что означает выход на биржу? Выход на биржу означает прозрачность ценных бумаг, что позволяет акционерам оказывать давление в случае плохих результатов, а компании — регулярно публиковать финансовые и операционные данные.
- Что означает отсутствие выхода на биржу? OpenAI остается частной компанией, ей все еще нужны инвестиции, сотрудники заботятся о стоимости своих акций. Однако отсутствие публичного отчета о ценах создает определенные ограничения.
Ключевой момент: OpenAI приняла конкретные меры по безопасности: приостановила некоторые тренировки алгоритмов, ввела механизмы проверки ошибок, сохранила право совета директоров на отказ от решений. Это реальные действия, а не пустые обещания.
Но может ли отсутствие выхода на биржу решить проблемы с безопасностью?
Статья отмечает, что фонд OpenAI владеет 26% акций, Microsoft — 27%, сотрудники и инвесторы — 47%. Хотя фонд контролирует совет директоров, его ресурсы также зависят от долгосрочных результатов компании. Это создает внутреннее противоречие:
- Для достижения долгосрочных целей (безопасности) сегодня можно пожертвовать некоторым развитием.
- Но меньшие доходы компании сокращают возможности для инвестиций в безопасность в будущем.
Это противоречие нельзя решить простым выходом на биржу или отсутствием выхода на нее. Безопасность и коммерческие интересы всегда будут конфликтовать. Отсутствие выхода на биржу лишь переносит этот конфликт из „открытого рынка“ в „внутренний совет директоров“, делая внешние оценки менее доступными для понимания.
Таким образом, решение Олтмана не выходить на биржу скорее связано с желанием сохранить контроль над темпами развития компании, чем с безопасностью. Это стратегическое отсрочение, а не чисто безопасное решение.
---
4. „Реальность и иллюзия“ внешнего контроля: сможет ли предложение Амодея спасти ситуацию?
Гендиректор Anthropic Дэвид Амодей предложил разместить в лабораториях внешних экспертов, которые будут иметь доступ к ключевым данным и могут самостоятельно выдавать важные замечания.
Это звучит как решение, улучшающее ситуацию с контролем за ИИ. Но статья отмечает, что это всего лишь обещание, которое еще предстоит реализовать, и оно не может решить все проблемы:
- Сколько экспертам действительно будет видно? Смогут ли они увидеть весь код и данные тренировок или только отфильтрованные версии?
- Могут ли они ошибаться? Эксперты тоже люди и могут поддаваться коммерческому давлению.
- Что делать, если они обнаружат проблемы? Если компания не примет их рекомендаций, что они смогут сделать? Опубликовать заявление в Твиттере? Подать в суд?
Более глубокий вопрос — отношение правительства.
Амодей хочет, чтобы правительство участвовало в контроле за безопасностью и связывало это с повышением качества работы компаний. Но какова реакция Трампа? Он называет опасения по поводу ИИ „обманом“ и считает, что замедление развития принесет выгоду Китаю.
Это создает тупик: компании хотят, чтобы правительство использовало свои полномочия для контроля над „несоблюдающими правила“ конкурентами, а правительство (по крайней мере, нынешнее правительство Трампа) больше заботится о скорости и конкуренции, считая опасения по поводу безопасности лишь предлогом для ограничений.
В таких условиях внешний контроль может превратиться в показуху: компании могут приглашать экспертов, но если их рекомендации противоречат интересам компании, они могут быть игнорированы или подавлены политическим давлением. **Отсутствие реальной власти остановить небезопасные действия делает внешний контроль лишь формальностью — в случае проблем можно сказать: „Мы пригласили экспертов, но они ничего не обнаружили“.”
---
5. Дилемма обычных людей: кто мы такие в этой грандиозной истории?
Последний аспект очень важен: статья указывает на серьезный недостаток текущих дискуссий: **они вынуждают обычных люд