Анализ отчета Дарио и Anthropic: предвестник тщательно спланированного IPO?
Здравствуйте, я ваш финансовый журналист. Сегодня мы поговорим не о росте или падении цен на акции, а об очень длинном отчете, который вызвал бурю в Кремниевой долине и по всему миру технологического сообщества.
Этот отчет подготовлен компанией Anthropic (сокращенно A-компания) под руководством ее генерального директора Дарио Амодеи. Отчет насчитывает 154 страницы и рассказывает о том, как за последние несколько месяцев A-компания смогла «обнаружить и предотвратить» семь серьезных преступлений, связанных с использованием искусственного интеллекта: хакерские атаки, манипулирование общественным мнением, разработка биологического оружия и другие.
На первый взгляд, это кажется образцовым документом о безопасности искусственного интеллекта, наполненным чувством справедливости. Но если смотреть только на поверхность, то ошибаться будет большим ошибкой. Как экономист, я хочу сказать: гораздо важнее, кто это говорит, когда это говорится и почему это говорится, чем сами слова. За этим отчетом стоят опасения A-компании относительно своего существования, ее коммерческие амбиции, а также финальная борьба в индустрии искусственного интеллекта между подходами с открытым и закрытым исходным кодом.
Далее я объясню логику этого отчета в пяти аспектах, чтобы вы поняли эту сложную ситуацию, в которой переплетаются образ «мистического генерального директора» и игры капитала.
---
Кто главный герой? Генеральный директор, наделенный статусом «религиозного лидера»
Прежде чем анализировать содержание отчета, мы должны понять, кто это говорит. Дарио Амодеи – человек, вызывающий много споров, и его личный стиль сильно влияет на корпоративную культуру A-компании и ее внешнее представление.
1. Совместное создание компании братом и сестрой и основные убеждения
Основателями A-компании являются Дарио и его сестра Даниэлла. Они ушли от OpenAI из-за недовольства и основали собственную компанию. Дарио – генеральный директор, а сестра – президент и председатель совета директоров. У Дарио есть очень сильное убеждение: искусственный интеллект быстро достигнет уровня сверхинтеллекта, и если его не контролировать, это приведет к большим проблемам для человечества. Это убеждение не только его личная вера, но и «конституция» всей компании A-компании.
2. Почему его называют «мистиком»
Известное технологическое издание The Information назвало Дарио скорее «религиозным лидером», чем генеральным директором. Его команда по безопасности описывается как «класс, занимающийся ритуальными обрядами». Хотя это звучит иронично, это отражает общее мнение в индустрии: культура A-компании более идеологизирована, чем у других компаний, работающих с большими моделями искусственного интеллекта, и сотрудники и инвесторы часто чувствуют себя частью какого-то сообщества.
3. Почему это важно?
Потому что Дарио любит публично высказываться. В отличие от OpenAI, которая занимается политическим лоббированием и тайными операциями, Дарио публикует длинные статьи, громко предупреждая о опасностях искусственного интеллекта. Такой образ «идеологического лидера** делает A-компанию в глазах общественности более «непорочной» и «ответственной». Но это также означает, что каждое его заявление несет в себе явные стратегические намерения.
> Подведение итогов простым языком: Дарио – не обычный бизнесмен, он – проповедник. Каждое его слово направлено на укрепление образа A-компании как защитника безопасности искусственного интеллекта.
---
Почему выбран именно этот момент для публикации отчета? Предварительный призыв перед IPO
Время публикации отчета не случайно. Оно связано с двумя ключевыми факторами:
1. Доказательства действий правительства
Правительство США в последнее время уделяет все больше внимания безопасности искусственного интеллекта и даже начало регулировать его использование. Отчет A-компании предоставляет правительству доказательства того, что искусственный интеллект действительно представляет угрозу, и необходимо усилить контроль. A-компания демонстрирует, сколько раз ей удавалось «обнаружить и предотвратить» опасные действия, чтобы показать правительству: мы – национальное стратегическое достояние, от нас нельзя отказаться.
2. Подготовка к IPO
A-компания готовится к выходу на биржу (IPO). Перед IPO компания должна доказать инвесторам два вещи:
- Наша технология самая сильная: наши лучшие модели (например, Fable и Mythos) надежно защищены от любых попыток несанкционированного использования.
- Наша модель самая безопасная: только компании с закрытым исходным кодом и централизованным управлением могут эффективно предотвращать риски, связанные с искусственным интеллектом.
> Подведение итогов простым языком: Этот отчет – не просто документ о безопасности, это также часть «проспекта эмиссии** A-компании. Он говорит инвесторам и правительству: покупая наши акции, вы поддерживаете безопасность искусственного интеллекта.
---
Основные выводы отчета: две основные тенденции в области защиты от искусственного интеллекта
Если отбросить политические и коммерческие аспекты, в этом 154-страничном отчете есть только два важных технических вывода, касающихся безопасности искусственного интеллекта:
1. «Для сложных атак не нужны профессиональные хакеры» (Vibe Hacking)
Раньше для хакерских атак требовались высококвалифицированные специалисты. Теперь искусственный интеллект позволяет даже неспециалистам создавать атакующий код. В отчете используется термин Vibe Hacking – это когда вы описываете свои атакующие намерения на естественном языке, и искусственный интеллект генерирует соответствующий код.
- Последствия: порог для атак снижается, количество злонамеренных пользователей увеличивается, а частота атак растет.
2. Искусственный интеллект используется для атак другими искусственными системами**
Раньше атаки осуществлялись людьми с помощью искусственного интеллекта, теперь искусственный интеллект используется для автоматизации атак. Защитники также вынуждены использовать искусственный интеллект для защиты.
- Последствия: это начало «гонки вооружений**: защитники должны постоянно повышать затраты на защиту, а атакующие – на создание новых методов атак.
> Подведение итогов простым языком: Искусственный интеллект делает злонамеренных пользователей более многочисленными и умными. Раньше это была борьба между профессионалами, теперь это «всенародное хакерство» с использованием автоматизированных атак. Это предъявляет высокие требования к защитникам, таким как A-компания.
---
Коммерческая логика: закрытый исходный код – это хорошо, открытый исходный код – это опасность
Основная коммерческая цель отчета – доказать, что закрытые модели искусственного интеллекта безопаснее открытых. Это жизненно важно для бизнес-модели A-компании.
1. Почему A-компания против открытого исходного кода?
Бизнес-модели A-компании и OpenAI основаны на продаже интерфейсов (API). То есть пользователи платят за использование их моделей.
- Открытые модели (например, Llama, Mistral) являются их прямыми конкурентами. Если открытые модели окажутся достаточно сильными и бесплатными, зачем людям платить за интерфейсы A-компании?
- Поэтому A-компания должна доказать, что открытые модели небезопасны и могут быть злоупотреблены, а только закрытые модели с централизованным управлением обеспечивают безопасность.
2. «Доказательства» из отчета
- Несанкционированное использование моделей: в отчете упоминается, что некоторые компании пытались использовать модели A-компании для создания собственных моделей. A-компания утверждает, что успешно предотвратила такие попытки и подчеркивает, что только она может обнаруживать и блокировать такие действия.
- Злоупотребления в биологических целях: в отчете говорится о попытках использования искусственного интеллекта для разработки биологического оружия. A-компания предлагает программу «надежных пользователей», то есть доступ к сложным функциям предоставляется только проверенным пользователям. Это по сути система ограниченного доступа, которая еще больше отталкивает открытый исходный код и свободный доступ.
3. Безопасность = централизованное управление + прозрачность
A-компания пытается утверждать, что только концентрация моделей в руках нескольких крупных компаний (с централизованным управлением) и прозрачность действий пользователей обеспечивают безопасность.
- Подтекст: открытые модели опасны из-за своей распространенности и неконтролируемости.
> Подведение итогов простым языком: A-компания говорит: «Не используйте открытые модели – они слишком опасны. Используйте наши модели, мы следим за вами и гарантируем вашу безопасность». Это одновременно и заявление о безопасности, и элемент коммерческой защиты.
---
Общая картина индустрии: «орли» против «голубей**: экономические интересы определяют стратегию
Наконец, давайте рассмотрим общую картину индустрии искусственного интеллекта. A-компания и OpenAI относятся к группе «орлов», в то время как Microsoft, Google, Amazon, Nvidia и другие – к группе «голубей».
1. Почему A-компания и OpenAI считаются «орлами»?
- Бизнес-модель: они продаетют способности моделей (API). Если искусственный интеллект будет злоупотребляться