Краткое содержание анализа
На прошлой неделе два ключевых представителя технологического сообщества из Кремниевой долины — генеральный директор компании Anthropic Амодеи и советник по вопросам технологий Белого дома Саксс — вступили в открытый спор о том, должна ли власть над передовыми технологиями ИИ быть сосредоточена в руках ограниченного круга лиц или распределена между большим количеством участников рынка. Суть спора заключается в глубоком разделении мнений внутри самого Кремниевой долины относительно пути регулирования ИИ: одна сторона выступает за строгие критерии доступа и контрольные механизмы, с целью сосредоточения ИИ в руках небольшого числа регулируемых организаций для предотвращения рисков; другая считает, что ИИ настолько мощен, что его концентрация приведет к злоупотреблению властью, и поэтому необходимо распределение полномочий через рыночную конкуренцию. Этот спор охватывает множество аспектов, таких как явление «захвата регулирующих органов» отдельными отраслями, механизмы предварительного контроля, формирование общественного мнения и противостояние между различными группами.
Основные точки спора: «Концентрация» власти над ИИ vs «Распределение»: иллюзия дихотомии?
Амодеи утверждает, что упрощение выбора до формулы «либо концентрация в руках нескольких компаний/политиков, либо полная свобода распространения» является ошибочным. Он считает, что справедливые правила регулирования могут закрепить власть в рамках системы, тем самым предотвратив монополизацию — подобно тому, как судебная система лучше защищает слабых, чем частные меры наказания. Он также подчеркивает, что ИИ по своей природе склонен к концентрации из-за «закона масштабов» (чем больше модель, тем сильнее она и тем больше ресурсов требуется для ее функционирования), и что открытие алгоритмов (например, распространение весовых коэффициентов) лишь переносит власть к тем, у кого больше чипов и вычислительных мощностей, не решая основной проблемы.
Саксс же возражает, говоря, что, по его мнению, ИИ настолько мощен, что его нельзя распределять; концентрация власти позволит нескольким организациям контролировать технологии, что увеличит риски. Распределение же через рыночную конкуренцию поможет избежать монополизации.
Явление «захвата регулирующих органов»: справедливые правила или барьеры для отраслей?
Это один из самых острых аспектов спора:
- Защита Амодеи: он различает понятия «регулирования» и «захвата регулирующих органов», утверждая, что некоторые представители Кремниевой долины слишком упрощенно сводят регулирование к контролю со стороны отдельных отраслей. Законопроект, поддерживаемый компанией Anthropic в Калифорнии, предусматривает исключения для малых компаний, что свидетельствует о стремлении к справедливым правилам.
- Ответ Саксса: он ссылается на теорию «захвата регулирующих органов» Нобелевского лауреата по экономике Стиглера, согласно которой отдельные отрасли используют свои ресурсы и влияние для формирования правил в своих интересах, ущемляя общественные интересы. Он называет компанию Anthropic примером такого захвата, указывая на то, что она наняла многих бывших сотрудников администрации Байдена, создала крупный отдел по вопросам регулирования и привлекла различные организации для продвижения своей концепции регулирования.
Механизмы предварительного контроля: «Барьер безопасности» или «препятствие эффективности»?
Стороны категорически разделяются в вопросе о необходимости и способах предварительной проверки ИИ-моделей перед их внедрением:
- Амодеи (сторона, выступающая за безопасность) считает, что ИИ подвержен рискам, аналогичным тем, которые связаны с авиацией или лекарствами, поэтому необходимы строгие проверки (подобно работе FDA или FAA). Он также выступает за создание саморегулирующих организаций, аналогичных FINRA в финансовой сфере.
- Саксс (сторона, выступающая за эффективность) критикует такие проверки, сравнивая их с процедурами в Департаменте транспорта США (DMV), которые являются медленными и сложными. Он утверждает, что любой вид проверок затруднит работу компаний и замедлит развитие ИИ-технологий в США на глобальном уровне.
Разделение мнений внутри Кремниевой долины: от противостояния «безопасность vs скорость» к многомерному конфликту
Этот спор касается не только двух людей, но и всего сообщества Кремниевой долины:
1. Время и интенсивность регулирования:
- Амодеи считает, что правительство должно требовать предварительных тестов перед внедрением ИИ-моделей и иметь право останавливать рискованные проекты.
- Google DeepMind поддерживает совместное управление отраслью и создание независимых регулирующих организаций при федеральном надзоре (аналог FINRA для ИИ).
- Meta и NVIDIA выступают против предварительных ограничений на уровне базовых моделей, считая, что регулирование должно быть направлено на конкретные приложения.
2. Путь законодательства:
- OpenAI стремится к принятию аналогичных законов в таких штатах, как Калифорния и Нью-Йорк, с последующим формированием единых федеральных правил.
- Anthropic поддерживает повышение стандартов безопасности на уровне штатов, считая, что федеральные законы не должны отменять местные.
- Крупные компании (например, Microsoft и NVIDIA) выступают против фрагментации законодательства на уровне штатов и за создание единого федерального подхода.
3. Распространение технологий:
- Microsoft, Meta и NVIDIA выступают за открытие алгоритмов (чтобы больше людей могли использовать ИИ-технологии), считая это способом повышения конкурентоспособности США.
- Anthropic — единственная крупная компания, не подписавшаяся на эти инициативы; она считает, что открытие алгоритмов лишь перенесет власть к тем, у кого больше ресурсов.
Коммуникация с общественностью: риски ИИ — «реальная опасность» или «маркетинг страха»?
Саксс обвиняет компанию Anthropic в преувеличении рисков ИИ и манипулировании общественным мнением с целью создания страха, утверждая, что это связано с желанием некоторых элит контролировать технологии. Амодеи, напротив, считает, что акцент на рисках необходим для продвижения более строгого регулирования и предотвращения потери контроля над технологиями.
Этот спор по сути касается вопроса о том, кто должен контролировать технологии ИИ: следует ли доверять ограниченному числу регулируемых организаций или полагаться на рыночную конкуренцию для снижения рисков. По текущим данным, Кремниевая долина еще не нашла ответа на этот вопрос, но этот спор окажет значительное влияние на будущее регулирование ИИ-технологий.