Король Великобритании провел саммит по искусственному интеллекту: встреча, посвященная вопросам контроля и развития технологий
Здравствуйте, я ваш финансовый обозреватель. Недавно в мире технологий произошло довольно интересное событие: король Великобритании Чарльз III собрал в своем поместье в Шотландии ведущих специалистов в области искусственного интеллекта — таких как Дженсон Хуанг из Nvidia, Дэвид Хассабис из Google, руководители компаний OpenAI и Anthropic — и провел саммит по искусственному интеллекту.
На первый взгляд, это кажется необычным: король занимается технологиями? Но если вдуматься, становится ясно, что это первый случай, когда мировая индустрия искусственного интеллекта после стремительного развития коллективно решила сбавить скорость. Сегодня я объясню вам суть этого саммита, позиции участников и скрытые мотивы их действий в пяти аспектах, чтобы вы легко поняли этот диалог между технологиями и властью.
1. Почему именно король? Королевская семья заполняет пробел в глобальном управлении
Многие могут спросить: почему именно король Великобритании проводил этот саммит? Разве не могли бы это сделать ООН или Евросоюз?
На самом деле это отражает неловкую ситуацию в глобальном управлении искусственным интеллектом: нет единого мирового органа, который бы контролировал его развитие. Технологии искусственного интеллекта развиваются слишком быстро, традиционные международные организации реагируют медленно, а правительства разных стран действуют по-разному, иногда даже конкурируя друг с другом. В таких условиях король Чарльз, используя свой нейтралитет и моральное влияние, выступил в роли организатора.
Это похоже на ситуацию, когда в деревне нужно построить дорогу: сельский комитет (правительство) все еще обсуждает планы, а глава деревни (король) просит всех остановиться, чтобы дорога была построена правильно. В своей речи Чарльз прямо сказал, что развитие искусственного интеллекта вызывает одновременно интерес и опасения, и даже упомянул риски для существования человечества. Он не пытался принимать законы, а скорее задавал тон: искусственный интеллект — это не игра, это вопрос выживания человечества, и нам нужно найти способы контроля до того, как станет слишком поздно.
Такой подход к управлению уже использовался королем Чарльзом в вопросах изменения климата. На этот раз он применил его к искусственному интеллекту, чтобы заставить обычно конфликтующих технологических гигантов и политиков сесть за стол и достичь общего согласия о необходимости обеспечения безопасности.
2. „Оправдания“ Дженсона Хуанга: сосредоточимся на продуктах, а не на технологиях
Самым привлекательным участником саммита, безусловно, был генеральный директор Nvidia Дженсон Хуанг. Его точка зрения была очень ясной, хотя и казалась немного уклончивой, но логичной.
Основная идея Хуанга заключалась в том, что искусственный интеллект — это технология, а не конкретный продукт, поэтому его не следует регулировать так же, как социальные сети. Например, правительства могут запретить распространение ложных новостей или вовлечение несовершеннолетних в социальные сети, но они не могут запретить изобретение электричества или автомобилей.
Хуанг использовал простой пример: если омлет не готов к употреблению, его нельзя подавать на стол; если автомобиль не прошел тестирование, его нельзя выпускать на дорогу. Он считает, что проблемы кроются не в самой концепции искусственного интеллекта, а в тех конкретных приложениях, которые выпускаются до их готовности.
Поэтому он предложил регулирующим органам сосредоточиться на конкретных отраслях, таких как медицина, транспорт и развлечения. Если программное обеспечение искусственного интеллекта дает неверные диагнозы в медицине, его следует наказывать в соответствии с медицинскими нормами; если автомобиль с искусственным интеллектом причиняет вред людям, его следует наказывать в соответствии с правилами дорожного движения. Другими словами, каждая отрасль должна сама регулировать свои продукты, а технологии должны развиваться свободно.
3. „Коллективная тревога“ ведущих компаний: от ускорения к замедлению
Саммит был воспринят как неожиданное событие, потому что произошел в очень важный момент: всемирные гиганты искусственного интеллекта вдруг начали призывать к замедлению развития.
Раньше в этой сфере царило правило „кто быстрее, тот и победитель“. Но недавно ситуация изменилась:
- Дэрио Амоди, генеральный директор Anthropic, публично призвал коллег замедлить развитие искусственного интеллекта, опасаясь, что он может превзойти человеческий интеллект и стать неконтролируемым.
- Сэм Олтман из OpenAI, Илон Маск из SpaceX, Дэвид Хассабис из Google, а также руководители компаний Microsoft также выразили поддержку этой точки зрения.
Что стоит за этим?
1. Технологические барьеры и риски: по мере увеличения размеров моделей становятся очевидными иллюзии, предвзятости и потенциальные угрозы безопасности. Компании понимают, что безудержное стремление к большим размерам моделей приводит к росту юридических и репутационных рисков.
2. Усиливается регулирование: уже вступил в силу европейский закон об искусственном интеллекте, а США разрабатывают более строгие правила. Гиганты осознают, что если они не будут самостоятельно ограничивать свою деятельность, в будущем правительства могут применить более строгие меры.
3. Изменение стратегии конкуренции: когда все могут приобрести чипы Nvidia и тренировать большие модели искусственного интеллекта, конкуренция сместилась с вопроса „кто быстрее“ на вопрос „кто более надежен, безопасен и соблюдает правила“.
Таким образом, хотя на саммите не было подписано никаких официальных соглашений, он стал важным этапом в формировании общего мнения в отрасли: даже самые радикальные представители капитала и технологических компаний признают, что безопасность важнее скорости.
4. „Душевные вопросы“ короля Чарльза: как найти баланс между безопасностью и интересами?
В своей речи король Чарльз задал два глубоких вопроса, которые отражают основные проблемы глобального управления искусственным интеллектом:
Первый вопрос: как использовать преимущества искусственного интеллекта, не угрожая безопасности?
Это вопрос о том, как достичь баланса между быстрым развитием технологий и необходимостью обеспечения безопасности. Чарльз подчеркнул потенциал искусственного интеллекта в спасении жизней (медицина, разработка лекарств), но также предупредил о рисках его использования злонамеренными лицами. Он считает, что мы не должны полностью отказываться от искусственного интеллекта из-за возможных опасностей, но и не должны позволять ему развиваться без контроля. Нам нужны меры безопасности.
Второй вопрос: как создать международное сотрудничество, чтобы никакая страна не осталась в стороне и чтобы человечество выжило?
Это вопрос о будущем искусственного интеллекта. Если только несколько стран будут обладать передовыми технологиями, это может привести к новому виду „цифрового господства“. Король Чарльз стремится к инклюзивному подходу к управлению, чтобы все страны могли воспользоваться преимуществами искусственного интеллекта, включая развивающиеся страны, и чтобы это не угрожало существованию человечества.
5. Будущее: нет официальных соглашений, но есть „ориентир”
Наконец, давайте обсудим практические результаты саммита. Как сообщается, на саммите не было подписано никаких юридически обязательных соглашений.
Это может показаться бессмысленным, но на самом деле это имеет большое значение:
1. Сигнал для рынка, инвесторов и регулирующих органов: саммит стал четким сигналом о том, что эпоха безудержного развития искусственного интеллекта подходит к концу, и наступает эпоха соблюдения правил и безопасности. В будущем компании, игнорирующие безопасность, могут столкнуться с более высокими финансовыми затратами и строгими регулированиями.
2. Начало саморегулирования отрасли: хотя король не может принимать законы, призывы к замедлению развития технологий могут способствовать созданию неофициальных стандартов безопасности. Компании могут самостоятельно создавать комитеты по безопасности искусственного интеллекта или проводить более строгие тесты перед выпуском новых продуктов.
3. Подготовка к регулированию: точка зрения Хуанга о необходимости регулирования конкретных продуктов, а не технологий, может повлиять на будущее законодательство. Правительства, вероятно, будут разрабатывать нормы для конкретных отраслей (медицина, финансы) вместо попыток определения самого понятия искусственного интеллекта.
В общем, саммит, проведенный королем Великобритании, стал символом перехода от хаотичного развития искусственного интеллекта к его организованному использованию. Хотя сам по себе саммит не привел к конкретным изменениям, он показал, что безопасность и сотрудничество важнее скорости.
Для обычных пользователей это означает, что продукты искусственного интеллекта (чат-боты, автономные системы, медицинские помощники) будут более надежными и безопасными, но также могут стать дороже из-за необходимости соблюдения правил. Для инвесторов „безопасность и соблюдение правил“ стан