Краткое содержание анализа
Недавно в мире искусственного интеллекта произошло событие, привлекшее огромное внимание: за последние 4 дня семь ведущих исследователей из трех крупнейших организаций в области ИИ — OpenAI, Anthropic и Google DeepMind (половина из них занимается вопросами безопасности ИИ) — публично заявили, что супер-ИИ, способный к самообновлению и развитию, может стать угрозой для всего человечества к 2030 году и даже привести к его гибели. Ведущий исследователь из Anthropic, Коксон, ради истины отказался от крупной доли акций компании, которая должна была достаться ему через два месяца, тем самым отказавшись от миллионов долларов прибыли и полностью опровергнув обвинения в манипулировании ценами акций с целью привлечения внимания. Эти заявления не являются обычными слухами из индустрии; они раскрывают давно существующие проблемы в мире ИИ: люди, лучше всех разбирающиеся в этой технологии, одновременно боятся, что их создания могут уничтожить человечество, но не могут остановить свои исследования. Проблема кроется в механизмах стимулирования в самой индустрии, и это должно послужить предупреждением для всех: нам не нужно колебаться между крайностями „идолизации ИИ“ и „конца света“; сейчас пришло время потребовать участия в формировании правил развития ИИ.
---
Подробный анализ
1. Это предупреждение о ИИ — не обычный маркетинговый трюк
Раньше, когда компании ИИ заявляли о потенциальной опасности своих технологий, люди обычно воспринимали это как преувеличение: „Смотрите, наша технология настолько мощная, что может уничтожить мир — покупайте наши услуги или инвестируйте в наши акции“. Но на этот раз всё иначе:
- Коксон добровольно отказался от своих акций, не имея никакой мотивации получить выгоду от завышения стоимости компании;
- Среди семи выступающих — руководители отделов, ответственных за безопасность ИИ в Anthropic; это эксперты, которые должны предотвратить выход технологий из-под контроля;
- Ранее распространявшийся в Кремниевой долине шутливый слоган о том, что сотрудники ИИ после увольнения начинают писать стихи, чтобы провести время с семьей, теперь становится реальностью, что свидетельствует о растущем уровне паники в индустрии.
2. Абсурдный парадокс индустрии: те, кто боится гибели от ИИ, самыми активными способствуют его развитию
Многие удивлены: если эти люди знают о возможной опасности ИИ, почему они не прекращают свою работу? На самом деле они попали в „ускоренный цикл безысходности“, из которого никто не может выбраться:
- Все ведущие компании ИИ утверждают, что их стремление к развитию направлено на защиту человечества;
- Если они замедлятся, мелкие компании или злонамеренные лица могут создать более опасные технологии;
- В результате каждая компания стремится быть быстрее других, чтобы сохранить контроль над технологиями;
- Все деньги, заработанные компаниями, остаются у них, а последствия возможных проблем ложатся на всё человечество.
3. Не поддавайтесь „апокалиптическим нарративам“: реальный вред от ИИ сейчас гораздо серьезнее, чем его потенциальное воздействие через 10 лет
Многие в панике или считают эти заявления преувеличенными. Однако сейчас происходит множество проблем, связанных с ИИ: мошенничество, отказ от возможностей для многих людей, угроза для авторов контента и контроль над пользователями со стороны крупных компаний. Эти проблемы существуют уже сейчас, и их нельзя игнорировать.
4. Нам, обычным людям, не нужно выбирать стороны: достаточно требовать трех вещей
Общественное мнение часто ведет людей к крайностям: либо считать выступающих мошенниками, либо верить в неминуемый конец света. Однако, по данным исследования среди более чем 2700 ведущих специалистов в области ИИ, 38% считают, что вероятность гибели человечества от ИИ составляет не менее 10%, а 70% считают, что инвестиции в безопасность ИИ недостаточны. Нам не нужно разбираться в технических деталях; достаточно требовать:
1. При создании новых моделей ИИ необходима независимая проверка их безопасности;
2. Сотрудники компаний должны иметь возможность анонимно сообщать о потенциальных рисках;
3. В случае проблем компании должны нести полную ответственность.
В конце концов, никто не имеет права рисковать судьбой всего человечества ради собственного коммерческого успеха, даже если компании утверждают, что действуют в интересах человечества.