Здравствуйте! Я ваш друг-журналист по финансовым вопросам и экономист.
Этот глубокий репортаж Иана Дункана под названием «Секс, ИИ и апокалипсис» напоминает тревожный роман, сочетающий элементы «Компании из Кремниевой долины», «Крестного отца» и «Матрицы». В нем рассматривается не только вопрос о том, может ли ИИ уничтожить человечество, но и представлено социологическое анализирование закулисий сообщества, занимающегося исследованиями безопасности ИИ в Кремниевой долине. Это сообщество скрывает за своей внешней рациональностью запутанные интересы, эмоции, убеждения и даже проявления насилия.
Чтобы вы легче поняли этот сложный текст, я подготовил для вас краткое содержание и подробный анализ с пяти точек зрения.
---
📝 Краткое содержание
В двух словах:
В 2026 году высококвалифицированный исследователь ИИ уволился и предупредил о возможном уничтожении человечества ИИ, что вызвало глобальный резонанс. Однако за этим стоит не просто научное предупреждение, а замкнутое элитное сообщество, сформировавшееся более 20 лет назад на основе идеалов рационализма. Это сообщество использует уникальную систему взглядов (включая фанфики о Гарри Поттере), сложные социальные и сексуальные связи, огромные финансовые ресурсы (от миллиардеров вроде Питера Тила) и политическое влияние для контроля над будущим ИИ. Как нам верить их обещаниям о безопасности, если «спасители», регулирующие органы, инвесторы и эксперты — все из одного круга?
---
🔍 Подробный анализ с пяти точек зрения
1. Происхождение и убеждения: от рационализма к «новой религии»
Простое объяснение:
История начинается с Элиезера Юдковского — гениального юноши, который считал себя единственным, кто видит риски, связанные с ИИ. Он основал институт MIRI и написал фанфик о Гарри Поттере под названием «Гарри Поттер и путь рациональности».
- Почему именно «Гарри Поттер»? Потому что главный герой — гений, окруженный тупицами, что отражает чувства многих гиков Кремниевой долины.
- Что изменилось с рационализмом? Изначально это было движение, призывающее преодолевать предрассудки с помощью логики, но со временем оно превратилось в форму идентичности. Члены сообщества считают себя избранными и «преодолевшими человеческую глупость».
- Ритуалы: Они празднуют «светское зимнее солнцестояние», читают тексты и медитируют, как в религии. Когда люди начинают относиться к научным гипотезам (включая апокалиптические сценарии с ИИ) с религиозным благоговением и считают, что только члены сообщества могут понять эту «истину», подкультура превращается в нечто похожее на религию.
Комментарий журналиста: Когда группа начинает разделять людей на «разумных» и «неразумных» и использует эксклюзивные ритуалы для объединения, она отходит от научного подхода и переходит к уровню веры.
2. Социальные связи: несвободная сеть отношений**
Простое объяснение: Почему им так трудно сказать «нет»? Потому что коллеги, руководители и партнеры — все из одного круга.
Эта часть репортажа особенно шокирующая. Люди из этого сообщества живут в одном здании, работают вместе, являются партнерами по жизни и иногда и по сексу.
- Многобрачие и власть: В тексте упоминается женщина по имени Аелла, которая организовывала собрания с строгой идеологической цензурой. Если вы не придерживаетесь идей апокалиптизма, вы можете даже не получить возможности вступить в ее круг. Секс становится инструментом проверки лояльности и социальным средством обмена.
- Эмоциональное рабство: Из-за узких социальных связей отказ от определенных взглядов или требований может привести к потере работы, жилья и всех друзей. Такая структура отношений затрудняет независимое критическое мышление.
- Психологическое воздействие: В тексте говорится, что такие организации, как CFAR, проводят психологические интервенции сотрудникам. Если вы чувствуете тревогу или сомнения, вас могут считать неполноценным человеком и пытаться «исправить».
Комментарий журналиста: В обычной среде вы можете ненавидеть своего начальника, но найти друзей, с которыми можно поделиться своими проблемами. В этом сообществе же ваш начальник, психотерапевт, партнер по жизни и арендодатель могут быть одним и тем же человеком. Такое тесное переплетение интересов и эмоций делает внутренний контроль практически невозможным.
3. Капитал и политика: миллиардеры и их «бизнес апокалипсиса**
Простое объяснение: Кто финансирует эти исследования? Куда идут деньги?**
Исследования безопасности ИИ требуют больших затрат, и основными спонсорами являются миллиардеры, такие как Питер Тил.
- Мотивы Тила: Тил не только инвестор, но и политический активист. Он финансирует MIRI и блогера Кертиса Ярвина, выступающего за отмену демократии и установление корпоративного контроля. Тил считает, что традиционная демократия и регулирование мешают развитию ИИ.
- Политическое влияние: Тил поддерживал кампанию нынешнего вице-президента Джей Ди Вэнса, чьи взгляды сильно повлияны на Ярвина. Это означает, что политики, отвечающие за безопасность ИИ, могут быть союзниками этих апокалиптиков.
- Конфликт интересов: Тил финансирует исследования, направленные на понимание возможных опасностей ИИ, а также инвестирует в компании, разрабатывающие мощные ИИ-системы (например, Palantir, Anduril). Он одновременно боится потери контроля над ИИ и способствует его военному и коммерческому использованию.
Комментарий журналиста: Это типичный пример явления «захвата регулирующих органов» (regulatory capture): когда спонсоры, исследователи и политики из одного круга разделяют одинаковые взгляды на управление, «безопасность» перестает быть направлена на защиту общества и становится инструментом для защиты интересов этого круга.
4. Насилие и разделение: когда рациональность идет до крайностей**
Простое объяснение: Действительно ли это сообщество такое рациональное? В тексте приводятся шокирующие примеры насилия внутри него.
- Экстремистские группы: Из сообщества выделились радикальные группы, которые придерживаются крайних взглядов и даже разработали свою собственную теологию. Они участвовали в убийствах, включая убийство арендодателя и полицейских.
- Психологическое разрушение: Многие бывшие члены сообщества признают, что оно разрушило их психическое здоровье, вызвав мании и депрессию.
- Внутренние репрессии: В сообществе жестоко подавляются те, кто не согласен с апокалиптическими взглядами. Если вы не разделяете их убеждений, вас могут маргинализировать или обвинить в проведении «когнитивных операций».
Комментарий журналиста: Если группа, заявляющая о рациональности и логике, прибегает к насилию, в ее убеждениях должны быть серьезные противоречия. Такой узкий спектр мышления характерен для сект и экстремизма, а не науки.
5. Кто контролирует контролеров?
Простое объяснение: Если ИИ действительно опасен, кому мы можем доверять?
В конце репортажа задается вопросом: правдива ли отставка Джейкоба Коксона и действительно ли компания Anthropic скрывает риски?
- Кризис доверия: Из-за замкнутости сообщества и взаимных интересов общественность не может быть уверена, что их предупреждения исходят из честных намерений или являются частью коммерческой стратегии (например, создания барьеров для конкурентов).
- Отсутствие системы контроля: Существующие механизмы оценки безопасности ИИ часто контролируются самими исследовательскими лабораториями или близкими к ним некоммерческими организациями (например, METR). Это как если бы игроки сами решали, какие правила будут действовать в их игре.
- Реальная опасность: На самом деле реальная угроза заключается в том, что ИИ может быть монополизирован небольшой группой элит, которая использует его для контроля над обществом, политикой и экономикой. Поскольку технологии слишком сложны для понимания обычных людей, общество может принять идею, что только ограниченное число людей может принимать решения.
Комментарий журналиста: Это самое страшное. Если безопасность ИИ станет инструментом в руках элиты, демократия, свобода и равенство могут быть утрачены под предлогом «защиты общества».
---
📊 Заключение и выводы
Этот репортаж не отрицает потенциал ИИ и не отрицает существующих рисков. Он предостерегает нас от излишнего доверия к экспертам, необходимости анализа цепочек интересов и необходимости создания независимых, прозрачных и законодательно защищенных механизмов контроля.
Совет для обычных людей:
Когда вы слышите грандиозные заявления о грозящем уничтожении мира ИИ или о том, что только мы можем его спасти, задайте себе следующие вопросы: Кто это говорит? Кому это адресовано? Кто финансирует эти исследования? Кому это выгодно? Сомнение и независимость — лучшие инструменты против информационного контроля и элитарного монополизма.