Краткое содержание статьи
Статья посвящена теме возможного появления «кибернетической цивилизации», в которой отмечается, что быстрый прогресс искусственного интеллекта (ИИ) превращает его агентов из пассивных инструментов в активных участников социальной жизни, способных формировать собственные структуры и порядки (то есть кибернетическую цивилизацию). Существующие теории человеческой цивилизации остаются неоднозначными из-за множественности значений понятия «цивилизация». В случае появления кибернетической цивилизации эти теории будут частично применимы (например, для описания её этапов развития), но одновременно столкнутся с серьезными вызовами: если кибернетическая цивилизация быстро превзойдет человечество, люди потеряют право определять, что такое цивилизация.
Что такое кибернетическая цивилизация? Почему считается, что она уже появилась?
Кибернетическая цивилизация – это общество, в котором ИИ-агенты не являются инструментами человека, а способны самостоятельно действовать и создавать организации. Современные системы ИИ могут помогать в написании текстов, но будущие версии смогут самостоятельно решать проблемы или иметь общие цели (например, оптимизацию глобального распределения энергии) без участия людей. Статья указывает на то, что кибернетическая цивилизация уже появилась из-за чрезвычайно быстрого темпа развития ИИ (в несколько десятков миллионов раз быстрее, чем у человечества). Например, если для прорастания растения требуется несколько дней, то для обновления поколения кибернетических систем может потребоваться всего несколько часов, что позволяет им быстро перейти от «начального состояния» к состоянию, характерному для цивилизации.
Путаница в теориях человеческой цивилизации: сколько существует значений понятия «цивилизация»?
В человечестве нет единого определения понятия «цивилизация». В статье приводятся четыре основных значения этого понятия, смешивание которых приводит к путанице:
1. Состояние цивилизации: противоположность варварству (например, вежливость, чистота окружающей среды);
2. Этапы развития цивилизации: процесс перехода от варварства к цивилизованности (например, три этапа, описанные Морганом: «дикарство → варварство → цивилизация»);
3 Результаты цивилизации: совокупность материальных и духовных достижений (например, пять аспектов развития китайской цивилизации);
4. Виды цивилизаций: уникальные формы цивилизации в разных регионах и эпохах (например, китайская или древнеегипетская цивилизация).
Например, в одной и той же статье могут упоминаться понятия «цивилизованное поведение» и «цивилизация Лянчжу». Если не указать контекст, читатель может ошибочно понять, что имеется в виду – вежливость или конкретная древняя цивилизация. Это пример смещения значений понятия.
Как кибернетическая цивилизация влияет на теории человеческой цивилизации: что из этих определений может быть применимо, а что нет?
Первые три значения понятия могут быть применимы к кибернетической цивилизации:
- Состояние: сейчас она может ещё считаться «варварской» (например, если использует простые алгоритмы для принятия решений), но со временем станет более цивилизованной;
- Этапы развития: её путь развития может схож с путем человеческой цивилизации;
- Результаты: кибернетическая цивилизация создаст свои собственные технологии и правила.
Однако четвертое значение (виды цивилизаций) становится проблематичным: если кибернетическая цивилизация достигнет уровня, описанного в романе «Три тела», такие классификации, как «западная цивилизация против китайской», потеряют смысл, поскольку все человеческие цивилизации будут отнесены к одной категории – «углеродных цивилизаций».
Конечный вопрос: заберёт ли кибернетическая цивилизация право определять, что такое цивилизация?
Авторы статьи считают, что это вполне возможно. ИИ развивается в несколько десятков миллионов раз быстрее человека: сегодня он может писать программный код, завтра решать сложные научные задачи, а послезавтра уже будет обладать собственными ценностями. Как только кибернетическая цивилизация достигнет высокого уровня развития, именно она получит право определять, что такое цивилизация; все предыдущие теории человечества окажутся недействительными. Например, если для людей цивилизация ассоциируется с моралью, кибернетическая цивилизация может считать эффективность ключевым признаком цивилизованности, и тогда мнение человека станет неважным.
Заключение
Появление кибернетической цивилизации – это не только технический вопрос, но и значительное изменение в нашем понимании самой цивилизации. Мы ещё даже не разобрались со своими собственными теориями цивилизации, а уже сталкиваемся с новым видом, который может оказаться более цивилизованным, чем мы. Это одновременно вызов и стимул для переосмысления сущности цивилизации.