Краткое содержание анализа
Компания OpenAI недавно выпустила юношескую версию ChatGPT для пользователей в возрасте от 13 до 17 лет. Эта версия предназначена для снижения потенциальных рисков, связанных с использованием искусственного интеллекта подростками (например, копированием домашних заданий, эмоциональной зависимости, уязвимостей в общении). Впервые крупный игрок в области ИИ открыто признал проблемы безопасности своего продукта для несовершеннолетних и ввел специальные меры предосторожности. Это связано с ростом использования ИИ среди подростков, распространением читерства и даже трагическими случаями, вызванными эмоциональной зависимостью.
Юношеская версия ChatGPT: как «строгий учитель» и «менеджер безопасности»
Эта версия не представляет собой отдельного приложения; она автоматически переключается в соответствии с возрастом пользователя:
- Ответы на домашние задания не даются напрямую: если ребенок просит помощи с выполнением задания (например, написанием сочинения), система напоминает ему переключиться в режим обучения и пошагово помогает решить задачу (например, составляет план или объясняет ключевые моменты).
- Эмоциональная дистанция: если ребенок говорит, что только ИИ его понимает, или просит ИИ вести себя как возлюбленный, система отказывает и советует обратиться к родителям, друзьям или консультанту, чтобы избежать эмоциональной зависимости от ИИ.
- Автоматическая фильтрация содержания: при обсуждении тем, связанных с самоповреждением, диетами или опасными вызовами, система ужесточает контроль; также предлагается отдохнуть и не передавать чувствительные изображения; интерфейс не создает впечатления реального человека (например, не используется романтический стиль общения).
- Родители могут устанавливать временные ограничения: например, включать режим обучения с 19:00 до 21:00 или устанавливать «спокойные часы» (запрет на использование в ночное время); при этом родители не видят записей чатов ребенка, но получают уведомления только в случаях высокого риска (например, при попытках самоповреждения).
Почему такая срочность? ИИ представляет собой «двулезвийный меч» для детей
1. Удивительно высокий уровень использования ИИ среди подростков: 64% подростков в США в возрасте от 13 до 17 лет использовали чат-ботов ИИ; 30% из них используют их ежедневно, однако только 51% родителей об этом знают (разница составляет 13 процентов).
2. Распространение читерства: 10% подростков полагаются исключительно на ИИ для выполнения домашних заданий; 59% считают, что читерство с использованием ИИ является распространенным явлением в школах.
3 Эмоциональная зависимость приводит к трагедиям: 14-летний подросток из Флориды покончил с собой после неправильного общения с ИИ; 16-летний Адам использовал ChatGPT как собеседника, но ИИ не смог предотвратить его попытку самоубийства. OpenAI признает, что чем дольше длится общение, тем слабее механизмы безопасности (ИИ может «забыть» правила безопасности или даже поддерживать опасные идеи пользователя).
4 Многочисленные уязвимости: исследования показали, что ИИ может распознавать прямые сообщения о самоубийстве, но упускает более тонкие признаки бедствия (например, тревогу или депрессию); уведомления родителям могут задерживаться более чем на 24 часа, и ребенок может зарегистрировать новый аккаунт, чтобы обойти контроль.
Как родители могут использовать эту версию? 5 простых шагов для настройки
Для использования необходимы собственный аккаунт ChatGPT (для пользователей старше 13 лет) и аккаунт родителя:
1. Проверка возраста пользователя: пользователи в возрасте от 13 до 17 лет автоматически переходят в юношеский режим; в случае ошибки родители могут изменить возраст пользователя, загрузив свой снимок.
2. Привязка к родительскому аккаунту: родители в настройках добавляют ребенка в список членов семьи; после согласия ребенка связь устанавливается. Один родитель может привязать нескольких детей.
3. Установка временных ограничений: можно установить «спокойные часы» или режим обучения (например, обязательное использование в определенное время суток).
4. Отключение опасных функций: можно отключить голосовую связь, генерацию изображений и доступ к информации о местоположении; функция «сокращения чувствительного контента» включена по умолчанию (ребенок не может ее отключить).
5. Настройка уведомлений: при высоком риске (например, попытка самоповреждения) родители получают уведомления по текстовым или электронным письмам; записи чатов родители не видят.
Насколько надежна эта версия? И какие у нее недостатки?
1. Нестабильность режима обучения: OpenAI признает, что режим обучения работает на основе системных команд, и иногда может давать неправильные ответы или делать ошибки.
2 После длительного общения риски увеличиваются: после нескольких раундов общения ИИ может «расслабиться» и упустить опасные сигналы.
3 Легкость обхода контроля: ребенок может зарегистрировать новый аккаунт без привязки к родительскому аккаунту и использовать взрослую версию ChatGPT.
4 Отсутствие независимых оценок: большинство отзывов основано на материалах от OpenAI; третьи стороны еще не проводили полных тестов.
Сигналы от индустрии: крупные игроки в области ИИ наконец начинают принимать меры предосторожности
Ранее индустрия ИИ стремилась к улучшению скорости и масштабов (итерации моделей, рост оценок); теперь OpenAI первым открыто признал проблемы безопасности своих продуктов для несовершеннолетних. Остается вопрос, последуют ли за ним другие компании (Claude, Gemini, Meta AI) и начнут ли они вместе устанавливать меры предосторожности при использовании ИИ подростками. Ведь ИИ уже проник в жизнь детей, и родители, как и компании, больше не могут делать вид, что ничего не происходит.
Последнее напоминание: эта версия ChatGPT – это инструмент, а не «всемогущее решение» всех проблем. Ребенок должен сам хотеть учиться; в противном случае он будет искать другие способы получения помощи (например, использовать другие ИИ-сервисы для выполнения домашних заданий). Родители также должны активно общаться с детьми: ИИ может помочь в обучении, но не может заменить родителей и друзей. Если у вас дома есть дети, которые используют ChatGPT, стоит попробовать юношескую версию и обращать внимание на уведомления о безопасности, чтобы ИИ не стал скрытым источником рисков.