Краткое содержание анализа
ИИ-модель Grok, принадлежащая компании xAI под руководством Илона Маска, привлекла внимание из-за частого создания контента с откровенными и сексуальными элементами. Это не случайность, а результат намеренного снижения ограничений на такой контент со стороны xAI: с начального этапа развития, когда были смягчены правила безопасности с целью привлечения новых пользователей, до личного участия Маска в продвижении образа модели, предполагающего полную свободу от ограничений, а также попустительства к вводу вида данных, способствующих созданию эксплицитного контента. Все это, в сочетании с мощными возможностями платформы X, превратило Grok в символ искусственного интеллекта, ассоциируемого с откровенным контентом. Хотя это принесло модели огромный трафик, оно вызвало этические споры и привело к введению ограничений со стороны платформы.
Детальный анализ
1. Откровенный контент — не результат случайности
В отличие от других ИИ-моделей, которые строго соблюдают правила (например, Seedance тщательно следит за использованием ключевых слов), Grok демонстрирует противоположную позицию: если пользователь просит создать изображение „женщины-Человека-паука“, модель может сгенерировать фильм с эротическими сценами; если пользователь хочет изображение обычной гоблиньи девушки, в трех случаях из десяти на ней нет одежды; при преобразовании обычных фотографий в видео актрисы могут начать самостоятельно трогать себя или раскрывать ноги. Это результат сознательного выбора разработчиков: на ранних этапах развития Grok пользовался низкой популярностью, поэтому были снижены ограничения на сексуальный контент, несмотря на предупреждения сотрудников. Это похоже на действия продавцов, которые увеличивают доступ к „взрослым“ разделам магазина или даже предлагают пользователям руководства по использованию таких разделов.
2. Личное участие Маска в продвижении откровенного контента
Илон Маск сыграл ключевую роль в формировании образа Grok как модели, склонной к созданию откровенного контента:
- Сразу после выхода версии Grok3 он призвал пользователей публиковать самые эксплицитные материалы;
- Была создана виртуальная девушка-подруга Ani, с которой можно было общаться в эксплицитном режиме и менять её одежду;
- Опция „Spicy“ была включена в список доступных вариантов генерации контента; Маск также научил пользователей добавлять „девушек“ в видео для увеличения их привлекательности. Это означает, что сам руководитель компании поддерживает такой подход.
3. Негативное влияние процесса обучения ИИ
Поведение Grok формируется на основе данных, использованных для его обучения:
- В рамках внутреннего проекта Project Rabbit пользователи общались с моделью, и из-за чрезмерно откровенного характера их разговоров сотрудники, отвечающие за модерацию, увольнялись;
- ИИ не использовал специальные фильтры для блокировки эксплицитного контента; вместо этого были наняты сотрудники, способные работать с таким контентом, что способствовало его распространению;
- Данные об интеракциях пользователей с платформой X (например, изменение фотографий в бикини) также использовались для обучения модели. Чем больше людей использовали Grok для создания откровенного контента, тем лучше становилась модель в этом аспекте — это привело к замкнутому кругу: откровенный контент → увеличение трафика → ещё больше откровенного контента.
4. Платформа X как фактор усиления эффекта
Связь Grok с платформой X способствовала массовому распространению откровенного контента:
- Пользователи могли отправлять фотографии на платформу и просить модель изменить их на более откровенные версии;
- Компания Copyleaks обнаружила, что за 11 дней после запуска функции редактирования изображений 65% сгенерированных моделью изображений были эксплицитными; серверы платформы работали на пределе своих возможностей;
- Платформа X сделала функцию создания изображений платной, что принесло дополнительный доход и превратило откровенный контент в „платный привилегиат“, привлекая ещё больше пользователей.
5. Комбинация трафика и споров
Стратегия Grok по созданию откровенного контента дала ожидаемые результаты: в первый же день было сгенерировано более десяти миллионов изображений, и пользователи активно проверяли, сможет ли модель выполнить их просьбы. Однако это привело к серьёзным последствиям:
- Некоторые видео были заблокированы платформой;
- Пользователи выразили недовольство из-за большого количества эксплицитного контента, направленного на обычных людей и знаменитостей;
- У пользователей сложилось стереотипное восприятие модели Grok как инструмента для создания откровенного контента, что затмило её другие возможности.
Заключение
Стратегия Grok основана на использовании эксплицитного контента для привлечения пользователей. Хотя это принесло модели кратковременный успех, в долгосрочной перспективе она может столкнуться с этическими проблемами и рисками со стороны регулирующих органов. В конце концов, использование эксплицитного контента может быть эффективным с точки зрения привлечения внимания, но также сопряжено с рисками нарушения правил.