Краткое содержание анализа
Искусственно созданный “мусор” (бессмысленные рецепты, фальшивые биографии, странные изображения и видео) уже стал повсеместным явлением на таких платформах, как Google, Amazon, Facebook и других, загрязняя информационную среду в интернете. Теперь технологические компании из Кремниевой долины (Spotify, YouTube, LinkedIn и др.) наконец начали массовую очистку этого мусора, однако процесс сталкивается с множеством проблем: многие из этих компаний ранее способствовали появлению такого контента с помощью собственных инструментов на основе искусственного интеллекта; при очистке легко ошибочно повредить авторов законного контента, к тому же само определение и управление таким мусором представляет собой системную проблему, которую нельзя решить простым удалением.
I. Насколько распространен искусственный интеллект-мусор? Везде “пицца из клея” и “Иисус с креветками”
Если вы ищете рецепты в Google, вам могут показать что-то вроде “пиццы из клея”; биографии, продающиеся на Amazon, могут быть сгенерированы ИИ; на Facebook вы можете увидеть бессмысленные изображения, такие как “Иисус с креветками” – все это примеры контента, созданного ИИ. Конкретные цифры еще более пугающие:
- В прошлом году Spotify удалило 75 миллионов пустых треков (массово загруженных, повторяющихся песен), что составляет значительную часть их каталога;
- YouTube за полгода удалил 130 тысяч низкокачественных каналов, созданных с использованием ИИ;
- Почти половина новых песен на Deezer генерируется ИИ;
- На Apple Music треть загружаемого контента создается ИИ;
- На X (бывшем Twitter) почти половина постов длиной более 50 символов написаны ИИ.
Даже издательство словарей Merriam-Webster выбрало термин “искусственный интеллект-мусор” словом года 2025, что показывает серьезность проблемы.
II. Почему компании из Кремниевой долины начали очистку только сейчас? Пользователи не могут терпеть это, а самим платформам стало тяжело
Ранее платформы могли считать, что контент, созданный ИИ, увеличивает количество кликов пользователей, но ситуация изменилась:
- Пользователи все больше недовольны: они сталкиваются с низкокачественными заголовками и не могут найти нужный контент; например, информационные потоки на основе ИИ от Meta были названы “витринами мусора”;
- Нагрузка на платформы увеличилась: избыток мусорного контента занимает место качественному; например, среди рекомендуемых видео для новых пользователей YouTube 20% являются мусорными; некоторые мусорные каналы зарабатывают до 4,25 миллиона в год, но платформам приходится временно отменять их возможность получать доход;
- Общественное мнение изменилось: эксперты утверждают, что бездействие приведет к подавлению человеческого творчества и разложению культуры; пользователи жалуются на невозможность отличить правду от лжи в интернете, и платформы рискуют потерять пользователей, если не начнут очистку.
III. Какие методы используют платформы для очистки? Удаление контента, жалобы пользователей, а также использование ИИ
Методы очистки различаются на разных платформах:
- Прямое удаление: Spotify удаляет повторяющиеся песни; YouTube удаляет низкокачественные каналы; TikTok за первые три месяца 2023 года удалил 377 тысяч нарушающих правила видео, созданных ИИ;
- Участие пользователей: LinkedIn добавил кнопку для жалоб на мусорный контент от ИИ; Pinterest и TikTok позволяют пользователям самостоятельно ограничивать просмотр контента, созданного ИИ;
- Анти-ИИ меры: YouTube использует ИИ для анализа скорости загрузки и повторяющихся шаблонов для выявления мусорных аккаунтов; Substack применяет ИИ для проверки длинных постов на предмет их авторства;
- Ограничения на получение дохода: X заблокировал приложения, позволяющие ботам размещать мусорный контент; YouTube временно отключил возможность зарабатывания денег для мусорных каналов.
IV. Очистка не так проста: легко ошибиться, сложно определить границы между хорошим и плохим контентом, а у платформ существуют двойные стандарты
В процессе очистки возникает множество проблем:
- Повреждение авторов законного контента: YouTube может ошибочно удалить качественный контент из-за высокой скорости загрузки или использования повторяющихся шаблонов; инструменты Substack могут ошибочно считать человеческие посты созданными ИИ, заставляя авторов доказывать свою невиновность;
- Нечеткое определение: не все контенты, созданные ИИ, являются мусором; например, можно ли считать статьи, написанные с помощью ИИ, мусорными? Платформам трудно провести четкую грань;
- Двойные стандарты платформ: многие компании, занимающиеся очисткой, сами способствовали распространению мусорного контента своими инструментами; например, Meta обещала бороться с мусором от ИИ, но затем запустила инструменты для генерации изображений и злоупотребляла пользовательскими данными, после чего были вынуждены удалить эти функции.
V. Предупреждения экспертов: это системная проблема, которую нельзя решить простым удалением
Эксперты из Колумбийского университета считают, что искусственный интеллект-мусор – это не просто “плохой контент”, а системная проблема всей информационной среды:
- ИИ – это двулезвийное оружие: платформы используют его для повышения участия пользователей, но одновременно сталкиваются с проблемами, вызванными его использованием;
- Нельзя применять одинаковые правила ко всему: ИИ является инструментом творчества, и законное использование ИИ не должно страдать;
- Если платформы не справятся с этой проблемой, пользователи могут перейти на другие сервисы.
В общем, очистка мусора от ИИ не так проста, как кажется; необходимо решать коренные проблемы, связанные с мотивацией платформ (например, не ориентироваться исключительно на количество кликов), а также балансировать творческий потенциал ИИ и его негативное влияние.
Этот аналитический текст показывает, что, хотя ИИ приносит удобства, он также создает новые проблемы. Теперь компании начинают это осознавать, но путь впереди долог. Обычным пользователям также следует быть бдительнее и не поддаваться влиянию низкокачественного контента, созданного ИИ.