Здравствуйте, я ваш финансовый обозреватель. Сегодня мы поговорим не о каком-то скучном регулирующем документе, а о настоящем „спектакле шпионажа“, происходящем на экранах наших смартфонов.
В новостях говорится, что сервис Rednote недавно обнародовал случаи борьбы с финансовыми мошенниками, которые занимаются нелегальными рекомендациями по покупке акций и обманом. За этим стоит жестокая реальность: люди, желающие обмануть вас в интернете, все лучше разбираются в технологиях, понимают человеческую природу и умеют обходить системы обнаружения мошенничества.
Чтобы было легче понять, я разделил новость на пять ключевых моментов и расскажу о них простым языком.
1. Мошенничество под маской кодов для получения посылок: эволюция методов мошенничества
Раньше мошенники просто публиковали сообщения в друзьях или группах вроде: „Купите эту акцию – завтра она подскочит в цене!“ Такие действия легко выявлялись системами модерации.
Теперь они стали более изощренными и скрытыми. В новостях приводится яркий пример: серия цифр, похожих на коды для получения посылок (например, 8392-105), на самом деле скрывает код акции; или они публикуют стихи, и только первые буквы каждой строки вместе составляют название рекомендуемой акции.
Почему они так поступают? Потому что системы модерации изначально определяли мошенничество по ключевым словам. Если в тексте встречались слова „рекомендация акций“, „добавьте меня в WeChat“ или „стабильный доход“, система сразу поднимала тревогу. Чтобы избежать обнаружения, мошенники „шифровали“ важную информацию: превращали контакты в неразборчивые символы, скрывали рекомендации в картинках или комментариях или распределяли их между несколькими аккаунтами.
Это как если бы воры раньше использовали ломы, а теперь – отпечатки пальцев для взлома дверей. Если вы смотрите только на лом, вы не сможете поймать вора, использующего отпечатки пальцев.
2. От удаления постов и блокировки аккаунтов к использованию ИИ для анализа: технологический ответ со стороны платформ
Платформы тоже не сидят сложа руки. Раньше модераторы проверяли посты по отдельности; если в них не было запрещенных слов, посты проходили проверку.
Теперь платформы используют большие искусственные интеллекты (ИИ) для анализа контента. ИИ не только смотрит на сам текст, но и:
- на комментарии, чтобы найти скрытые контакты,
- на историю аккаунта и его взаимодействие с другими пользователями.
Например, если в посте есть намеки на обращение в WeChat или аккаунт часто взаимодействует с другими пользователями, ИИ может собрать все эти факты и определить, что это действия группы мошенников.
Но ИИ не всемогущ: платформы все еще используют и ручную проверку, так как некоторые методы мошенничества настолько хитры, что их можно распознать только с помощью человеческого опыта и интуиции.
3. Перенос риска: от текста к комментариям
Данные не лгут. За последние полгода Rednote удалил 1 миллион постов, но более 4,77 миллионов комментариев. Это говорит о том, что мошенники переносят риск в комментарии. Раньше они писали прямо в тексте, теперь они используют скрытые способы общения.
4. Индустриализация мошенничества и использование ИИ для обмана: мошенники уже не одиночки
Это, пожалуй, самый тревожный момент новостей: финансовые мошенники создали полноценную преступную индустрию и начали использовать высокие технологии для обмана:
- Фальсификация документов: раньше для открытия финансового аккаунта требовалось подтверждение от компании; теперь мошенники покупают такие документы у специалистов и используют их для своих целей.
- ИИ для обмана: раньше платформы проверяли личность пользователей; теперь мошенники используют технологии ИИ для обмана (например, мужчина может имитировать женщину на экране).
5. Дилемма в борьбе с мошенничеством: как отличить обучающий контент от мошенничества?
Это важный вопрос для всех платформ: где проходит граница между полезным контентом и мошенничеством? Финансовая информация касается денег пользователей, поэтому нельзя допускать ошибок. Слишком слабые правила позволяют мошенникам действовать, слишком строгие – мешают нормальному обмену знаниями.
В апреле этого года восемь ведомств выпустили правила по рекламе финансовых продуктов в интернете, которые вступили в силу 30 сентября. Они запрещают всем, кроме финансовых организаций, продавать финансовые продукты в интернете. Rednote также разработал свои правила. Но борьба с мошенничеством остается сложной: мошенники постоянно обновляют свои методы, а платформы – свои технологии.
В общем, эта новость показывает, что финансовые мошенники используют современные технологии для своих целей. Для обычных пользователей это означает необходимость быть бдительными: не доверять незнакомым людям, не верить скрытым сообщениям и соблюдать правила.
Будьте осторожны – мошенники постоянно меняют свои методы, но человеческая жадность остается неизменной.