«Ростелеком»: кибермошенники вовлекают подростков в преступные схемы с помощью ИИ

Эксперты «Ростелекома» обращают внимание родителей и педагогов на новый потенциально опасный сценарий вовлечения молодежи в противоправные действия — предложение легкого заработка на создании контента с помощью генеративных нейросетей.

В тематических чатах незнакомцы просят подростка сгенерировать изображения, тексты или аудиозаписи на заданную тему. Внешне это выглядит как безобидный заказ, однако впоследствии материал может использоваться для создания фейковых новостей, компрометирующих вбросов или запуска фишинговых кампаний.

При этом вся юридическая ответственность ложится именно на несовершеннолетнего исполнителя. Подростки не всегда понимают, что использование этих инструментов по просьбе третьих лиц может быть квалифицировано как пособничество преступлению, а сгенерированный дипфейк — обернуться уголовным делом.

Марина Копрусова, начальник отдела повышения осведомленности блока информационной безопасности «Ростелекома»:
«Сегодня мы столкнулись с парадоксальной ситуацией: поколение, которое с раннего детства привыкло пользоваться гаджетами и уверенно чувствует себя в интернете, оказалось уязвимым перед лицом технологических манипуляций. Если раньше киберпреступники пытались воздействовать на подростков, используя методы социальной инженерии, то теперь они активно применяют нейросети. Например, подросток видит ролик, где его родственник, друг или популярный блогер просит совершить те или иные действия, и критическое мышление мгновенно отключается. Юные пользователи не задумываются о том, что любой поступок, совершенный под влиянием такого контента, влечет уголовную ответственность с 14 лет — вне зависимости от того, действовал подросток добровольно или на него оказывали давление. Особую тревогу вызывают студенты технических специальностей, которые воспринимают ИИ как безобидный инструмент для создания контента с целью быстрого заработка. При этом молодые люди редко задумываются о том, что заказ от незнакомца может быть расценен как прямое соучастие в подготовке кибератаки или дискредитации государственных органов».

Елизавета Белякова, председатель Альянса по защите детей в цифровой среде:
«Мошенники действительно все чаще используют искусственный интеллект для создания дипфейков, поддельных голосовых сообщений и других способов обмана. Особое опасение вызывает и то, что детей могут вовлекать в работу с нейросетями, не объясняя, что созданный ими контент впоследствии может использоваться в противоправных целях. Но здесь важно не уходить в крайности. Любая новая технология требует периода адаптации — когда-то мы точно так же учились пользоваться персональными компьютерами, интернетом и смартфонами. Искусственный интеллект становится еще одним привычным инструментом, поэтому важно с самого начала дать детям понятные правила взаимодействия с ним. Сейчас Альянс по защите детей в цифровой среде выделяет тему искусственного интеллекта и использования ИИ-сервисов детьми в отдельное направление работы. В том числе мы готовим большую Белую книгу по ИИ для детей. Она должна простым и понятным языком объяснить ребенку, как взаимодействовать с такими сервисами, как относиться к их ответам, где ИИ действительно может стать помощником, а в каких ситуациях необходимо быть особенно внимательным и осторожным».