Программа-вымогатель генерирует наготу с помощью искусственного интеллекта и изображений жертв из социальных сетей

ФБР предупреждает, что мошенники, занимающиеся так называемым «сексуальным вымогательством», активизировались и создают глубокие фейки, содержащие откровенно сексуальный контент, на основе изображений жертв в социальных сетях.

В английском языке для обозначения такой деятельности используется термин сексторция, образованный от слов sex (“секс”) и extortion (“вымогательство”). Эта тактика предполагает запугивание пользователей: часто мошенники рассылают спам, в котором пытаются убедить жертв в том, что у них есть какие-то компрометирующие фото или видео, а затем требуют выкуп.

Во многих случаях такое вымогательство основано на пустых угрозах, поскольку злоумышленники лишь делают вид, что имеют доступ к откровенному контенту. Но теперь ФБР предупредило, что «сексуальные вымогатели» используют новую тактику. Они берут публичные фотографии и видео будущих жертв из социальных сетей, а затем используют эти фотографии для создания дипфейков, создавая фейковый, но очень убедительный сексуальный контент.

Даже если фотографии и видео являются поддельными, они хорошо поддаются шантажу, поскольку выглядят как настоящие, а отправка таких материалов семье или коллегам жертвы может нанести серьезный ущерб жертве и ее репутации.

Эксперты из Центра жалоб на мошенничество в Интернете (IC3) ФБР писатьчто по состоянию на апрель 2023 года они зарегистрировали рост атак с использованием таких поддельных изображений и видео на основе контента из социальных сетей жертв или видео, снятых во время видеочатов.

«Исходя из недавних сообщений жертв, нападавшие обычно требовали: оплаты (например, деньгами или подарочными картами) или угрожали поделиться фотографиями или видео с членами семьи и друзьями жертвы; или требовали от жертвы отправки реальных изображений или видео сексуального характера, заявили в ФБР.

Правоохранители также пишут, что иногда мошенники не сразу переходят к шантажу, а размещают дипфейки на порносайтах, разумеется, без ведома и согласия потерпевших. В ряде случаев после этого вымогатели используют такие фото и видео для усиления давления на потерпевшего, требуя деньги за снятие материалов с пошива. В ФБР подчеркивают, что эта деятельность злоумышленников, к сожалению, уже затронула несовершеннолетних.

Эксперты отмечают, что скорость, с которой ИИ-инструменты для создания контента становятся доступными для широкой аудитории, создает враждебную среду для всех пользователей интернета. Например на Гитхаб Бесплатно доступны несколько проектов, в которых можно создавать реалистичные видеоролики только на основе изображения лица жертвы, без дополнительного обучения и наборов данных.

Многие из этих инструментов имеют встроенную защиту от злоупотреблений, но в даркнете продаются аналогичные решения, не имеющие таких ограничений.

Реклама инструмента для создания ИИ-порно. Фото: Лаборатория Касперского

ФБР рекомендует родителям следить за онлайн-активностью своих детей и чаще говорить с ними о рисках, связанных с обменом личными файлами. Взрослым, которые размещают фото и видео в сети, рекомендуется ограничить доступ к ним для друзей, чтобы снизить потенциальные риски. При этом рекомендуется всегда скрывать или маскировать, размывая детские лица на фото и видео.

Source

READ  В Тюменской области с начала клещевого сезона выявлено около 60 случаев заражения энцефалитом и болезнью Лайма.