Про це повідомляють британське агентство ВВС, а також видання The Verge із посиланням на доповідь фахівців фірми Sensity, що займається кібербезпекою.

Спочатку фотографії були взяті із соціальних мереж. Потім зі знімків жінок видалявся одяг за допомогою штучного інтелекту, після чого фейкові фото поширювалися через застосунок Telegram.

Згідно з доповіддю Sensity, деякі з потерпілих жінок “виглядають неповнолітніми”. Однак розповсюджувачі знімків назвали це просто “розвагою”.

За даними Sensity, для створення фейкових оголених знімків була використана технологія “діпфейк бот” (deepfake bot).

Діпфейками є часто дуже реалістичні фото або відео, згенеровані на комп’ютері на основі реальних зразків. Одним із напрямків використання цієї технології було створення порнографічного відео на основі зображень знаменитостей.

Як зазначив керівник Sensity Джорджіо Патріні, використання приватних фотографій є новою тенденцією.

“Досить мати сторінку в соціальних мережах із загальнодоступними фотографіями, щоб стати мішенню”, – попередив він.

Telegram-бот

У компанії Sensity розповіли, що виявили “екосистему діпфейків” у Telegram. Йдеться про ботів, які за запитом користувачів генерують підроблені фото людей.

Спосіб створення діпфейка простий: користувач відправляє знімок людини боту, а у відповідь отримує її порнографічне зображення.

При безкоштовному використанні бота програма приховує деякі частини знімка або ж малює поверх нього водяні знаки. Користувачі можуть заплатити комісію, щоб повністю “розкрити” зображення.

У центрі уваги дослідників Sensity опинився бот на основі штучного інтелекту, який “живе” в Telegram і створює “голі” фото жінок.

Адміністратор сервісу, ім’я якого не озвучується, заявив, що “голі” фото – це “розвага, яка не пов’язана з насильством”.

“Мене це не хвилює. Це розвага, яке не пов’язана з насильством. Ніхто нікого не шантажуватиме цим, оскільки якість не відповідає реальності”, – зазначив він.

Адміністратор також стверджує, що розробники стежать, щоб не використовувалися фото дітей. “Як тільки ми бачимо фото неповнолітніх, блокуємо користувача назавжди”, – заявив він.

За словами адміністратора, рішення про те, ділитися чи ні з іншими отриманим “оголеним” знімком, приймає сам користувач. Він також повідомив, що незабаром всі зображення будуть видалені.

Як зазначає ВВС, журналісти агентства провели експерименти з приватними фото за згодою їхніх власників. Відзначається, що жодне з отриманих зображень не було повністю реалістичним. Навіть був випадок, коли пупок жінки опинився у неї на грудях.

Технологія, яка використовується для генерування подібних фото, відома як DeepNude. Вона була представлена в червні 2019 року. Коли про DeepNude почали писати ЗМІ, автори закрили проєкт, заявивши, що “вірогідність того, що люди стануть зловживати ним, занадто висока”.

В Sensity з’ясували, що відтоді вихідний код програми з’явився в Мережі у відкритому доступі на торрент-трекерах. Тепер технологія використовується в роботі Telegram-бота.

Понад 100 тисяч жертв “роздягання” і “контент для педофілів”

У Sensity підрахували, що за рік (з липня 2019-го по липень 2020 рр.) жертвами публічного “роздягання” стали щонайменше 104 852 жінки.

Їхні “голі” фото були опубліковані в загальнодоступних каналах Telegram (це означає, що загальна кількість згенерованих зображень, включно з тими, які ніколи не передавалися, набагато більша).

За даними Sensity, більшість користувачів цих Telegram-каналів (приблизно 70%) – із Росії і сусідніх країн.

“Бот і пов’язані з ним канали залучили близько 101 080 користувачів по всьому світу, у тому числі 70% з Росії і країн колишнього СРСР”, – відзначають дослідники.

Журналісти The Verge з’ясували, що багато каналів, які були досліджені компанією, все ще активні.

У більшості випадків знімки для створення “голих” фото були взяті з акаунтів у соціальних мережах.

Розслідування також показало, що деякі знімки належали неповнолітнім, а, отже, “можна припустити, що бота використовували для створення і поширення контенту для педофілів”.

У Sensity відзначають, що роботу бота супроводжувала масована реклама в російській соціальній мережі “ВКонтакте” (VK).

Дослідники дійшли висновку, що більшість користувачів створювали фото для себе. Водночас деяка частина зображень могла використовуватися для вимагання та шантажу (дослідники не знайшли цьому прямих доказів).

Як заявила в коментарі ВВС Ніна Шик, автор книги “Діпфейки та Інфокаліпсис ” (Deep Fakes and the Infocalypse), творці діпфейків живуть і працюють по всьому світу.

“Колись цей контент стане більш якісним, це лише питання часу. Кількість порнографії, виробленої за допомогою технології діпфейк, подвоюється кожні півроку. Наша законодавча система не готова до подібних викликів. Суспільство змінюється швидше, ніж ми можемо собі уявити, саме через нові технології, і ми поки не навчилися це регулювати… Для жертв цієї технології це катастрофа. Це може повністю зруйнувати їхнє життя, оскільки вони почуваються скривдженими і приниженими”, – наголосила вона.

Автори доповіді Sensity поділилися своїми висновками з Telegram, VK, а також із відповідними правоохоронними органами, однак не отримали відповіді.

• Раніше програмісти з Нью-Йоркського університету навчили нейронну мережу підробляти відбитки пальців. Завдяки цій технології можна отримати доступ до інформації, захищеної біометричною системою аутентифікації.