Лажни фотографии од повеќе од 100.000 жени претставени како голи, се создадени од веќе постоечки фотографии споделени на социјалните мрежи, покажа нов извештај, а пренесува Би-би-си.
Облеката дигитално се отстранува од фотографиите на жени со вештачка интелигенција и се споделува на апликацијата за пораки Телеграм.
Дел од оние кои биле лажно прикажани најверојатно биле и малолетни, забележува извештајот на компанијата „Сенсити“. Но, оние што го водат сервисот велат дека тоа е едноставно „за забава“.
Би-би-си го тестираше софтверот и доби слаби резултати
Од „Сенсити“ тврдат дека користената технологија е „deepfake“ бот.
Тоа се компјутерски генерирани, често реални слики и видеа, засновани на вистински материјали. Една од неговите употреби е создавање лажни порнографски видео клипови на познати личности.
Но, извршниот директор на „Сенсити“, Џорџо Патрини, рече дека промената кон користење фотографии од приватни лица е релативно нова.
„Имањето профил на социјалните мрежи со јавни фотографии е доволно за секој да стане мета“, предупреди тој.
Ботот со вештачка интелигенција е достапен на канал за приватни пораки на Телеграм. Корисниците можат да му испратат на ботот фотографија на жена, а тој дигитално ќе и ја отстрани облеката за неколку минути, без никаков трошок.
Би-би-си тестираше повеќе слики, сите со согласност на испитаниците, и ниту една не била целосно реална. Нивните резултати вклучиле фотографија на жена со папок на нејзината дијафрагма.
Слична апликација беше повлечена минатата година, но се верува дека циркулираат верзии на софтверот.
Администраторот што го води сервисот, познат само како „П“, за Би-би-си вели: „Не ми е гајле толку многу. Ова е забава што не носи насилство“.
„Никој нема да уцени никого со ова, бидејќи квалитетот е нереален“, додава тој.
Исто така, вели дека тимот ги разгледува фотографиите што се споделуваат и дека кога ќе видат малолетнички, го блокираат корисникот.
Но, одлуката дали да се сподели фотографијата со другите зависи од личноста која првично го искористила ботот за да ја создаде, рече тој.
„Постојат војни, болести, многу лоши работи што се штетни во светот“, вели во своја одбрана, при тоа тврдејќи дека наскоро ќе ги отстрани сите слики.
Телеграм засега не даде свој коментар за случајот.
„Сенсити“ објави дека меѓу јули 2019 и 2020 година, приближно 104.052 жени биле мета на ботот и имало лажни голи слики од нив јавно споделени.
Истрагата открила дека на некои од сликите имало малолетнички, сугерирајќи дека некои корисници примарно го користеле ботот за да генерираат и споделуваат педофилна содржина.
Од „Сенсити“ велат дека ботот е значително рекламиран на руската страница за социјални медиуми ВК, а истражувањето на платформата покажа дека повеќето корисници се од Русија и земјите од поранешна СССР.
Но, од ВК, пак, велат: „Не толерираме ваква содржина или линкови на платформата и ги блокираме заедниците што ги дистрибуираат“.
Телеграм беше официјално забранета во Русија до почетокот на оваа година.
„Многу од овие веб-страници или апликации не се кријат, затоа што не се строго забранети“, рече Џорџо Патрини од „Сенсити“.
„Додека тоа не се случи, се плашам дека само ќе биде полошо“, додаде тој.
Авторите на извештајот велат дека ги споделиле сите наоди со Телеграм, ВК и релевантните тела за спроведување на законот, но немале одговор.
Нина Шик, авторка на книгата „Deep Fakes and the Infocalypse“, вели дека креаторите на „deepfake“ се насекаде низ светот и дека правната заштита игра бркотница со оваа технологија.
„Прашање на време е кога таа содржина ќе стане пософистицирана. Се чини дека бројот на „deepfake“ лажни порно видеа двојно се зголемува на секои шест месеци”, рече таа.
„Нашите правни системи не се соодветни за целите на ова прашање. Општеството се менува побрзо отколку што можеме да замислиме поради овие експоненцијални технолошки достигнувања, а ние како општество не сме решиле како да го регулираме ова“, смета Шик која додава дека ова може да биде поразително за жртвите.
Минатата година американската држава Вирџинија стана едно од првите која воведе забрана на „deepfake“.
Актуелниот закон во Велика Британија неодамна беше критикуван дека е „неконзистентен, застарен и збунувачки“.
Владата ја задолжи Комисијата за правни прашања да го разгледа законот, околу прашањето со лажните фотографии, во Англија и Велс. Нејзините забелешки треба да се објават во 2021 година.