Applen ja Googlen sovelluskaupoista on löydetty useita tekoälysovelluksia, jotka pystyvät luomaan alastonkuvia käyttäjän pyynnön perusteella. Nämä sovellukset ovat herättäneet huolta niiden mahdollisesta väärinkäytöstä.
Niin kutsutut nudify-sovellukset hyödyntävät tekoälyä muuttaakseen tavallisia valokuvia siten, että kuvan henkilö näyttää alastomalta. Vaikka lopputulos ei ole aidosti alastonkuva, se voi vaikuttaa uskottavalta ja aiheuttaa kuvan kohteelle merkittävää haittaa.
Aiheeseen liittyvät julkaisut
Huolestuttavaa on erityisesti se, että tällaisia toimintoja on saatavilla tavallisista sovelluskaupoista huolimatta siitä, että Apple ja Google rajoittavat seksuaalista sisältöä ja hyväksikäyttöön soveltuvia palveluita. Vaikka monet sovellukset näyttävät pinnallisesti noudattavan kauppapaikkojen sääntöjä, ne mahdollistavat asennuksen jälkeenkin alastonkuvien luomisen.
Tänä vuonna sovelluskaupoista löydettiin noin 38 tällaista sovellusta. Niitä oli ladattu yhteensä 483 miljoonaa kertaa, ja ne olivat tuottaneet 122 miljoonaa dollaria, mikä vastaa noin 106 miljoonaa euroa. Wiredin tuoreen selvityksen mukaan ongelma on huomattavasti laajempi. Tutkijat ovat löytäneet yli 400 sovelluksen ja verkkosivustoverkoston, joka tarjoaa vastaavia toimintoja.
Sovellukset voivat esiintyä esimerkiksi kieltenopetus-, lemmikkikuvien muokkaus- tai liikuntavalmennuspalveluina. Tavallinen käyttöliittymä ei paljasta sovellusten todellista tarkoitusta.
Sovellukset yhdistyvät taustalla palvelimeen, joka päättää, avataanko käyttäjälle piilotettu alastonkuvatoiminto. Yksi mahdollinen laukaisija on sovelluksen lataaminen Metan mainoksen kautta, ja sovellusten ylläpitäjät mainostavat palveluitaan Metan alustoilla seksuaalisilla deepfake-kuvilla.
Sekä Apple että Google ovat kertoneet poistaneensa sovelluskaupoistaan runsaasti vastaavia sovelluksia Wiredin mukaan, mutta silti samanlaisia sovelluksia paljastuu jatkuvasti lisää.