Foto: Magnific

Umělá inteligence přináší stále výkonnější nástroje pro úpravu fotografií. Vedle kreativních možností ale roste i riziko jejich zneužití. Nový výzkum upozorňuje, že některé veřejně dostupné modely na platformě Hugging Face lze využít k vytváření sexuálně explicitních deepfake snímků, a to bez výraznějších technických překážek.

Platforma Hugging Face patří mezi nejvýznamnější světová úložiště otevřených modelů umělé inteligence. Vývojářům, firmám i výzkumníkům nabízí tisíce modelů pro generování textu, obrázků nebo jejich úpravy. Právě otevřenost této platformy se však podle autorů studie může stát i slabinou.

Testy ukázaly, že ochrana není vždy dostatečná

Výzkumníci se zaměřili na nejpopulárnější modely určené pro úpravu fotografií. Při testování zjistili, že řada z nich dokázala vytvořit explicitní deepfake obsah i z běžných portrétních fotografií. V některých případech navíc nebylo potřeba složitých postupů ani speciálních znalostí.

Součástí výzkumu byla také analýza přibližně tisícovky textových zadání, která uživatelé používali při práci s těmito modely. Právě tato data podle autorů ukazují, že část uživatelů se nesoustředí pouze na běžné úpravy fotografií, ale cíleně hledá způsoby, jak vytvářet sexuálně explicitní obsah zobrazující skutečné osoby bez jejich souhlasu.

Podle výzkumníků představují takové deepfaky závažný zásah do soukromí a mohou mít pro oběti dlouhodobé psychické i společenské následky. Falešné intimní fotografie bývají zneužívány k vydírání, šikaně nebo poškozování pověsti.

Regulace sílí, technologie se vyvíjí rychleji

V posledních měsících začaly proti podobným službám zasahovat také státní instituce. Ve Spojených státech byly zabaveny některé weby zaměřené na šíření deepfake obsahu. Evropská unie i Velká Británie současně připravují opatření, která mají do konce letošního roku omezit nebo zakázat takzvané „nudify“ aplikace určené k digitálnímu svlékání lidí bez jejich souhlasu.

Autoři studie zároveň upozorňují na paradox současného vývoje. Zatímco regulace postupně zpřísňuje pravidla pro provoz podobných služeb, otevřené AI platformy dál zpřístupňují výkonné modely milionům uživatelů po celém světě. Odpovědnost za jejich využití tak často zůstává především na samotných autorech modelů a provozovatelích platforem.

Zdroj: Wired.com