Foto: Freepik
Manipulace a prodej dětských fotografií
Nelson se nepokoušel pouze tvořit snímky pro vlastní potřebu. Podle informací Greater Manchester Police prodával tyto zneužité a modifikované fotografie na internetu. Na objednávku dokonce přetvářel konkrétní fotografie dětí a vytvářel obsah dle požadavků klientů. Vyšetřovatelé uvedli, že si Nelson tímto způsobem vydělal přibližně 6500 dolarů. Pro svoji činnost používal software Daz 3D, který sice přímo nevytváří takzvané „deepfake“ snímky (překrytí jedné tváře na jiném těle), ale pomocí umělé inteligence umožňuje generovat 3D modely a měnit původní obsah fotografie na vizuály s výrazně zneužívajícím podtextem.
Nelson byl zatčen poté, co se pokusil prodat takto vytvořené snímky utajenému detektivovi, který se vydával za zájemce na jednom z darknetových fór. Podle transkriptu rozhovoru, který obžaloba předložila soudu, se Nelson pokusil obchod podpořit popisem svých „služeb“. Jeho činnost zahrnovala výslovně uváděné typy násilí, což prohloubilo jeho trestnou odpovědnost.
Dopad technologických platforem a hranice morálky
Soudce během rozsudku zdůraznil, že vytvářené obrázky byly „hrůzné a odpudivé“, a že ukazují, jak daleko jsou někteří jedinci ochotni zajít. Tato kauza představuje důležitý precedens v oblasti práva, který otevírá otázky, jak využití umělé inteligence kontrolovat, aby se předešlo zneužívání nezletilých, a zároveň, jakým způsobem mohou společnosti vyvíjející software nést odpovědnost za nevhodné použití jejich nástrojů.
Foto: Freepik
Daz 3D přitom není jediným softwarem s možností AI, který by potenciálně umožňoval takové zneužití. Společnosti stojící za vývojem podobných aplikací již proto podepsaly závazek ke spolupráci s úřady a ochraně nezletilých před tímto novým druhem ohrožení. Tento případ zdůrazňuje potřebu na jedné straně inovativního technologického rozvoje, ale na druhé straně také přísné regulace a dozoru nad jejich využíváním.
Mezinárodní rozsah problému
Problém zneužívání umělé inteligence v kontextu CSAM není omezen pouze na Velkou Británii. Ve Spojených státech byl v srpnu letošního roku zatčen voják, který údajně vytvořil CSAM pomocí umělé inteligence. V jiném případě čelí muž z Wisconsinu obžalobě za vytvoření více než 13 000 snímků tohoto typu, což mu může přinést až 70 let vězení. Tato data ukazují na rostoucí globální trend a nutnost zvýšené prevence a spolupráce mezi státy.
Případ Hugha Nelsona je tak varovným příkladem pro širší veřejnost, technologické společnosti i vlády. Ukazuje, jaké nebezpečí mohou moderní technologie představovat, pokud padnou do nesprávných rukou, a zdůrazňuje nutnost neustálého zdokonalování kontrolních mechanismů a právních postupů.
Zdroj: Engadget.com (odkaz), BoltBurdonKemp.co.uk (odkaz), wired-gov.net (odkaz)
