Foto: Freepik

SynthID je způsob, jakým Google usiluje o větší transparentnost v oblasti generativního umění vytvářeného pomocí umělé inteligence. Tento nástroj umožňuje vložení digitálního vodoznaku přímo do pixelů obrázku, a to takovým způsobem, že je pro lidské oko neviditelný. Tímto způsobem je možné označit obrázky jako vytvořené AI a umožnit snadnější identifikaci původu díla.

Jedním z hlavních problémů, které se týkají generativního umění, je možnost vytváření tzv. „deepfake“ obrazů. Tato technika může být zneužita například k vytváření falešných politických reklam či manipulaci s obrazy ve společenských médiích. V minulosti jsme byli svědky situací, kdy AI generovala falešné obrazy a ty se rychle šířily po internetu. Vzniklý problém spočívá v tom, že laické oko nedokáže snadno rozeznat, zda se jedná o pravdivý obrázek či zmanipulovaný fake.

Vstupem Google do této problematiky je právě SynthID, nástroj, který umožňuje vodoznakování generativního umění. Tímto způsobem je možné jasněji označit, že daný obraz byl vytvořen umělou inteligencí, a tím minimalizovat riziko jeho zneužití.

Foto: Freepik

Nástroj SynthID není jen o vytváření vodoznaků, ale také o identifikaci. Umí rozpoznat tři úrovně důvěryhodnosti digitálního vodoznaku: zjištěno, nezjištěno a možná zjištěno. Díky tomuto nástroji lze spolehlivěji posoudit, zda bylo dané dílo vytvořeno umělou inteligencí či nikoliv.

Google si je vědom toho, že tento nástroj není stoprocentní ochranou proti manipulacím, ačkoliv se snaží vytvořit robustní systém, který se těžko obejde. Nástroj SynthID je prvním svého druhu, který byl uveden na trh a který má pomoci zvýšit transparentnost a odpovědnost v oblasti generativního umění.

Samozřejmě, tento nástroj může také vyvolat určité problémy. Například se dá předpokládat, že se hackeři budou snažit nástroj obejít, což může způsobit závod ve vývoji nových metod ochrany a úprav generativního obsahu. Také open-source povaha některých generativních nástrojů může znamenat, že jejich uživatelé budou mít tendenci vytvářet vlastní úpravy a modifikace, což může ovlivnit širokou implementaci nástroje SynthID.

Přesto Google doufá, že SynthID bude brzy dostupný i pro třetí strany a že tímto způsobem přispěje k vyšší transparentnosti a zodpovědnosti v oblasti umělé inteligence a generativního umění. Je to krok správným směrem, jak zajistit, aby AI byla využívána odpovědným způsobem a aby bylo možné rozpoznat původ uměleckého díla vytvořeného touto technologií.

Zdroj: Engadget.com (odkaz)