Foto: Freepik

Když Google v květnu představil Veo 3 – výkonný generátor realistických videí založený na AI – mnozí vývoj označovali za technologický zlom. Kvalita výstupů byla až znepokojivě přesná. Jenže místo výhradně pozitivního využití se nástroj stal také zbraní pro šíření nenávistného obsahu. A ten se masivně šíří právě na TikToku.

Nezisková organizace MediaMatters upozornila, že desítky účtů na TikToku v posledních týdnech publikovaly videa generovaná pomocí Veo 3, která zobrazují rasové stereotypy a otevřeně urážejí černochy, židovskou komunitu i přistěhovalce. Obsah, často dlouhý jen několik sekund, využívá karikatur, předsudků i neetického symbolického zobrazování – například lidí jako opic – a to vše s vodotiskem „Veo“ přímo ve videu.

Znepokojivé není jen samotné množství takového obsahu, ale i jeho virální dosah. Mnoho videí se šíří bez zásahu moderátorů, přestože TikTok ve svých podmínkách jasně uvádí nulovou toleranci vůči nenávistnému projevu.

Google: Bezpečnost je priorita – ale realita je jiná

Google se opakovaně chlubí robustními bezpečnostními opatřeními u svých AI modelů. Uživatelská zkušenost často potvrzuje, že AI nástroje od Googlu blokují i neškodné dotazy v obavě z možného porušení pravidel. U Veo 3 ale situace vypadá jinak. Ve srovnání s předchozími generacemi se zdá, že nový model je výrazně „ochotnější“ generovat problematický obsah.

Podle redakčních testů lze s minimálně upravenými výrazy dosáhnout podobného výsledku jako ve videích zachycených MediaMatters. AI totiž často nerozpozná jemné symbolické vrstvy, v nichž se skrývá rasismus – například použití banálních obrazů s předsudkovým podtextem, které neobsahují přímé nadávky, ale jasně odkazují na rasové stereotypy.

TikTok nestíhá. A Google se k problému zatím nevyjadřuje

TikTok sice tvrdí, že kombinuje lidské moderátory a pokročilé algoritmy pro dohled nad obsahem, ale reálný stav ukazuje, že systém přetéká. Polovina účtů zmíněných ve zprávě byla podle mluvčí platformy zablokována až poté, co byl problém medializován. Druhá polovina byla smazána až následně. Videa však do té doby nasbírala statisíce zhlédnutí a stovky komentářů posilujících předsudky.

V případě Googlu zatím nepadlo oficiální vyjádření, proč Veo 3 umožnilo vznik takového obsahu. Společnost přitom ve svých zásadách přímo zakazuje používání nástrojů k šíření nenávisti, obtěžování nebo zneužívání. V praxi se ale ukazuje, že formulace podmínek a jejich technologické vymáhání jsou dvě zcela odlišné věci.

Nebezpečí jménem realismus

Jedním z největších rizik u moderní generativní AI není jen její dostupnost, ale právě míra realismu. Veo 3 generuje obraz tak přesvědčivě, že běžný divák těžko rozezná, zda jde o realitu, nebo syntézu. A to činí nenávistný obsah nejen nebezpečnější, ale i důvěryhodnější. Na sociálních sítích, kde vizuální rychlost převládá nad kritickým myšlením, se takové video může stát mocným nástrojem manipulace.

Co nás čeká dál?

Google plánuje začlenit Veo 3 do YouTube Shorts – a právě to může být další hrozba. Pokud se z platformy jako TikTok, kde uživatelé sice tvoří, ale zároveň čelí určitému dohledu, obsah přesune na volnější prostředí YouTube, čeká nás další vlna dezinformací a toxických narrativů.

V éře, kdy se AI stává běžnou součástí online světa, selhání v kontrole jejích výstupů není jen technologický problém – je to morální a společenská výzva. Pokud se firmy jako Google a platformy jako TikTok nedokážou postarat o zodpovědné využití těchto nástrojů, stávají se tichými spoluviníky šíření nenávisti.

Závěr: Technologie předběhla dohled

S jasnými pravidly, ale slabou výkonností při jejich vymáhání, stojíme na hraně digitální etiky. AI jako Veo 3 může být nástrojem pokroku i zhoubné propagandy. Záleží jen na tom, kdo ho ovládá – a jak důsledně společnosti nastaví a prosadí hranice. Protože pokud nezakročí dnes, zítra může být pozdě.

Zdroj: ArsTechnica.com (odkaz)