Foto: Freepik
Stížnost, která doputovala k evropskému ombudsmanovi, rozvířila debatu o tom, jak evropské instituce nakládají s umělou inteligencí. Podnět podala irská organizace ICCL poté, co narazila na podezřelé pasáže v odpovědi Komise na dotaz týkající se výroku Ursuly von der Leyenové. Ta na konferenci Annual EU Budget Conference 2025 uvedla, že se modely umělé inteligence mají už příští rok vyrovnat lidskému myšlení. Pro mnohé odborníky šlo o výrok, který připomínal spíš marketingové prezentace technologických firem než odhad založený na datech.
Když se ICCL pokusila zjistit, odkud předsedkyně Komise čerpala, ukázalo se, že žádné podklady neexistují. Evropská komise místo toho poskytla seznam výroků různých technologických šéfů.
A právě v této odpovědi se objevil detail, který spustil celý problém. U citátu šéfa Nvidie Jensena Huanga bylo možné najít parametr utm_source chatgpt.com, což prozrazuje, že část textu pochází z generování přes ChatGPT. To je v přímém rozporu s pravidly Komise, která zakazují využívat neověřený výstup z generativních modelů v oficiálních veřejných dokumentech.
Foto: Freepik
Co přesně pravidla říkají a proč na nich záleží
Evropská komise v posledních letech prosazuje přísnější dohled nad využíváním umělé inteligence. Součástí toho jsou i interní pokyny, které stanovují, jak mohou zaměstnanci nástroje typu ChatGPT používat. Pravidlo číslo čtyři výslovně uvádí, že text z generativního modelu nesmí být bez prověření začleněn do veřejných dokumentů. Cílem je omezit riziko nepravdivých informací, nepřesností nebo skrytých úprav.
Zjištění irské organizace tak míří přímo na důvěryhodnost celé instituce. To, že Komise sáhla po generovaném textu právě při obhajobě výrazného výroku předsedkyně, působí o to problematičtěji. Kritici navíc upozorňují, že výrok o tom, jak se AI brzy vyrovná lidskému myšlení, už dříve vyvolal nesouhlas více než sedmdesáti akademiků, kteří předsedkyni vyzvali, aby nepodléhala přehnaným očekáváním.
Co může následovat
Evropský ombudsman se bude nyní zabývat tím, zda došlo k porušení pravidel a jakým způsobem Komise s generativními nástroji pracuje. Odpověď na tuto otázku bude důležitá nejen pro samotný případ, ale i pro širší debatu o transparentnosti institucí, které určují pravidla pro celou Evropu.
Vnitřní elektrony v Bruselu se už dávno smířily s tím, že umělá inteligence je běžnou součástí práce. Zdaleka nejde jen o Evropskou komisi, podobný tlak na efektivitu a rychlost existuje v každé veřejné instituci. Právě proto je ale zásadní, aby byly procesy jasné, předvídatelné a hlavně dodržované. Když se pravidla nastaví příliš přísně a realita ukáže, že se jim táhne vyhnout, je to pro důvěru veřejnosti horší než samotné používání AI.
Případ detekovaného textu s odkazem na ChatGPT tak překvapivě dobře ukazuje, v jak náročné pozici se evropské instituce ocitly. Snaží se regulovat technologii, která se vyvíjí rychleji než jejich vlastní procesy. A občas se stane, že je ta rychlost dožene i tam, kde to nečekaly.
Zdroj: iccl.ie (odkaz)