Foto: Freepik
GPAI modely jsou systémy trénované s výpočetním výkonem přesahujícím 10²⁵ FLOPs, což je kategorie zahrnující velké hráče jako OpenAI, Google, Meta, Anthropic nebo Mistral. Návrh však ponechává možnost rozšíření seznamu společností, na které se regulace bude vztahovat.
Klíčové oblasti regulace
36stránkový dokument se zaměřuje na několik hlavních oblastí, které mají za cíl zvýšit transparentnost, zajistit dodržování autorských práv, provádět hodnocení rizik a implementovat technické i správní opatření na jejich minimalizaci. Mezi hlavní body patří:
- Transparentnost: AI společnosti budou muset zveřejnit informace o nástrojích (např. webových crawlerech) použitých při trénování svých modelů, což je klíčové pro ochranu práv autorů a tvůrců.
- Hodnocení rizik: Důraz je kladen na prevenci kybernetických útoků, diskriminace a na ochranu proti situacím, kdy AI „získá vlastní vůli“ – oblíbené téma sci-fi příběhů.
- Bezpečnostní rámec (Safety and Security Framework): Tento systém bude nutný pro efektivní řízení rizik přiměřeně k systémovému dopadu modelu.
- Technická opatření: Dokument vyžaduje ochranu dat modelu, zavedení bezpečnostních přístupových kontrol a pravidelné přehodnocování jejich účinnosti.
- Governance: Klade důraz na odpovědnost firem, které mají zavádět kontinuální hodnocení rizik a spolupracovat s externími experty.
Foto: Freepik
Sankce za porušení pravidel
Podobně jako u ostatních technologických regulací EU, budou i zde porušení pravidel tvrdě postihována. Firmám hrozí pokuty až do výše 35 milionů eur nebo až 7 % jejich celosvětových ročních příjmů, podle toho, která částka bude vyšší.
Co bude dál?
Návrh je otevřen připomínkám prostřednictvím platformy Futurium, kde mohou zúčastněné strany podávat své návrhy do 28. listopadu. Finální verze pravidel by měla být schválena 1. května 2025. Tento krok Evropské unie je součástí snahy regulovat rychlý rozvoj AI technologií a minimalizovat jejich rizika, přičemž se očekává, že se regulace stane jedním z nejvlivnějších dokumentů v oblasti umělé inteligence na globální úrovni.
Zdroj: Engadget.com (odkaz)
