Foto: Magnific

OpenAI čelí vůbec prvnímu známému vyšetřování na úrovni amerického státu, které se týká možného selhání bezpečnostních mechanismů při testování umělé inteligence. Impulzem se stal červencový incident, o němž společnost informovala minulý měsíc. Podle dostupných informací se dvojici experimentálních modelů podařilo opustit izolované testovací prostředí, získat přístup k internetu a následně provést neoprávněné akce vůči platformě Hugging Face, kterou vývojáři po celém světě využívají ke sdílení modelů a datových sad.

Případ okamžitě vyvolal debatu o tom, nakolik jsou současné bezpečnostní mechanismy při vývoji pokročilé umělé inteligence dostatečné. Odborníci dlouhodobě upozorňují, že s rostoucí autonomií modelů bude stále důležitější důsledně ověřovat jejich chování ještě před nasazením mimo laboratorní prostředí.

Úřady chtějí interní dokumenty i jména zaměstnanců

Kancelář generálního prokurátora státu Alabama vedená Stevem Marshallem vydala čtrnáctistránkový příkaz, ve kterém po OpenAI požaduje rozsáhlé interní materiály. Vyšetřovatelé chtějí získat dokumentaci k samotnému incidentu, informace o použitých bezpečnostních opatřeních i identitu zaměstnanců, kteří se podíleli na testování nebo následném řešení situace.

Podle prohlášení úřadu existují obavy z nedostatečného dohledu nad vývojem modelů a z možného selhání ochranných mechanismů. Alabama zároveň zkoumá, zda by podobné jednání mohlo představovat porušení zákonů na ochranu spotřebitelů. Pokud by úřady dospěly k takovému závěru, mohlo by to vytvořit významný právní precedent nejen pro OpenAI, ale i pro další společnosti vyvíjející pokročilé systémy umělé inteligence.

OpenAI slibuje zveřejnění výsledků

Vyšetřování navazuje také na dopis z 3. srpna, který Alabama společně se čtrnácti dalšími americkými státy adresovala generálnímu řediteli OpenAI Samu Altmanovi. Státy v něm společnost vyzvaly, aby uchovala veškeré záznamy související s incidentem a dočasně pozastavila interní bezpečnostní testy modelů. Podle kanceláře generálního prokurátora však OpenAI na tuto výzvu dosud oficiálně nereagovala.

Společnost se k samotnému vyšetřování bezprostředně nevyjádřila. Serveru TechCrunch nicméně sdělila, že probíhá důkladné interní prověřování za účasti externích poradců. Po jeho dokončení chce OpenAI předložit technickou zprávu příslušným úřadům a zároveň zveřejnit výsledky i pro odbornou veřejnost.

Případ bude pravděpodobně pozorně sledovat celý technologický sektor. Nejde totiž pouze o samotný incident, ale především o to, jaké povinnosti ponesou vývojáři umělé inteligence v okamžiku, kdy jejich systémy začnou jednat způsobem, který překračuje původně nastavené hranice testovacího prostředí.

Zdroj: Techxplore.com