Foto: Freepik

OpenAI dodá AI nástroje americké armádě. Slibuje kontrolu

Společnost OpenAI oznámila partnerství s americkým ministerstvem obrany, v jehož rámci poskytne své systémy umělé inteligence pro použití v takzvaných klasifikovaných prostředích. Firma tvrdí, že dohoda obsahuje jasné pojistky. Technologie nemá být využívána pro masový dohled nad americkými občany ani pro řízení autonomních zbraní bez lidské kontroly. Součástí podmínek má být také zákaz použití pro vysoce riziková automatizovaná rozhodnutí, například systémy typu sociální kredit.

Podle OpenAI bude klíčové to, že systémy budou nasazeny prostřednictvím cloudu a že u jejich provozu zůstane přítomen tým prověřených zaměstnanců firmy. Tím si chce společnost zachovat dohled nad tím, jak jsou modely využívány. Vedení firmy zdůrazňuje, že nad rámec smlouvy platí i ochranné mechanismy amerického práva.

Jenže zveřejněné části kontraktu naznačují, že zákaz se vztahuje pouze na nezákonné použití. Pokud by určitý typ nasazení byl v souladu se zákonem a interními pravidly ministerstva, smlouva ho podle kritiků výslovně nevylučuje. Dokument hovoří o tom, že ministerstvo může systém využívat pro všechny zákonné účely, pokud projde ověřením a testováním.

Rozchod s Anthropic a pochybnosti veřejnosti

Oznámení přišlo krátce poté, co administrativa prezidenta Donalda Trumpa ukončila spolupráci s konkurenční společností Anthropic. Její šéf Dario Amodei uvedl, že firma odmítla upravit své podmínky tak, aby umožňovaly odstranění ochran proti masovému dohledu či plně autonomním zbraňovým systémům. Podle něj současná legislativa nestíhá rychlý vývoj AI a některé možnosti mohou ohrozit demokratické hodnoty.

Sam Altman se snažil obavy mírnit veřejnou diskusí na sociální síti X. Přiznal, že dohoda vznikla rychle a mediálně nepůsobí dobře. Zároveň ale zdůraznil, že vztah mezi vládou a firmami vyvíjejícími pokročilou AI bude v příštích letech zásadní. Podle něj by bylo nebezpečné, kdyby o etických hranicích rozhodovala soukromá firma bez demokratického mandátu.

Tato argumentace část uživatelů nepřesvědčila. Kritici připomínají odhalení Edwarda Snowdena z roku 2013, kdy se ukázalo, že americká Národní bezpečnostní agentura prováděla rozsáhlý dohled nad komunikací občanů. I když šlo o jinou instituci a jinou éru, důvěra veřejnosti je v těchto otázkách dlouhodobě oslabená.

Reakce se promítla i do trhu. Někteří uživatelé oznámili zrušení předplatného ChatGPT a část z nich přešla ke konkurenci. Aplikace Claude od společnosti Anthropic se mezitím vyšvihla na první příčku mezi bezplatnými aplikacemi v americkém App Storu.

Dohoda mezi OpenAI a ministerstvem obrany tak otevírá širší otázku, jakou roli mají soukromé technologické firmy sehrát v oblasti národní bezpečnosti. Umělá inteligence už dávno není jen nástrojem pro psaní textů nebo generování obrázků. Vstupuje do oblastí, kde se střetává bezpečnost, právo a důvěra veřejnosti. A právě tam se bude v příštích letech rozhodovat, jaké mantinely pro ni společnost skutečně nastaví.

Zdroj: Mashable.com (odkaz)