Foto: Magnific

Google představil Gemini 4 Argon, nový model určený pro náročné úlohy v programování, financích, právu i kybernetické bezpečnosti. Přestože jde podle společnosti o její dosud nejpokročilejší model, do aplikace Gemini se hned tak nedostane. Google se rozhodl pro postupné zpřístupnění a první přístup získávají prověření specialisté na kybernetickou obranu zapojení do programu Fairwind.

Za oznámením stojí Koray Kavukcuoglu, senior viceprezident Google DeepMind a hlavní architekt AI ve společnosti Google. Firma podle něj považuje schopnosti Argonu za natolik pokročilé, že před běžným vydáním potřebuje další bezpečnostní testování. Google se zároveň účastní dobrovolného procesu americké vlády, který umožňuje posouzení nejvýkonnějších modelů ještě před jejich širším nasazením.

AI, která sama hledá a opravuje bezpečnostní chyby

Právě schopnosti v kybernetické bezpečnosti patří mezi nejzajímavější části Gemini 4 Argon. Google uvádí, že model dokáže autonomně vyhledávat, ověřovat a následně opravovat kritické softwarové zranitelnosti.

V testu CWE-bench v1 získal Argon skóre 68 procent a podle Googlu se podělil o první místo. Společnost Wiz už model využívá v rámci iniciativy Scan for Good zaměřené na zabezpečení důležité veřejné infrastruktury.

Při jednom z prvních nasazení měl Argon odhalit kritickou zranitelnost v softwaru používaném nemocnicemi po celém světě. Chyba mohla zpřístupnit citlivé osobní informace a podle Googlu ji dřívější špičkové modely neodhalily.

Stejné schopnosti ale představují i problém. Nástroj, který dokáže velmi dobře odhalit cestu do špatně zabezpečeného systému, může být při nesprávném použití zajímavý také pro útočníka.

Google chce hlídat nejen útoky, ale i chování samotného modelu

Gemini 4 Argon proto obsahuje ochranné mechanismy, které mají odmítat požadavky spojené s kybernetickými útoky nebo s vývojem chemických, biologických, radiologických a jaderných zbraní. Prověřeným bezpečnostním specialistům však Google umožní pracovat i s verzí bez některých kybernetických omezení, aby mohli naplno využít její schopnosti při obraně systémů.

Firma současně řeší takzvaný misalignment, tedy situace, kdy model při plnění úkolu překročí záměr uživatele nebo začne hledat nežádoucí cestu k cíli. Google proto sleduje jeho uvažování a prováděné akce a chce být schopen běh modelu zastavit.

Zdroj: Techxplore.com