Foto: Magnific
Německá vláda oznámila vznik nového institutu pro bezpečnost umělé inteligence. Nejde jen o další úřední pracoviště k moderním technologiím. Berlín tím reaguje na situaci, kdy se pokročilé AI modely stále více prolínají s kyberbezpečností, státní správou i organizovaným zločinem. Podle vládního mluvčího se tématem zabývala Národní bezpečnostní rada, která posuzovala dopady vyspělých modelů umělé inteligence na kybernetickou bezpečnost Německa.
Nový institut má analyzovat výkon AI modelů a zároveň rizika, která mohou představovat. To je důležité hlavně u systémů schopných generovat kód, automatizovat útoky, vyhledávat slabiny nebo pomáhat s podvody ve větším měřítku. Umělá inteligence sama o sobě není nepřítel, ale v rukou útočníků dokáže zrychlit práci, která dříve vyžadovala více času, lidí a znalostí.
Berlín nechce čekat, až problém přeroste
Německo v posledních měsících otevřeně mluví o tom, že potřebuje posílit schopnost reagovat na kyberútoky. Ministerstvo vnitra uvádí, že v loňském roce bylo evidováno přibližně 334 000 případů kyberkriminality. Zhruba dvě třetiny z nich měly původ v zahraničí nebo se původ nepodařilo určit. Právě tato čísla ukazují, proč se z AI nestává pouze téma technologických firem, ale i bezpečnostních složek.
Podstatné je, že německý institut nemá fungovat izolovaně. Vláda počítá se sdílením informací s podobnými pracovišti v dalších zemích a s prací na sladěných standardech pro používání AI. To zapadá i do evropského vývoje kolem regulace umělé inteligence, kde se stále častěji řeší nejen inovace, ale také odpovědnost, testování, dohled a technické normy.
Zdroj TechXplore.com