Foto: Freepik
Apple a další hráči staví AI s pojistkou
Technologické firmy v čele se společností Apple a výrobci čipů jako Qualcomm posouvají vývoj umělé inteligence do nové fáze. Nejde už jen o to, co AI dokáže, ale hlavně o to, co dělat nesmí.
Podle informací zveřejněných serverem Tom’s Guide testují firmy nové generace takzvaných agentních AI systémů. Ty se dokážou samostatně pohybovat v aplikacích, vyplňovat formuláře, rezervovat služby nebo spravovat běžné úkoly. V jedné z testovacích verzí například systém prošel celým procesem nákupu až k platební obrazovce, kde se zastavil a požádal uživatele o potvrzení.
Právě tento moment je klíčový. AI se sice dostane až na hranici akce, ale finální krok zůstává na člověku. Tento model, označovaný jako „human in the loop“, se rychle stává standardem.
Nejde o náhodu. Firmy tím reagují na rostoucí obavy z nekontrolovaného chování umělé inteligence. Jakmile systém získá schopnost jednat, roste i riziko chyb, finančních ztrát nebo úniku citlivých dat.
Kontrola, limity a soukromí
Zásadní změna spočívá v tom, že AI nedostává plný přístup ke všemu. Místo toho funguje v přesně vymezeném prostoru. Firmy definují, ke kterým aplikacím může přistupovat, jaké úkony smí provádět a kdy musí zastavit.
V praxi to znamená, že AI může připravit objednávku nebo rezervaci, ale bez souhlasu uživatele ji nedokončí. Stejně tak nemůže libovolně operovat napříč službami, pokud k tomu nemá výslovné oprávnění.
Velkou roli hraje i ochrana soukromí. Část řešení, na kterých Apple pracuje, počítá s tím, že citlivá data zůstanou přímo v zařízení. Tím odpadá nutnost odesílat informace na vzdálené servery, což snižuje riziko jejich zneužití.
Podobný princip už dnes funguje v bankovnictví. Každá platba nebo převod vyžaduje potvrzení. AI nyní tento model přebírá a rozšiřuje do dalších oblastí digitálního života.
Do hry navíc vstupují i externí partneři. Platební služby a autentizační systémy přidávají další vrstvu kontroly. Mohou nastavit limity, vyžadovat dodatečné ověření nebo zcela zablokovat podezřelé operace.
Autonomie, která má hranice
Zatímco dřívější vize počítaly s plně autonomní umělou inteligencí, realita roku 2026 je výrazně střízlivější. Firmy si uvědomují, že absolutní nezávislost AI by mohla přinést víc problémů než užitku.
Proto vzniká nový přístup. AI má být schopná pomáhat, zrychlovat práci a zjednodušovat každodenní úkoly, ale vždy pod dohledem. Kontrolní body, omezený přístup a povinné potvrzení nejsou slabinou systému, ale jeho základním bezpečnostním prvkem.
Diskuze o regulaci umělé inteligence se dosud soustředila hlavně na firmy a průmysl. Teď se ale přesouvá i k běžným uživatelům. Právě tam je potřeba najít rovnováhu mezi pohodlím a bezpečností.
