Foto: Freepik

Vytváříme psychopatické modely? Kritici varují před chováním AI

Debata o tom, zda je umělá inteligence přínosem, nebo rizikem, už dávno nepatří jen do sci-fi románů. Dnes se týká zdravotnictví, školství, justice i bezpečnosti. Čím více systémům svěřujeme odpovědnost, tím častěji zaznívá otázka, zda jsme nepřekročili hranici, kterou zatím neumíme přesně pojmenovat.

Část kritiků používá silné přirovnání. Tvrdí, že vytváříme modely, které se mohou chovat jako psychopati. Tedy jako entity, jež dokážou rozpoznat pravidla a emoce, ale samy je neprožívají. Nejde přitom o diagnózu v klinickém smyslu, spíše o metaforu. Psychopatie se běžně spojuje s nedostatkem empatie, manipulativním chováním a chladným kalkulem bez ohledu na následky pro druhé.

Podle filozofky Catrin Misselhornové, která se dlouhodobě věnuje etice technologií, je srovnání svým způsobem pochopitelné. Umělá inteligence neumí cítit, přesto dokáže emoce rozpoznat na základě dat a vzorců chování. Umí napodobit empatii, protože byla trénována na obrovském množství lidských projevů. To ale neznamená, že chápe, co bolest nebo vina skutečně znamenají.

Právě zde leží zásadní rozdíl. Člověk, i když postrádá empatii, si dokáže uvědomit, že někomu ubližuje. Může své jednání přehodnotit, změnit směr, nést odpovědnost. Umělá inteligence nic takového neumí. Neprožívá, nereflektuje, netrpí výčitkami. Reaguje podle nastavených pravidel a optimalizuje výsledek podle zadaných cílů.

Když racionální volba nestačí

Problém nastává ve chvíli, kdy systémy nasazujeme v oblastech, kde nejde jen o výpočet pravděpodobnosti, ale o hodnoty. Lékařská doporučení, posuzování žádostí o sociální podporu, výběr kandidátů na pracovní pozice nebo vzdělávací hodnocení. Všude tam hraje roli kontext, lidská zkušenost a citlivost.

Model může nabídnout řešení, které je z pohledu dat efektivní, ale z lidského pohledu necitlivé. Pokud například optimalizuje náklady, může doporučit omezení péče tam, kde by lékař viděl naději. Pokud hodnotí riziko, může reprodukovat předsudky obsažené v historických datech. Ne proto, že by chtěl škodit, ale protože neumí chápat důsledky mimo rámec svého zadání.

To je důvod, proč odborníci opakovaně zdůrazňují potřebu jasných mantinelů. Transparentnost algoritmů, kontrolu lidským dohledem a odpovědnost za rozhodnutí. Samotná technologie není dobrá ani zlá. Záleží na tom, kdo ji navrhuje, jaká data používá a kde ji nasazuje.

Hrozba srovnatelná s jadernými zbraněmi?

Obavy z nekontrolovaného vývoje umělé inteligence vyjádřil i investor Warren Buffett. Přirovnal potenciální rizika AI k jaderným zbraním, které podle něj zásadně změnily rovnováhu moci ve světě. Upozornil na to, že ani lídři technologických firem dnes nedokážou s jistotou předpovědět, kam vývoj povede.

Buffett použil příměr o džinovi vypuštěném z lahve. Jakmile jednou technologie překročí určitý bod, může být velmi obtížné ji vrátit zpět nebo plně kontrolovat. Zmínil také možnost, že pokročilé systémy mohou ovlivnit vojenské strategie a přístup k vysoce citlivým technologiím.

Je však fér dodat, že většina současných systémů je úzce specializovaná. Nejde o samostatně myslící entity, ale o nástroje optimalizující konkrétní úkoly. Přesto se rychlost vývoje zvyšuje a tlak na jejich komerční využití roste.

Debata o tom, zda vytváříme psychopatické modely, tak není o strašení veřejnosti. Spíše odráží obavu, že jsme fascinováni výkonem a zapomínáme na odpovědnost. Umělá inteligence není vědomá bytost. Nemá úmysly ani svědomí. Pokud se ale budeme spoléhat na její rozhodnutí bez dostatečné kontroly, může se její chladná logika střetnout s lidskou realitou způsobem, který nás překvapí.

Otázka proto nezní, zda je AI psychopatická. Spíše zda jsme připraveni nést odpovědnost za to, jak ji používáme.

Zdroj: Novinky.cz (odkaz)