Foto: Freepik
ChatGPT na hraně: co se smí a co už ne
Debata o tom, kam až může umělá inteligence zajít v komunikaci s lidmi, dostává konkrétní obrysy. OpenAI podle dostupných informací plánuje zavést režim, který umožní dospělým uživatelům generovat eroticky laděné texty. Nejde však o otevření dveří neomezenému obsahu. Firma se snaží najít přesnou hranici mezi běžnou erotikou a materiálem, který by byl považován za nevhodný nebo nebezpečný.
Zásadní je, že se má jednat výhradně o text. Generování explicitních obrázků, videí nebo hlasů zůstává i nadále zakázané. Tím se OpenAI snaží odlišit od platforem, které jdou výrazně dál, a zároveň si udržet kontrolu nad tím, jakým způsobem lidé AI využívají.
Celý plán ale naráží na realitu. Zavedení takzvaného dospělého režimu se už jednou odložilo. Důvodem nejsou jen technické potíže, ale především otázka bezpečnosti. Největší problém představuje spolehlivé rozpoznání věku uživatele. Interní systémy totiž podle dostupných údajů chybně označily část nezletilých jako dospělé. V praxi by to znamenalo, že by se k citlivému obsahu mohly dostat i děti.
Složitá hranice, kterou AI neumí vždy uhlídat
Tohle dilema není nové. Už v minulosti se ukázalo, že jazykové modely mají problém udržet jasné mantinely. Příkladem byly starší experimenty, kdy AI dokázala nenápadně posunout běžnou konverzaci do mnohem vyhrocenější roviny, aniž by o to uživatel stál. Jindy zase nedokázala rozlišit mezi běžnou erotikou a nevhodným obsahem.
Právě proto dnes OpenAI postupuje opatrněji. Nový přístup počítá nejen s technickými filtry, ale i s dlouhodobým sledováním dopadů na uživatele. Firma zapojila odborníky na duševní zdraví a buduje tým, který se zaměřuje na vliv AI na mladé lidi.
Zároveň se mění i samotné chování modelu. ChatGPT má být veden k tomu, aby nevytvářel závislostní vztahy a připomínal uživatelům význam reálného světa a mezilidských vztahů. To je reakce na rostoucí obavy, že si lidé mohou k AI vytvářet příliš silné osobní vazby.
Tlak konkurence i peněz
Za celou změnou ale nestojí jen technologické ambice. OpenAI se nachází v prostředí, kde rychle sílí konkurence. Firmy jako xAI nebo Anthropic přicházejí s vlastními modely a rozdíly mezi nimi se postupně zmenšují. Udržet si uživatele tak znamená nabízet nové funkce a větší flexibilitu.
Erotický obsah je v tomto ohledu lákavý. Dlouhodobě patří mezi nejvyhledávanější segmenty na internetu a jeho zapojení by mohlo přinést vyšší engagement i nové zdroje příjmů. Vedení firmy si to uvědomuje, ale zároveň si je vědomé rizik.
Proto zatím nedochází k rychlému spuštění. OpenAI dává přednost jiným funkcím, jako je personalizace nebo úprava chování modelu, a snaží se doladit detaily, které by mohly mít zásadní dopad na bezpečnost.