Foto: Magnific
Měřili si spánek. Jejich mozkové vlny mezitím trénovaly umělou inteligenci, aniž o tom věděli
Chytrá elektronika už dávno nesleduje pouze počet kroků nebo srdeční tep. Některé nositelné přístroje dokážou zaznamenávat také elektrickou aktivitu lidského mozku a využívat ji k vyhodnocování spánku, soustředění nebo relaxace. Zákazník si takové zařízení pořídí kvůli lepšímu přehledu o vlastním zdraví. Jeho naměřené hodnoty však mohou posloužit ještě někomu jinému. Výrobcům, kteří pomocí těchto záznamů trénují umělou inteligenci.
Rozsah tohoto využívání odhalilo rozsáhlé vyšetřování vědeckého časopisu Science ve spolupráci s Pulitzer Center a jeho iniciativou AI Accountability Network. Novináři prověřovali přístup 57 společností nabízejících spotřebitelské neurotechnologie. Zjistili, že firmy v tomto odvětví nashromáždily desítky milionů hodin záznamů mozkové aktivity, zatímco některé z nich využití dat při trénování AI ve svých zásadách ochrany soukromí výslovně neuváděly. Inside BCI+1
Konkrétním příkladem je kanadská společnost Interaxon, výrobce čelenek Muse určených pro sledování spánku a meditaci. Podle informací, které poskytla časopisu Science, již k trénování svého modelu umělé inteligence využila přibližně 50 000 hodin EEG záznamů získaných od uživatelů. Společnost tvrdí, že před použitím odstraňuje identifikační údaje, například jména nebo e-mailové adresy.
Problém je v tom, že její tehdejší zásady ochrany soukromí výslovně neuváděly, že záznamy mozkové aktivity mohou sloužit k trénování základních modelů AI. Interaxon příslušné znění upravil až po dotazech investigativních novinářů. Marketingová ředitelka Nadia Kumentas následně uznala, že uživatelé by měli být o takovém využívání výslovně informováni.
Podobnou technologii vyvíjí také společnost Emotiv. Její projekt Large Brain Model pracuje mimo jiné s daty získanými prostřednictvím pokročilejších EEG zařízení. Také Emotiv po novinářských dotazech aktualizoval své zásady ochrany osobních údajů. V současné podobě uvádějí, že použití pseudonymizovaných mozkových dat pro trénování modelu podléhá výslovnému souhlasu uživatele. id.emotiv.com+1
AI vám zatím myšlenky nečte. Problém s daty je přesto vážný
Elektroencefalografie neboli EEG zaznamenává prostřednictvím elektrod změny elektrického napětí na povrchu hlavy. Přístroj tak dokáže zachytit určité vzorce mozkové aktivity a software z nich může vyhodnotit například fáze spánku. Nejde ovšem o technologii, která by dokázala automaticky přečíst konkrétní myšlenky svého uživatele.
Běžná nositelná zařízení navíc používají podstatně méně elektrod než nemocniční EEG vyšetření. Jejich záznamy proto nejsou stejně podrobné. Ani to však neznamená, že nemají hodnotu. Právě velké množství relativně jednoduchých měření umožňuje vývojářům hledat opakující se vzorce v elektrické aktivitě lidského mozku.
Foto: Magnific
Takzvané brain foundation models fungují na podobném principu obecného trénování jako jiné velké modely umělé inteligence. Namísto textových dokumentů ale zpracovávají neurologické signály. Po natrénování je možné model dále přizpůsobovat konkrétním úlohám, například rozpoznávání spánkových fází nebo analýze neurologických abnormalit.
Výzkum přitom může přinášet skutečný zdravotnický užitek. Společnost Piramidal ve spolupráci s Cleveland Clinic využila více než čtyři miliony hodin EEG dat pro vývoj modelu. Systém určený k rozpoznávání epileptických záchvatů podle zveřejněných informací v pilotním ověření identifikoval přibližně devět z deseti záchvatů. Jde však o předběžný výsledek, nikoliv důkaz, že by obdobně fungovala každá spotřebitelská čelenka.
Zásadní otázka proto nespočívá v tom, zda je využívání těchto dat pro vývoj AI samo o sobě špatné. Podstatné je, zda zákazník věděl, k čemu všemu budou jeho neurologické záznamy využity, a zda měl možnost takové použití samostatně přijmout nebo odmítnout.
Vyšetřování Science upozornilo i na další slabinu. Více než dvě třetiny prověřovaných společností ve svých pravidlech výslovně připouštěly předání dat novému vlastníkovi v případě prodeje nebo převzetí firmy. Záznamy nasbírané prostřednictvím spotřebitelských zařízení se tak mohou stát součástí mnohem větší obchodní transakce, aniž by zákazník původně počítal s tím, kdo k nim jednou získá přístup. Inside BCI+1
Co může udělat samotný uživatel
Majitelé EEG čelenek by si měli ověřit především to, zda výrobce ukládá surové záznamy mozkové aktivity, zda je používá k trénování modelů umělé inteligence a zda lze takové zpracování samostatně odmítnout. Důležité je také rozlišovat mezi účastí na dobrovolném výzkumu třetích stran a interním využitím dat samotným výrobcem.
Například aktuální zásady společnosti Interaxon již výslovně uvádějí využívání dat zbavených identifikačních údajů pro zlepšování algoritmů a trénování základních modelů AI. Zároveň připouštějí další využívání takto upravených a agregovaných informací i po odstranění některých osobních údajů. Muse: the brain sensing headband+1
Uživatelé v Evropské unii mají díky GDPR silnější právní ochranu osobních údajů. To ale neznamená, že každý anonymizovaný neurologický záznam automaticky spadá pod stejná pravidla jako identifikovatelné zdravotní údaje. Rozhodující je mimo jiné možnost přiřazení dat ke konkrétní osobě, skutečný způsob anonymizace a právní základ zpracování.
Další komplikací je samotné trénování AI. Jakmile se informace promítnou do parametrů natrénovaného modelu, jejich následné odstranění nemusí být jednoduché. Smazání uživatelského účtu nebo původních záznamů proto automaticky nezaručuje, že se podaří odstranit i jejich vliv na již vytvořený model.
Zdroje
- Science, původní investigativní zjištění ze 4. listopadu 2026:
https://www.science.org/content/article/wearable-device-makers-are-harvesting-brain-data-train-ai-without-telling-users