IT pro Tebe

Umělá inteligence od Googlu je jako muži, hodnotí ženy podle vzhledu

Podle nejnovějších výsledků se zjistilo, že strojové učení od Googlu se chová stejně, jako muži. Výzkumný tým předložil AI pro rozpoznávání cloudových obrázků foto členů kongresu a umělá inteligence přidávala třikrát více komentářů k ženám týkající se jejich vzhledu, kdežto muže hodnotila dle charakteru.

Zdroj: Pixabay

Muži často hodnotí ženy podle jejich vzhledu. Ukázalo se ale, že to dělají i počítače. Když američtí a evropští vědci převáděli obrázky členů kongresu do služby rozpoznávání cloudových obrázků od Googlu, tak služba přidávala třikrát více komentářů týkajících se fyzického vzhledu právě ženám. Nejčastější komentáře u mužů byly „vedoucí pracovník“ a „podnikatel“, zatímco u žen to byly nejčastěji „úsměv“ a „brada“. 

Výsledkem je, že ženy mají stereotyp nižšího statusu a tedy že ženy jsou tu proto, aby byly hezké, zatímco muži jsou spíše obchodní lídři, říká Carsten Schwemmer, výzkumník z GESIS Leibnis institutu. Schwemmer a jeho kolegové začali službu od Googlu zkoumat blíže, aby odhalili vzorce toho, jak lidé používají obrázky k diskuzi o politice na internetu. Po tom, co pomohl odhalit předpojatost v obrázkové službě, byl přesvědčen, že tato technologie není připravena k firemnímu a věděckému využití, protože by mohla způsobit neblahé následky.

Zdroj

Jedním z přístupů k problému je pracovat na vylepšení výchozích dat, která mohou být hlavní příčinou neobjektivního úsudku strojového učení. Tým z Pricentonu pracuje na nástroji nazvaném REVISE, který dokáže automaticky označit některé předsudky implementované do sady obrázků a to i podle zeměpisných a genderových dat. Když vědci použili tento nástroj na kolekci Open Images s 9 miliony fotografiemi udržovanou společností Google, zjistili, že muži byli častěji označováni ve venkovních scénách a na sportovních hřištích než ženy.

Diagnostika a řešení nedostatků a předsudků v systémech AI(umělé inteligence) se v posledních letech stala horkým tématem výzkumu. Software AI je úzce zaměřen na vzory pixelů, což vytváří velký potenciál pro nedorozumění. Problém se stává stále naléhavějším, jelikož se algoritmy pro zpracování obrázků velmi rychle zlepšují.

Zdroje: ArsTechnica

Přidat na domovskou stránku Seznam.cz
ARCHIV