Foto: Freepik
Nyní ale přišla překvapivá zpráva, že Google se rozhodl zastavit integraci Gemini AI do vyhledávače kvůli historicky nepřesné interpretaci některých faktů a obrázků. Například generuje nacisty s různou barvou pleti nebo středověké britské krále různých národností.
Odborníkům vadí prý to, že to může vymazat historii rasové a genderové diskriminace. V tuto chvíli se vede debata, zda jsou tyto nepřesnosti cílené nebo náhodné. Není to poprvé, co má podobná technologie takovéto problémy. Již v roce 2022 se s něčím podobným potýkal i model DALL-E 2 od OpenAI.
Foto: Freepik
Ten pro změnu generoval rasistické nebo sexistické obrázky. Tato epizoda ukazuje, jakým obtížím mohou výzkumníci AI čelit při pokusu o vyvážený přístup k problematice rozmanitosti. Rozdílné politické a kulturní přístupy vedou k různým očekáváním vůči výstupům umělé inteligence. Není jednoduché poskytnout model AI, který by uspokojil všechny tyto požadavky.
Yann LeCun, hlavní vědec Meta’s AI, zdůraznil potřebu různorodých asistentů AI, které budou odražovat rozmanitost uživatelů z celého světa. Proces přizpůsobení se bude pravděpodobně opakovat a vyžadovat čas. Klíčem k úspěchu bude schopnost reagovat na zpětnou vazbu a iterovat nad systémem, aby lépe reflektoval potřeby a očekávání uživatelů.
Zdroj: ArsTechnica.com (odkaz)
