Pátek 29. března 2024, svátek má Taťána
130 let

Lidovky.cz

Problém Googlu a Flickru. Fotografie černochů ‚nálepkují‘ rasistickým výrazem

Média

  18:00
PRAHA - „Moje kamarádka není gorila,“ postěžoval si na Twitteru Jacky Alciné. Rozpoznávače tváří služeb jako je Google nebo Flickr mají problém, když se ze špatně rozpoznaných obrázků stanou rasistické urážky. Obě firmy na zlepšení pracují. Flickr dokonce slova jako „opice“ nebo „zvířata“ prozatím úplně stáhl.

Nová fotoslužba od Googlu zařadila kamarádku Jackyho Alciné do kategorie gorily. foto: TwitterReprofoto

Nová služba na rozpoznávání jevů od Googlu funguje neuvěřitelně dobře: pozná Eiffelovu věž i různé rasy psů. Přesto ztroskotává na zdánlivě jednoduchém úkolu - identifikovat lidi, píše německý server Zeit

U obrázků Jackyho Alciné nabízí rozpoznávač slovo „gorily“. Vzhledem k tomu, že jsou Alciné i jeho přátelé tmavé pleti, zapůsobilo rozřazení jako rasistická urážka. Případ vyvolal v kruzích společnosti Google nevídanou reakci. Krátce poté, co se Alciné rozhořčil na sociální síti, odpověděl mu inženýr z Googlu Yonatan Zunger: „Ježíši, tohle je samozřejmě špatně.“ Problém prý předal technikům.

Jen o den později se Zunger přihlásil Alcinému znovu a ptal se, zda už nechtěné slovo zmizelo. Sice ne ve všech případech, ale oba muži zůstávají v kontaktu, aby na problému pracovali společně.

Google Fotos ovšem není jediná platforma, jejíž označování v určitých případech chybuje. Před pár týdny představila podobnou službu platforma Flickr. Netrvalo dlouho a první stížnosti byly na světě: mnoho lidí bylo označeno jako „opice“ nebo „zvířata“ a opět se jednalo zejména o lidi tmavé pleti. Flickr proto tato slova úplně stáhl a slíbil, že službu zdokonalí. 

„Počítače stále tak dobře nerozumí vztahům u obrázků lidí,“ říká Thomas Brox z Katedry rozpoznávání vzorců a zpracování obrazů na Univerzitě ve Freiburku. Algoritmy jsou sice testovány na milionech jednotlivých obrázků a stále se zlepšují, ale při takto komplexních úkolech se chybám nelze vyhnout, přiznává akademik. 

Rasistické algoritmy?

Algoritmy služeb jako je Google nebo Flickr se živí tím, jak lidé na výsledky jejich vyhledávání a rozpoznávání reagují. Pokud tedy uživatelé ohodnotí chybný výsledek  svým kliknutím, služba si to vyloží pozitivně.

„Chybou byl prostě stroj, který má problém s učením,“ shrnul nešťasné označení Alciného fotografií Zunger z Googlu. Podobné chyby se objevují pravidelně: zpočátku měl například software problém s tím, že bílé děti označil jako tuleně.

Hlavní potíž aktuálního případu spočívá v tom, že algoritmus neznal rasistické konotace se slovem gorila. Čím více budou uživatelé chyby hlásit, tím lépe bude v budoucnu systém fungovat. Algoritmu se jinak bude muset cíleně vštípit rozdíl mezi lidmi a gorilami, uzavírá Brox.

Autor: