3. července 2015 18:00 Lidovky.cz > Byznys > Média

Problém Googlu a Flickru. Fotografie černochů ‚nálepkují‘ rasistickým výrazem

  • Poslat
  • Tisk
  • Redakce
  • 0Diskuse
Nová fotoslužba od Googlu zařadila kamarádku Jackyho Alciné do kategorie gorily. | na serveru Lidovky.cz | aktuální zprávy Nová fotoslužba od Googlu zařadila kamarádku Jackyho Alciné do kategorie gorily. | foto: TwitterReprofoto
PRAHA „Moje kamarádka není gorila,“ postěžoval si na Twitteru Jacky Alciné. Rozpoznávače tváří služeb jako je Google nebo Flickr mají problém, když se ze špatně rozpoznaných obrázků stanou rasistické urážky. Obě firmy na zlepšení pracují. Flickr dokonce slova jako „opice“ nebo „zvířata“ prozatím úplně stáhl.

Nová služba na rozpoznávání jevů od Googlu funguje neuvěřitelně dobře: pozná Eiffelovu věž i různé rasy psů. Přesto ztroskotává na zdánlivě jednoduchém úkolu - identifikovat lidi, píše německý server Zeit

U obrázků Jackyho Alciné nabízí rozpoznávač slovo „gorily“. Vzhledem k tomu, že jsou Alciné i jeho přátelé tmavé pleti, zapůsobilo rozřazení jako rasistická urážka. Případ vyvolal v kruzích společnosti Google nevídanou reakci. Krátce poté, co se Alciné rozhořčil na sociální síti, odpověděl mu inženýr z Googlu Yonatan Zunger: „Ježíši, tohle je samozřejmě špatně.“ Problém prý předal technikům.

Jen o den později se Zunger přihlásil Alcinému znovu a ptal se, zda už nechtěné slovo zmizelo. Sice ne ve všech případech, ale oba muži zůstávají v kontaktu, aby na problému pracovali společně.

Google Fotos ovšem není jediná platforma, jejíž označování v určitých případech chybuje. Před pár týdny představila podobnou službu platforma Flickr. Netrvalo dlouho a první stížnosti byly na světě: mnoho lidí bylo označeno jako „opice“ nebo „zvířata“ a opět se jednalo zejména o lidi tmavé pleti. Flickr proto tato slova úplně stáhl a slíbil, že službu zdokonalí. 

„Počítače stále tak dobře nerozumí vztahům u obrázků lidí,“ říká Thomas Brox z Katedry rozpoznávání vzorců a zpracování obrazů na Univerzitě ve Freiburku. Algoritmy jsou sice testovány na milionech jednotlivých obrázků a stále se zlepšují, ale při takto komplexních úkolech se chybám nelze vyhnout, přiznává akademik. 

Rasistické algoritmy?

Algoritmy služeb jako je Google nebo Flickr se živí tím, jak lidé na výsledky jejich vyhledávání a rozpoznávání reagují. Pokud tedy uživatelé ohodnotí chybný výsledek  svým kliknutím, služba si to vyloží pozitivně.

„Chybou byl prostě stroj, který má problém s učením,“ shrnul nešťasné označení Alciného fotografií Zunger z Googlu. Podobné chyby se objevují pravidelně: zpočátku měl například software problém s tím, že bílé děti označil jako tuleně.

Hlavní potíž aktuálního případu spočívá v tom, že algoritmus neznal rasistické konotace se slovem gorila. Čím více budou uživatelé chyby hlásit, tím lépe bude v budoucnu systém fungovat. Algoritmu se jinak bude muset cíleně vštípit rozdíl mezi lidmi a gorilami, uzavírá Brox.

shoŠárka Holanová
  • 0Diskuse




REGISTRACE NA SERVERU LIDOVKY.CZ, NEVIDITELNÉM PSU A ČESKÉ POZICI

SMS Registrace

Diskuse LN jsou pouze pro diskutéry, kteří se vyjadřují slušně a neporušují zákon ani dobré mravy. Registrace je platná i pro servery Neviditelný pes a Česká pozice. více Přestupek znamená vyřazení Vašeho telefonního čísla z registrace a vyřazený diskutér se již nemůže přihlásit ani registrovat pod stejným tel. číslem. Chráníme tak naše čtenáře a otevíráme prostor pro kultivovanou diskusi.
Viz Pravidla diskusí. schovat

Jak postupovat

1. Zašlete SMS ve tvaru LIDOVKY REG na číslo 900 11 07. Cena SMS za registraci je 7 Kč. Přijde Vám potvrzující SMS s heslem.

2. Vyplňte fomulář, po odeslání registrace můžete ihned diskutovat

Tel. číslo = login,
formát "+420 xxx xxx xxx"
Kód ze SMS je rovněž heslo
Vaše příspěvky budou označeny Vaším jménem, např. K. Novák.
* Nepovinný.
Odesláním souhlasíte s Pravidly diskusí.

Najdete na Lidovky.cz