Facebook przyznał, że jego sztuczna inteligencja błędnie określająca czarnoskórych mężczyzn na wideo jako „naczelnych” jest „nie do zaakceptowania”. Platforma wyłączyła funkcję rekomendacji tematów.
Facebook przeprosił za incydent, do którego doszło jakiś czas temu. Stosowana przez platformę sztuczna inteligencja błędnie oznaczyła film przedstawiający czarnoskórych mężczyzn etykietą „naczelnych”.
Jak donosi "New York Times", na łamach którego Facebook opublikował przeprosiny w związku z zaistniałą sytuacją, użytkownicy, którzy obejrzeli film opublikowany przez brytyjski tabloid "Daily Mail", otrzymali automatyczne pytanie, czy chcą „oglądać filmy o naczelnych”.
"To był błąd"
Facebook wyłączył całą funkcję rekomendacji tematów, gdy tylko zorientował się, co się dzieje. - To był wyraźnie niedopuszczalny błąd - powiedział rzecznik Facebooka.
Platforma bada przyczynę tego incydentu, aby zapobiec podobnym zdarzeniom. - Jak już powiedzieliśmy, chociaż wprowadziliśmy ulepszenia w naszej sztucznej inteligencji, wiemy, że nie jest ona idealna. Przepraszamy każdego, kto mógł zobaczyć te obraźliwe rekomendacje - informuje rzecznik.
W kwietniu amerykańska Federalna Komisja Handlu ostrzegła, że narzędzia sztucznej inteligencji, które wykazały „kłopotliwe” uprzedzenia rasowe i płciowe, mogą naruszać przepisy dotyczące ochrony konsumentów, jeśli są wykorzystywane do podejmowania decyzji dotyczących kredytów, mieszkań lub zatrudnienia. „Bądź odpowiedzialny - lub przygotuj się na to, że FTC zrobi to za ciebie” - napisała prawniczka FTC ds. prywatności Elisa Jillson w poście na stronie internetowej agencji.
Uprzedzenia związane z płcią i rasą w sztucznej inteligencji nie są problemem występującym wyłącznie w sieciach społecznościowych - technologie rozpoznawania twarzy wciąż są dalekie od doskonałości i mają tendencję do błędnej identyfikacji POC i ogólnie kobiet. W zeszłym roku fałszywe dopasowania rozpoznawania twarzy doprowadziły do bezprawnego aresztowania dwóch czarnoskórych mężczyzn w Detroit. W 2015 roku zdjęcia Google oznaczyły zdjęcia czarnoskórych osób jako „goryle”.
