• Sun. Nov 28th, 2021

PDF2DOCXFREE

Enkelt kan vara svårare än komplext

Facebook ber om ursäkt efter att AI sätter ‘Primates’ etikett på video av svarta män

Byadmin

Sep 3, 2021

Facebook-användare som nyligen tittade på en video från en brittisk tabloid med svarta män såg en automatiserad prompt från det sociala nätverket som frågade om de skulle vilja fortsätta se videor om Primates, vilket fick företaget att undersöka och inaktivera den artificiella intelligens-drivna funktionen som drev budskapet.

Facebook på fredagen bad om ursäkt för vad det kallade “ett oacceptabelt fel” och sa att det undersökte rekommendationsfunktionen för att “förhindra att detta händer igen.”

Videon, daterad den 27 juni 2020, var av The Daily Mail och innehöll klipp av svarta män i bråk med vita civila och poliser. Det hade ingen koppling till apor eller primater.

Darci Groves, en tidigare content design manager på det sociala nätverket, sa att en vän nyligen hade skickat henne en skärmdump av prompten. Hon lade sedan upp det på ett produktfeedbackforum för nuvarande och tidigare Facebook -anställda. Som svar kallade en produktchef för Facebook Watch, företagets videotjänst, det “oacceptabelt” och sa att företaget “undersöker grundorsaken.”

Fru Groves sa att uppmaningen var “skrämmande och fruktansvärd”.

Dani Lever, en taleskvinna för Facebook, sa i ett uttalande: ”Som vi har sagt, medan vi har gjort förbättringar av vår AI, vet vi att det inte är perfekt, och vi har fler framsteg att göra. Vi ber om ursäkt till alla som kan ha sett dessa kränkande rekommendationer. ”

Google, Amazon och andra teknikföretag har granskats i åratal för fördomar inom sina artificiella intelligenssystem, särskilt kring rasfrågor. Studier ha visad att teknik för ansiktsigenkänning är partisk mot färgade människor och har svårare att identifiera dem, vilket leder till incidenter där svarta människor har blivit diskriminerade eller greps på grund av datorfel.

Kreditera…

I ett exempel 2015, Google Foto felaktigt betecknade bilder av svarta människor som “gorillor”, som sökjätten sa att det var “verkligen ledsen” och skulle arbeta för att åtgärda problemet omedelbart. Mer än två år senare, Trådbunden fann att Googles lösning var att censurera ordet “gorilla” från sökningar, samtidigt som det blockerade “schimpans”, “schimpans” och “apa”.

Facebook har ett av världens största arkiv med bilder som laddas upp av användare för att träna sina ansikts- och objektigenkänningsalgoritmer. Företaget, som skräddarsyr innehåll till användare baserat på deras tidigare surf- och visningsvanor, frågar ibland människor om de vill fortsätta se inlägg under relaterade kategorier. Det var oklart om meddelanden som “primaterna” var utbredda.

Facebook och Instagram, dess bilddelningsapp, har kämpade med andra frågor relaterade till ras. Efter juli -EM i fotboll, till exempel, misshandlades tre svarta medlemmar i Englands fotbollslandslag rasistiskt på det sociala nätverket för att de saknade straffsparkar i mästerskapsspelet.

Rasfrågor har också orsakat interna stridigheter på Facebook. 2016, Mark Zuckerberg, verkställande direktören, frågade medarbetarna att sluta stryka ut frasen “Black Lives Matter” och ersätta den med “All Lives Matter” i ett gemensamt utrymme i företagets Menlo Park, Kalifornien, huvudkontor. Hundratals anställda också arrangerade en virtuell walkout förra året för att protestera mot företagets hantering av ett inlägg från president Donald J. Trump om dödandet av George Floyd i Minneapolis.

Företaget anlitade senare en vice president för medborgerliga rättigheter och släpptes en granskning av medborgerliga rättigheter. I en årlig mångfaldsrapport i juli sa Facebook att 4,4 procent av sina anställda i USA var svarta, jämfört med 3,9 procent året innan.

Fru Groves, som lämnade Facebook under sommaren efter fyra år, sa i en intervju att det har förekommit en rad misstag i företaget som tyder på att dess ledare inte prioriterar sätt att hantera rasproblem.

“Facebook kan inte fortsätta göra dessa misstag och sedan säga” jag är ledsen “, sa hon.

Leave a Reply

Your email address will not be published. Required fields are marked *