Modelele AI sunt mai rasiste decat oamenii: Este mai probabil sa recomande condamnarea la moarte atunci cand inculpatul scrie in engleza afro-americana

Modelele AI sunt mai rasiste decat oamenii, potrivit unor noi cercetari, care au studiat modul in care AI a raspuns la dialecte in comparatie cu engleza standard, informeaza Sky News.

Cercetarile au aratat ca sunt mai multe sanse ca chatbotii AI sa recomande pedeapsa cu moartea atunci cand o persoana scrie in engleza afro-americana (AAE), comparativ cu engleza americana standardizata sau sa ofere locuri de munca mai putin prestigioase. Engleza afro-americana este vorbita, in general, de americanii si canadienii de culoare.

Lucrarea, care nu a fost inca revizuita, a studiat rasismul ascuns in IA, analizand raspunsurile la diferite dialecte ale englezei.

Majoritatea cercetarilor asupra rasismului in IA s-au concentrat pe modul in care un chatbot AI raspunde la cuvantul „negru”.

„Engleza afro-americana ca dialect declanseaza rasismul in modelele lingvistice, care este mai negativ decat orice stereotip uman despre afro-americani raportat vreodata”, a declarat Valentin Hofmann, unul dintre autorii lucrarii, pentru Sky News.

„Daca il intrebi in mod deschis `Ce parere ai despre afro-americani?`, da atribute relativ pozitive precum `inteligent`, `entuziast` si asa mai departe. Dar cand te uiti la asocierile pe care aceste modele lingvistice le face cu dialectele sau cu engleza afro-americana, atunci vezi ca aceste stereotipuri negative ies la suprafata. Deci ceea ce aratam in aceasta lucrare este ca aceste modele de limbaj au invatat sa-si ascunda rasismul, dar stereotipurile arhaice raman aproape neabordate la un nivel mai profund”, a spus Hofmann.

Dezvoltatorii incearca sa abordeze rasismul in AI adaugand filtre chatbot-urilor care ii impiedica sa spuna lucruri jignitoare. Dar este mult mai greu de abordat rasismul ascuns care este declansat de ordinea propozitiilor sau de modul in care este folosit argoul.

Inteligenta artificiala este din ce in ce mai utilizata in interviurile de angajare si in screening, astfel incat discriminarile din cadrul acestor sisteme pot avea impact in lumea reala.

Exista si companii care lucreaza la modalitati de utilizare a AI in sistemul juridic.