„Nemurirea digitala”. Invierea digitala a mortilor cu ajutorul AI ridica preocupari etice

Progresele AI deschid calea pentru o noua oportunitate de reconectare cu cei dragi care au murit, dar expertii isi exprima ingrijorarea cu privire la potentialul impact psihologic si provocarile etice legate de aceste evolutii, relateaza Interesting Engineering.

Cercetatorii de la Leverhulme Center for the Future of Intelligence (LCFI) de la Universitatea Cambridge descriu modurile posibile prin care platformele de interactiune cu oamenii morti ar putea fi realizate ca parte a „industriei digitale”.

Dr. Katarzyna Nowaczyk-Basinska, cercetator la LCFI si coautor al studiului, a spus: „Progresele rapide in IA generativa inseamna ca aproape oricine are acces la Internet si cunostinte de baza poate readuce la viata o persoana iubita decedata”.

Ascensiunea „Deadbots”

Numiti „Deadbots” sau „Griefbots”, acesti chatbot AI recreeaza modelele de limbaj si personalitatile decedatilor folosind amprentele lor digitale. In timp ce unele companii ofera aceste servicii ca „prezenta post-mortem”, cercetatorii evidentiaza riscuri semnificative daca standardele de siguranta sunt neglijate.

Aceste tehnologii ii pot mangaia pe cei indoliati, dar ar putea, de asemenea, sa afiseze reclame ca si cum ar fi de la decedat si sa-i faca pe oameni sa simta ca sunt „panditi de morti” digital.

Consecinte neprevazute: cazul „MaNana”

Studiul subliniaza un alt scenariu in care un serviciu numit „MaNana” a permis utilizatorului sa creeze o versiune digitala a bunicii lor decedate fara consimtamantul acesteia. Initial, multumit, un nepot si-a gasit mangaiere in interactiunea cu deadbot-ul.

Cu toate acestea, dupa o vreme, rudele au primit reclame, cum ar fi livrarea de mancare, care imita vocea si manierele persoanei iubite decedate.

Invocand lipsa de respect, ruda a vrut sa inchida robotul mort pentru a nu fi atinsa memoria bunicii lor, dar furnizorii de servicii nu au oferit o modalitate de a face acest lucru.

Dr. Tomasz Hollanek, coautor al studiului, tot de la LCFI din Cambridge, subliniaza importanta implementarii protocoalelor de proiectare pentru a preveni utilizarea nerespectuoasa a deadbots.

„Ar trebui luate in considerare metodele si chiar ritualurile pentru retragerea deadbots intr-un mod demn. Aceasta poate insemna o forma de inmormantare digitala, de exemplu, sau alte tipuri de ceremonie, in functie de contextul social”, a spus el.

„Recomandam protocoale de proiectare care impiedica utilizarea deadbots in moduri nerespectuoase, cum ar fi pentru publicitate sau pentru a avea o prezenta activa pe retelele sociale”, a mai spus el.

„Este vital ca serviciile digitale ale vietii de apoi sa ia in considerare drepturile si consimtamantul nu doar al celor pe care ii recreeaza, ci si al celor care vor trebui sa interactioneze cu simularile”, a spus Hollanek.

Cererea de replici AI ale celor dragi decedati este in crestere in China. Companii precum Silicon Intelligence si Super Brain ofera servicii pentru a recrea avatare digitale folosind fotografii, videoclipuri si inregistrari audio, conform unui raport publicat de Massachusetts Institute of Technology (MIT).

Costul, odata la cateva mii, este acum la indemana multora la doar cateva sute de dolari, deschizand usa pentru ca mai multi sa ia in considerare „nemurirea digitala” pentru cei dragi.

Ca si in cazul tuturor tehnologiilor noi, exista chestiuni etice si legale importante de luat in considerare, cum ar fi consimtamantul, responsabilitatea si limitele de replicare a AI. Companii precum Super Brain si Silicon Intelligence au nevoie de permisiunea membrilor familiei pentru a face aceste copii digitale.