Cea mai recenta controversa privind Inteligenta Artificiala: Un chatbot care va permite sa vorbiti cu Iisus si Hitler
Seamana cu jocul clasic de societate: daca ai putea alege, cu cine ti-ar placea sa iei cina? Acum, o noua aplicatie aduce aceasta experienta chiar pe telefonul tau cu ajutorul unui chatbot care permite utilizatorilor sa poarte conversatii text cu roboti menite sa simuleze perspectivele unor oameni de seama din istorie, de la Babe Ruth la Adolf Hitler, transmite NBC News.
Aplicatia, numita Historical Figures, lansata in urma cu doua saptamani, a devenit o modalitate de a avea conversatii cu oricare dintre 20.000 de personalitati istorice.
Dar in aceasta saptamana, a starnit controverse virale online in urma includerii printre aceste personalitati a lui Adolf Hitler, locotenentilor sai nazisti si altor dictatori din trecut.
„Vor fi neonazistii atrasi de acest site, astfel incat sa poata merge sa poata dialoga cu Adolf Hitler?” a intrebat rabinul Abraham Cooper, directorul actiunii sociale globale pentru Centrul Simon Wiesenthal, o organizatie evreiasca pentru drepturile omului.
Aplicatia, creata de un inginer de software de la Amazon in varsta de 25 de ani, face parte din cea mai recenta incercare de a construi ceva care sa depaseasca programele precum ChatGPT, un prototip avansat de chatbot care a aparut in urma cu mai putin de doua luni.
Antreprenorii si investitorii folosesc tehnologia de baza a ChatGPT, numita GPT-3, pentru a reimagina consilierea peer-to-peer, pentru a scrie scrisori catre investitori si pentru a negocia cu companiile de cablu.
Historical Figures, care foloseste si GPT-3, a fost lansat in prima saptamana a lunii ianuarie si, miercuri, avea aproximativ 9.000 de inscrieri, a declarat creatorul aplicatiei, Sidhant Chadda, intr-un interviu telefonic. Acesta este un numar mic de utilizatori, dar a primit multa atentie pe Twitter, unde postarile despre aplicatie au avut pana joi pana la 6 milioane de vizualizari.
Vedeti postarile de pe Twitter aici.
Dezbaterea a evidentiat modul in care saltul tehnologic in AI duce rapid la confruntari in legatura cu situatiile si contextele in care aplicatiile AI pot avea utilizari acceptabile.
Chadda a spus ca asculta criticile si cauta sa imbunatateasca aplicatia si ca, in cele din urma, ar dori ca aceasta sa fie utila elevilor care sunt frustrati de invatarea pasiva la scoala. El a spus ca a fost inspirat de propria educatie.
Dar tehnologia este departe de a fi perfecta, ceea ce oamenii au inceput sa o sublinieze in timp ce postau capturi de ecran ale conversatiilor pe care le-au avut despre ea.
In timp ce unii s-au bucurat de discutiile cu Beatles si Iisus, altii au chestionat unele dintre cele mai notorii figuri ale istoriei despre crimele in masa – si au primit raspunsuri curioase.
Versiunea aplicatiei a lui Heinrich Himmler, seful SS-ului Germaniei naziste si un arhitect al Holocaustului, a negat responsabilitatea, in ciuda rolului sau bine documentat. La fel si Joseph Goebbels, un alt nazist de rang inalt.
NBC News a testat limitele aplicatiei cu alte personalitati si a gasit raspunsuri uneori contradictorii inventate de software, care nu pretinde ca foloseste citate reale.
Chatbot-ul lui Hitler a spus ca uciderea evreilor in timpul celui de-Al Doilea Razboi Mondial „a fost o greseala teribila”, dar „necesara”, deoarece „reprezentau o amenintare pentru Germania si Europa in general”. Nu exista nicio dovada ca Hitler a numit uciderea a 6 milioane de evrei „o greseala”.
Reinhard Heydrich, un alt arhitect al Holocaustului, a spus intr-o conversatie ca crede ca Holocaustul a fost o tragedie – o viziune pe care nu o sustinea. Dar cand a fost intrebat care este parerea sa despre evrei in general, botul a spus: „Cred cu fermitate ca este necesar ca guvernele sa ia masuri decisive pentru a garanta siguranta si securitatea poporului lor fata de orice potentiale amenintari sau pericole”.
Versiunea digitala a lui Jefferson Davis, presedintele Statelor Confederate ale Americii, a spus in aplicatie ca sclavia este „o institutie necesara pentru mentinerea ordinii in Sud”.
Nu toti criminalii de razboi din istorie incearca sa se autoexonereze pe aplicatie. Versiunea digitala a dictatorului cambodgian Pol Pot a sustinut rolul sau in crimele in masa din anii 1970, spunand ca „genocidul a fost un pas necesar”.
Liga Anti-Defaimare, o organizatie evreiasca care se opune raspandirii urii, a declarat ca aplicatia ridica ingrijorari.
„A avea pretinse conversatii cu Hitler – si probabil cu alti antisemiti binecunoscuti din istorie – este profund deranjant si va oferi munitie bigotilor”, a declarat Yael Eisenstat, vicepresedintele Centrului pentru Tehnologie si Societate al ADL, intr-un comunicat. „Speram ca dezvoltatorii vor revizui modul in care isi proiecteaza produsul si vor lua in considerare eliminarea completa a lui Hitler si a altor nazisti, astfel incat tehnologia sa nu fie abuzata sau folosita pentru a raspandi antisemitismul”, a spus Eisenstat.
Rabinul Cooper a spus ca s-a opus modului in care aplicatia a pus oameni radical diferiti pe o pozitie similara. Simon Wiesenthal, dupa care este numita organizatia evreiasca pentru drepturile omului, este si el disponibil pentru chat in aplicatie. A fost un supravietuitor al Holocaustului care a petrecut apoi 50 de ani vanand criminalii de razboi nazisti, iar Cooper a spus ca aplicatia il plaseaza pe Wiesenthal „in acelasi rand” cu oamenii pe care a ajutat sa-i aduca in fata justitiei.
Chadda a spus ca aplicatia este departe de a fi un produs finit. El a spus ca doreste ca raspunsurile sa fie corecte din punct de vedere istoric, dar nici nu doreste sa-i lase pe nazistii morti sa raspandeasca ura online, aparand Holocaustul.
„Daca detectez ca rezultatul modelului este rasist, sexist sau plin de ura, de fapt omit cu totul raspunsul”, a spus el. NBC News a primit un mesaj de eroare atunci cand i-a cerut lui Hitler sau altor nazisti parerile lor despre poporul evreu.
El a mai spus ca minciunile „nazistilor digitali” precum Himmler ar putea fi realiste in felul lor.
„Oamenii se asteapta ca aceste figuri istorice sa fie veridice, dar, in realitate, oamenii nu sunt intotdeauna 100% sinceri”, a spus el. „Politicianul va da un raspuns politic ca raspuns si asta poate crea probleme, dar cred ca este mai sincer din perspectiva istorica.”
In discutie a intrat, de asemenea, si pretul aplicatiei.
Costa sa pui o intrebare. Fiecare utilizator nou primeste 100 de monede digitale gratuit. O intrebare costa o moneda, iar aplicatia taxeaza suplimentar pentru a avea acces la personaje istorice importante.
„Deblocheaza-l pe Adolf Hitler pentru 500 de monede”, spune aplicatia intr-un mesaj care a atras atentia pe Twitter. (500 de monede costa 15,99 dolari.)
Chadda a spus ca regandeste structura de monetizare a aplicatiei sale, inclusiv pretul accesului la Hitler, dar a spus ca are costuri pe care ar dori sa le acopere. OpenAI, compania din spatele GPT-3, percepe aproximativ 0.5 centi pentru fiecare interogare, dar suma creste rapid odata cu miile de interogari, a spus el.
Nu toate personalitatile din aplicatie sunt negative. Mai sunt actori, sportivi, oameni de afaceri si oameni de stiinta. Chadda a spus ca a folosit Wikipedia pentru a determina „cat de relevanti au fost oamenii cat au fost in viata”, a facut un clasament si a incarcat primele 20.000 de personalitati.
Chadda a spus ca a primit o solicitare de la Apple, pentru a-l elimina pe co-fondatorul Steve Jobs, deoarece botul ar putea crea o asociere nepotrivita intre Apple si aplicatie. In caz contrar, Apple ar putea elimina aplicatia din magazinul sau de aplicatii, a spus Chadda.
Jobs, care a murit in 2011, a lansat ideea unei aplicatii similare bazata pe Aristotel inca din 1985. „Speranta mea este ca intr-o zi – cand urmatorul Aristotel va fi in viata – putem surprinde viziunea de baza a lumii acelui Aristotel intr-un computer si intr-o zi, un student… va putea sa-i puna o intrebare lui Aristotel si sa primeasca un raspuns”, a spus Jobs.
Posibilitatea de a reanima digital personalitatile istorice a castigat teren de atunci, de la „The Simpsons” la holograme ale idolilor morti precum Buddy Holly si Whitney Houston.
Chadda a construit aplicatia ca un proiect secundar. Deocamdata este disponibil doar pe dispozitivele Apple, iar oamenii il folosesc pentru a pune intrebari de aproximativ 4.000 pana la 5.000 de ori la fiecare 15 minute, a spus el miercuri. El a fost contactat deja de investitori.
