„Proiectul Q”, descoperirea care ar ameninta omenirea. Cercetatorii OpenAI avertizeaza ca vine AGI, inteligenta artificiala care depaseste inteligenta umana
Mai multi cercetatori de la OpenAI au trimis o scrisoare consiliului de administratie, cu putin timp inainte de demiterea lui Sam Altman din functia de director general, in care avertizau cu privire la o descoperire revolutionara legata de inteligenta artificiala care, in opinia lor, ar putea ameninta omenirea, transmite agentia de presa Reuters, citata de El Pais.
Cercetatorii ar fi avertizat cu privire la o descoperire revolutionara legata de inteligenta artificiala care, in opinia lor, ar putea ameninta omenirea. Nu este clar ce rol a jucat scrisoarea in concedierea lui Altman. Surse citate de Reuters au descris-o ca fiind decisiva.
In ajunul plecarii sale subite, Altman a luat cuvantul la o conferinta a directorilor din domeniul tehnologiei, organizata in paralel cu recentul summit al Cooperarii Economice Asia-Pacific (APEC) de la San Francisco.
„De patru ori in istoria OpenAI, cea mai recenta data a fost chiar in ultimele doua saptamani, am reusit sa ma aflu in sala, atunci cand impingem intr-un fel valul ignorantei inapoi si frontiera descoperirii inainte, iar faptul de a face acest lucru este onoarea profesionala a unei vieti”, a spus el. In principiu, nu s-a acordat o importanta deosebita acestui comentariu si nici nu se stie despre ce evolutii specifice vorbea.
Potrivit The Information, unii angajati ai OpenAI cred ca vorbele lui Altman faceau aluzie la o inovatie facuta de cercetatorii companiei la inceputul acestui an, care le-ar permite sa dezvolte modele de inteligenta artificiala mult mai puternice, potrivit unei persoane familiarizate cu acest subiect. Descoperirea tehnica, condusa de cercetatorul sef al OpenAI, Ilya Sutskever, a starnit ingrijorari in randul unor angajati cu privire la faptul ca firma nu avea masuri de protectie adecvate pentru a comercializa astfel de modele avansate de inteligenta artificiala.
Potrivit uneia dintre surse, Mira Murati, membra a consiliului de administratie, aleasa initial ca inlocuitor interimar al lui Altman, a mentionat miercuri angajatilor proiectul, numit Q*, si a spus ca scrisoarea a fost trimisa consiliului inainte de concedierea lui Altman. Insa mai apoi, Altman a fost repus in functie din cauza presiunii exercitate de angajati si investitori.
Un purtator de cuvant al OpenAI a declarat pentru Reuters ca Murati i-a informat pe angajati despre ceea ce urma sa publice presa, dar nu a comentat cu privire la acuratetea informatiilor. Potrivit Reuters, compania a recunoscut intr-un mesaj intern adresat angajatilor existenta unui proiect numit Q*, despre care unii cred ca ar putea fi o descoperire in cautarea AGI (artificial general intelligence), care depaseste inteligenta umana. Cu toate acestea, alte surse familiare cu proiectul Q* nu au considerat ca acesta reprezinta un progres revolutionar.
Cercetatorii considera ca matematica este frontiera dezvoltarii AI generative. In prezent, IA generativa este buna la scrierea si traducerea limbilor prin prezicerea statistica a urmatorului cuvant, asa cum face ChatGPT. Dar raspunsurile la aceeasi intrebare pot varia foarte mult. Dobandirea capacitatii de a face calcule matematice in care exista un singur raspuns corect implica faptul ca IA ar avea o capacitate de rationament mai mare, care ar semana cu inteligenta umana. Acest lucru s-ar putea aplica, de exemplu, la noi cercetari stiintifice, considera cercetatorii in domeniul IA.
Potrivit Reuters, in scrisoarea adresata consiliului de administratie, cercetatorii au subliniat abilitatile inteligentei artificiale si potentialele sale pericole. Informaticienii dezbat de mult timp despre pericolele pe care le reprezinta masinile superinteligente, in cazul in care acestea din urma ar stabili, de exemplu, ca este in interesul lor sa distruga omenirea.
