OpenAI anunta un nou consiliu care se va asigura ca Inteligenta Artificiala „serveste nevoilor si prioritatilor umane”

OpenAI a anuntat marti ca a infiintat un nou comitet pentru a face recomandari catre consiliul de administratie al companiei cu privire la siguranta si securitate, la cateva saptamani dupa ce a dizolvat o echipa axata pe siguranta IA, relateaza CNN.

Intr-o postare pe blog, OpenAI a precizat ca noul comitet va fi condus de directorul general Sam Altman, precum si de Bret Taylor, presedintele consiliului de administratie al companiei, si de Nicole Seligman, membru al consiliului.

Anuntul vine dupa plecarea, in aceasta luna, a unui director executiv al OpenAI axat pe siguranta, Jan Leike. Leike a demisionat de la OpenAI lansand critici potrivit carora compania a investit insuficient in masuri de siguranta privind activitatea IA si ca tensiunile cu conducerea OpenAI au „atins un punct de ruptura”.

De asemenea, aceasta vine dupa plecarea lui Ilya Sutskever, un alt lider al asa-numitei echipe de „supraaliniere” a OpenAI, axata pe asigurarea faptului ca dezvoltarea IA serveste nevoilor si prioritatilor umane. Sutskever a jucat un rol cheie in inlaturarea surprinzatoare a lui Altman din functia de director general anul trecut, pentru ca mai apoi sa revina asupra deciziei si sa isi ofere sprijinul pentru revenirea lui Altman.

La inceputul acestei luni, un purtator de cuvant al OpenAI a declarat pentru CNN ca desfiintarea echipei de superaliniere si realocarea angajatilor respectivi in intreaga companie ar ajuta-o sa isi atinga mai bine obiectivele de superaliniere.

In postarea sa de marti de pe blog, OpenAI a declarat, de asemenea, ca a inceput sa antreneze un nou model de inteligenta artificiala pentru a-l inlocui pe cel care alimenteaza in prezent ChatGPT. Compania a declarat ca noul model de AI care va succeda GPT-4 va fi un alt pas pe calea dezvoltarii inteligentei generale artificiale.

„Desi suntem mandri sa construim si sa lansam modele care sunt lider in industrie atat in ceea ce priveste capacitatile, cat si siguranta, salutam o dezbatere solida in acest moment important”, a anuntat compania.

„O prima sarcina a Comitetului pentru siguranta si securitate va fi evaluarea si dezvoltarea in continuare a proceselor si a masurilor de protectie ale OpenAI in urmatoarele 90 de zile”, se mai arata in postarea de pe blog.

„La incheierea celor 90 de zile, Comitetul de siguranta si securitate va impartasi recomandarile sale cu intregul consiliu de administratie. In urma revizuirii de catre intregul Consiliu, OpenAI va anunta public o actualizare a recomandarilor adoptate intr-un mod care sa fie in concordanta cu siguranta si securitatea”, se mai arata in comunicatul companiei.