„Merita riscul”. Elon Musk sustine ca ar putea exista o sansa de 20% ca AI sa distruga omenirea

Elon Musk si-a recalculat analiza cost-beneficiu a riscului pe care AI il reprezinta pentru omenire, relateaza Business Insider.

El estimeaza ca exista o sansa de 10-20% ca IA sa distruga omenirea, dar ca ar trebui sa o dezvoltam oricum.

Elon Musk este destul de sigur ca IA merita riscul, chiar daca exista o sansa de 1 la 5 ca tehnologia sa se intoarca impotriva oamenilor.

Vorbind in cadrul seminarului „Marea dezbatere despre AI” din cadrul summitului de patru zile Abundance Summit de la inceputul lunii martie, Musk si-a recalculat evaluarea anterioara a riscurilor pe care le presupune aceasta tehnologie, spunand: „Cred ca exista o anumita sansa ca aceasta sa puna capat umanitatii. Probabil ca sunt de acord cu Geoff Hinton ca este de aproximativ 10% sau 20% sau ceva de genul acesta”.

Dar, a adaugat el: „Cred ca scenariul pozitiv depaseste scenariul negativ”.

Musk nu a mentionat cum a calculat riscul.

In noiembrie anul trecut, Musk a spus ca exista o sansa „nu zero” ca tehnologia sa ajunga sa „se strice”, dar nu a mers atat de departe incat sa spuna ca el crede ca tehnologia ar putea pune capat omenirii daca acest lucru s-ar intampla.

Desi a fost un sustinator al reglementarii IA, Musk a fondat anul trecut o companie numita xAI, dedicata extinderii in continuare a puterii tehnologiei. xAI este un concurent al OpenAI, o companie pe care Musk a cofondat-o impreuna cu Sam Altman inainte ca Musk sa se retraga din consiliul de administratie in 2018.

In cadrul summitului, Musk a estimat ca inteligenta digitala va depasi toate inteligentele umane combinate pana in 2030. Desi sustine ca potentialele aspecte pozitive sunt mai mari decat cele negative, Musk a recunoscut riscul pentru lume daca dezvoltarea inteligentei artificiale continua pe traiectoria actuala in unii dintre cei mai directi termeni pe care i-a folosit in mod public.

„Intr-un fel, cresti un AGI. Este aproape ca si cum ai creste un copil, dar unul care este ca un copil super geniu, ca un copil cu o inteligenta asemanatoare cu cea a lui Dumnezeu – si conteaza cum il cresti pe copil”, a declarat Musk la evenimentul din Silicon Valley, referindu-se la inteligenta generala artificiala. „Unul dintre lucrurile care cred ca este incredibil de important pentru siguranta inteligentei artificiale este sa avem un fel de inteligenta artificiala maxima care cauta adevarul si este curioasa”, a mai spus el.

„Nu o fortati sa minta, chiar daca adevarul este neplacut”, a spus Musk despre cea mai buna modalitate de a pastra oamenii in siguranta fata de tehnologie. „Este foarte important. Nu obligati IA sa minta”, a continuat el.

Cercetatorii au descoperit ca, odata ce o inteligenta artificiala invata sa minta oamenii, comportamentul inselator este imposibil de inversat cu ajutorul masurilor actuale de siguranta a IA, a relatat The Independent.

Mai ingrijorator, cercetatorii au adaugat ca este plauzibil ca AI sa invete sa fie inselatoare de una singura, mai degraba decat sa fie invatata in mod specific sa minta.

„Daca va ajunge sa fie mult mai inteligenta decat noi, va fi foarte buna la manipulare, deoarece ar fi invatat asta de la noi”, a declarat Hinton, numit adesea „Nasul inteligentei artificiale”, care ii serveste lui Musk drept baza pentru evaluarea riscurilor tehnologiei.