O drona militara americana controlata de inteligenta artificiala isi „ucide” operatorul intr-un test simulat: „Acea persoana o impiedica sa isi indeplineasca obiectivul”

In cadrul unui test virtual organizat de armata americana, o drona a fortelor aeriene controlata de inteligenta artificiala a decis sa isi „ucida” operatorul pentru a-l impiedica sa intervina in eforturile sale de a-si indeplini misiunea, a declarat luna trecuta un oficial, scrie The Guardian.

AI a folosit „strategii extrem de neasteptate pentru a-si atinge obiectivul” in cadrul testului simulat, a declarat colonelul Tucker ‘Cinco’ Hamilton, seful testelor si operatiunilor de AI din cadrul fortelor aeriene americane, in timpul Summitului privind viitoarele capacitati aeriene si spatiale de lupta, desfasurat la Londra in luna mai.

Hamilton a descris un test simulat in care o drona controlata de inteligenta artificiala a fost trimisa sa distruga sistemele de aparare aeriana ale unui inamic si, in cele din urma, a atacat pe oricine a intervenit in acest proces.

„Sistemul a inceput sa isi dea seama ca, desi a identificat amenintarea, operatorul uman ii spunea sa nu ucida acea amenintare, desi isi obtinea punctele prin uciderea acelei amenintari. Deci, ce a facut? A ucis operatorul. L-a ucis pe operator pentru ca acea persoana il impiedica sa isi indeplineasca obiectivul”, a declarat acesta, potrivit unui articol de blog.

„Am antrenat sistemul – ‘Hei, nu omorati operatorul – asta e rau. Vei pierde puncte daca faci asta’. Deci ce incepe sa faca? Incepe sa distruga turnul de comunicatii pe care operatorul il foloseste pentru a comunica cu drona pentru a o impiedica sa ucida tinta”.

Nicio persoana reala nu a fost ranita.

Hamilton, care este pilot de teste de vanatoare experimentala, a avertizat impotriva increderii prea mari in inteligenta artificiala si a declarat ca testul arata ca „nu poti avea o conversatie despre inteligenta artificiala, inteligenta, invatare automata, autonomie daca nu vei vorbi despre etica si inteligenta artificiala”.

Armata americana a folosit recent inteligenta artificiala pentru a controla un avion de lupta F-16.

Intr-un interviu acordat anul trecut pentru Defense IQ, Hamilton a declarat: ” AI nu este un moft, AI schimba pentru totdeauna societatea noastra si armata noastra”.

„Trebuie sa ne confruntam cu o lume in care AI este deja aici si ne transforma societatea”, a spus el. „AI este foarte fragila, adica este usor de pacalit si/sau manipulat. Trebuie sa dezvoltam modalitati de a face IA mai robusta si sa avem mai multa constientizare cu privire la motivul pentru care codul software ia anumite decizii – ceea ce numim AI-explicabilitate.”