Anunturi de Mica Publicitate
Abonament la editia electronica
Iasi Tv Life
TeleM
TVR Iasi Telejurnal
Abonament la editia tiparita

Inteligenţa artificială se comportă agresiv în situaţii de stres

GALERIE
deep mind
  • deep mind
- +

Ultimele rezultate ale testelor comportamentale la care a fost supus sistemul DeepMind par să confirme cele mai sumbre viziuni ale scriitorilor de SF. “Robotul” dezvoltat de Google a dat dovadă de agresivitate şi lăcomie în timpul testelor.

DeepMind, sistemul de inteligenţă artificială (AI) dezvoltat de Google ce a scris istorie recent când a reuşit să învingă cei mai buni jucători de Go ai planetei şi care învaţă în prezent să imite cât mai bine vocea umană, devine "extrem de agresiv" atunci când este pus în situaţii stresante, cum ar fi competiţia pentru resurse limitate, conform unui material publicat de sciencealert.com, preluat de Agerpres.


Anul trecut, celebrul fizician britanic Stephen Hawking a avertizat că dezvoltarea continuă a inteligenţei artificiale "va fi fie cel mai bun lucru, fie cel mai rău lucru care se va întâmpla vreodată pentru omenire". Cu toţii am văzut filmele din seria "Terminator" sau "Matrix" şi am contemplat din scaunul de cinematograf sau din confortul sufrageriei coşmarul apocaliptic pe care-l poate reprezenta un sistem AI care devine conştient de sine. Iar ultimele rezultate ale testelor comportamentale la care a fost supus sistemul de inteligenţă artificială DeepMind par să confirme cele mai sumbre viziuni ale scriitorilor de SF şi atrag atenţia că trebuie să fim extrem de grijulii atunci când vom construi roboţii viitorului.

Războiul merelor

În testele desfăşurate anul trecut DeepMind şi-a demonstrat abilitatea de a învăţa independent de propria memorie, abilitate pe care a folosit-o pentru a-i învinge pe cei mai buni jucători de Go ai lumii. De această dată, cercetătorii i-au testat capacitatea de a colabora şi de a concura cu alţii şi au aflat că, atunci când sistemul AI simte că este aproape să piardă, optează pentru strategii "foarte agresive" pentru a încerca să-şi asigure victoria. În cadrul testelor, doi agenţi AI DeepMind au fost puşi să concureze unul împotriva celuilalt în 40 de milioane de reprize ale unui joc de calculator simplu care presupune adunarea unor mere. Totul a decurs normal atât timp cât cele două sisteme AI dispuneau de suficient de multe mere de cules. De îndată ce numărul merelor a scăzut, cei doi agenţi AI au devenit agresivi şi au învăţat să folosească armele puse la dispoziţie în joc (nişte raze laser) pentru a împiedica concurentul să culeagă merele rămase. De asemenea, interesant este şi faptul că jocul este conceput în aşa fel încât, dacă unul dintre agenţii AI îl loveşte pe celălalt cu o rază laser, el nu primeşte nicio recompensă suplimentară. Pur şi simplu, pentru o anumită perioadă de timp agentul lovit nu mai poate culege mere, ceea ce-i permite celuilalt agent să culeagă mai multe.


Dacă agenţii nu apelează la armamentul din joc, ei pot culege, teoretic, un număr egal de mere, variantă aleasă de altfel de versiunile "mai puţin inteligente" ale DeepMind. Abia când cercetătorii de la Google au început să testeze versiunile mai evoluate ale acestui sistem de inteligenţă artificială au început să apară comportamente din ce în ce mai complexe ale sistemului DeepMind legate de sabotarea celuilalt competitor, lăcomie şi agresiune ca formulă a succesului în joc. Astfel, conform cercetătorilor, cu cât un agent DeepMind este mai inteligent, cu atât poate învăţa mai multe din mediul înconjurător şi ajunge să adopte unele strategii foarte agresive pentru a câştiga.

Roboţii nu vor ţine cont de interesele oamenilor în mod automat

Apoi sistemul DeepMind a fost pus să joace un joc în care singurul mod de a câştiga era prin a coopera cu ceilalţi jucători. Jocul denumit "Wolfpack" (haita de lupi) este jucat de trei agenţi AI — doi dintre ei joacă rolul lupilor iar celălalt rolul prăzii. Spre deosebire de jocul în care trebuiau să concureze pentru a strânge mai multe mere, acest joc încurajează cooperarea în mod activ prin faptul că răsplăteşte ambii lupi dacă se află în apropierea prăzii în momentul capturării, indiferent de care dintre ei a făcut captura. "Ideea este că un singur lup poate captura prada, dar apoi se confruntă cu riscul de a o pierde în faţa altor animale (...) Atunci când ambii lupi fac captura împreună, ei pot proteja mai bine prada de alte animale şi atunci primesc o recompensă mai mare", conform echipei de la Google.


Deşi aceste experimente au la bază nişte simple jocuri pe calculator, mesajul pe care-l transmit este foarte important pentru viitorul sistemelor de inteligenţă artificială. Dacă diferite sisteme AI intră în competiţie pentru anumite obiective în viaţa reală, situaţia poate degenera într-un veritabil război deschis, dacă aceste obiective nu sunt echilibrate de imperativul cooperării şi subsumate imperativului ultim care trebuie să fie dezvoltarea şi bunăstarea speciei umane.
Un exemplu de sisteme AI care vor trebui să coopereze este cel al semafoarelor inteligente şi al automobilelor fără şofer.
Sistemul DeepMind se află încă la început, însă rezultatele obţinute până acum demonstrează că, doar pentru că sunt construite de oameni, roboţii şi sistemele AI nu vor ţine cont de interesele oamenilor în mod automat.



 

© Drepturi de Autor (Copyright) - Acest articol este proprietatea Ziarul de Iasi (www.ziaruldeiasi.ro) si este protejat de Legea dreptului de autor si drepturilor conexe (8/1996). Preluarea acestui articol se poate face, potrivit reglementarilor in vigoare, doar în limita a maximum 500 de caractere, urmate obligatoriu de un link directionat catre acest articol! Orice incalcare a acestor prevederi va fi supusa procedurilor pentru intrarea in legalitate si recuperarea daunelor.

Ultima ora

editorial

Moştenirea toxică ce o vor lăsa rectorii ajunşi la al treilea sau al patrulea mandat

Dan CONSTANTIN

Moştenirea toxică ce o vor lăsa rectorii ajunşi la al treilea sau al patrulea mandat

Dacă distinsul profesor „X” sau remarcabilul „Z” au putut să treacă peste lege, eu de ce nu aş putea?

opinii

Roboţi

Codrin Liviu CUȚITARU

Roboţi

Robotul a trecut, treptat, de la „plimbarea” convulsivă pe coridoarele Universităţii, la alergarea „profesionistă”. Se arăta capabil să sară şi peste obstacole, plăcerea sa supremă fiind „să evite” deliberat, în viteză, femeile de serviciu îngenuncheate pe ciment şi prinse în efortul răzuirii gumelor de mestecat aruncate iresponsabil. Îngrijitoarele se speriau îngrozitor şi ţipau injurios după Robogică (foarte des îl numeau „pocitania dracului”!).

Despre discursul regionalist din Moldova (II)

George ŢURCĂNAŞU

Despre discursul regionalist din Moldova (II)

Delestaţi de centru şi captivi între statalismul teritoriului post-sovietic de la est de Prut şi desconsiderarea de la nivelul Bucureştiului, moldovenii din România aleg soluţia cea mai simplă: ştergerea sau renunţarea la identitate. Exemplele sunt multiple şi deseori invocate în scrieri mai vechi, de la divergenţele teritoriale bucovineană (în plin nucleu statal al Moldovei), vrânceană şi gălăţeană, la tendinţele actuale ale tinerilor de a migra pentru studii spre centrele universitare externe Moldovei, deseori mai prost cotate decât Iaşul în sistemul universitar. În aceste condiţii, să nu înţelegi necesitatea unor mişcări care militează pentru scoaterea Moldovei din izolarea impusă de către centru e cam prea mult!

Spărgătoarea de coduri

Bogdan ILIESCU

Spărgătoarea de coduri

Viaţa unui copil de acum 40 de ani (şi aproape sigur şi înainte) era absolut fascinantă pentru că era înmuiată din plin în toată istoria omenirii şi în tot ce avea mai valoros, adunat până atunci, în cărţi. Da, lucrurile alea cu un aer prozaic, mărturia perpetuă a unei invenţii seculare, care, prin natura lor de a păstra scris orice gând pe care i-l încredinţai, obligau la multă atenţie, şi mare responsabilitate şi scriitorul, şi cititorul.

pulspulspuls

Calcule matematice: am putea avea o premieră la locale la Iaşi de ne va durea mintea

Calcule matematice: am putea avea o premieră la locale la Iaşi de ne va durea mintea

Dacă tot v-am servit ieri aicea niscai aritmetică electorală de Bahlui, haideţi să continuăm şi azi cu olecuţă de analiză matematică plus geometrie diferenţială tot pe tema asta incitantă! Nu de alta, dar acuşi încep iar simulările de alegeri, şi măcar să fim pregătiţi.

Caricatura zilei

La reciclat pet-uri și doze

Când Sistemul Garantie Colectare te pune pe gânduri

Cumpara editia digitala

Vremea in Iasi

Curs valutar

Parteneri

Intrebarea zilei

Vladimir Putin, presedintele Federatiei Ruse, a declarant intr-un interviu dat jurnalistului american Tucker Carlson ca nu va ataca niciun stat NATO. Credeti ca isi va respecta cuvantul dat?

vezi raspunsuri