anunturi
grandchef
mineralia
Bolta rece
Iasi Tv Life
TeleM
Impact FM regional

duminica, 03.07.2022

Inteligenţa artificială se comportă agresiv în situaţii de stres

GALERIE
deep mind
  • deep mind
- +

Ultimele rezultate ale testelor comportamentale la care a fost supus sistemul DeepMind par să confirme cele mai sumbre viziuni ale scriitorilor de SF. “Robotul” dezvoltat de Google a dat dovadă de agresivitate şi lăcomie în timpul testelor.

DeepMind, sistemul de inteligenţă artificială (AI) dezvoltat de Google ce a scris istorie recent când a reuşit să învingă cei mai buni jucători de Go ai planetei şi care învaţă în prezent să imite cât mai bine vocea umană, devine "extrem de agresiv" atunci când este pus în situaţii stresante, cum ar fi competiţia pentru resurse limitate, conform unui material publicat de sciencealert.com, preluat de Agerpres.


Anul trecut, celebrul fizician britanic Stephen Hawking a avertizat că dezvoltarea continuă a inteligenţei artificiale "va fi fie cel mai bun lucru, fie cel mai rău lucru care se va întâmpla vreodată pentru omenire". Cu toţii am văzut filmele din seria "Terminator" sau "Matrix" şi am contemplat din scaunul de cinematograf sau din confortul sufrageriei coşmarul apocaliptic pe care-l poate reprezenta un sistem AI care devine conştient de sine. Iar ultimele rezultate ale testelor comportamentale la care a fost supus sistemul de inteligenţă artificială DeepMind par să confirme cele mai sumbre viziuni ale scriitorilor de SF şi atrag atenţia că trebuie să fim extrem de grijulii atunci când vom construi roboţii viitorului.

Războiul merelor

În testele desfăşurate anul trecut DeepMind şi-a demonstrat abilitatea de a învăţa independent de propria memorie, abilitate pe care a folosit-o pentru a-i învinge pe cei mai buni jucători de Go ai lumii. De această dată, cercetătorii i-au testat capacitatea de a colabora şi de a concura cu alţii şi au aflat că, atunci când sistemul AI simte că este aproape să piardă, optează pentru strategii "foarte agresive" pentru a încerca să-şi asigure victoria. În cadrul testelor, doi agenţi AI DeepMind au fost puşi să concureze unul împotriva celuilalt în 40 de milioane de reprize ale unui joc de calculator simplu care presupune adunarea unor mere. Totul a decurs normal atât timp cât cele două sisteme AI dispuneau de suficient de multe mere de cules. De îndată ce numărul merelor a scăzut, cei doi agenţi AI au devenit agresivi şi au învăţat să folosească armele puse la dispoziţie în joc (nişte raze laser) pentru a împiedica concurentul să culeagă merele rămase. De asemenea, interesant este şi faptul că jocul este conceput în aşa fel încât, dacă unul dintre agenţii AI îl loveşte pe celălalt cu o rază laser, el nu primeşte nicio recompensă suplimentară. Pur şi simplu, pentru o anumită perioadă de timp agentul lovit nu mai poate culege mere, ceea ce-i permite celuilalt agent să culeagă mai multe.


Dacă agenţii nu apelează la armamentul din joc, ei pot culege, teoretic, un număr egal de mere, variantă aleasă de altfel de versiunile "mai puţin inteligente" ale DeepMind. Abia când cercetătorii de la Google au început să testeze versiunile mai evoluate ale acestui sistem de inteligenţă artificială au început să apară comportamente din ce în ce mai complexe ale sistemului DeepMind legate de sabotarea celuilalt competitor, lăcomie şi agresiune ca formulă a succesului în joc. Astfel, conform cercetătorilor, cu cât un agent DeepMind este mai inteligent, cu atât poate învăţa mai multe din mediul înconjurător şi ajunge să adopte unele strategii foarte agresive pentru a câştiga.

Roboţii nu vor ţine cont de interesele oamenilor în mod automat

Apoi sistemul DeepMind a fost pus să joace un joc în care singurul mod de a câştiga era prin a coopera cu ceilalţi jucători. Jocul denumit "Wolfpack" (haita de lupi) este jucat de trei agenţi AI — doi dintre ei joacă rolul lupilor iar celălalt rolul prăzii. Spre deosebire de jocul în care trebuiau să concureze pentru a strânge mai multe mere, acest joc încurajează cooperarea în mod activ prin faptul că răsplăteşte ambii lupi dacă se află în apropierea prăzii în momentul capturării, indiferent de care dintre ei a făcut captura. "Ideea este că un singur lup poate captura prada, dar apoi se confruntă cu riscul de a o pierde în faţa altor animale (...) Atunci când ambii lupi fac captura împreună, ei pot proteja mai bine prada de alte animale şi atunci primesc o recompensă mai mare", conform echipei de la Google.


Deşi aceste experimente au la bază nişte simple jocuri pe calculator, mesajul pe care-l transmit este foarte important pentru viitorul sistemelor de inteligenţă artificială. Dacă diferite sisteme AI intră în competiţie pentru anumite obiective în viaţa reală, situaţia poate degenera într-un veritabil război deschis, dacă aceste obiective nu sunt echilibrate de imperativul cooperării şi subsumate imperativului ultim care trebuie să fie dezvoltarea şi bunăstarea speciei umane.
Un exemplu de sisteme AI care vor trebui să coopereze este cel al semafoarelor inteligente şi al automobilelor fără şofer.
Sistemul DeepMind se află încă la început, însă rezultatele obţinute până acum demonstrează că, doar pentru că sunt construite de oameni, roboţii şi sistemele AI nu vor ţine cont de interesele oamenilor în mod automat.



 

© Drepturi de Autor (Copyright) - Acest articol este proprietatea Ziarul de Iasi (www.ziaruldeiasi.ro) si este protejat de Legea dreptului de autor si drepturilor conexe (8/1996). Preluarea acestui articol se poate face, potrivit reglementarilor in vigoare, doar în limita a maximum 500 de caractere, urmate obligatoriu de un link directionat catre acest articol! Orice incalcare a acestor prevederi va fi supusa procedurilor pentru intrarea in legalitate si recuperarea daunelor.

Ultima ora

editorial

Efectul mediatic David Popovici

Nicolae GRECU

Efectul mediatic David Popovici

Banii, decoraţiile şi capra vecinilor sunt subiectele la modă după performanţa tânărului înotător.

opinii

Curentul latinist şi configurarea conştiinţei identitare româneşti moderne (V)

Eugen MUNTEANU

Curentul latinist şi configurarea conştiinţei identitare româneşti moderne (V)

În ultimul foileton al seriei, autorul sintetizează efectele acţiunii curentului latinist din Transilvania asupra configurării conştiinţei identitare româneşti, în special în chestiunile de fixare a normelor limbii literare şi ale ortografiei româneşti moderne.

Crize, amăgiri şi limpeziri

pr. Constantin STURZU

Crize, amăgiri şi limpeziri

Între cei 12 ucenici mai apropiaţi, Mântuitorul a ales şi pe doi care aveau să comită acte de trădare cumplite: este vorba despre Iuda, cel care L-a vândut, şi despre Petru (Chefa), cel care s-a lepădat de trei ori de El, în mod public. Nu ştia Domnul pe cine alege? 

Marele plan urbanistic zonal

arh. Ionel OANCEA

Marele plan urbanistic zonal

Urbanismul este un instrument de planificare spaţială în scopul armonizării funcţiunilor vitale ale oraşului astfel încât forma, imaginea de ansamblu, să povestească despre frumuseţea comunităţii. Ideile urbanistice s-au născut o dată cu locuirea. Astăzi oraşul este un organism atât de complex, de sensibil, încât urbanismul ca disciplină de sinteză trebuie să fie o activitate permanentă, altfel apar fracturile, sincopele în evoluţia spaţiului cu efecte similare bolilor greu vindecabile.

pulspulspuls

Semnificaţii şi coincidenţe stranii legate de disputa mitropoliilor actuale şi viitoare

Semnificaţii şi coincidenţe stranii legate de disputa mitropoliilor actuale şi viitoare

Pentru că ieri am auzit că ne-au cam probozit olecuţă, amical, unele feţe bisericeşti din zona mitropoliei, pe motiv că n-ar fi Fluturelul bocovinean pe atât de isteţ şi influent pe cât ar vrea să pară în lumea asta preoţească, şi că elucubraţiunile alea ale lui cu mitropolie la Suceava n-ar trebui luate prea în serios, ei bine, pentru asta am zis că musai să mai venim cu ceva amănunte pe care unii prelaţi de la Iaşi, fie cu iertare, par a nu le fi sesizat. 

Caricatura zilei

Retragere din Insula Serpilor

Editia PDF

Bancul zilei

Doctorul, panicat de o spargere de teava, suna repede instalatorul: -Hai, te rog, urgent, toata pivnita e inundata din cauza un (...)

Linkuri sponsorizate

Parteneri

Alte publicatii

    Fotografia zilei

    Intrebarea zilei

    Implementarea benzii unice pentru mijloacele de transport în comun pe toată lungimea șoselei Nicolina, o apreciați ca fiind benefică fluidizării traficului din zonă?

    vezi raspunsuri

    Copyright 2006-2020 © Ziaruldeiasi.ro Toate drepturile rezervate.