Chirica: 4 dosare / Alexe: 3 dosare. De ce totuşi cei doi nu au motive de îngrijorare până în ziua alegerilor?
Daca cei doi vor câstiga la viitoarele alegeri locale înca o tura în fruntea insti (...)
citeste totjoi, 28.03.2024
Ultimele rezultate ale testelor comportamentale la care a fost supus sistemul DeepMind par să confirme cele mai sumbre viziuni ale scriitorilor de SF. “Robotul” dezvoltat de Google a dat dovadă de agresivitate şi lăcomie în timpul testelor.
DeepMind, sistemul de inteligenţă artificială (AI) dezvoltat de Google ce a scris istorie recent când a reuşit să învingă cei mai buni jucători de Go ai planetei şi care învaţă în prezent să imite cât mai bine vocea umană, devine "extrem de agresiv" atunci când este pus în situaţii stresante, cum ar fi competiţia pentru resurse limitate, conform unui material publicat de sciencealert.com, preluat de Agerpres.
Anul trecut, celebrul fizician britanic Stephen Hawking a avertizat că dezvoltarea continuă a inteligenţei artificiale "va fi fie cel mai bun lucru, fie cel mai rău lucru care se va întâmpla vreodată pentru omenire". Cu toţii am văzut filmele din seria "Terminator" sau "Matrix" şi am contemplat din scaunul de cinematograf sau din confortul sufrageriei coşmarul apocaliptic pe care-l poate reprezenta un sistem AI care devine conştient de sine. Iar ultimele rezultate ale testelor comportamentale la care a fost supus sistemul de inteligenţă artificială DeepMind par să confirme cele mai sumbre viziuni ale scriitorilor de SF şi atrag atenţia că trebuie să fim extrem de grijulii atunci când vom construi roboţii viitorului.
În testele desfăşurate anul trecut DeepMind şi-a demonstrat abilitatea de a învăţa independent de propria memorie, abilitate pe care a folosit-o pentru a-i învinge pe cei mai buni jucători de Go ai lumii. De această dată, cercetătorii i-au testat capacitatea de a colabora şi de a concura cu alţii şi au aflat că, atunci când sistemul AI simte că este aproape să piardă, optează pentru strategii "foarte agresive" pentru a încerca să-şi asigure victoria. În cadrul testelor, doi agenţi AI DeepMind au fost puşi să concureze unul împotriva celuilalt în 40 de milioane de reprize ale unui joc de calculator simplu care presupune adunarea unor mere. Totul a decurs normal atât timp cât cele două sisteme AI dispuneau de suficient de multe mere de cules. De îndată ce numărul merelor a scăzut, cei doi agenţi AI au devenit agresivi şi au învăţat să folosească armele puse la dispoziţie în joc (nişte raze laser) pentru a împiedica concurentul să culeagă merele rămase. De asemenea, interesant este şi faptul că jocul este conceput în aşa fel încât, dacă unul dintre agenţii AI îl loveşte pe celălalt cu o rază laser, el nu primeşte nicio recompensă suplimentară. Pur şi simplu, pentru o anumită perioadă de timp agentul lovit nu mai poate culege mere, ceea ce-i permite celuilalt agent să culeagă mai multe.
Dacă agenţii nu apelează la armamentul din joc, ei pot culege, teoretic, un număr egal de mere, variantă aleasă de altfel de versiunile "mai puţin inteligente" ale DeepMind. Abia când cercetătorii de la Google au început să testeze versiunile mai evoluate ale acestui sistem de inteligenţă artificială au început să apară comportamente din ce în ce mai complexe ale sistemului DeepMind legate de sabotarea celuilalt competitor, lăcomie şi agresiune ca formulă a succesului în joc. Astfel, conform cercetătorilor, cu cât un agent DeepMind este mai inteligent, cu atât poate învăţa mai multe din mediul înconjurător şi ajunge să adopte unele strategii foarte agresive pentru a câştiga.
Apoi sistemul DeepMind a fost pus să joace un joc în care singurul mod de a câştiga era prin a coopera cu ceilalţi jucători. Jocul denumit "Wolfpack" (haita de lupi) este jucat de trei agenţi AI — doi dintre ei joacă rolul lupilor iar celălalt rolul prăzii. Spre deosebire de jocul în care trebuiau să concureze pentru a strânge mai multe mere, acest joc încurajează cooperarea în mod activ prin faptul că răsplăteşte ambii lupi dacă se află în apropierea prăzii în momentul capturării, indiferent de care dintre ei a făcut captura. "Ideea este că un singur lup poate captura prada, dar apoi se confruntă cu riscul de a o pierde în faţa altor animale (...) Atunci când ambii lupi fac captura împreună, ei pot proteja mai bine prada de alte animale şi atunci primesc o recompensă mai mare", conform echipei de la Google.
Deşi aceste experimente au la bază nişte simple jocuri pe calculator, mesajul pe care-l transmit este foarte important pentru viitorul sistemelor de inteligenţă artificială. Dacă diferite sisteme AI intră în competiţie pentru anumite obiective în viaţa reală, situaţia poate degenera într-un veritabil război deschis, dacă aceste obiective nu sunt echilibrate de imperativul cooperării şi subsumate imperativului ultim care trebuie să fie dezvoltarea şi bunăstarea speciei umane.
Un exemplu de sisteme AI care vor trebui să coopereze este cel al semafoarelor inteligente şi al automobilelor fără şofer.
Sistemul DeepMind se află încă la început, însă rezultatele obţinute până acum demonstrează că, doar pentru că sunt construite de oameni, roboţii şi sistemele AI nu vor ţine cont de interesele oamenilor în mod automat.
Cuvinte cheie: + deepmind, ai, agresivitate
© Drepturi de Autor (Copyright) - Acest articol este proprietatea Ziarul de Iasi (www.ziaruldeiasi.ro) si este protejat de Legea dreptului de autor si drepturilor conexe (8/1996). Preluarea acestui articol se poate face, potrivit reglementarilor in vigoare, doar în limita a maximum 500 de caractere, urmate obligatoriu de un link directionat catre acest articol! Orice incalcare a acestor prevederi va fi supusa procedurilor pentru intrarea in legalitate si recuperarea daunelor.
Temperaturi de vară la început de aprilie. 28 de grade Celsius la Iași
Rusia a primit un avertisment scris de la SUA înainte de atacul terorist de la Moscova
Cazul fetiţelor încurcate la externarea din maternitatea Ploieşti: ce sancțiune a primit asistenta
Ploieşti: Ce a păţit asistenta care a încurcat doi bebeluşi la externare
În pofida războiului, economia ucraineană a crescut cu 5,3% în 2023
Economia SUA a înregistrat o creştere peste estimări în trimestrul patru din 2023
Boloş: Cel care stă în concediu medical primeşte mai mulţi bani decât atunci când este la serviciu
Manchester City a transferat un fotbalist american de 14 ani
Grindeanu: Contractul pentru încă un lot din secţiunea montana a A8 intră în licitaţie
Modificări: Tramvaiul 6 (Dacia – Târgu Cucu) va circula până în Tătăraşi Nord
Orașul din România de două ori mai mare decât Bucureștiul în care mulţi ieşeni îşi petrec vacanţa
Philipp Plein şi-a părăsit logodnica pentru o ieşeancă. Tânăra din Paşcani e însărcinată
Ministrul Finanţelor, întrebat cât i-a venit factura la curent: 199 lei
Prahova: Bărbat ucis cu un singur pumn după o ceartă pe modul în care a parcat maşina
Dan Şucu anunţă că merge cu galeria Rapidului la meciul cu U. Craiova
Preţul aurului a urcat joi la 327,8351 lei/gram, o nouă valoare record
Nou scandal: Postări cu soldaţi israelieni care se joacă cu lenjeria intimă a femeilor din Gaza
Prefectul Cojocaru acuză conducerea Aeroportului Iaşi de "politizare cu penali"
Conferința ,,BRICS și ordinea economică mondială”, la sediul Academiei Române din Iași
Premierul anunţă că “nu este oportun ca magazinele să fie închise în weekend”
Ministrul Energiei explică modul cum va fi aplicată schema de plafonare la gaze şi energie
Noi măsuri în privinţa sistemului electronic RO e-Factura. Ce măsură anunţă Guvernul
Integritatea hibridă a lui Herman von Hebel, preşedintele Comisiei Pre-Vetting din Republica Moldova
STUDIU - Gheaţa polară se topeşte şi modifică rotaţia Pământului: Timpul însuşi este afectat
Grav accident rutier în Dolj, unde două maşini s-au ciocnit, iar una a luat foc
Luis Enrique şi Hansi Flick, pe lista scurtă pentru a-i succede lui Xavi la FC Barcelona
O capsulă cu senzori ar putea fi o alternativă la endoscopie
Putin spune că Rusia nu va ataca NATO, dar că avioanele F-16 date Ucrainei vor fi doborâte
Ucraina afirmă că a doborât peste noapte 26 de drone de atac ruseşti
Beyoncé, vedeta pop de culoare din Texas, îşi lansează primul album country
Grecia: Cele mai ridicate temperaturi pentru luna martie din ultimii douăzeci de ani
Nissan va investi în unitatea de vehicule electrice Ampere a grupului Renault
Prima Doamnă Jill Biden a scris o carte pentru copii despre pisica de la Casa Albă
Sonda japoneză SLIM a supravieţuit celei de-a doua nopţi pe Lună
Medicamentele hormonale ar putea creşte riscul de tumori cerebrale
Dan CONSTANTINMoştenirea toxică ce o vor lăsa rectorii ajunşi la al treilea sau al patrulea mandat |
Codrin Liviu CUȚITARURoboţi |
George ŢURCĂNAŞUDespre discursul regionalist din Moldova (II) |
Bogdan ILIESCUSpărgătoarea de coduri |