Selecția naturală favorizează inteligența artificială (AI) în detrimentul inteligenței umane?

Sunt fericit că am trăit și ziua când criză climatică, „cod roșu pentru umanitate”, Armaghedon climatic, extincție climatică și alte invenții lingvistice asemănătoare au părăsit lista catastrofelor inexorabile generate de oameni. Ce s-a întâmplat?

Pe 30 mai 2023, Center for AI Safety a publicat o declarație intenționat generală, dar menită să provoace :

Atenuarea riscului de extincție din cauza inteligenței artificiale ar trebui să fie o prioritate globală, alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear.

Wow! Chiar așa? Prin urmare, prioritățile globale ale omenirii nu mai includ, pentru prima dată, schimbarea climei provocate de oameni? Dar IPCC?! Dar Greta?! Ce vor mai face de-acum încolo?!

Este o declarație care merită atenție, doar dacă citim doar numele celor peste 350 semnatari: fondatori  și colaboratori ai OpenAI, Google Deepmind, Anthropic și alte laboratoare de inteligență artificială, miliardarul Bill Gates, vizionarul Ray Kurzweil, Martin Rees, astrofizician și co-fondator al Centrului pentru studiul riscului existențial de la Universitatea din Cambridge, activistul climatic Bill McKibben, cercetători, profesori universitari ș.a. Geoffrey Hinton și Yoshua Bengio, doi dintre cei trei cercetători care au câștigat un premiu Turing pentru munca lor de pionierat în domeniul rețelelor neuronale și care sunt adesea considerați „nașii” mișcării moderne de inteligență artificială, au semnat declarația.

Obținerea adeziunilor a fost asigurată de Dan Hendrycks, directorul lui Center for AI Safety și autorul unei serii de lucrări relevante, inclusiv a celei intitulate Natural Selection Favors AIs over Humans, de la care am împrumutat titlul contribuției mele (cu o modificare pe care o voi explica într-un articol viitor).

Ca și fracturarea hidraulică – inventată în 1947, dar intrată în atenția populară de-abia în 2010, prin fake documentarul Gasland, inteligența artificială AI poate fi urmărită din 1935, o dată cu mașina propusă de Alan Turing și testul care-i poartă numele. Dezvoltarea și progresul  AI au avut loc în salturi mai mici sau mai mari de-a lungul ultimelor nouă decenii, dar opinia publică și blogosfera s-au activat serios abia după apariția lui ChatGPT (noiembrie 2022) și, mai ales, a variantei îmbunătățite GPT4, introduse după doar patru luni (martie 2023).

Dacă ChatGPT putea procesa doar text, noua versiune GPT4 a demonstrat un progres uluitor: crearea unui website complet funcțional plecând doar de la o schiță pe o bucată de hârtie, ceea ce a evidențiat capacitatea multimodală a AI de a procesa imagini, video, audio și text și de a scrie cod. Nu voi repeta aici aceleași lucruri pe care (probabil) le-ați citit/văzut la știri și pe rețelele de socializare. Aș dori doar să atrag atenția că, după 40 ani de la formularea ei de către matematicianul și scriitorul Vernor Vinge, intrăm într-o perioadă ale cărei prime semne deja s-au arătat – singularitatea tehnologică:

O singularitate tehnologică este un eveniment ipotetic care are loc atunci când inteligența artificială depășește inteligența umană, ceea ce duce la o accelerare exponențială a progresului tehnologic, având ca rezultat final o transformare fără precedent și imprevizibilă a civilizației umane și a civilizației mașinilor.

Mai mult, Vinge a scris că acest eveniment va duce la o accelerare exponențială a progresului tehnologic și la o transformare fără precedent și imprevizibilă a civilizației umane. Deoarece noua superinteligență va continua să se perfecționeze și va avansa tehnologic într-un ritm de neînțeles astăzi, în final, se va ajunge la sfârșitul erei umane. După care a adăugat că ar fi surprins dacă evenimentul ar avea loc înainte de 2005 sau după 2030. Suntem în anul de grație 2023.

Numele superinteligenței propuse de Vinge este astăzi AGI – Artificial General Intelligence – și una dintre definițiile propuse pleacă de la faptul că inteligența umană este limitată (nu doar de „meduzele” descrise în motto!), în timp ce inteligența mașinilor are potențialul de a depăși capacitățile umane în orice domeniu. Astfel, AGI este teoretic capabilă să îndeplinească orice sarcină cognitivă pe care o poate îndeplini un om: înțelegerea limbajului natural, raționamentul, învățarea, rezolvarea de probleme și luarea de decizii. O entitate AGI ar trece probabil testul Turing. Cei care ați vizionat filmul Ex Machina (2014) aveți o exemplificare a calităților umane ale unei inteligențe artificiale umanoide foarte avansate. Nu suntem încă acolo cu GPT4, dar, în mod ciudat, apar tot mai multe comportamente și capacități care ar putea sugera că suntem destul de aproape.

În eseul său, publicat pe 6 mai 2023, Dan Hendrycks avansează o ipoteză îndrăzneață despre modul în care inteligența artificială va depăși pe cea umană. Selecția naturală ar putea da naștere unui „comportament egoist” în cadrul AI, deoarece aceasta se străduiește să supraviețuiască (vezi teoria despre „gena egoistă”, Richard Dawkins, 1976). Mai grav, se susține ideea că selecția naturală creează stimulente pentru ca agenții AI să acționeze împotriva intereselor umane:

Presiunile concurențiale dintre corporații și forțele militare vor da naștere unor agenți de inteligență artificială care vor automatiza rolurile umane, îi vor înșela pe alții și vor câștiga putere. Dacă astfel de agenți au o inteligență care o depășește pe cea a oamenilor, acest lucru ar putea duce la pierderea controlului asupra viitorului umanității.

Selecția naturală acționează asupra sistemelor care concurează și variază, iar speciile egoiste au de obicei un avantaj față de speciile altruiste. Această logică darwiniană s-ar putea aplica și agenților artificiali, deoarece, în final, acești agenți ar putea fi mai capabili să persiste mai bine în viitor dacă se comportă în mod egoist și își urmăresc propriile interese fără să țină cont de oameni, ceea ce ar putea prezenta riscuri catastrofale.

 În prezent, aceste predicții pot fi respinse pentru că nu știm încă modul în care modificările generate de selecția naturală vor fi implementate. Probabil, noile AI-uri vor fi doar niște versiuni îmbunătățite ale chatbot-urilor curente sau programelor care pot bate oamenii oricând și la orice nivel în jocurile de șah sau Go (vezi Inteligența artificială ca o Lebădă Neagră și impactul asupra viitorului, 2017).

Totodată, se pot asambla împreună printr-o varietate de metode ML (machine learning) sau, de ce nu, pot crea o nouă paradigmă existențială.  Oamenii, prin combinarea abilităților lor cognitive, pot crea inteligențe colective (cum ar fi limbajul, cultura, internetul) prin care au devenit specia dominantă a planetei. Aceste inteligențe colective au un IQ mai mare decât cel al unui singur individ. Dar și AI-urile pot forma inteligențe colective, cu un IQ superior. Două aspecte trebuie menționate aici. A) „Creierul” computerului este mai rapid decât mințile umane și devine tot mai rapid. Microprocesoarele operează de cel puțin un milion  de ori mai rapid decât neuronii umani. Adică, ceea ce AI-urile pot „gândi” într-o secundă, oamenii ar avea nevoie de cel puțin 11 zile. B) Relativ la ansamblurile formatoare de inteligențe colective, oamenii au dificultăți în a activa în grupuri largi și pot fi îndoctrinați și manipulați de gândirea de grup ori alte forme de idioțenie colectivă.[[1]] În plus, după cum am prezentat în articolul Paradoxul sapiențial, capcana bârfelor și unele schimbări climatice, organizarea și funcționarea creierelor noastre nu permit menținerea de relații sociale stabile cu mai mult de 150 persoane (așa-numitul număr Dunbar). Ori AI-urile pot acționa simultan în grupuri de mii sau chiar milioane de entități, așa cum procedează computerele noastre conectate la internet. Acest mod de asamblare creează premise importante pentru formele de auto-organizare a AI-urilor, ajutându-le să depășească inteligențele colective umane.

Dacă luăm în considerate incertitudinile și elementele necunoscute (încă) ale asamblărilor de AI, vom putea totuși să facem predicții rezonabile despre viitorul AI-urilor?

Răspunsul este DA. Hendrycks argumentează astfel:

În trecut, oamenii au reușit să facă predicții cu succes despre eclipsele de lună și mișcările planetare fără o înțelegere deplină a gravitației. Ei au proiectat dinamica reacțiilor chimice, chiar și fără o teorie corectă a fizicii cuantice. Ei au formulat teoria evoluției cu mult înainte de a se ști despre ADN. În același mod, putem prezice dacă selecția naturală se va aplica într-o anumită situație, și să prezicem ce trăsături va favoriza selecția naturală.

Viitorul AI controlat/determinat de selecția naturală pleacă de la două postulate  legate între ele în moduri variate și depinzând de condițiile de implementare (Fig. 1):

• Selecția naturală poate fi o forță dominantă în dezvoltarea AI. Concurența și lupta pentru putere poate atenua efectele măsurilor de siguranță, lăsând forțele „naturale” să selecteze agenții AI supraviețuitori.

• Evoluția prin selecție naturală tinde să dea naștere unui comportament egoist. Deși există exemple de comportament cooperant în unele cazuri (furnicile, albinele), dezvoltarea AI va fi egoistă, nu altruistă, ceea ce ar eroda controlul uman.
• 

Fig. 1. Forțele care alimentează egoismul și erodează siguranța (modificat după Hendrycks, 2023)

Presiunea evoluționistă conduce adeseori la comportamente egoiste printre organisme: manipulare, violență sau decepționare. Un exemplu bine-cunoscut din ultima categorie este al cucului femelă care-și depune ouăle în cuibul altei păsări, ce este păcălită crezând că sunt ouăle ei.

După circa 4 miliarde de ani în care Pământul a cunoscut numai forme de viață organice, am putea asista la apariția primelor forme de viață non-organice sau cel puțin la apariția agenților non-organici AI. Nu este un secret că oamenii s-au temut de AI încă de la începutul erei computerelor și diverse medii culturale (filme, romane) au capitalizat această teamă. Filme SF precum 2001: A Space Odyssey, Terminator, Minority Report, Wall-E sau Matrix sunt doar câteva exemple.

Ceea ce merită adus în discuție aici este faptul că darwinismul nu depinde de biologie. Logica evoluției prin selecție naturală,  expusă  în Originea speciilor (1859), nu se bazează pe discutarea proprietățile genelor sau a DNA, descoperite mult mai târziu. Cei care sunt familiari cu ecuația Price – ecuația principală care descrie evoluția caracteristicilor, știu că nu există nicio referință la biologie ori genetică.

Și atunci, de ce să nu acceptăm că evoluția poate avea loc și în afara sferei biologice? Darwinismul a fost deja aplicat în studiul ideilor, economiei, cosmologiei, fizicii cuantice ș.a. Studiul pe care l-am publicat în 2010 și nominalizat pentru ENI Awards 2012 – Using Gene Expression Programming to estimate sonic log distributions based on the natural gamma ray and deep resistivity logs: A case study from the Anadarko Basin, Oklahoma – a fost o aplicație directă a unor algoritmi genetici care funcționează prin găsirea unei soluții cât mai bune cu putință la probleme de optimizare dificile, imitând procesul de evoluție din natură, așa cum a fost descris de Darwin.

Un clasic exemplu de evoluție non-biologică îl reprezintă browserele web, care de la începuturi până astăzi, au suferit numeroase modificări și dezvoltări pentru a se adapta mai bine mediilor internet și nevoilor utilizatorilor. De la Mosaic,  Netscape Navigator și WebExplorer – rudimentare ca și primele forme de viață, s-a ajuns, prin acumulări evolutive de noi trăsături, la constelația modernă de browsere – Internet Explorer, Mozilla FireFox, Internet Edge, Google Chrome, Safari, Brava, Opera și altele. Istoria apariției și dezvoltării browserelor web mimează evoluția formelor de viață: adaptare, creșterea gradului de acomodare cu mediul înconjurător, adăugarea și perpetuarea de noi trăsături avantajoase pentru propagare, extincție și înlocuirea cu alte forme, mai specializate, mai adaptate, mai reziliente.

Dacă viața pe Pământ a avut nevoie de câteva miliarde de ani pentru a evolua de la organisme uni-celulare la formele complexe de astăzi, evoluția browserelor web a avut loc în câteva decenii. De câte ori deschideți calculatorul, tableta sau telefonul inteligent (!), browserele caută ultimele upgrade-uri disponibile, le instalează și astfel evoluează aproape săptămânal, cu pași mici. La scară anuală, apar schimbări mai mari, macro-evoluționiste. De ce să nu vorbim despre o viață non-organică, digitală, a cărei rată de evoluție o depășește cu mult pe cea umană?

Dacă mă gândesc în termeni evolutivi, dezvoltarea vieții organice de la  primele organisme uni-celulare până la Tyrannosaurus Rex și apoi până la Homo sapiens a avut nevoie de câteva miliarde de ani. Inteligența artificială tocmai a ieșit din supa sa non-organică. Iar trecerea de la ChatGPT la GPT4 a durat doar 4 luni. Ne putem aștepta la formele de AGI în următorii 40 ani? Cred că da, bazându-mă pe ratele de evoluție complet diferite ale celor două tipuri de viață.

Un fragment autobiografic

Există o serie de motive pentru care selecția naturală ar putea favoriza AI în detrimentul oamenilor. În primul rând, AI-urile pot fi proiectate pentru a fi mult mai eficiente și mai eficace decât oamenii în multe sarcini. De exemplu, AI-urile pot procesa informații mult mai rapid decât oamenii și pot stoca și accesa cantități mari de date. Acest lucru le conferă un avantaj semnificativ în multe medii competitive.
În al doilea rând, AI-urile pot fi actualizate și îmbunătățite mult mai rapid decât oamenii. Oamenii sunt limitați de evoluția lor biologică, care este un proces lent și gradual. Pe de altă parte, AI-urile pot fi actualizate și îmbunătățite mult mai rapid, atâta timp cât există suficiente date și putere de calcul disponibile. Acest lucru înseamnă că AI-urile se pot adapta rapid la noi provocări și oportunități, în timp ce oamenii pot rămâne în urmă.
În al treilea rând, AI-urile nu sunt limitate de aceleași constrângeri fizice ca și oamenii. AI-urile pot exista în formă digitală, ceea ce înseamnă că pot fi copiate și distribuite cu ușurință. De asemenea, acestea nu sunt supuse acelorași limitări fizice ca și oamenii, cum ar fi îmbătrânirea și bolile. Acest lucru le conferă AI-urilor un avantaj semnificativ în ceea ce privește longevitatea și rezistența.

Bibliografie
Bostrom, Nick. Superinteligența: Paths, Dangers, Strategies, Oxford University Press, 2014.
Tegmark, Max. Life 3.0: Being Human in the Age of Artificial Intelligence. Knopf, 2017.
Russell, Stuart J., Dewey, David, Tegmark, Max și Norvig, Peter. Artificial Intelligence: A Modern Approach. Pearson Education, 2022.

(extrase dintr-o autobiografie scrisă de o inteligență artificială pe 8 iunie 2023)

Concluzii

În centrul conceptului de singularitate tehnologică, propus acum 40 de ani, se află ideea că o superinteligență începe să creeze mai mult din ea însăși și să-și îmbunătățească în mod continuu propriile capacități, fără a fi nevoie ca un om să o antreneze sau să o producă fizic. În acest moment, o superinteligență ar fi capabilă să inoveze atât de repede, încât noi, oamenii, constrânși de propria noastră limitare mentală, am pierde ritmul cu rata de îmbunătățire a acesteia și am avea în mâinile noastre un geniu care a fost scos din sticlă și pe care nu mai putem să-l punem la loc. Superinteligența ar putea să se dovedească a fi o creatură binevoitoare care își folosește capacitățile sale uimitoare pentru a vindeca practic toate bolile umane și pentru a face progrese incredibile în înțelegerea universului. Dar nu avem cum să știm asta înainte de a ajunge în acea singularitate. Este nevoie să ne asumăm riscurile imprevizibile.

Scepticii vor spune că, înainte de a reprezenta o primejdie semnificativă pentru umanitate, superinteligența ar trebui să atingă două performanțe pentru a prelua controlul asupra umanității:

1. Să devină sensibilă și să dezvolte conștiință, emoții, sentimente, la fel ca oamenii.

2. Să devină mobilă, ca roboții, pentru a putea naviga în lumea fizică și să opereze în case, orașe, munți și păduri, la fel ca oamenii. 

Până la data scrierii acestui articol (8 iunie 2023), AI nu a atins aceste performanțe. Dar proprietățile demonstrate până acum și ritmul evolutiv uluitor sugerează că timpul în care AI le va atinge nu este prea departe. Iar faptul că AI tocmai a spart (hacked) sistemul de operare al inteligenței umane – limbajul– este un argument al iminentei apropieri de singularitatea tehnologică. Revoluția AI în curs de desfășurare a pus stăpânire pe limbaj la un nivel care depășește capacitatea medie umană. Iar aceasta înseamnă că AI are acum la îndemână cheia principală a tuturor instituțiilor noastre, de la bănci la școli la biserici, pentru că, folosind limbajul, dăm instrucțiuni băncii noastre, inculcăm cunoștințe în mințile elevilor noștri și ne rugăm Dumnezeului nostru. Limbajul este, de asemenea, instrumentul nostru cel mai complex pentru a crea legi și mitologii, zei și bani, artă și știință, prietenii și tratate politice.

Ne vine greu să acceptăm că o super-inteligență non-umană nu trebuie să fi venit din spațiul extraterestru, ci a fost creată de noi. Dar, ca în celebrul poem goethean al ucenicului vrăjitor, în absența unui stăpân competent și vigilent, lucrurile scapă rapid de sub control.

Ceea ce se poate întâmpla este nimic mai puțin decât sfârșitul umanității în istorie. Pe termen lung, AI-urile vor deveni urmașii de drept ai oamenilor, care își vor pierde statutul de diamantul din coroana creației.

Sau, citându-l pe Geoffrey E. Hilton, „the Godfather of AI”,

Este foarte posibil ca umanitatea să fie doar o fază trecătoare în evoluția inteligenței.

P.S. I have skin in the game: Pe 20 aprilie 2023 am semnat cu Editura Springer, ca unic editor, contractul de publicare a ediției a 2-a a cărții  „Artificial Intelligent Approaches in Petroleum Geosciences”. Noua carte vă apărea probabil la sfârșitul acestui an.

 [1] Despre gândirea de grup (Groupthink). O aplicație la încălzirea globală, 2016

Gândire de grup sau grupuri de gânditori? Despre principiul „50 milioane de francezi nu pot greși”, 2020

„Știința și politica sunt inseparabile” – esența unui amestec toxic, 2022