Cuprins
Scurtă istorie a rețelelor informaționale din epoca de piatră până la IA
În cea mai recentă carte a sa, Nexus. Scurtă istorie a rețelelor informaționale din epoca de piatră până la IA, istoricul renumit Yuval Noah Harari continuă explorarea ambițioasă a traiectoriei umanității, de data aceasta concentrându-se pe rolul rețelelor de informații în definirea civilizației. Publicată în 2024, lucrarea reprezintă o incursiune profundă în modul în care oamenii au colectat, procesat și transmis informații de-a lungul secolelor și cum această capacitate a modelat societățile, a influențat opiniile publice și a menținut structurile de putere. Mai mult, Harari analizează cum emergența inteligenței artificiale reprezintă atât o continuare, cât și o potențială ruptură în această lungă tradiție a gestionării informației.
Inițial autorul își exprimă îngrijorarea sa fundamentală: ascensiunea inteligenței artificiale ar putea crea o criză existențială pentru umanitate. Miturile și legendele ne-au avertizat întotdeauna împotriva invocării unor puteri pe care nu le putem înțelege, iar inteligența artificială pare să fie cea mai recentă iterație în această luptă potențial distructivă. Cu toate acestea, Harari deconstruiește această înțelepciune tradițională. Informația este fundamental benefică, iar mai multă informație este, în principiu, un lucru pozitiv, chiar dacă tendințele autodistructive ale umanității sunt mai pronunțate ca niciodată.
Această parte istorică a cărții este esențială pentru înțelegerea evoluțiilor actuale și a scenariilor viitoare.
Rețelele de informații – fundația societății umane
Harari explorează conceptul fundamental de informație, argumentând că aceasta reprezintă un element constitutiv al realității. Utilizarea informației poate fi controversată, întrucât oamenii concurează pentru a stabili versiuni contradictorii ale realității. Autorul susține că informația nu reflectă întotdeauna realitatea și nu este în mod inerent același lucru cu adevărul. Funcția primordială a informației este conexiunea – indiferent dacă este adevărată sau falsă, informația conectează oamenii. Rețelele construite de oamenii conectați constituie fundamentul societății și au influențat cursul istoriei umane. Schimbarea și progresul în societatea umană se bazează mai mult pe conectivitate decât pe realitate sau adevăr, chiar dacă acest lucru nu conduce automat la o înțelepciune sau sinceritate mai mare.
Până acum, toate rețelele informaționale din istorie s-au bazat pe creatorii de mituri și birocrații umani pentru a funcționa. Tăblițele de lut, sulurile de papirus, tiparul și aparatele de radio au avut un impact considerabil asupra istoriei, dar a rămas mereu sarcina oamenilor să compună toate textele, să le interpreteze și să decidă cine vă fi ars ca vrăjitor sau înrobit drept culac. Totuși, acum oamenii vor trebui să concureze cu creatorii de mituri și birocrații digitali. Principala diviziune din politica secolului XXI s-ar putea să fie nu între democrații și regimuri totalitare, ci mai degrabă între ființe umane și agenți nonumani.
În loc să separe democrațiile de regimurile totalitare, o nouă Cortină de Siliciu ar putea să separe toți oamenii de stăpânii noștri algoritmici insondabili. Oamenii din toate țările și de toate condițiile sociale – incluzând chiar și dictatori – ar putea să se trezească subordonați unei inteligențe străine, care poate supraveghea tot ce facem, în timp ce noi nu avem nicio idee despre ce face ea.
Umanitatea are un succes atât de mare datorită capacității noastre de a coopera în număr mare. Această cooperare este influențată de poveștile pe care ni le spunem unii altora, de la mituri la ficțiuni și religii. Prin consensul asupra acestor narațiuni, oamenii se pot conecta și organiza. Astfel, poveștile sunt modalități prin care oamenii organizează informații. El dă ca și exemple religiile, cultele totalitare ale personalității și narațiunile istorice. Însă aceste povești trebuie să aibă și mecanisme de autocorectare, altfel ele nu pot fi rescrise conform nevoilor contemporane. El indică rolul autocorector al amendamentelor în constituția Statelor Unite, în contrast cu regulile infailibile stabilite de cărțile sfinte precum Biblia.
Un aspect care m-a fascinat este examinarea rolului documentului scris de-a lungul istoriei umane. Asemenea inteligenței artificiale, documentul scris a reprezentat un salt tehnologic important care a schimbat modul în care oamenii procesează informațiile. Birocrația a constituit un salt similar, iar multe dintre problemele care au afectat birocrația sunt susceptibile de a fi extinse în viitor în ceea ce privește IA. Harari citează exemple din propria istorie familială, în care birocrația l-a forțat pe bunicul său să-și părăsească patria din cauza persecuției evreilor de către statul român.
Pot simpatiza cu suspiciunea față de birocrațiile guvernamentale și față de puterea documentelor oficiale, deoarece acestea au jucat un rol important în propria mea familie.
Revoluția informațională din prezent
În zilele noastre, revoluția informațională a culminat cu apariția calculatoarelor. Calculatoarele au transformat societatea în multe moduri, dar această evoluție socială a fost una graduală, de la tăblițele de piatră la birocrație și la IA. Cu toate acestea, trebuie să ne îngrijorăm de potențiala putere a inteligenței artificiale de a acționa independent de contribuția umană. Acest lucru ar putea submina democrația și chiar înțelegerea fundamentală a interacțiunii umane, dacă oamenii nu pot avea încredere că lumea din jurul lor este rezultatul acțiunii umane autentice (și nu computerizate).
Această schimbare în societate a modificat și posibilitățile de supraveghere a oamenilor. Anterior, dictaturile se confruntau cu o limită strictă în capacitatea lor de a supraveghea oamenii, deoarece era necesară acțiunea umană. Acum, calculatoarele care nu dorm pot monitoriza publicul în fiecare secundă a zilei.
Putem compara această posibilă supraveghere de azi cu totalitarismul din trecut, în special Uniunea Sovietică sub conducerea lui Stalin. Calculatoarele trebuie controlate și monitorizate cu atenție pentru a nu dezvolta neintenționat prejudecăți totalitare sau discriminatorii. Autorul citează exemple de utilizări recente ale IA și algoritmilor care au alimentat indignarea și ura. În special, el indică rolul Facebook în purificarea etnică a poporului Rohingya din Myanmar ca exemplu al modului în care minciunile violente au fost amplificate de computere, ducând la suferință.
De fapt, acești algoritmi au preluat singuri prejudecățile rasiste și misogine din datele pe baza cărora au fost instruiți.
Social media a devenit un instrument puternic în influențarea politicului, transformând modul în care politicienii comunică și interacționează cu electoratul. În România, la ultimele alegeri din noiembrie, un exemplu notabil a fost ascensiunea rapidă a lui Călin Georgescu, un necunoscut în politica națională, care aproape a devenit președinte. S-a descoperit ulterior că Georgescu a manipulat platforma TikTok pentru a deveni viral, folosind algoritmii rețelei sociale pentru a-și amplifica mesajele și a câștiga susținători. Acest caz evidențiază cum social media poate fi utilizată pentru a influența opinia publică și a manipula rezultatele electorale, subminând astfel procesele democratice tradiționale.
După revenirea lui Donald Trump la Casa Albă, America a intrat într-o nouă eră de politică externă și internă sub sloganul „America First”. Trump a semnat numeroase ordine executive care au schimbat dramatic direcția politicilor guvernamentale, de la imigrație la energie. Harari subliniază că această abordare a lui Trump, care pune accent pe protecționism și izolare, poate submina alianțele internaționale și poate crea instabilitate globală. În plus, retorica sa polarizantă și utilizarea intensivă a social media pentru a-și mobiliza baza de susținători continuă să alimenteze diviziunile interne și să erodeze încrederea în instituțiile democratice.
Exemple precum acestea subliniază importanța mecanismelor de autocorectare în dezvoltarea tehnologiilor informaționale. Societatea trebuie să implementeze sisteme robuste care să poată contracara tendințele inerente ale informației de a amplifica prejudecățile existente și de a crea noi forme de opresiune. Altfel, virtuțile democratice pe care le prețuim ar putea fi subminate tocmai de instrumentele create pentru a facilita comunicarea și progresul.
Harari observa și creșterea rapidă a sistemelor de IA generativă (precum ChatGPT, Claude, și altele) în ultimii ani și impactul acestora asupra fluxului de informații. Aceste tehnologii ridică întrebări despre natura informației, adevărului și realității în era digitală. Faptul că modelele de IA pot genera conținut care pare autentic dar poate conține inexactități (fenomenul cunoscut ca “halucinații ale IA”) reflectă preocupările lui Harari despre cum informația nu reflectă întotdeauna realitatea.
De asemenea, dezbaterile recente despre reglementarea IA, inclusiv eforturile legislative din Uniunea Europeană (AI Act), Statele Unite și China, reflectă argumentele lui Harari despre necesitatea mecanismelor de autocorectare și a cooperării globale în guvernarea tehnologiilor emergente. Un alt aspect relevant este creșterea polarizării politice și a dezinformării în mediul online, care se aliniază cu avertismentele lui Harari despre potențialul algoritmilor de a amplifica tensiunile sociale și de a submina democrația.
Noua rețea de calculatoare nu va fi neapărat nici rea, nici bună. Tot ce știm sigur este că va fi complet străină de noi și că va fi failibilă. Trebuie așadar să construim niște instituții care să poată ține în frâu nu doar obișnuitele slăbiciuni umane precum lăcomia și ura, ci și erori radical nonumane. Nu există nicio soluție tehnologică la această problemă. E mai degrabă o provocare politică. Avem voința politică de a-i face faţă?
Viitorul sub umbrela inteligenței artificiale
Dar hai să vedem cum privește Harari modurile în care inteligența artificială va afecta societatea în viitor. El compară potențiala dezordine socială cu Revoluția Industrială din secolul al XIX-lea, în sensul că IA oferă atât beneficii, cât și amenințări. Democrația însăși ar putea fi amenințată de ritmul neîntrerupt al inteligenței artificiale. De asemenea critică ascensiunea politicienilor precum Donald Trump, care acordă puțină importanță adevărului sau democrației. Este imperios necesară transparență în crearea algoritmilor care ar putea guverna potențial viețile a milioane de oameni.
Trăim într-o lume interconectată, în care deciziile unei țări pot avea un impact profund asupra altora. Unele dintre cele mai grave pericole reprezentate de IA nu decurg din dinamica internă a unei singure societăți umane, ci dintr-o dinamică implicând multe societăți, ceea ce ar putea duce la noi curse ale înarmării, la noi războaie și la noi expansiuni imperiale.
Dacă toată puterea este încredințată algoritmilor, atunci totalitarismul poate fi rezultatul. Dictatorii moderni reprezintă o amenințare deosebită, mai ales că există o nevoie de unitate globală în guvernanța tehnologiei IA emergente. Amenințările inteligenței artificiale transcend granițele naționale, așa că este esențială cooperarea. Harari observă că schimbarea este singura constantă în istoria umană, astfel încât schimbările aduse de IA nu ar trebui să fie ceva nou. În final, Harari îndeamnă umanitatea să fie vigilentă pentru ca dezvoltarea inteligenței artificiale să fie tratată cu grija cuvenită.
Un dictator paranoic ar putea conferi puteri nelimitate unei inteligențe artificiale failibile, eventual chiar și puterea de a lansa atacuri nucleare. Dacă dictatorul are mai multă încredere în inteligența lui artificială decât în ministrul Apărări, nu ar fi logic să pună sub supravegherea inteligenței artificiale cele mai puternice arme ale țării? Dacă IA face apoi o greșeală sau începe să urmărească un scop nonuman, rezultatul ar putea fi catastrofal – și nu doar pentru țara respectivă,
Una dintre cele mai valoroase contribuții ale cărții este modul în care Harari plasează provocările actuale ale inteligenței artificiale într-un context istoric amplu. Tehnologia actuală reprezintă doar cea mai recentă etapă într-o lungă evoluție a managementului informațional, dar trebuie să privim dincolo de entuziasmul exagerat al momentului și să înțelegem tiparele fundamentale care definesc relația noastră cu informația.
Nexus reprezintă o contribuție importantă la înțelegerea noastră despre cum rețelele de informații au modelat istoria umană și cum continuă să o facă în era digitală. Yuval Noah Harari ne oferă o perspectivă unică, îmbinând analiza istorică riguroasă cu reflecții filozofice profunde despre natura informației și impactul ei asupra societății. Noi trebuie să privim dincolo de anxietățile imediate legate de inteligența artificială și să înțelegem că provocările actuale fac parte dintr-o tradiție mult mai lungă a eforturilor umane de a gestiona și controla informația. În fond, mesajul său este unul prudent și optimist: cu înțelepciune colectivă și vigilență constantă, umanitatea poate naviga și această transformare, așa cum a făcut-o de atâtea ori în trecut.
Acest articol conține butoane și link-uri către librării online. Încerc să găsesc de fiecare dată cel mai bun preț pentru cărțile recomandate pentru a vă da posibilitatea să vă alegeți cât mai multe cărți. Plasând o comandă prin accesarea link-urilor de pe blog, mă ajutați să continui să vă prezint recenzii la cărți de top, cărți bestseller sau cărți care m-au impresionat și vreau să le aduc în atenția voastră. Plasarea comenzii nu modifică prețul produselor.
Cumpără cartea Nexus de Yuval Noah Harari
