E în „Fiul risipitor”, al lui Radu Tudoran, o scenă în care servitoarea, trimisă de stăpân la operă, să vadă „Traviata”, vine acasă și povestește că a fost frumos, dar au cântat ăia prea mult, și până n-a murit curva n-au avut voie să plece acasă. Cam așa m-am simțit și eu citind „Nexus”, ultima carte faimoasă a nu mai puțin faimosului Yuval Harari. A fost interesantă, am aflat câteva chestii bune din ea, dar putea să nu facă atâta exces de cuvinte și ne-ar fi fost tuturor mai bine.
Probabil de vină este și lipsa asta de răbdare a omului modern, că nu mai ducem cărți lungi – mă rog, 450 de pagini nu e chiar mult, dar subiectul putea fi tratat și mai eficient – însă și maniera școlărească a lui Harari, cu care a văzut că are succes încă de la Sapiens, a fost dusă de data asta prea mult în decor. Față de Sapiens, prima carte pe care i-am citit-o, de care am fost de-a dreptul entuziasmată, pe asta mi-a fost greu s-o termin. Și nu numai mie. Harari ne-a decimat aproape jumătate din clubul de carte, așa că sâmbăta asta ne întâlnim (online) în cerc restrâns să discutăm apocalipsa AI, după Harari. Dacă ați citit-o și vreți să participați, găsiți link-ul de conectare la final.
Acuma că m-am răcorit, să vedem și despre ce e vorba în Nexus ăsta. Adică să-i recunoaștem și părțile bune.
În esență Harari a vrut să răspundă în cartea asta unei întrebări filosofice: de ce suntem (ca omenire) așa de deștepți, să inventăm chestii utile și fantastice, dar în același timp suntem și așa de proști încât să continuăm să le producem chiar dacă nu suntem siguri că le putem controla, iar asta ne poate distruge ca specie. După mine Harari n-a prea reușit să răspundă la întrebarea asta, adică eu una n-am înțeles care ar fi răspunsul scurt, dar are câteva argumentații interesante care merită discutate.
În primul rând, dacă mai era nevoie, din cartea asta afli că nu e nimic nou sub soare, oamenii se comportă cam la fel, de la tăblița de lut la computer. Ca în toate cărțile lui, Harari face și aici o călătorie în timp, de la inventarea primelor rețele informatice până azi, că doar de aia e istoric. Și asta e de fapt punctul forte al lui, capacitatea de a povesti captivant și simplificat o istorie de câteva mii de ani, cu date și exemple concrete care-i sprijină afirmațiile și comparațiile cu lumea de azi, și mai ales predicțiile sumbre pe care le face în legătură cu viitorul.
Mai multă informație nu înseamnă aflarea adevărului
El pleacă de la o afirmație cu care umblăm mulți în gură în ultimii ani, și anume că mai multă informație conduce la aflarea adevărului. Ceea ce se dovedește fals și nu de ieri de azi. Harari demonstrează asta încă de la apariția tiparului încoace. El spune că de la începutul istoriei informația a avut doar rol de conectare între mai multe puncte într-o rețea informatică, și ea nu a condus musai la adevăr, ci mai degrabă la ordine și control, visul oricărei puteri, fie ea democratică, autocratică sau dictatorială.
Horoscoapele pun îndrăgostiții în formațiuni astrologice, emisiunile de propagandă pun alegătorii în formațiuni politice, iar cântecele de marș pun soldații în formațiuni militare.
De la scrijelirea tăblițelor de lut, cu rol birocratic – să se știe cine ce deține sau ce are de plătit către stăpânire – la inventarea miturilor fondatoare ale diferitelor popoare (unde s-a fabulat la greu), toate au reprezentat informație care a conectat și modelat lumea de-a lungul timpului, fără să aibă neapărat legătură cu adevărul. De aceea Harari zice că nu contează câtă informație ajunge la cineva, ci ce este acea informație, cine o gestionează și mai ales ce mecanisme de control există pentru echilibrarea rețelei.
Biserica de exemplu a deținut într-o vreme monopolul informației, înainte de inventarea tiparului, când nu aveai ce citi decât Biblia și chiar și interpretarea ei era strict apanajul câtorva:
Biserica a încercat să închidă societatea într-o cameră de ecou, permițând răspândirea doar a acelor cărți care o susțineau, iar oamenii aveau încredere în biserică deoarece aproape toate cărțile o susțineau. Chiar și laicii analfabeți care nu citeau cărți erau impresionați de recitarea acestor texte prețioase sau de expunerea conținutului lor. Acesta este modul în care credința într-o tehnologie supraumană presupus infailibilă, precum Noul Testament, a condus la apariția unei instituții umane extrem de puternice, dar falibile, precum Biserica Catolică, care a zdrobit toate opiniile opuse ca fiind „eronate”, în timp ce nu a permis nimănui să pună la îndoială propriile opinii.
Harari povestețe captivant despre istoria nașterii diverselor variante ale Vechiului Testament și ale Tanakh (biblia evreilor), ca interpretări pentru întrebările credincioșilor născute din viața de zi cu zi, care evolua, în timp ce textele sfinte rămâneau inadecvate la vremuri. Fiecare variantă reprezintă interpretarea sau interpretarea interpretării textelor inițiale și aceste interpretări au fost date de niște înțelepți ai vremii, ghidați și ei de propriile biasuri, uneori după lupte aprige care au dus și la sciziuni în cadrul aceleiași religii. Ar fi amuzant dacă n-ar fi trist că inclusiv în ziua de azi sunt milioane de credincioși care încă mai iau în serios textele astea și se ghidează după ele. Aici trebuie să îmi admit biasul, în caz că mai e o surpriză pentru cineva care citește blogul ăsta, și să adaug faptul că mi s-a părut amuzantă comparația lui Harari, între adepții diverselor religii care se bat pe piatra sfântă de la Ierusalim, cu vânătorii moderni de Pokemoni. În esență, zice el, și unii și alții vânează niște iluzii.
Trăsătura fundamentală a tuturor acestor texte și interpretări a fost că întotdeauna cartea și instituția inventată ca s-o aplice (biserica) sunt mai presus de orice greșeală, iar eventualele greșeli, niciodată recunoscute, s-ar fi datorat de fapt strict unor oameni care au intepretat greșit câte ceva. De exemplu ura la adresa alor religii, abuzurile sexuale ale preoților asupra copiilor sau viziunea bisericii cu privire la persoanele LGBT. În anii din urmă papii ăștia mai deschiși la minte au început să mai recunoască din greșeli, dar niciodată nu le-au pus în cârca bisericii, ci a unora dintre oamenii din ea. „Prima regulă a schimbării învățăturilor Bisericii este să nu recunoști niciodată că ai schimbat învățăturile Bisericii!”, zice Harari.
Tiparul a răspândit mai mult prostiile decât știința
Biserica a pierdut monopolul informației odată cu inventarea tiparului. Dar asta nu a echivalat cu revoluția științifică, deși, zice Hahari, unii sunt tentați să le pună pe aceeași treaptă. Și asta pentru că, încă de la inventarea tiparului s-a văzut și că hârtia suportă orice prostie, ceea ce continuă să facă și azi:
Dar tiparul nu a fost cauza principală a revoluției științifice. Singurul lucru pe care l-a făcut tiparnița a fost să reproducă fidel texte. Mașina nu avea capacitatea de a veni cu idei noi proprii. Cei care leagă tiparul de știință presupun că simplul fapt de a produce și de a răspândi mai multe informații îi conduce inevitabil pe oameni la adevăr. De fapt, presa scrisă a permis răspândirea rapidă nu numai a faptelor științifice, ci și a fanteziilor religioase, a știrilor false și a teoriilor conspirației. Poate cel mai notoriu exemplu al acestora din urmă a fost credința într-o conspirație mondială a vrăjitoarelor satanice, care a dus la nebunia vânătorii de vrăjitoare care a cuprins Europa modernă timpurie.
O piață liberalizată a informației s-a văzut că de multe ori a stimulat mai degrabă difuzarea scandalului și a senzaționalismului în detrimentul adevărului. Pentru că, ce să vezi, oamenii caută mai degrabă senzaționalul decât informația științifică aridă. Un best seller al vremii a fost cartea „Ciocanul vrăjitoarelor”, niște elucubrații ale unui călugăr dus cu pluta, care a stârnit vânătoarea de vrăjitoare în Europa, adică schingiuirea și uciderea a mii de oameni nevinovați, pentru niște tâmpenii din capul unui nebun. În același timp, trecea aproape neobservată, lucrarea lui Copernic „Despre revoluțiile sferelor cerești”.
Când vă mai plângeți azi (aici mă includ și pe mine) că lumea nu mai vrea să citească, nu e interesată decât de bârfe, filmulețe cu pisici și alte rahaturi, să știți că de fapt întotdeauna a fost așa.
În colțul celălalt al ringului, Hahari laudă știința, care spre deosebire de religie nu operează cu certitudini inventate de niște bărboși, ci exact cu incertitudini, cu întrebări la care mai mulți oameni caută neîncetat răspunsuri. Revoluția științifică, zice Harari, a fost lansată de descoperirea ignoranței:
Deoarece chiar și geniile suferă de prejudecăți de confirmare, nu poți avea încredere în ele pentru a-și corecta propriile erori. Știința este un efort de echipă, care se bazează mai degrabă pe colaborarea instituțională decât pe oamenii de știință individuali sau, să zicem, pe o singură carte infailibilă. Desigur, și instituțiile sunt predispuse la erori. Instituțiile științifice sunt totuși diferite de instituțiile religioase, în măsura în care acestea recompensează scepticismul și inovația mai degrabă decât conformitatea. Instituțiile științifice sunt, de asemenea, diferite de teoriile conspirației, în măsura în care acestea recompensează auto scepticismul. Teoreticienii conspirației tind să fie extrem de sceptici cu privire la consensul existent, dar când vine vorba de propriile lor convingeri, își pierd tot scepticismul și cad pradă prejudecății de confirmare. Marca științei nu este doar scepticismul, ci auto scepticismul, iar în inima fiecărei instituții științifice găsim un mecanism puternic de autocorectare.
Dacă prima regulă a schimbării învățăturilor Bisericii este să nu recunoști niciodată că ai schimbat învățăturile Bisericii, în știință este taman invers. De aceea Hahari a pus față în față aceste două sisteme pentru a face mai evidentă nevoie de mecanisme de control de care orice societate are nevoie, iar omenirea are cu atât mai mult nevoie acum, în pragul revoluției Intelighenției Artificiale.
Cine antrenează algoritmii controlează lumea
Rețelele de informații nu maximizează adevărul, ci doar formează un echilibru între adevăr și ordine, ceva ce are nevoie fiecare societate. Harari zice că atât birocrația, cât și mitologia, sunt esențiale în orice societate, dar niciuna din ele nu urmărește neapărat adevărul, de aia e nevoie de mecanismele astea de control care să se asigure că rețelele de informații își identifică și corectează propriile greșeli. Pentru că altfel, rezultatul e exploziv:
Dacă construiești o bombă și ignori legile fizicii, bomba nu va exploda. Dar dacă construiești o ideologie și ignori faptele, ideologia se poate dovedi totuși explozivă. În timp ce puterea depinde atât de adevăr, cât și de ordine, de obicei oamenii care știu să construiască ideologii și să mențină ordinea sunt cei care dau instrucțiuni oamenilor care știu doar să construiască bombe sau să vâneze mamuți. Robert Oppenheimer s-a supus mai degrabă lui Franklin Delano Roosevelt decât invers. În mod similar, Werner Heisenberg s-a supus lui Adolf Hitler, Igor Kurchatov s-a supus lui Iosif Stalin, iar în Iranul contemporan experții în fizică nucleară urmează ordinele experților în teologie șiită.
Mecanismele de control mai au un rol, și anume cel de a se asigura că rețeaua informatică nu este acaparată de un dictator sau autocrat, care să controleze populația astfel. Harari face o comparație între democrațiile occidentale – unde justiția, presa liberă și sistemul politic democratic se controlau reciproc – și comunism – unde presa și justiția sunt subjugate și intimidate de controlul politic. Apar în carte și referiri la România și securitatea lui Ceaușescu, dar mai ales la Rusia, de la Stalin la Putin.
În 2019, am făcut un tur al orașului Cernobîl. Ghidul ucrainean care a explicat ce a dus la accidentul nuclear a spus ceva care mi-a rămas în minte. „Americanii cresc cu ideea că întrebările duc la răspunsuri”, a spus el. „Dar cetățenii sovietici au crescut cu ideea că întrebările duc la probleme.”
Marele noroc al acelor popoare care au trecut prin comunism sau alte regimuri totalitare, pentru o vreme, a fost că încă nu se inventase AI-ul și controlul dictatorial nu a fost atât de total, tehnic, pe cât ar fi dorit conducătorii, ci s-a bazat mai degrabă pe turnătorii și inducerea fricii. Niciunul nu a reușit să controleze viețile oamenilor atât de complet cum se prefigurează că o vor face noile tehnologii, așa că până la urmă am mai avut o scăpare.
Și așa ajunge Harari la marea lui teamă cu privire la AI și noile tehnologii, care se prefigurează a fi controlate de o entitate non-umană, și de algoritmii pe care momentan îi antrenează o mână de ingineri conduși și ei la rândul lor de propiile biasuri, așa cum în vremea interpretării bibliei erau și înțelepții bărboși, care trauceau învățăturile religioase pentru popor.
După cartea Mariei Ressa, aflăm și de la Harari despre nenorocirile făcute de Facebook și algoritmii lui setați să maximizeze „ingeigementul”, în anii 2015-2017, când ar fi stat la baza instigării populației budiste din Myanmar împotriva musulmanilor din minoritatea rohingya. Ce s-a întâmplat acolo a fost că Facebook a rostogolit și viralizat niște îndemnuri ale unui călugăr budist la linșajul acelei minorități și asta s-a concretizat într-un masacru. Directorii rețelei s-au disculpat, că nu ar fi avut nicio vină, că ei n-au făcut decât să pună la dispoziția tuturor un mijloc de exprimare liberă, deși au fost avertizați din interior că algoritmii setați doar să mărească implicarea utilizatorilor fac asta prioritizând informațiile care indignează, în detrimentul adevărului.
Pe măsură ce platformele erau invadate de falsuri și indignare, directorii au sperat că, dacă mai mulți oameni vor avea posibilitatea să se exprime mai liber, adevărul va prevala în cele din urmă. Totuși, acest lucru nu s-a întâmplat. Așa cum am văzut de nenumărate ori de-a lungul istoriei, într-o luptă pentru informații complet libere, adevărul tinde să piardă. Pentru a înclina balanța în favoarea adevărului, rețelele trebuie să dezvolte și să mențină mecanisme puternice de autocorectare care să recompenseze spunerea adevărului. Aceste mecanisme de autocorectare sunt costisitoare, dar dacă doriți să obțineți adevărul, trebuie să investiți în ele.
Harari subliniază că asta se poate întâmpla din nou, oricând, pentru că algoritmii nu știe carte, gen. Ei sunt antrenați și li se dă un obiectiv, pe care-l ating cu orice preț, poată să piară și lumea. Și asta zice Harari, că lumea chiar va pieri, dacă nu vom fi în stare să punem niște mecanisme de control eficiente în calea acestor algoritmi, a boților – care spre deosebire de oameni nu au niciun drept, deci nici la liberă exprimare – și a AI-ului în general, care nu a ajuns încă să fie o entitate non-umană cu voință proprie, dar e o chestiune de când, nu de dacă.
Problema e cine mai poate să se pună azi cu giganții tehnologiei care au ajuns să investească în lobby parlamentar mai mult decât industria petrolului și aia farma.
În 2022, cele mai importante companii de tehnologie au cheltuit aproape 70 de milioane de dolari pentru lobby în Statele Unite și alte 113 milioane de euro pentru lobby pe lângă organismele UE, depășind cheltuielile de lobby ale companiilor de petrol și gaze și ale celor farmaceutice. Giganții tehnologici au, de asemenea, o legătură directă cu sistemul emoțional al oamenilor și sunt maeștri în influențarea capriciilor clienților și alegătorilor. Dacă giganții tehnologici se supun dorințelor alegătorilor și clienților, dar în același timp modelează și aceste dorințe, atunci cine controlează cu adevărat pe cine?
Apoi se mai pune problema pe mâinile cui încap rețelele astea, căci evident că niște lideri carismatici, populiști, vor fi tentați să creadă că astfel vor controla mai bine lumea, dar, zice Harari, e doar o iluzie, căci instrumentul AI e atât de puternic încât va fi o armă periculoasă în mâna oricui va fi tentat să abuzeze de ea.
Și că tot veni vorba de populiști, are Harari o definiție foarte mișto a populistului:
Ceea ce transformă pe cineva într-un populist este afirmația că doar el reprezintă poporul și că oricine nu este de acord cu el – fie că este vorba de birocrați de stat, grupuri minoritare sau chiar majoritatea alegătorilor – suferă de o conștiință falsă sau nu face parte cu adevărat din popor.
Acuma aplicați asta la vremurile pe care le trăim 🙂
Problema cu populismul ăsta crescând pe care-l vedem în jur se datorează de fapt acestui val de informații cărora nu le mai poate face nimeni față, care ni se revarsă în cap pe toate căile: telefon, televizor, computer. Oamenii tind să se refugieze în teorii ale conspirației care sunt expuse simplist și mai ușor de înțeles, decât adevărul științific, și să urmeze liderii care le povestesc pe limba lor că au soluția pentru toate relele.
Când realitatea e că probabil momentan nu are nimeni soluții, toți bâjbâie. Dacă ne uităm la UE care încearcă să facă niște regulamente ale rețelelor și e lovită ba de Trump, din exterior, cu tarife și amenințări, ba de propriii cetățeni, din interior, care se tem de restrângerea drepturilor și de cenzură. Iar în cacofonia asta generalizată, nu se mai înțelege nimeni cu nimeni.
Dacă în antichitate democrația a fost mai ușor de implementat și gestionat doar în orașe stat, în zone restrânse geografic, din cauza faptului că atunci nu exista o rețea de informații suficient de vastă ca să asigure participarea al dezbatere a unui număr mare de oameni, pare paradoxal că taman acum, când informația e globală și poate participa la dezbatere oricine, din orice colț al lumii, democrația modernă, actuală, suferă exact din cauza asta. A faptului că vorbim pe prea multe voci și nu avem niște metode de echilibrare și de aflare a adevărului. Cu cât suntem mai „informați” aparent, cu atâta suntem mai incapabili să ne mai înțelegem unii cu alții. Cu alte cuvinte, vorba bancului, hai să ne organizăm un pic…
Democrațiile mor nu numai atunci când oamenii nu sunt liberi să vorbească, ci și atunci când oamenii nu sunt dispuși sau capabili să asculte.
Ne adunăm, așadar, sâmbătă, 25 aprilie, ora 21.00 (ora României), ca să vedem dacă avem noi soluții mai bune decât Harari.
Link de conectare la clubul de carte
Oricum, față de cartea profesorului de filosofie de la Sorbona, conservator, care se temea că wokismul o să ne fie sfârșitul, cartea lui Harari a adus un suflu mai progresist și a fost o plăcere de citit, chit că a fost lungă. Pe lângă ideile democratice din ea (ce înseamnă să fii minoritar și să înțelegi importanța tuturor vocilor diverse la masă) Harari are și talent la povestit și lucruri interesante de spus. Sau poate sunt eu biased și aici 🙂
