Articolul de față invită cititorul să re-evalueze modul in care ne raportam la natură, cultură si tehnologie în modul de organizare a societății bazate pe „extractivism”: extragerea resurselor de orice fel și utilizarea lor în scopul creșterii nelimitate. Privind triada naturii, culturii și tehnologiei, articolul pledează în favoarea armonizării acestor elemente pentru a oferi un trepied stabil pentru continuarea vieții pe Pământ. Triada poate fi la fel de ușor o rețetă pentru catastrofă: alegerea este a noastră. Din punct de vedere istoric, proiectarea tehnologiilor pentru a răspunde provocărilor cu care ne-am confruntat ca umanitate ne reconstruiește ca oameni. Dacă analizăm cu atenție politica optimizării în interiorul și în afara perspectivelor manageriale, vom constata că una dintre principalele surse ale eșecurilor noastre repetate legate de guvernanță și schimbările climatice nu se află în mod intrinsec în tehnologie, ci în scopul cu care o proiectăm și în modul în care ne folosim de ea.

Concluzia va decurge firesc: instrumentele mentale folosite pentru construirea instrumentelor noastre trebuie reexaminate, criticate și reevaluate pentru a ne îndepărta de pericolul real de a perpetua statu-quo-ul extractivismului.

Două tendințe aparent opuse modelează lumea de astăzi: pe de-o parte recursul universal la tehnologie percepută atât ca salvator suprem, cât și ca amenințare existențială, pe de altă parte centralitatea revenirii la natură pentru a face față provocărilor schimbărilor climatice.

Odată cu promisiunea automatizării numită Inteligență Artificială (IA), suntem gata să ne imaginăm o lume care transcende, în bine sau în rău, umanitatea. Această imagine a tehnologiei ne amintește de gândirea magică din jurul fenomenelor naturale – cu excepția faptului că, de data aceasta, obiectul venerației este făurit chiar de om. Pare că pășim încet în animismul tehnologic. În același timp, schimbările climatice – o amenințare existențială clară – sunt abordate în principal ca o „problemă care trebuie rezolvată” cu „obiective care trebuie atinse” folosind o abordare managerială cu subtonuri bine înrădăcinate în viziunea extractivistă asupra lumii.

Atunci când IA este utilizată ca instrument de înțelegere și atenuare a schimbărilor climatice, trebuie să înțelegem mai întâi modul în care conceptualizăm „natura” și care sunt efectele acestei perspective asupra modului în care aplicăm modelele IA la obiectivele în cauză. Atunci când IA este prezentată ca o soluție pentru crearea unei societăți armonioase și pașnice, cu bogăție generalizată și risc zero, nu suntem doar la un pas de distopie, ci ne și îndreptăm vertiginos către un stat de supraveghere totală. Dilema este, cum putem aborda utilizarea și abuzul de IA într-o manieră contextuală?

Materia contează

A patra revoluție industrială a adus un fals sentiment că lumea noastră – cel puțin partea din ea care contează din punct de vedere economic – este virtuală. IA amplifică această impresie, creând convingerea că totul poate deveni dematerializat mai devreme sau mai târziu: de la piețele financiare la viața însăși. Virtualul pare a fi noul real, de la cocktail-uri și sex, la educație și spiritualitate. Metaforele înșelătoare, cum ar fi „norul (the cloud)”, perpetuează această percepție. De cele mai multe ori, neglijăm faptul că fiecare octet de date este material, are nevoie de sprijin pentru a se deplasa, folosește spațiul pentru a fi stocat și consumă energie în timpul procesării. Fără suportul material al serverelor și cablurilor, fără muncitorii care să le construiască și să le instaleze, tehnicienii care să le îngrijească și tonele de apă și energie pentru a le răci și fără referința constantă la această lume materială, cea virtuală nu ar exista.

Pandemia COVID-19 este cea mai recentă reamintire a importanței acestei materialități. Dincolo de munca de la distanță și de idiosincraziile sale, economia se oprește dacă mișcarea reală a bunurilor și a oamenilor se oprește. Abia după doi ani de pandemie putem vedea cum diferite niveluri ale societății sunt afectate de aceasta în moduri diferite. Digitalizarea ascunde materialitatea lumii virtuale și, de asemenea, transferă costurile acestei materialități către Sudul global, alimentând povestea „capitalismului curat, ecologic”. Menținând iluzia imaterialității, IA o confirmă.

Limbajul este de o importanță crucială în acest tip de cunoaștere bazat pe abstractizare a realului. De exemplu, una dintre discuțiile majore în modelarea IA este cea despre „realitatea în derivă” – termen folosit atunci când modelul de bază utilizat în proiectarea algoritmului de funcționare a unui sistem IA, în ciuda învățării continue, nu mai corespunde realității în permanentă schimbare, provocând o funcționare defectuoasă. Când spunem „deriva realitatii”, incoștient creăm deja așteptarea că realitatea ar trebui să se comporte conform modelului. Acest limbaj în sine indică o viziune posibil denaturată sau inversată despre “realitate” ca ceva care ar trebui să corespundă modelelor pe care le creăm pentru a o face previzibilă și, în consecință, exploatabilă.

Acest mod de a cunoaște, care pare natural de-a lungul întregii modernități, operează o ruptură fundamentală în fluxul lucrurilor, ca să spunem așa. În principal, pentru a măsura orice, mai întâi îl re-creăm în funcție de interesul nostru și îl separăm de restul sistemului. Cu alte cuvinte, acest tip de gândire extrage un fragment dintr-un fenomen, îl redă ca măsurabil și îl re-prezintă ca fiind adevărul despre acel fenomen.

Corpul contează

IA și efectele sale asupra diferitelor percepții ale corpului uman sunt atât omniprezente, cât și aproape niciodată analizate. Corpul însă are o relație de dublă reciprocitate cu sistemele IA: diversele constructe ale corpului uman, de la cele medicale la cele rasiale sunt motor al proiectării și dezvoltării IA, în timp ce chiar corpul uman în sine și percepția sa sunt modificate ca o consecință a generalizării utilizării IA.

Cum interacționează diferitele concepții despre corpul uman ideal în proiectarea și aplicarea IA? Și cum se reflectă utilizarea și abuzul de IA asupra înțelegerii noastre cu privire la corpul uman? Corpurile noastre devin un agregat de date referitoare la aportul nostru cotidian de calorii, pașii zilnici, minutele de atenție îmbunătățită electronic, masa musculară sau ritmul cardiac în timp ce, să zicem, exersăm pe o bandă de alergat.

Această percepție este modelată de, și modelează la rândul ei, standardele încorporate într-o gamă largă de aplicații, de la wellness la industria sănătății. IA reordonează și reformează relația noastră cu corpurile noastre. Pe de o parte, corpurile devin noduri de generare a datelor pentru economia digitală care aduce industriile sănătății și bunăstării sub umbrela sa. Pe de altă parte, începem să ne percepem corpurile ca vehicule de îmbunătățire constantă; resurse care urmează să fie exploatate în încercarea noastră de a „crește”, de a obține un loc de muncă mai bun, un partener mai bun sau, în mod autoreflexiv, o stare de bunăstare superioară. Fiziologia corpului se transformă într-o economie a auto-perfecționării constante.

Această economie se oprește, însă, brusc, atunci când se confruntă cu moartea. IA și biotehnologia ne șoptesc că nu trebuie să fie așa. Percepția finitudinii ca problemă este o particularitate culturală a modernității occidentale. Pe parcursul scurtei istorii a gândirii moderne și a practicilor științifice, această percepție a generat eforturi nesfârșite pentru a depăși moartea. Cea mai recentă încercare de nemurire este prezentă în promisiunile IA de a transcende corpul uman și de a descărca conștiința într-o mașină, ca în romanele ciberpunk de Greg Egan, în timp ce biotehnologia promite posibilitatea întineririi eterne ale aceluiași corp. Seducția nemuririi se strecoară în cele din urmă în dispozitivele noastre portabile prin aplicațiile pe care le descărcăm compulsiv, le folosim obsesiv și pe care rareori le ștergem, chiar dacă se întâmplă să uităm de ele.

Să (ne) cunoaștem natura

Aplicațiile IA vin nu numai cu promisiunea supremației complete asupra corpurilor noastre, ci și cu cea a controlului total al naturii în sine. Vrem să credem că IA ne poate da cumva puterea de stăpânire a naturii prin simpla măsurare și gestionare a acesteia. Dar cum am ajuns să credem că natura este separată de noi, măsurabilă și gestionabilă? Și cum se reflectă această convingere în modul în care generăm cunoștințe despre și înțelegem natura astăzi? Ce lăsăm în mod conștient sau inconștient deoparte pentru a ne putea construi modelele/algoritmii care generează predicții ce eșuează în mod regulat?

Ne bazăm pe colectarea unor cantități masive de date și ne imaginăm că este echivalent cu a cunoaște ce se întâmplă în natură. Măsurarea vitezei vântului și a cantității de precipitații într-o furtună ne conduce la crearea unor clasificări complexe care ne permit să caracterizăm fenomenul și să îi atribuim numere: un uragan numărul 3 sau un taifun numărul 4 – semne care poartă mirajul de gestionare și control. Aproape că devin cântece de leagăn; știm la ce ne putem aștepta. Acesta este un tip foarte special de cunoștințe care ne-a fost transmis din tradiția gândirii occidentale moderne și care se bazează pe prezumția predictibilității și lanțuri cauzale complexe probabiliste. De la epoca Iluminismului, numerele, raționalitatea și natura au fost indisolubil legate în gândirea științifică occidentală. Numerele au o istorie și ele au ajuns să însemne „adevăr” într-un moment foarte specific, Renașterea și adoptarea cifrelor arabe, iar datele, faptele și realitatea au fost reunite sub acoperișul legilor naturale, cu simpla afirmație „așa funcționează natura”. Istoria și nucleul acestei credințe au fost rareori puse la îndoială, în ciuda numeroaselor apeluri atât la conștientizarea prejudecăților inerente în proiectarea algoritmilor, cât și la o utilizare mai etică a IA.

Ce se întâmplă atunci când ne raportăm la natură ca entitate măsurabilă într-o lume cvasi digitalizată? Același lucru care se întâmplă cu corpurile noastre atunci când acestea se dezintegrează în seturi de date care sunt apoi afișate pe ecranele noastre portabile. În mod fundamental, prima relație cu natura este de fapt relația cu percepția propriului corp.

Iar în această paradigmă tehnico-științifică, atât natura, cât și corpurile noastre devin în mod înșelător resurse gestionabile care trebuie exploatate pentru a obține alte lucruri (de obicei profit, plăcere și putere asupra celorlalți și a propriilor persoane). Ceea ce pierdem din vedere este faptul că, dincolo sau dincoace de măsurători, corpurile noastre suntem noi înșine și noi suntem natura.

A supraveghea și a recompensa

Unde se întâlnește natura cu natura umană? Omenirea actuală este produsul secundar al invenției moderne a naturii prin sistemul de supraveghere, măsurare, clasificare și monitorizare. Am repoziționat umanitatea nou găsită între nicovala naturii ca tărâm tămăduitor prin excelență și ciocanul amenințător al aceleași naturi. Vrem ca produsele noastre să fie ecologice, bio, vrem să ne cultivăm propriile alimente, dar vrem să le facem într-o grădină urbană. Susținem că vrem o întoarcere la natură, dar o natură care este curățată de latura sa sălbatică. Ne temem de natură, deoarece este un memento constant al propriei noastre efemerități, așa că încercăm să eliminăm urmele ei.

Pe de o parte, sărbătorim întoarcerea la natură ca pe un remediu la starea generală de rău a stilului nostru de viață modern, pe de altă parte, simțim nevoia să analizăm și să controlăm orice aspect al comportamentului nostru care ne-ar arunca înapoi la „natura noastră rea”. Dar ce ne înspăimântă în natura noastră? Ce este fiara care trebuie îmblânzită? Răspunsul imediat ar fi comportamentul „viclean” la care unii pretind că suntem înclinați în mod natural. De la teama de a „da drumul” corpurilor noastre care ar crește în greutate sau s-ar descompune în mod natural, până la a renunța la presupusele noastre instincte prădătoare, individualiste, care se presupune i-ar împinge pe mulți automat în delincvență, lupta împotriva acestei naturi este omniprezentă. Dispozitivele noastre ne analizează comportamentul, intern și extern, în același mod în care analizăm mediul nostru natural cu anxietate justificată și ne îngrijorăm asupra efectelor schimbărilor climatice. Se pare că ne gândim că tot acest sistem ne va menține pe toți în normă și va asigura perpetuarea vieții în parametrii actuali.

Celălalt răspuns posibil este că de fapt abaterea de la norma impusă ne sperie pentru că este doar un simptom, un indicator al posibilității morții. Abaterea de la norma capitalismului este moartea însăși: moartea ca finitudine a corpului uman, moartea ca dispariție planetară cauzată de schimbările climatice, moartea ca punct final în sistemul complex de datorii și finanțe.

Consensul actual este că trăim la nivel global în era capitalismului de supraveghere care ia o varietate de forme și nume. Spre deosebire de viziunea clasică, care asociază supravegherea cu pedeapsa, în capitalismul actual satisfacția instantanee sau recompensa promisă înlocuiesc pedeapsa.

În tehno-capitalism, sistemul de recompense este conceput atât pentru a genera date, cât și pentru a domestici prin supraveghere constantă, fiind de fapt o reflecție a relației noastre cu conceptul de natură – atât umană, cât și non-umană.

Dacă natura a fost din punct de vedere istoric un produs al observației și al clasificării, aspirația noastră de a construi o societate perfectă readuce politica la natură așa cum am definit-o – celebra ordine naturală. Din păcate, clasificările umane nu sunt neutre – dimpotrivă. Inegalitățile și ierarhia sunt încorporate în ele.

Pe măsură ce natura pare supravegheată, măsurată și neapărat salvată de schimbările climatice prin rețelele de senzori care generează date, tot așa suntem re-generați în sisteme de supraveghere pentru a fi salvați din propria noastră natură – și în cele din urmă sperând să devenim nemuritori. Argumentul de aici este că sistemul de supraveghere și recompensă în guvernarea populației de astăzi are ca scop final ștergerea finitudinii prin uitare. În acest proces, recreăm și operăm cu clasificări extrem de problematice ale ființelor umane și le re-naturalizăm cu ajutorul tehnologiei. Mai mult, sistemul planetar este un sistem complex și deschis care nu poate fi abordat cu instrumentele potrivite pentru sistemele complicate închise, așa cum o facem acum. Ceea ce conduce la un paradox – dacă omorâm moartea, omorâm natura.

Și acum, incotro?

Schimbarea climatică nu poate fi gestionată într-o paradigmă extractivistă cu ajutorul tehnologiilor IA care să regleze sistemul natural. Această idee este un miraj generat de iluzia cunoașterii complete promisă de extragerea a cât mai multe date, combinată cu credința că modelele se suprapun perfect realității și că prin gestiunea modelului vom gestiona realitatea. Adevărul este că, mai devreme sau mai târziu, realitatea va devia de la model. Cum spun teoreticienii sistemelor: „toate modelele sunt greșite. Unele dintre ele sunt folositoare.” Secretul constă în a discerne care din modele sunt folositoare și aplicabile. Deocamdată, în fața IA, ne comportăm precum un copil de vârstă fragedă care găsește un ciocan. Toate obiectele devin cuie. Mai mult, dăm vina pe ciocan, căutând spiritul, fantoma din mașinărie, pentru că lingvistic ea este deja inteligentă (un nume greșit), deci implicit ar trebui să aibă o conștiință. Veștile sunt acestea:

1. Va trebui să identificăm bine care sunt cuie și care sunt obiecte fragile în fața ciocanului IA;

2. Nu putem lăsa ciocanul să identifice cuiele, și nici IA să își identifice propriul domeniu de aplicabilitate. Asta pentru că fantoma din IA suntem noi. Dacă dorim ca inteligența artificială să-și formeze propria conștiință, va trebui sa ne-o dezvoltăm pe a noastră întâi.