GUEST WRITER Av. prof. univ. dr. Mihai Hotca: Inteligența artificială și pericolele asociate acesteia

Plecând de la ideea că este important ca oamenii să tragă toate învățămintele furnizate de istorie și să nu-i uite pe Hitler, Stalin sau alți ticăloși care s-au perindat pe scena societății, constat că uneori suferim de un soi de ablepsie (orbire) în ceea ce privește pericolele asociate obiectivelor urmărite.

Referitor la pericolele ce pot veni dinspre creșterea importanței inteligenței artificiale, Harari avertizează: „Toată bogăția și puterea ar putea fi concentrate în mâinile unei elite minuscule, în vreme ce majoritatea oamenilor vor suferi nu din cauza exploatării, ci a unui lucru mult mai grav – irelevanța” (Homo deus).

Moravec, de asemenea, atrage atenția, avertizând: ”Noi, oamenii, vom beneficia un timp de munca lor, însă mai devreme sau mai târziu, la fel ca în cazul copiilor naturali, ele (inteligențele naturale – n.n.) își vor urma propria soartă, iar noi, bătrânii lor părinți, ne vom stinge în tăcere”[1].

În afara exemplelor și lecțiilor oferite de istoria trăită de oameni, izvoarele geologice ne pun în lumină și alte evenimente din care putem învăța. Un eveniment care ne furnizează informații relevante despre cum poate dispărea o specie de pe Terra îl reprezintă extincția dinozaurilor.

La scara Universului, 160 de milioane de ani, cât se presupune că au trăit dinozaurii, nu înseamnă mare lucru, mai riguros aproape nimic. Și atunci ne întrebăm, ce reprezintă, la aceeași scară, perioada în care omul și strămoşii lui (incluzându-l aici şi pe Ardipithecus, despre care se presupune că a trăit cu aproximativ 5 milioane de ani în urmă) au ocupat Planeta Albastră? Înseamnă, de aproximativ 30 ori mai puţin decât aproape nimic.

Totuși, omul este ultimul stăpânvenit pe Pământ. În acest context, două întrebări sunt pertinente: Ce şanse are omul să dăinuie pe Pământ?; Cât timp va stăpâni omul Planeta Albastră? Bineînțeles, răspunsul cert la aceste întrebări este imposibil de dat. Cel mult se pot da răspunsuri cu o oarecare probabilitate de adevăr. Altfel spus, longevitatea sau dăinuirea speciei umane poate fi exclusiv presupusă, cu un  grad de improbabilitate ce se plasează în domeniul speculaţiilor.

Ceea ce se poate face, fără a trece de bariera presupunerilor rezonabile și a intra în domeniul speculațiilor, este identificarea pericolelor majore care ameninţă viitorul omului.

Printre pericolele mari care pot avea ca efect extincţia oamenilor, se numără: un posibil impact al Pământului cu un asteroid uriaş, un eventual război nuclear, o eventuală pandemie naturală sau artificială, încălzirea globală accentuată, folosirea unor descoperiri ştiinţifice cu efecte nefaste s.a. Însă, volens nolens, între amenințările care pot pune în discuție existența speciei umane trebuie să figureze dezvoltarea negativă a inteligenţei artificiale.

Referitor la subiectul inteligenței artificiale (AI) s-au spus și scris multe, uneori cu optimism, iar alteori cu pesimism sau cu reținere. Din prima categorie, cea a optimiștilor, face parte Mark Zuckerberg, care declara: „În legătură cu acest subiect, sunt optimist”[2]. În tagma celor care au tras anumite semnale de alarmă trebuie inclus Elon Musk, directorul executiv al Tesla și SpaceX, care a afirmat că inteligența artificială reprezintă un „risc fundamental pentru civilizația umană” și a cerut măsuri de reglementare proactive, până nu este „prea târziu”[3]. E. Musk a comparat inteligența artificială cu „chemarea diavolului”[4].

Fără a fi sub spectrul pesimismului sau în vraja optimismului, plasându-mă într-o zonă realistă, exprim punctul de vedere că inteligența artificială este cea mai înaltă formă a imaginațieiomului, care are toate șansele să fie transpusă în practică într-un viitor previzibil relativ scurt.

Omul este mânat de dorința obținerii fericirii, iar acesta consideră că printre mijloacele de obținere a acesteia se numără inteligența artificială. Omul prezentului crede cu tărie că IA este instrumentul fiabil ce-i va permite să-și diminueze la minimum efortul și, paradoxal, să-și sporească luxul sau comoditatea. În căutarea fericirii, omul postmodern cedează din ce în ce mai multă autoritate și control în favoarea sistemelor informatice.

Dar știe, in concreto discutândomul oare ce vrea să obțină prin intermediul inteligenței artificiale? Practic, având ca scop procurarea unui grad de satisfacție cât mai ridicat și, în mare măsură, orbit de acest țel, omul contemporan, în calitatea sa de cea mai evoluată ființă terestră, vrea să creeze entități (dispozitive, instrumente, sisteme etc.)care să facă lucruri pe care el însuși nu le-a reușit.

Efectele inteligenței artificiale sunt însă greu de anticipat. Dacă factorii cu rol în reglementare, pornind de la legile lui Asimov, vor institui reguli care să fixeze într-un cadru adecvat modul de folosire și limitele accesului la inteligența artificială, putem fi încrezători în aportul noilor tehnologii la bunăstarea și fericirea omului.

Inteligența artificială este ca o cutie a Pandorei în care se regăsesc – deopotrivă – speranța, dar și relele (pericolele, amenințările, nenorocirile).Mitul cutiei Pandoreine învață să fim orientați spre cunoaștere, dar să avem o conduită prudentă atunci când accesăm necunoscutul.

Să nu uităm că orice dezvoltare a noilor tehnologii și, în special, a inteligenței artificiale, poate fi atât malignă, cât și benignă și de aceea trebuie să fie însoțită de măsuri apte să le orienteze exclusiv spre binele omenirii. Noile tehnologii sunt accesibile, în egală măsură, oamenilor de bine și celor care urmăresc scopuri antisociale (de pildă, teroriștilor).

În cadrul unui material publicat pe LinkedIn (2017), Dieter Zetsche, fost director al Mercedes-Benz, a făcut mai multe predicții privitoare la aplicațiile IA în următorii 10-20 de ani, dintre care menționăm următoarele[5]:

  • până în 2030, computerele vor fi superioare oamenilor;
  • din 2020 înainte se va schimba complet industria de mașini și copiii noștri vor chema mașina la scară prin aplicație. Mașină care va veni, desigur, singură, fără șofer;
  • vom avea nevoie de parcări doar pe 5% din suprafața pe care avem acum nevoie de ele. 90%-95% dintre parcări vor deveni parcuri de joacă;
  • companiile producătoare de mașini tradiționale vor muri, iar Tesla, Google și Apple vor revoluționa industria;
  • vor dispărea asigurările pentru că dispar accidentele atât timp cât mașinile sunt autonome și comunică între ele cu precizie de calculatoare;
  • dispar agențiile imobiliare, deoarece nimeni nu va mai cumpăra, toți vor locui în chirie, pentru că vor schimba mai des locurile de muncă;
  • în câțiva ani, o să dispară o parte însemnată a sistemului medical (recoltare și interpretare analize). 54 de markeri vor da verdicte în diverse boli. Tricorder X va fi lansat anul acesta, fiind un mecanism digital similar celor din Star Trek. Acesta analizează prin smartphone retina, mostre de sânge și respirația. Astfel se vor face analizele;
  • imprimantele 3D de mare performanță vor fi la 400%-500% peste 10 ani. Deja se construiesc vile la imprimante 3D;
  • 70%-80% dintre joburile actuale vor dispărea în 20 de ani;
  • vom avea fermieri-roboți la 100$/bucată, care vor munci în locul nostru dacă avem microferme; până în 2020, la fel cum e aplicația deja existentă Moodies, vor fi aplicații care ne vor spune după grimase dacă mințim sau dacă vrem să păcălim;
  • Bitcoin-ul poate să devină monedă internațională și etalon no. 1 ș.a[6].

Dacă predicțiile lui Zetsche se vor adeveri în cea mai mare măsură, iar eventualele pericole asociate implementării noilor tehnologii vor fi înlăturate, probabil omul va trăi mai mult și mai facil, dar sigur cu mai puține emoții și secătuit de spirit. Înseamnă acest lucru fericire? Evident, nu!

După era globalizării,care a eșuat, asistăm la era internetului și, iată, bate la ușa istoriei era inteligenței artificiale, întrucât se poate constata cu evidență că omul postmodern folosește din ce în ce mai mult mașinile inteligente. Omul de azi socializează din ce în ce mai puțin în chip clasic,respectiv fizic, față în față, și din ce în ce mai mult la distanță, prin intermediul facilităților oferite de noile tehnologii.Foarte mulți oameni, indiferent că sunt tineri, de vârsta a doua sau chiar a treia (aici procentul este mai scăzut), suferă dedependență cronică de telefon (nomofobie) sau de dependență cronică de internet.

Utilizarea atât de frecventă a dispozitivelor informatice va produce în viitorul nu prea îndepărtat schimbări majore pe planul relațiilor sociale, fiind apropiată ziuadespre care vorbea A. Einstein (în care tehnologia va fi mai importantă decât relațiile interumane).

Fără a fi o fire clasică sau conservatoare, consider că nu tot ceea ce este nou este și bun, chiar dacă face (probabil, numai pentru o perioadă de timp) viața omului mai simplă, mai ușoară sau mai lungă. Dacă omul va folosi tot mai des mașinile inteligente, indiferent că va dori sau nuse va schimba și va deveni dependent de ele și, poate, la un moment dat, va fi controlat de acestea.

În acest context, apare ca ineluctabilă întrebarea: Ce va urma după momentul în care omul va depinde total de inteligența artificială[7]?

Se poate presupune, în mod rezonabil, că în acel moment își va pierde libertatea și probabil, mai târziu, existența terestră. Pentru a evita acest lucru, omul trebuie să manifeste diligență și să asigure reglementarea aspectelor cu risc potențial pentru umanitate generate de noile tehnologii și dezvoltarea inteligenței artificiale. Progresul nu este un scop în sine, ci este numai un simplu mijloc pentru atingerea altor țeluri, precum sunt fericirea, securitatea și pacea mondială.

Omul a evoluat în mod spectaculos, ajungând de la mersul pe jos, la mersul călare, continuând cu folosirea autovehiculelor și ajungând la călătorii cu navete spațiale. Toate salturile sau schimbările sociale, științifice sau tehnologice sunt apreciate de către cei mai mulți oameni ca fiind progrese ale omenirii.

Totuși, ne întrebăm: Cât de înaltă este sau câte trepte are scara evoluției? Nimeni nu are un răspuns cert la această întrebare, putându-se spune chiar că această întrebare presupune o premisă falsă, deoarece nu există certitudine că suntem în prezența unei scări și, în niciun caz, nu poate spune nimeni câte trepte are această eventuală scară.

Presupunând, însă, că există o scară pe care omul s-a cățărat, apare ca legitimă următoarea întrebare: În prezent, ne aflăm mai sus ori mai jos față de alte momente ale existenței noastre? La această întrebare, foarte probabil, cei mai mulți membri ai speciei noastre vor răspunde că suntem în urcare pe scara evoluției, deoarece majoritatea problemelor grave sau grele ale omenirii sunt ameliorate în mod considerabil în prezent[8].

Omul contemporan are la îndemână atât de multă putere și atâtea mijloace, încât el poate să realizeze orice lucruri mărețe pe care imaginația sa le poate concepe, dar, totodată, poate să distrugă ecosistemele, să schimbe clima, să se autodistrugă și chiar să pulverizeze întreaga Planetă Albastră.

Nicăieri în lume, de la est la vest sau de la sud la nord, în niciun stat nu există o viziune statală sau suprastatală coerentă despre viitor, despre cum va arăta lumea în următorii ani sau despre cum ar trebui să fie lumea în viitor. Nu există structuri statale ori suprastatale care să facă previziuni plauzibile despre ceea ce se va întâmpla în următorii ani.

În majoritatea domeniilor sau sectoarelor, lucrurile se petrec foarte haotic, fără modele, tipare sau cadre prestabilite și totul se derulează din ce în ce mai rapid. Care este explicația acestei situații? Ce se petrece, de fapt? Întrebarea este una esențială, astfel că răspunsul are o dificultate proporțională cu greutatea întrebării.

Omul prezentului se află într-un punct al devenirii sale în care crește progresiv riscul asimilării lui cu un procesor biochimic, care funcționează potrivit legilor matematicii, aplicabile procesoarelor electronice. Altfel spus, algoritmii biochimici, specifici organismelor umane, se consideră că se supun acelorași legi matematice cărora li se supun algoritmi electronici.

Iată câteva idei ale lui M. Tegmark, pe care cred că trebuie să le avem în vedere:

  • Dacă e posibilă conștiința artificială, atunci spațiul tuturor experiențelor posibile ale IA este probabil uriaș în comparație cu cel al experiențelor umane, întins pe un spectru vast de qualia[9]și scări temporale – toate împărtășind sentimentul că posedă liber-arbitru.
  • Din moment ce ne putem pierde orice sens în absența conștiinței, nu universul nostru dă sens ființelor conștiente, ci ființele conștiente dau sens universului nostru.
  • Aceasta sugerează că, pe măsură ce ne pregătim să fim întrecuți de mașini tot mai deștepte, ne consolează mai curând faptul că suntem Homo sentiens, decât că suntem Homo sapiens[10].

[1]Apud M. Tegmark, op. cit., p. 210.

[2]Mark Zuckerberg a spus că, „în următorii 5 sau 10 ani, inteligența artificială va permite realizarea unor îmbunătățiri în viețile noastre (www.agerpres.ro).

[3]A se vedea https://www.theguardian.com/technology/2017/jul/17/elon-musk-regulation-ai-combat-existential-threat-tesla-spacex-ceo.

[4]A se vedea ahttps://www.washingtonpost.com/news/innovations/wp/2014/10/24/elon-musk-with-artificial-intelligence-we-are-summoning-the-demon/?noredirect=on&utm_term=.2d5ab1219481.

[5]https://www.linkedin.com/pulse/must-read-article-how-our-lives-change-dramatically-20-delahunty.

[6]

[7]Prevăd o evoluție a roboților în trei faze: o primă fază în care vor fi folosiți pe post de „sclavi”, apoi va urma emanciparea și aprecierea lor ca fiind „egali” oamenilor, iar în ultima fază este posibil să ne depășească în inteligență și forță, preluând astfel rolul de „stăpâni”. Să ne reamintim evoluția programelor de șah. La început jucau slab, pierzând și în fața jucătorilor modești. Au început să joace tot mai bine, până când forța lor a devenit egală cu a maeștrilor șahiști. Acum există programe de șah care bat mari maeștri și chiar campioni mondiali. Asta ne dă o idee de ceea ce se poate întâmpla în viitor cu roboții. Deși, după faza a treia, cel mai greu de intuit e ce se va întâmpla cu omenirea (un comentariu scris de un cititor al articolului Așteptându-l pe robot – disponibil la adresa www.contributors.ro).

[8]A se vedea, de pildă, https://m.hotnews.ro/stire/23271820.

[9]Potrivit lui C. Lewis (Mind and the World Order), qualia înseamnă „caracteristicile calitative recognoscibile ale datului”.

[10]M. Tegmark, op. cit., p 368.