„De câțiva ani am construit, la Centrul de Cercetare în Etică Aplicată (CCEA), o adevărată cultură a coautoratului și am făcut lucrul acesta în mod organic” – interviu cu echipa proiectului CoMoRe

Premiat cu distincția pentru „cel mai prestigios articol al anului 2022 din domeniul Științelor Umaniste” și, totodată, cu Marele Premiu al categoriei, pentru articolul Understanding responsibility in Responsible AI. Dianoetic virtues and the hard problem of context, un colectiv de cadre didactice și cercetători afiliați la Centrul de Cercetare în Etică Aplicată (CCEA) din cadrul Facultății de Filosofie a Universității din București, a împărtășit din culisele acestei reușite editoriale.

Publicat în prestigioasa revistă “Ethics and Information Technology”, articolul câștigător este rezultatul unei munci în echipă formată din lect. univ. dr. Mihaela Constantinescu, cadru didactic la Facultatea de Filosofie a Universității din București și director executiv al Centrului de Cercetare în Etică Aplicată (CCEA), asist. univ. dr. Cristina Voinea , asist. univ. dr. Radu Uszkai – cadre didactice la Academia de Studii Economice din București (ASE) și cercetători în cadrul CCEA – și conf. univ. dr. Constantin Vică, cadru didactic la Facultatea de Filosofie a UB și director–adjunct al CCEA.

Articolul propune cadrul normativ al eticii virtuții aristotelice pentru fundamentarea conceptuală a responsabilității morale asociate utilizării sistemelor de Inteligență Artificială (IA) și a fost rezultatul colaborării celor patru cercetători în proiectul CoMoRe – “Collective moral responsibility: from organizations to artificial systems. Re-assessing the Aristotelian framework”/ „Responsabilitatea morală colectivă: de la organizații la sistemele de inteligență artificială. O reevaluare a eticii virtuții în tradiție aristotelică”), finanțat de UEFISCDI și implementat în cadrul CCEA și ICUB (perioada 2021–2022). Proiectului a primit calificativul „Excelent” la evaluarea finală din partea UEFISCDI.

Despre importanța interdisciplinarității în cercetarea științifică, colaborarea în domeniul științific și importanța rezultatelor publicate în articolul premiat, am discutat cu membrii proiectului CoMoRE.

Reporter: Ați câștigat, în cadrul celei de-a șasea ediții a Premiilor Senatului Universității din București, distincția pentru „cel mai prestigios articol al anului 2022 din domeniul Științelor Umaniste” și, în plus, Marele Premiu al categoriei. Ce a însemnat pentru dumneavoastră obținerea acestor premii?

Mihaela Constantinescu: Recunoașterea activității noastre de cercetare din cadrul proiectului CoMoRe, concretizată în acest articol, ne-a bucurat pe toți patru din mai multe motive. În primul rând, pentru că este prima dată când științele umaniste primesc Marele Premiu al Senatului UB pentru cel mai prestigios articol al anului. Cred că am reușit să demontăm un mit mai mult sau mai puțin recunoscut în comunitățile de cercetare, acela că științele umaniste nu au capacitatea de a genera rezultate cuantificabile în reviste academice din zona roșie WoS, comparativ cu alte domenii științifice. În al doilea rând, pentru că articolul nostru este mărturia unei schimbări de paradigmă în instituția autoratului din sfera științelor umane, fiind rezultatul unei cercetări de echipă, un coautorat în patru. Apoi, pentru că echipa noastră de cercetare a avut paritate de gen, ceea ce este în sine un câștig semnificativ pentru relevanța diversității în cercetare. Dincolo de acestea, cele două premii ne-au dat prilejul să ne amintim cu recunoștință de cel care a făcut posibilă această colaborare, fondatorul Centrului de Cercetare în Etică Aplicată (CCEA), regretatul profesor Valentin Mureșan.

R.: Cercetarea dumneavoastră, cu titlul Understanding responsibility in Responsible AI. Dianoetic virtues and the hard problem of context, aparține unei direcții actuale care îmbină mai multe domenii de cercetare. Ce trebuie să facă, în opinia dumneavoastră, un cercetător pentru a dobândi „echilibrul” necesar unei abordări interdisciplinare și cât de importantă este această abordare interdisciplinară în cercetare?

Cristina Voinea: În ciuda tendinței de hiperspecializare din cercetare, granițele dintre științe devin din ce în ce mai poroase. Acest lucru este ușor de observat mai ales în științele sociale și umaniste. Atunci când miza este înțelegerea unui fenomen social, politic, istoric sau cultural, cercetătoarele și cercetătorii nu pot privi numai prin “lentilele” unei singure științe, dacă doresc cu adevărat să înțeleagă ceea ce studiază. Etica aplicată, mai ales, a fost dintotdeauna un program de cercetare interdisciplinar și cred că este lesne de înțeles de ce. Nu poți studia probleme morale din interacțiunea doctor-pacient sau din cadrul medical, făcând abstracție de cunoașterea specifică acestui domeniu. Etica aplicată are, deci, întotdeauna nevoie de „călăuze” așa cum le numea Mihail Radu Solcan, adică de alte științe care să îi arate calea. În articolul nostru, am apelat nu doar la filosofia morală pentru a înțelege problema responsabilității în cadrul inteligenței artificiale, ci ne-am întors privirea și către computer science, care ne-a ajutat să înțelegem limitele IA, dar și către sociologie, cu ajutorul căreia am putut să aprofundăm felul în care oamenii folosesc tehnologia. Nu există însă o rețetă prin care putem dobândi echilibrul atunci când cercetarea presupune interdisciplinaritate, infuzia cu alte științe depinde de întrebarea de cercetare, de metodologia de cercetarea aleasă și așa mai departe. Așa cum ar spune Aristotel, e nevoie de înțelepciune practică pentru a răspunde fiecărui context în parte; iar cercetătorii cred că o pot deprinde prin experiență și deschiderea către revizuirea propriile crezăminte și opinii.

R.: Cum ați descrie experiența de a colabora cu alți trei autori? A existat vreodată o situație în care să aveți viziuni diferite? În acest caz, cum ați procedat? Cum ați descrie colaborarea cu dumnealor?

Radu Uszkai: În zona așa-ziselor științe „tari”, dar și în majoritatea științelor sociale, coautoratul este o veritabilă instituție. Luând în considerare specificitatea cercetării în aceste domenii științifice, dar și normele sociale prevalente, rareori mai găsim articole academice în matematică, economie sau psihologie cu un autor unic. Spre deosebire de acestea, științele umaniste (și cu precădere filosofia) au excelat în a fi, mai degrabă, întreprinderi intelectuale individuale. Ar fi poate dificil să oferim acum o listă exhaustivă a cauzelor pentru care publicarea și cercetarea în filosofie a avut această formă. Dar, la un nivel minimal, credem că există o serie de explicații potențiale relevante care ne sugerează să ne gândim fie la istoria domeniului nostru (dominată, până de curând, de figura solitară a filosofului), fie la potențialele disensiuni cauzate de angajamentele normative și valorice diferite pe care majoritatea celor care se ocupă de filosofie le au.

Cu toate acestea, lucrurile încep să se schimbe în științele umaniste în ultima vreme, iar filosofia nu face excepție de la acest trend. Cu precădere în zona filosofilor și filosoafelor care se ocupă de etică aplicată observăm o adevărată explozie a muncii în echipă, o schimbare de optică și strategie ce a venit la pachet cu nenumărate beneficii. De câțiva ani am construit, la Centrul de Cercetare în Etică Aplicată (CCEA), o adevărată cultură a coautoratului și am făcut lucrul acesta în mod organic. Suntem un spațiu al libertății academice ponderată de feedback-ul constant primit de la colegele și colegii noștri, iar lucrul acesta se reflectă în toți pașii pe care îi urmăm în procesul cercetării academice.

Chiar dacă disensiunile normative în zona filosofiei sunt inerente, pentru noi acest lucru este „a feature, not a bug”. A avea viziuni diferite care sunt discutate, dezbătute și, ulterior, evaluate în baza tăriei argumentelor din spatele lor reprezintă, de fapt, calea prin care putem asigura progresul în filosofie. Un angajament moral în favoarea libertății, cuplat cu unul epistemic în favoarea adevărului și unul economic în favoarea eficienței, este capabil să dizolve aproape orice problemă pe care o putem întâlni atunci când lucrăm în echipă.

R.: Pentru a înțelege mai bine esența articolului, povestiți-ne, pe scurt, care sunt rezultatele cercetării dvs. și în ce fel impactează acestea studiile în domeniu, mai ales că subiectul este de actualitate?

Radu Uszkai: Trăim într-o lume în care asistăm nu doar la o explozie a Inteligenței Artificiale, ci și la un real potop de articole academice pe marginea acestui subiect. Cu imaginația noastră stimulată de tot soiul de predicții mai mult sau mai puțin apocaliptice (atât din cultura pop cât și din presa mainstream), mulți filosofi și filosoafe ridică, de mai multă vreme, o serie de întrebări esențiale, iar modul în care noi vom răspunde la acestea (individual și colectiv) va șlefui mersul istoriei și felul în care va arăta lumea de mâine. În topul preocupărilor noastre din prezent, problema responsabilității morale se ridică din ce în ce mai pregnant, atât în conjuncție cu designul, cât și cu utilizarea Inteligenței Artificiale, indiferent că vorbim de utilizări domestice, care pot părea de-a dreptul benigne la prima vedere, sau despre rolul acesteia în conflictele militare. Articolul nostru încearcă să desțelenească puțin hățișul academic și să facă liniște în zgomotul numeroaselor propuneri venite din varii părți, de la filosofie la diverse organizații, printr-o întoarcere la Aristotel și o reconceptualizare a problemei responsabilității morale în termenii eticii virtuților.

În articol ne-am propus să arătăm limitele abordărilor (deja) tradiționale ale asignării responsabilității morale care au dat naștere unei veritabile „codificări”, birocratizări și algoritmizări a eticii. În felul acesta, preocuparea pentru etică a devenit mai degrabă una rigidă și formală, ignorând una dintre problemele fundamentale ale ecuației responsabilității morale: cea a caracterului moral al persoanelor implicate în procesul dezvoltării, adoptării sau utilizării IA. Dacă orice încercare de algoritmizare a eticii e sortită eșecului în virtutea faptului că un sistem de IA nu va putea să-l emuleze măcar pe Data din Star Trek și să fie un agent moral (deoarece îi lipsește, printre altele, înțelepciunea practică), atunci responsabilitatea morală nu are cum să aparțină altcuiva decât oamenilor (sau organizațiilor) din spatele acesteia. Cercetarea noastră evidențiază două elemente care au fost în mare măsură ignorate în cadrul abordărilor anterioare ale IA, dar care pot contribui la clarificarea atribuirii responsabilității în contextul dezvoltării și implementării acestor tehnologii. Este vorba despre virtuțile dianoetice (intelectuale) și modul în care acestea influențează dezvoltarea virtuților etice (de caracter), precum și importanța acestei influențe pentru contextul acțiunii și deciziilor luate prin intermediul sistemelor de IA.

R.: Din punctul dumneavoastră de vedere, care este relația dintre responsabilitate morală și inteligență artificială într-un viitor în care tot mai multe procese ale deciziei umane vor fi automatizate?

Mihaela Constantinescu: Întrebarea cheie pe care am urmărit-o în cercetarea din cadrul proiectului CoMoRe și care a stat la baza articolului premiat este următoarea: Cine poate fi considerat responsabil din punct de vedere moral pentru deciziile luate de sistemele de IA tot mai autonome, care nu execută simple comenzi, ci funcționează pe baza unor algoritmi ce învață din experiență și generează rezultate pe care nici echipa de programatori, ingineri și dezvoltatori nu le poate anticipa în totalitate? Am argumentat că etica virtuții aristotelice reprezintă un cadru etic relevant pentru a dezvolta un set condiții necesare și suficiente pe care o entitate trebuie să le îndeplinească pentru a putea spune despre aceasta că poate fi responsabilă moral, că este un agent moral.

Cercetarea noastră a arătat că sistemele de IA din prezent și din viitorul apropiat nu pot fi agenți morali deoarece nu satisfac aceste condiții, astfel că responsabilitatea morală pentru deciziile luate și efectele produse de sistemele artificiale le revine în primul rând oamenilor implicați în adoptarea și punerea în practică a acestor decizii. Acest lucru rămâne valabil chiar și atunci când delegăm o parte din procesul decizional sistemelor de IA, de pildă în diagnosticarea medicală, în automatizarea transportului prin mașini fără șofer sau în deciziile de recrutare ori creditare ce folosesc algoritmi de IA. În plus, cercetarea a subliniat că responsabilitatea morală pentru efectele sistemelor de IA are o dimensiune pronunțat colectivă și este mai degrabă o rețea complexă de oameni, organizații și instituții, cu multe relații de interdependență între componente. Un rol central în această rețea îl au organizațiile, acestea fiind capabile să influențeze designul, dezvoltarea și implementarea IA în mai mare măsură decât actorii individuali.

În articolul premiat analizăm, în plus, implicațiile eticii virtuții în procesul de dezvoltare și implementare a sistemelor de IA și arătăm cât de important este ca specialiștii din zona tehnică să conștientizeze rolul pe care îl au în acest proces. De exemplu, dezvoltarea unui curriculum universitar trans-disciplinar și introducerea unor cursuri din sfera științelor socio-umane în facultățile tehnice, alături de training-uri etice specializate de gândire critică morală pot contribui la o înțelegere mai amplă a efectelor sociale ale IA.

R.: Cum ar putea fi implementat un nou sistem de cod etic, având în vedere nevoia conceptului de responsabilitate morală în ceea ce privește inteligența artificială și dezvoltarea noilor tehnologii AI?

Constantin Vică: Codurile etice nu sunt taumaturgi artificiali în acțiune, ci mai degrabă texte-suport pentru o înțelegere a dimensiunilor morale a acțiunilor, fie ele umane sau non-umane. Un principiu al responsabilității se poate formula mai ușor decât se poate implementa. Și, în urma cercetării noastre, sper că am reușit să arătăm, prin toate articolele publicate, că nu există un răspuns unic, că nu putem codifica responsabilitatea până la capăt și nici în orice context. Ce-i drept, am putut codifica un test al moralității (în articolul Blame It on the AI? On the Moral Responsibility of Artificial Moral Advisors) care poate fi implementat ca un filtru de evaluare pentru mașinării, dar, mai ales, ca o euristică pentru dezvoltatorii, designerii, programatorii și „antrenorii” de Inteligență artificială. Dar acest test privește acțiuni specifice în contexte specifice, nu livrează un răspuns general despre o responsabilitate totală.

Un nou sistem presupune o veche metodă: pedagogia sau educația morală. Pentru oameni, pentru cei care iau decizii privind delegarea viitoarelor decizii către sisteme de I.A. Ce am reușit să facem evident este că virtuțile morale, precum și cele intelectuale, de la răbdare și curaj la echilibru și generozitate, nu sunt precum programele de calculator: nu se descarcă online și nici nu se pot instala din linia de comandă sau urmând o serie de click-uri. Ele se dezvoltă încet, dar programatic, individual, dar printr-un exercițiu comunitar. Când creatorii de I.A. devin persoane mai atente și mai angajate moral, riscurile scad. Nu dispar, dar nici nu se mai ascund după cuvinte pompoase. Codurile de etică privind dezvoltarea și utilizarea I.A. au proliferat în ultimii ani, de la BigTech la Vatican și UNESCO. Dar marile probleme au rămas totuși de nerezolvat.

R.: Ce ne puteți spune despre cercetările pe care le realizați în prezent? În ce direcție se îndreaptă acestea?

Mihaela Constantinescu: Dincolo de proiectele individuale în care suntem implicați, ne-am dorit să valorificăm experiența de colaborare din proiectul CoMoRe și rezultatele cercetării noastre. Am conturat împreună direcțiile unui nou proiect de cercetare pe o temă de nișă din zona eticii IA – modul în care utilizarea avatarurilor digitale în spațiul Metaverse (realitate virtuală & augmentată) și utilizarea avatarurilor robotice în spațiul fizic, ambele în congruență cu modele de inteligență artificială, ne influențează atât capacitatea de a acționa moral, cât și practicile curente de atribuire a responsabilității morale.

R.: După părerea dvs., ce credeți că ar mai putea face Universitatea din București pentru a stimula excelența în domeniul cercetării?

Constantin Vică & Mihaela Constantinescu: Cercetarea este în continuare puternic subfinanțată în România, iar universitățile pot compensa carențele din finanțarea națională prin granturi interne de cercetare și parteneriate, acolo unde se poate, cu societatea civilă sau companii. Am văzut inițiative relevante în acest sens din partea Universității din București prin granturile de cercetare ICUB și este esențial ca acestea să crească, în valoare și atractivitate, și să fie diversificate în viitor. Pasiunea pentru cercetare nu se poate substitui fondurilor alocate cercetării și, până nu va fi conștientizat acest lucru, cercetătorii performanți, relevanți la nivel internațional, vor căuta oportunități de dezvoltare în alte țări.

Un pas important pe care îl poate face Universitatea din București este să faciliteze, prin fonduri și infrastructură adecvate, coagularea unor echipe mixte de cercetare din cadrul facultăților UB în jurul unor teme cu adevărat interdisciplinare – cercetători seniori și tineri cercetători din sfera tuturor științelor premiate de Senatul UB – științe umaniste, științe sociale, științele vieții și pământului, științe exacte și inginerie. Și să atragă foști absolvenți care s-au instituit deja în lumea largă a cercetării. De exemplu, utilizarea sistemelor de inteligență artificială are și va avea în continuare un impact direct și semnificativ în toate domeniile cercetării, cu beneficii și prejudicii, iar aceasta este una dintre temele profund interdisciplinare pentru care UB poate atrage și direcționa fonduri către coagularea unui cluster de excelență format din cercetători din toate ariile de cercetare UB.

Un alt pas este să stimuleze cercetătoarele și cercetătorii cu rezultate oferindu-le, pe lângă finanțarea adecvată, mai mult timp – acest lucru se poate face prin reducerea normei de predare.

Nu în ultimul rând, să dezvolte în continuare departamentele de suport în cercetare. Nu doar în sensul extinderii echipei, ci și specializării ei. Dacă privim spre universitățile din top 500, acest lucru este deja înțeles.

Lect. univ. dr. Mihaela Constantinescu, coordonator al proiectului CoMoRe