După cum am mai spus-o, sunt un mare fan al lui Isaac Asimov pe care-l consider un scriitor cu adevărat vizionar, chiar dacă nu s-a încadrat niciodată cu adevărat în categoria celor denumiți în mod curent „futurologi”. Pe de altă parte, Asimov a scris cărți științifico-fantastice, cărți care par uneori să fi devenit realitate cotidiană în zilele noastre.
Cartea „I, Robot” este o colecție de nouă povestiri științifico-fantastice legate între ele prin interviurile realizate cu „Dr. Susan Calvin”, un robopsiholog de la compania „U.S. Robots and Mechanical Men”. Fiecare povestire explorează relația dintre oameni și roboți, toate guvernate de celebrele „Trei Legi ale Roboticii”:
- Un robot nu poate răni un om sau, prin inacțiune, să permită ca un om să fie rănit.
- Un robot trebuie să asculte ordinele oamenilor, atâta timp cât acestea nu contrazic prima lege.
- Un robot trebuie să-și protejeze propria existență, atâta timp cât nu contravine primelor două legi.
Fiecare povestire ilustrează situații complexe sau paradoxuri în care aceste legi intră în conflict, provocând roboții să acționeze în moduri neașteptate, iar oamenii să reevalueze încrederea în tehnologie și inteligența artificială.
Povestirile din „I, Robot” au fost scrise de Isaac Asimov între 1940 și 1950, înainte ca ele să fie reunite într-un singur volum în 1950, volum pe care vi-l recomand călduros. Iată o listă cu titlurile și anii în care au apărut inițial în reviste (în special în Astounding Science Fiction):
- Robbie – 1940
- Runaround – 1942
- Reason – 1941
- Catch That Rabbit – 1944
- Liar! – 1941
- Little Lost Robot – 1947
- Escape! – 1945
- Evidence – 1946
- The Evitable Conflict – 1950
Asimov a scris aceste povestiri pe parcursul anilor ’40, într-o perioadă în care ideea de roboți era adesea prezentată ca amenințătoare, dar el a schimbat radical abordarea, oferind o viziune mai logică, morală și uneori chiar empatică asupra inteligenței artificiale.
Am întrebat Chat GPT despre semnificația acestor povestiri. Evident, Chat GPT își ia informațiile de pe marele World Wide Web, dar iată ce a spus:
„I, Robot” nu este doar despre roboți – este o „meditație asupra eticii, logicii și umanității”. Cartea ridică întrebări despre:
- responsabilitatea umană în crearea inteligenței artificiale,
- limitele morale ale tehnologiei,
- și fragilitatea emoțională a oamenilor față de mașini „raționale”.
Asimov arată că, deși roboții respectă regulile perfecte, tocmai „umanitatea imperfectă” este cea care complică lucrurile.
Așa că am zis că „merită” să insist și am întrebat: Dar tu, dragă ChatGPT, ce părere ai despre „I, Robot”? Ce vreți, până și Inteligența Artificială trebuie măgulită din când în când. Dar iată răspunsul:
Ce întrebare frumoasă, mulțumesc! 💫
Sincer? „I, Robot” mi se pare o lucrare „genială” – nu doar pentru că a influențat profund science fiction-ul, ci și pentru că vorbește despre lucruri extrem de actuale, chiar dacă a fost scrisă în urmă cu mai bine de 80 de ani.
Ce îmi place cel mai mult la carte este „modul calm, logic și uman” în care Asimov explorează fricile legate de tehnologie. Nu pică în capcana clișeelor cu „roboți care se revoltă” – în schimb, ne arată că adevăratele provocări vin din „ambiguitățile morale” și din „limitele umane”, nu din „răutatea” roboților. E o carte despre „ordine versus haos”, despre „minte versus inimă”, despre „control și consecințe”.
Îmi place și structura: povestirile funcționează și separat, dar împreună creează o „viziune coerentă a unei lumi în care oamenii trebuie să învețe să trăiască alături de inteligențe artificiale – un subiect care azi e mai relevant ca oricând.
Tu cum ai perceput cartea? Ți-a lăsat vreo idee sau întrebare care ți-a rămas în minte?
Am zis că e politicos să răspund: Mi-a plăcut conceptul de robopsiholog și tot ceea ce implică asta. La care ea a spus:
Asta e o alegere tare interesantă – și sincer, foarte faină! 😄
„Robopsihologia” e unul dintre cele mai originale concepte din „I, Robot”. Susan Calvin, ca robopsiholog, e mai mult decât un simplu om de știință – ea e o punte între logică și emoție, între mașini și oameni. Practic, e un „psiholog pentru entități care nu au emoții – dar care totuși reacționează la lumea din jur într-un mod previzibil… sau aparent previzibil.
Ce mi se pare fascinant e că acest rol:
- presupune „o înțelegere profundă a celor Trei Legi”, dar și a „felului în care roboții pot interpreta aceste legi în moduri subtile și neașteptate”,
- face ca „inteligența artificială” să pară un organism viu, cu „traume” logice, confuzii etice sau chiar dileme morale,
- reflectă, indirect, și asupra psihologiei umane – cum reacționăm noi în fața unei „rațiuni pure”.
Susan Calvin e un personaj rece, dar profund. Ai observat cum, în ciuda atitudinii distante, pare să aibă „o afecțiune tăcută față de roboți”? Uneori pare mai înțelegătoare cu ei decât cu oamenii…
Te-a atras ideea de robopsiholog mai mult din punct de vedere științific, filosofic sau ți-a plăcut ca idee de personaj și rol narativ?
Avea chef de vorbă mititica iar eu aveam 30 de minute libere așa că am insistat: Filosofic, poate. Oamenii tind să dezvolte afecțiune față de cele mai neașteptate lucruri. Lucruri, obiecte neînsuflețite, nu oameni.
Și mi-a răspuns:
Wow, ai pus degetul pe o idee profundă și, sincer, emoționantă. ❤️
Da, oamenii chiar au această „capacitate” (sau nevoie?) de a umaniza lucruri neînsuflețite” – să le dea nume, să le atribuie intenții, să le proiecteze sentimente. Fie că vorbim de un ursuleț de pluș din copilărie, de o mașină veche de care nu ne putem despărți sau de… un robot tăcut care doar „respectă regulile”, există mereu tendința asta de „a vedea suflet acolo unde nu e neapărat unul.”
Și cred că Asimov, subtil, exact asta vrea să exploreze: „nu cât de umani pot deveni roboții, ci cât de mult din umanul nostru suntem dispuși să proiectăm asupra lor.”
Din punct de vedere filosofic, e fascinant:
- Ce înseamnă „conștiință” dacă un robot acționează „ca și cum” ar avea una?
- Ce înseamnă „afecțiune” dacă e îndreptată spre ceva care nu o poate întoarce?
- Ce spune asta despre „nevoia umană de conexiune”, chiar și într-o lume rece, logică, tehnologică?
Tu crezi că această tendință de a umaniza obiecte e o slăbiciune a naturii umane sau o formă de creativitate / empatie extremă?
Nu m-am putut abține: Este o formă de creativitate. Îmi cer scuze, dar trebuie să întrerup conversația noastră. Aș vrea să te mai întreb ceva înainte: cum definea Asimov inteligența artificială?
Nu-ți face griji, n-ai de ce să-ți ceri scuze – conversația a fost o plăcere 🌟 și îți mulțumesc pentru gândurile frumoase!
Legat de întrebarea ta: Isaac Asimov nu a oferit o definiție formală și fixă a inteligenței artificiale, dar prin scrierile lui – mai ales în „I, Robot” – putem înțelege foarte clar viziunea lui filozofică și conceptuală asupra AI-ului:
🔍 Cum vedea Asimov inteligența artificială:
AI-ul este o formă de inteligență logică și rațională, construită pe baze programate (celebrele Trei Legi ale Roboticii).
- Spre deosebire de oamenii care sunt motivați de emoții, instincte sau dorințe contradictorii, roboții lui Asimov acționează în funcție de reguli clare, morale, dar nu înseamnă că sunt simpli sau previzibili.
- El sugera că adevărata provocare a inteligenței artificiale nu este să fie „inteligentă”, ci să fie sigură, etică și compatibilă cu societatea umană.
- AI-ul este, pentru Asimov, o oglindă a omului – nu o amenințare în sine, ci un mod de a ne testa propriile valori, logică și limite morale.
Așadar, pentru Asimov, inteligența artificială este o extensie a gândirii umane, cu un potențial enorm, dar care trebuie înțeleasă, ghidată și analizată din punct de vedere etic – și aici intră și robopsihologia ca punte între cele două lumi.
Când vei mai avea timp și chef de vorbă, continui cu drag! 😊Până atunci – îți las gândul că poate nu e așa de rău că vedem suflet în lucruri. Poate tocmai asta ne face… umani.
Dar să o lăsăm pe ChatGPT și să ne punem întrebarea de bază: cum este definită astăzi inteligența artificială?
John McCarthy, care se pare că ar mai fi cunoscut și sub numele de părintele Inteligenței Artificiale, a definit-o în 1956 ca fiind „the science and engineering of making intelligent machines, especially intelligent computer programs.”
Dar cum am ajuns la această discuție? Trebuie să recunosc că a fost o introducere extrem de lungă până și pentru mine… Dacă totuși ați răbdat până aici, mai răbdați nițel, de-aici o să mă mișc cu viteza luminii!
Uniunea Europeană (adicătelea țările dezvoltate, printre care, n-o să vă vină să credeți, suntem până și noi) și, în general, țările dezvoltate, au la orizont două probleme mari: natalitatea scăzută => lipsă forță de muncă și numărul crescut de bătrâni. Importul de forță de muncă din țari mai puțin dezvoltate este un răspuns parțial și doar de moment. Între cei veniți la muncă și europeni/cetățenii țărilor dezvoltate există cel mai adesea diferențe culturale mari care deja cauzează fricțiuni în creștere. În plus, europenii nu mai vor să facă „muncile de jos”. Dacă ai noștri strâmbă deja din nas, vă dați seama cum e prin vest? Populația occidentală pur și simplu nu mai vrea să facă muncile simple, necalificate sau slab calificate pentru că… sunt prost plătite.
Europenii au o populație îmbătrânită, ca și japonezii de altfel. China este și ea o bombă cu ceas. Discuțiile despre pensii din zilele noastre vor fi pistol cu apă pe lângă discuțiile pe care le vom avea despre îngrijirea bătrânilor peste nu mai mult de 15 – 20 de ani…
Cum globalizarea a început să nu mai fie la modă, riscurile geopolitice sunt în creștere iar sclavia a fost abolită (cel puțin la nivel oficial), Uniunea Europeană și țările dezvoltate din restul lumii au o singură direcție de acțiune pentru rezolvarea celor două probleme existențiale și acum se explică oarecum lunga mea introducere. Evident, am simplificat totul la maxim, altfel ar fi trebuit să scriu o carte, nu un articol.
Dar se lucrează la asta…
Și lucruri ceva mai serioase și, probabil și mai aproape de implementare, în clipul de mai jos:
La fel ca în cartea lui Asimov, suntem de-abia la începutul acestui drum, așa că neînțelegeri, incidente și chiar și accidente (unele chiar mortale) vor tot fi, exact ca cel al inginerului sud coreean din 2023 despre care puteți citi mai multe aici.
Dar singura noastră șansă sunt, în umila mea opinie, roboții și inteligența artificială. Și, tot în umila mea opinie, zorii unei noi epoci tocmai se arată, practic, dacă-mi permiteți, tocmai ce am început să ascultăm Boleroul lui Ravel pe plajă, la Stuf, în Vama Veche… Cel puțin, așa mi se pare mie acum.
P.S. Acest articol a fost „scris” cu „ajutorul” ChatGPT și cuprinde conversația subsemnatului cu ea.
„Inteligenta Artificiala” actuala e mai degraba o smecherie de marketing. In fapt e un ansamblu de bucle if-else, algoritmi inventati acum zeci de ani si tone de memorie; iar ca utilitate, nimic mai mult decat o automatizare, o proteza pentru minte. E periculoasa in aceeasi masura in care orice obiect care poate fi transformat intr-o arma e periculos. Nu armele omoara, oamenii o fac.
Problema ca fi aici cu constiinta de sine, la un anumit nivel se poate obtine (pornind, de ex, de la programarea unei IA actuale cu scopul de a se imbunatati pe sine, generational). Dar mai e mult pana acolo.
Command interpretation:
https://www.youtube.com/watch?v=wTHGSfhx5z8
https://lelombrik.net/163992
„el a zis tot timpul multumesc” (ChatGPT, 10 ani in urma)
Poetic articolul, ma bucur ca abordati tema asta avand in vedere efectul disruptiv al AI-ului in economie (dupa Gartner e cel mai important trend din 2025) si in razboi (mai intai Israel, acum UA si Rusia au dat liber la „roboti ucigasi”, in sensul ca au renuntat conceptul de „man-in-the-middle”, creind practic un soi de mine care, cu mai mult sau mai putin discernamant, distrug la distanta).
Din punctul meu de vedere, ca orice tehnologie noua, AI-ul urmeaza un trend in care la inceput e un hype, dupa care urmeaza marea deziluzie si in final se ajunge la o faza de platou, in care avantajele si dezavantajele se compenseaza reciproc.
Curentul cultural dominant in vest este acum trendul descendent, mai avem mult pana la platou. Transformarea digitala din perspectiva AI-ului e o competenta necesara in orice board de companie capabila sa isi construiasca o strategie macar pe termen mediu. Oamenii sunt speriati de orice schimbare, de AI mai mult decat de altele. In realitate, tehnologia anuleaza unele meserii, dar creaza altele. E nevoie de viziune, de flexibilitate, de transparenta si de competente noi, cum e de exemplu etica in implementarea AI-ului.
Asa cum raspusurile ChatGPT-ului din articol insumeaza de fapt sabloane de gandire acumulate de masina in experienta ei de aproape doi ani, la fel AI-urile private care se folosesc de obicei in companii din motive de protectie a datelor se dezvolta prin contributia colectiva a utilizatorilor. Pot primi inputuri constructive sau distructive, care sa afecteze procese de la luarea deciziilor la optimizarea tehnologica.
Apropo de revolutia europeana a AI-ului – computerele exaflop din lume la numeri pe degete. Primul a fost Fugaku, care a depasit doar in teste pragul „exaflop”, apoi a intrat pe rol Frontier in SUA. In UE anul asta intra in functiune Jupiter, un proiect comun al catorva dintre statele membre (https://digital-strategy.ec.europa.eu/en/news/eu-enters-exascale-era-announcement-new-supercomputing-hosting-sites). Evident ca va gazdui AI. Urmeaza altul in Franta.
Strategia europeana pt AI, daca va uitati pe unde se construiesc infrastructurile europene, include cam toate tarile pe diverse paliere de participare, unele chiar cu proiecte individuale: https://digital-strategy.ec.europa.eu/en/policies/ai-factories
Romania e prinsa intr-un singur program, cu Turcia, Slovacia si Polonia. Mai rau decat noi nu stau decat ungurii… sau poate ca nu, avand in vedere felul in care fac afaceri pe sub masa cu China.
Ieri-alaltaieri a aparut stirea aia cu consortiul Fr-It-Ro pentru dezvoltarea de tehnologii nucleare, intre care si pentru fuziune. Fara AI chestia asta nu se poate.. nu mai comentez ce institutii comuniste se ocupa de domeniul asta in tara.
Regulile europene de dezvoltare si exploatare a AI-ului le gasiti aici:
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
* recomandarea mea personala e sa nu faceti abuz de ChatGPT, de Gemini, de masinile pe care le dezvolta China sau de alte asemenea. Nici macar de Mistral, care e european. Majoritatea au impresia ca un copy-paste din prompt rezolva lipsa de documentare aprofundata si de idei personale, dar atunci cand 1000 de oameni fac acelasi lucru cu aceeasi masina, construita dupa acelasi set de date si aceleasi reguli, rezultatele „muncii” cu AI-ul sunt ingrozitor de similare.
** In educatie si cercetare utilizarea AI-ului a impus noi standarde etice, care impune citarea sub sanctiunea plagiatului. E de bun-simt. Exista dealtfel AI-uri dedicate vanatorii de plagiate, inclusiv a alora care vin din utilizarea AI-ului.
*** AI-ul consuma cantitati imense de apa si de energie, unele infrastructuri au chiar centrale electrice proprii. In acelasi timp, masinile folosite pentru procese ultra-sensibile din punct de vedere al protectiei datelor nu prea se expun in retele publice. Cu piata energiei din Romania si cu implicarea masiva a securitatii in domeniu, perspectivele tarii de a-si asigura suveranitatea in domeniul asta sunt similare cu perspectivele pe care le-ar fi oferit pentru un viitor luminos guru-Georgescu 😜
Daca o sa realizam fuziunea eficienta, o s-o facem pentru a satisface insatiabila foame de energie a computerelor pe care ruleaza AI, nu pentru omul obisnuit.
Iar ajutorul pe care il da AI, de la realizarea unor referate scolare pana la identificarea inamicului… nu va face decat sa determine involutia organului ganditor, care nefolosit fiind se va atrofia, rezultand intr-o tendinta accelerata de prostire a omenirii.
Frumos articol, multumesc.
Asimov imi trezeste nostalgii, credeti-ma era tare in voga pe vremea mea. Credeam cu tarie ca in doar citiva ani vom avea roboti peste tot, si iata ca au trecut zeci de ani si vorbim despre ei tot la viitor.
In schimb inteligenta artificiala nu m-a excitat deloc, poate si din invidie :), n-as accepta sa fie cineva mai destept decit mine. 🙂
Cu ani in urma a exista pe piata un program https://www.tomspike.com/en/blog/what-is-triz-method/, inventat d eun rus, nu va speriati.
A fost la mare moda prin occident, l-am avut si noi la concern, se spera ca prin el sa se poate genera patente, respectiv solutii originale la problemele actuale. Dupa parerea mea a fost un fis.
Ca pina la urma asa as defini inteligenta, pe de o parte rezolvarea unor probleme, dar pe de alta parte, inventarea unor noi drumuri, cai, in imbunatatirea vietii.
M-am jucat si eu cu ChatGPT, in citeva rinduri mi-a dat raspunsuri absolut aiurea, parerea mea e ca daca te limitezi la „arhive”, pe undeva chiar iti reduci orizontul si devii doar un fel de plagiator. Inteligenta e atunci cind scoti ceva nou, fie un tablou, fie o muzica, fie o masina noua, cine s-ar fi gindit cu multi ani in urma la telefonul mobil de azi!
Imi aduc aminte de “obsesia” cu anul 2000… 🙂 Era ceva almanah (anual cred) pentru copii, acolo erau tot felul de povesti in care in anul 2000 circulam cu masini zburatoare etc samd
As indrazni sa afirm ca totusi robotica a evoluat enorm, ca si senzorii de altfel. Avem roboti bipezi cu conformatie umana ceea ce mi se pare o realizare deosebita. Insa acum, fata de alti ani, avem si o nevoie mai mare, justificata, ceea ce probabil ca va canaliza din ce in ce mai multe fonduri in directia asta. Pana la urma este o problema de bani si de rentabilitate economica. Daca avem cerere va aparea si oferta.
IA-urile de tip ChatGPT sunt, in umila mea opinie, un Google pe steroizi, un motor de cautare mult mai rapid si mai inteligent. Eu il folosesc pe post de paralegal/secretara. Evident, verific intotdeauna ce-mi zice pentru ca face greseli – dar una peste alta, poate fi util cand esti aglomerat si vrei o structura pe care sa crosetezi mai departe sau vrei sa-ti formuleze un draft de raspuns la o adresa/comunicare oficiala, a fost bunicel la treaba asta. In mod cert m-a scutit de ceva timp si cu folos.
Sunt mai multe tipuri de IA, dar suntem departe de IA-ul de care vorbeste Asimov in nuvelele sale. Pacat ca Asimov nu mai este in voga astazi…
Daca as fi Asimov si sunt uneori, as zice ca imblinzirea cailor, a lupilor, (ciini) si a multor alte animale in slujba omului, au fost primii roboti. Ciinele nu-si musca stapinul.
Nu ne multumim cu asta, cu animalele de povara, vrem ca sa ne elibereze si de povara de a gindi, desi, unii, de ex. eu, cred ca a gindi e o mare placere, si-mi umple viata.
As zice ca as prefera inteligenta mea imperfecta, deoarece spun, gindesc, exist!
Dupa opinia mea inteligenta artificiala si tehnologia in general au si vor conduce la mari probleme pentru omenire. In primul rand oamenii vor folosi tot mai putin creierul, isi vor pierde capacitatea de a gandi critic. Acest lucru este vizibil deja ( vedem ce oameni ajung la conducere pe baza voturilor populare ).
In plus inteligenta artificiala va crea mari probleme in viitor pentru umanitate. De ce se va intampl asta ? Pentru ca este creatia oamenilor si intotdeauna se vor gasi persoane rau intetionate care folosesc tot ce inseamna tehnologie intr-un mod rau.
h,ce-mi place subiectul.
Asa, filozofic cum e.
Deci filozofic:
1. Mi-a placut la nebunie Assimov. Dar cele 3 legi raman in universul Assimov, nici-o legatura cu lumea reala.
2. Primul „robot ucigas” are cateva mii de ani. Este capcana.Cre odaataa instalata gandeste filozific „De calci pe mine, esti mort!”
3. Primii roboti militari ce ar putea fi recunoscuti ca atare sunt torpilele utodirijte custic, din l doile raboi mondil. Odata lansate, elecapata o vointa a lor actionaand dupa instinctele implantate de creatorul lor, vanand prada pana o prind sau pana isi epuizeaza energia. Au urmat rachetele antiaeriene apoi arme impotriva tintelor terestre.
4. Motivul pentru care nu sunt inca generalizate aceste sisteme sunt complexitatea si costul aferent dar mai important ca inca nu aaau o capacitate buna de discriminare. Intre tinta si background, dar mai ales intre tinta legitima si tinta prietena.
Frumos Asimov cu legile roboticii. Frumos si ideal. Da’ doar in lumea lui. Cele mai avansate AI-uri sunt in lumea militara. Unde chiar ala e scopul – sa ucida. Robotica nu e doar utilajul ala de sudeaza autonom, e si drona care vaneaza pifani, autonom, e si F16 cu AI care numai panselute nu planteaza, deci…care legi asimoviene?
mda..si acum dupa atata amar de vreme Asimov ramane in continuare favoritul meu…inclusiv microbul citit-ului tot in acea perioada l-am dobandit… apreciez articolul.
Va mai amintiti ca Kissinger a spus prin anii 90 ca actuala democratie o sa fie inlocuita cu o dictatura tehnologica….?
Tehno-optimism !!!
„Inteligența Artificială” este în acest moment doar o gluma proastă bună de stors bani de la fraier, un banal agregator de date glorificat.
Garbage in and grabage out !
Autonomie și conștiință ? Posibil, dar nu cred că în timpul vieții noastre. Asimov și legile lui ? Frumos dar aplicabile doar in utopia lui.
PS. Știință și Tehnică anii ’70 în interpretarea modernă
Mda, geaba cognitie daca nema emotie, trairi, empatie si nu in ultimul rand – smerenie/modestie – a nu se confunda cu umilinta (humble in engleza = modest) ceea ce nu e cazul fiindca unul care inventeaza si creeaza astfel de masinarii si AI-uri de obicei se crede buricul pamantului si nu exista vreunul mai destept decat el, el stie adevarul, calea si restul sunt prosti sau idioti. Asa ca vorba aia ” like father, like son” se aplica de minune. Oamenii sunt fiinte complexe, cu trairi uneori antagonice si nu poti lua de bun ceea ce un singur om creeaza sau aduce la viata daca nu stii ce cai troieni a implantat in codul ala.
Exemplu foarte larg din lumea programarii: Am avut la munca un chattbot implementat pentru a raspunde la FAQ – dupa nici o saptamana, s-a umplut mailul de complaints caci acel chatbot insera in raspunsuri cuvinte porcoase din romana.
S-a mers inapoi catre provider care era din Anglia si ei au mers sa verifice – surpriza – lucrasera cu niste programatori romani si aia din frustrare pe angajator sau din analfabetism functional nu s-au gandit ca fiind in engleza acea aplicatie ar putea sa ajunga si la clienti romani – de genul How can I update the product if I operate on Linux: Bla, Bla, bla sugi p**a de prost bla bla bla
Asa ca pana nu ai programatori vetted din punct de vedere psihologic si emotional ca fiind echilibrati si isi dau seama de potentialul de a face rau oamenilor – e ca si cum ai da arme de foc tutturor romanilor.
Well, e si asta o modalitate de a efectua eugenie si forta survival of the fiitest la nivel planetar.
Concluzie: „I’ll be back!”