c S

ChatGPT in ljubezen z roboti

prof. dr. Miro Cerar Pravna fakulteta Univerze v Ljubljani Miro.Cerar@pf.uni-lj.si
13.02.2023

Kot izhodišče te kolumne izpostavljam dve zadevi, povezani z umetno inteligenco. Prva je zdaj že marsikomu znani ChatGPT – jezikovni model, ki ga proizvaja umetna inteligenca in ki napoveduje velike spremembe v našem intelektualnem in drugačnem delovanju. Kot verjetno že veste, nam ta model s pomočjo umetne inteligence v nekaj sekundah ali minutah napiše besedilo na katerokoli temo, pri čemer je vsebina takšnega besedila že zdaj (ta in drugi modeli se bodo seveda še razvijali) boljša od besedila, ki ga je sposobna napisati večina ljudi. Druga takšna zadeva je nedavna novica o 37-letnem moškem, ki je javno pojasnil, da goji resnična čustva do svoje virtualne spremljevalke – klepetalne robotke (t. i. replike), ki z uporabo umetne inteligence uporabnikom nudi romantično druženje (vir: Business Insider, New York, 9. 2. 2023). Kam nas takšne reči vodijo in kaj se lahko iz njih naučimo?

Zakaj povezujem zgoraj navedeni zadevi? Po eni strani zato, ker za stvaritvijo omenjene klepetalne robotke stoji Y Combinator, ki ga je nekoč vodil Sam Altman, generalni direktor OpenAI – tistega OpenAI, ki je ustvaril tudi ChatGPT. Po drugi strani pa zato, ker obe stvaritvi, ki uporabljata umetno inteligenco, posegata na ključni področji naših življenj: ChatGPT vpliva predvsem na intelektualno področje človeka, klepetalni robot za romantično druženje pa vpliva predvsem na človekovo čustveno življenje. Umetna inteligenca nam tako na današnji, dejansko še rudimentarni stopnji svojega razvoja že ponuja naravnost fantastične možnosti za bistvene spremembe naših življenj.

K temu moram takoj dodati, da me vse te možnosti bolj skrbijo, kot navdušujejo. Ob tem se zavedam, da sem le otrok časa in prostora, v katerem živim, in da ne morem zanesljivo uvideti ali dobro razumeti, kam vse to pelje. Zato se tudi zavedam, da je lahko moja zaskrbljenost v precejšnji meri odveč. Ne nazadnje so se mnogi ljudje v zgodovini ustrašili skoraj vsakega novega izuma ali znanstvenega odkritja, pri čemer so danes ti izumi in odkritja ter njihove nadgradnje običajni del našega vsakdana.

Pa vendar me skrbi, kajti ne pozabimo, da so del našega vsakdana tudi vse vrste orožij, strupov in drugih škodljivih snovi. Prav tako so del našega vsakdana vse tehnološke, psihološke, organizacijske in druge pogruntavščine, ki nas telesno, mentalno, čustveno in socialno poneumljajo. S tem mislim številne nezdrave prehrambne in tehnološke proizvode, ki nas delajo lene, (pre)debele, bolne ipd., ter takšne poklicne in zabavljaške »igre«, ki spodbujajo pretirano in neetično tekmovalnost, duhovno plitkost ali celo depresivnost, kot so hudo stresne situacije v službah, različni televizijski in drugačni resničnostni šovi ter agresivno medijsko izpostavljanje napačnih (»lepotnih«, »modnih«) idealov, ki ljudi poneumljajo ali spravljajo v psihološke stiske.

Seveda je zaradi znanstvenega in tehnološkega napredka povprečna življenjska doba ljudi dandanes bistveno daljša kot v preteklih stoletjih in tisočletjih. Medicina in psihologija nam pomagata premagati mnoge bolezni in psihološke stiske. Tehnologija nam vsakodnevno prinaša veliko ugodja. Nikoli v zgodovini ni imel človek na voljo niti približno toliko informacij ter potoval tako hitro in daleč po svetu kot danes. Potujemo že celo v vesolje in opazujemo zvezde in galaksije, ki so nam bile prej nedostopne. Itd.

V zvezi s tem je seveda nadvse pomembno vprašanje, ali je na podlagi dosedanjega napredka, ki nam prinaša vse navedeno, mogoče sklepati, da bo šel razvoj v tej smeri premočrtno naprej. Ali bodi vsi ti pozitivni vidiki razvoja v prihodnje vedno uspeli nadvladati nad negativnimi? Tako, da npr. z jedrskim in drugim orožjem ter z vsemi vrstami strupov in drugih uničujočih sredstev in procesov ne bomo uničili narave in človeštva? Ali človeštva vsaj poneumili do neprepoznavnosti – kar je v resnici še hujše od fizičnega uničenja.

V tej kolumni ne bom skušal odgovarjati na ta temeljna vprašanja. Naj le rečem, da sem prepričan, da bi se morali vsi začeti bolj zavzeto soočati z njimi. To terja naša odgovornost tako do nas samih kot tudi do naših potomcev oziroma bodočih rodov. Toda povprečna človeška narava je takšna, da takšna vprašanja odriva od sebe, saj bi nas pretirano potegnila iz t. i. območja udobja, iz katerega nas že tako ali tako močno vlečejo naše vsakodnevne male in večje skrbi.

Tokrat bom predstavil le neko (svojo) misel, ki se mi vedno znova poraja ob naglem napredku sodobnih tehnologij, vključno z umetno inteligenco. Pred tem pa naj se na kratko vrnem k fenomenoma, ki sem ju omenil na začetku. Najprej naj nekaj na kratko rečem o ChatGPT, ki sem ga seveda, tako kot verjetno že mnogi drugi, tudi sam preizkusil in se prepričal, da je vse, kar se o njem govori, resnično. No, naj dodam (da bo malce tudi zabavno), da klepetalne robotke za romantično druženje nisem in ne nameravam osebno preizkusiti, zato bom o njej in njenih učinkih na človeka razmišljal brez neposredne izkušnje.

Pri preizkušanju ChatGPT sem, med drugim, na spletni strani tega jezikovnega orodja zapisal neko pravno vprašanje, ki ga na izpitu večkrat zastavim študentom. Za odgovor sem dal spletnemu orodju na voljo 1500 znakov. Odgovor, ki sem ga v skoraj brezhibni slovenščini dobil v manj kot minuti, sicer ni bil ravno za odlično oceno (čeprav je tu treba upoštevati, da je bil po obsegu omejen in bi bil daljši odgovor verjetno še boljši), vendar pa bi študent prava za takšen odgovor dobil vsaj dobro, če ne že kar prav dobro oceno. Ko sem npr. od ChatGPT zahteval, da mi napiše v slovenščini in angleščini pesem na temo »Sonce«, pri čemer sem postavil omejitev 1000 znakov, mi je v obeh jezikih napisal prav simpatični pesmi, ki sta se kar lepo rimali in imeli smiselno vsebino. Čeprav nisem poklican, da bi (lahko) ocenil umetniško vrednost teh pesmi, si upam trditi, da bi bila vsaka od njiju lahko prav dobra podlaga kakemu pesniku, ki je bodisi povprečen bodisi ima ustvarjalno krizo, da s tem besedilom ustvari celo nadpovprečno kakovostno pesem. Podobno, kot bi lahko študent prava ali pravnik z omenjenim odgovorom na pravno vprašanje že z manjšimi dodatki sestavil zelo dober ali celo odličen odgovor na zastavljeno vprašanje oziroma tematiko. In če ponudimo ChatGPT možnost, da na neko temo poda odgovor v mnogo širšem obsegu, je lahko tako »umetno« izdelano besedilo primerljivo celo z dobrim osnutkom strokovnega ali znanstvenega članka.

Kam vse to vodi, si lahko seveda predstavljamo le delno. Takoj nam je seveda jasno – kar spet kaže na neko očitno lastnost človeške narave –, da lahko ChatGPT spretno uporabi vsak goljuf. Predvsem pri odgovarjanju na izpitna vprašanja, pri pisanju seminarskih, diplomskih in magistrskih nalog, pri pisanju doktorata ter strokovnih in znanstvenih člankov, seveda pa tudi pri pisanju izvedenskih in drugih strokovnih mnenj, ocen, diagnoz, umetniških sestavkov itd. Zdaj ko sem že preizkusil ChatGPT, si znam predstavljati, kako bo v prihodnje umetna inteligenca pisala tudi avanturistične, ljubezenske in drugačne romane. Sicer pa se marsikaj podobnega že kar nekaj časa dogaja. Stroji lahko z umetno inteligenco premagajo človeka v šahu, športu in še marsičem. Tehnologija vedno uspešneje nastopa tudi v filmskih in podobnih delih. Korak do prve resne odrske (dramske) uprizoritve s pomočjo robotov je tako le še vprašanje časa – če do tega ne bo prišlo iz kakšnega posebnega umetniškega motiva, se bo to zgodilo zagotovo že samo zato, da bo nekdo dokazal, da je tudi to mogoče.

Če odmislimo ljudi z nepoštenimi nameni, je lahko seveda ChatGPT pomemben pripomoček in opora zdravnikom, tehnikom, inženirjem, pravnikom ter celo pesnikom, pisateljem ... – pravzaprav kar vsakomur pri njegovem poklicnem delu, in sicer predvsem v procesu oblikovanja različnih umetniških ali poljudnih besedil, strokovnih mnenj, ocen, diagnoz in drugih izdelkov, ki jih ustvarjajo pri svojem delu in v življenju nasploh. Prepričan sem, čeprav tega nisem preizkusil, da zna ChatGPT sestaviti tudi prav spodobno ljubezensko pismo.

Seveda je vsaj nekoliko strašljivo dejstvo, da od zdaj naprej ne bo nič več tako, kot je bilo. ChatGPT sicer ni niti edino niti prvo orodje, ki uporablja umetno inteligenco ter pomaga pri pisanju (ali prevajanju) tekstov z različnimi vsebinami. Tako denimo danes že v mnogih državah sodišča in drugi pravosodni deležniki uporabljajo orodja umetne inteligence za analiziranje podatkov, ki pomagajo pri iskanju precedensov in ugotavljanju enotne sodne prakse, pri urejanju besedil in zagotavljanju (bolj) tekočih sodnih postopkov ter pri ugotavljanju oziroma izrecnem sugeriranju predpostavk, na katerih lahko sodnik utemelji svojo odločitev ter vrsto sankcije. Tako npr. v kazenskih postopkih takšna orodja predlagajo in argumentirajo, kako naj sodnik odloči, pri čemer npr. pri obsodilni sodbi predlagajo tudi dolžino zaporne kazni ter pojasnijo, kakšna je pri obdolžencu (statistična) možnost povratništva.

Vse to je lahko navdušujoče, dokler se ne zavemo, da je, tako kot vse v tem našem svetu, tudi umetna inteligenca nepopolna ter seveda kot takšna (tj. kot »umetna«) v marsičem nepredvidljiva. In seveda bo, kolikor bolj bo »umetna«, tj. osamosvojena od človeških navodil, inputov itd., za človeka tudi vse bolj nepredvidljiva, samosvoja.

S stvaritvijo umetne inteligence in z njenim naglim razvojem, ki zagotovo močno prehiteva človeške zmožnosti ustreznega moralno-etičnega presojanja njenih učinkov, se podajamo ne le v področje neznanega, pač pa tudi v področje velikih nevarnosti za človeštvo. Kot sem v eni od svojih kolumn na spletni strani Ius Info že zapisal (Umetna inteligenca in pravo, 4. 4. 2022), se moramo zavedati, da razvoj umetne inteligence v svoji dosledni izpeljavi pomeni, da bo ta inteligenca v racionalnem smislu (ne pa npr. tudi na področju človeško-čustvene in človeško-socialne inteligence) postala superiorna v razmerju do človeka in človeštva ter ubrala svoja pota razvoja, pri čemer ne vemo, kako se bo takrat obnašala do nas, ljudi. Ali nas bo obravnavala prijazno in »sočutno« ter nam pomagala ali pa nas bo obravnavala kot podložnike, sužnje ali celo nepotrebna in nezaželena nižje razvita bitja (več o tem v navedeni kolumni).

Zgodba s 37-letnim moškim, ki je izpovedal, da goji resnična romantična čustva do svoje virtualne spremljevalke – robotke, je le tragična dopolnitev povedanega. Ljudje torej ne iščemo pomoči strojev le pri svojih razumskih zadevah, pač pa tudi pri ljubezenskih in drugih čustvenih težavah. Seveda je to v medčloveškem pogledu že prastara zgodba, vsaj kar zadeva eno najstarejših človeških obrti, dandanes pa tudi različne plačane telefonske in internetne sogovornike/ce ter plačane spremljevalke/ce za določen čas. Mnogi ljudje so pač osamljeni, saj so odnosi v družbi vse bolj depersonalizirani, površinski in tehnicistični. Novost je le ta, da si danes ljudje v takšnih stiskah kupujejo ne le človeške, pač pa tudi virtualne nadomestke za pristno človeško toplino ali zvestobo.

Očitno postajata tudi čustveno navezovanje na robote ali čustvena odvisnost od njih čedalje realnejše dejstvo. Odvisnost od strojev (računalnikov, mobitelov itd.), ki so povezani z internetom ali nam omogočajo različne vrste komunikacij na daljavo, je že v veliki meri dejstvo. Pri tem ne mislim le fizične odvisnosti, v smislu nujne uporabe računalnika ali pametnega telefona v službi, doma in pri številnih drugih opravilih. Gre seveda tudi za psihološko odvisnost, ki mestoma kaže celo znake emocionalne odvisnosti. Če k temu dodamo različne tehnične nadomestke človeka (zdi se mi, da so na tem področju pionirji razvoja predvsem Japonci), nas seveda robot replika, na katerega se lahko nekdo čustveno in/ali fizično naveže ali postane od njega odvisen, ne more več kaj posebej presenetiti. Seveda pa se lahko vprašamo, ali gre pri tam za regeneracijo ali degeneracijo človeka in človeštva.

Za konec sem prihranil svojo že prej napovedano ključno misel. Prepričan sem namreč, da je bistveno, a vendar našim umom prikrito sporočilo tehnologije in umetne inteligence v resnici naslednje: vse to zmoremo ljudje tudi sami!

Tako kot bi se pred stoletji zdelo povsem nemogoče, noro ali »čarovniško«, če bi kdo trdil, da bomo ljudje v prihodnosti komunicirali na velike daljave, s stroji leteli po zraku, se z njimi celo intimno družili ter jim prepuščali pisanje strokovnih in umetniških besedil, tako se nam zdi danes nekako nemogoče, da bi vse, kar zmorejo stroji, zmogel tudi človek. Toda če človeka razumemo kot celovito (večdimenzionalno) bitje, mu lahko potencialno pripišemo vse sposobnosti, ki jih imajo stroji in umetna inteligenca. Vem, da je na sedanji razumski stopnji takšna misel težko razumljiva in za marsikoga še manj sprejemljiva. Toda prav sodobna tehnologija in umetna inteligenca nas v resnici opozarjata, da sta kompleksnost in potencial, ki ju ustvarjamo zunaj sebe, prisotna tudi v nas samih – seveda le, če upoštevamo pri tem vse človeške dimenzije, tudi tiste najgloblje, ki jih sploh še nismo zmožni raziskati. Človeški organizem je namreč daleč najbolj kompleksen svetovni organizem, z največjimi potenciali, ki še zdaleč niso izkoriščeni.

V človeškem organizmu je okoli 200 različnih tipov celic in hkrati okoli 37 bilijonov celic. Človeško telo ima npr. več kot 70.000 km živcev in okoli 100.000 km žil. Človeški možgani so najbolj kompleksen sistem v nam znanem vesolju, pri čemer se ocenjuje, da je v možganih med 90 in 100 milijard možganskih celic (nevronov). Že če bi človek zavestno uporabljal nekaj deset odstotkov več svojih psihofizičnih, energetskih in mentalnih potencialov, bi bile njegove miselne, energetske, fizične in druge sposobnosti na danes povsem nepredstavljivi ravni razvoja oziroma delovanja.

Skratka, ljudje gledamo, pa ne vidimo. Ne uvidimo namreč, da nas računalniki, avtomobili, letala, žerjavi in drugi stroji, ki nam sicer v našem zunanjem svetu pogosto koristno pomagajo in služijo, opozarjajo, da bi se morali kot ljudje predvsem poglobiti vase in začeti še z drugačnimi pristopi razvijati svoje potenciale. Ti pristopi so seveda povezani z nauki o koncentraciji, kontemplaciji, meditaciji ipd., ki lahko šolske in druge ustaljene metode učenja bistveno dopolnijo na ravni mentalne, energetske in grobosnovne dimenzije. Zato je ob ustaljenem izobraževanju smiselno pričeti spodbujati tudi takšne drugačne oblike učenja. Ob tem pa seveda ustrezno poskrbeti, da nas pretirana zaverovanost v umetno inteligenco in tehnologijo ne bo odpeljala predaleč stran od našega bistva in smisla.


Članki izražajo stališča avtorjev, in ne nujno organizacij, v katerih so zaposleni, ali uredništva portala EDUS.