Sence v romanu Klara in Sonce

Kazuo Ishiguro: Klara in Sonce (Beletrina, 2023)

V duhu letošnje eksplozije zanimanja celotne javnosti za umetno inteligenco tokrat namesto strokovne knjige predstavljamo nekoliko drugačno, poletno, vendar nikakor ne lahkotno branje, ki obravnava številna »pravna« vprašanja prihodnje družbe, ki … je že tu.

Klara in Sonce je naslov zadnjega dela nobelovca Kazua Ishigura, ki ga žanrsko uvrščajo med »distopične znanstvenofantastične« romane. Izšel je leta 2021 in je domnevno nastajal v času kovidne izolacije. Če v Ishigurovem romanu Ne zapusti me nikdar, neke vrste tematskem predhodniku, ki je žanrsko označen kot »fantastični«, nastopajo kloni, otroci brez staršev, je tokratna glavna junakinja Klara umetnointeligenčni android, ostali liki pa so večinoma (navadni) ljudje iz časa kakih deset, dvajset let v prihodnosti.

Nekoč sem prebrala, da ni dobrih ali slabih knjig, da je knjiga le dobro ali pa slabo napisana. Ta je nedvomno napisana izjemno dobro in lepo, čemur je vešče prevajalčevo »pero« odlično sledilo. Užitek v branju je tako popoln, da žanr postane praktično nepomemben, a tudi zgodba kljub navidezni ležernosti ali morda svojevrstni »vsakdanji običajnosti« (npr. podrobno, natančno, a nikakor dolgočasno skoziokensko opisovanje dogajanja na ulici), bralca vleče naprej sama po sebi, saj se dogodi dovolj nepričakovanih in mojstrsko izpeljanih zapletov in preobratov.

Roman je izšel pred objavo ChatGPT, torej prej, preden so pojmi, kot sta nevronske mreže in generativni jezikovni modeli, postali predmet splošnih pogovorov. Pisatelj spretno predstavi postopke strojnega učenja: Klara opazuje okolico, shranjuje podatke in jih analizira ter uporablja v svojih nadaljnjih ravnanjih in presojah. Umetna inteligenca nikakor ne ve vsega, ampak samo toliko in tisto, kar se je (že) uspela »naučiti«, magije tu ni.

Pripovedovalec, bolje doživljalec je Klara, visoko razviti android, kakršni se prodajajo pod blagovno znamko UP, umetni prijatelj. Vsaka izdaja je opremljena z oznako serije, vsaka nova je izboljšana, zmogljivejša od prejšnjih in odpravlja tehnične pomanjkljivosti. Tako prvi kupec kot obstoječi lastnik UP-ja si bo nedvomno vedno želel imeti najnovejši model, odlagališča zavrženih primerkov pa se polnijo.

 

Otroku kupiti umetnega prijatelja?

Je sporno, da starši otroku kupijo UP? Za tehnični del tega vprašanja se lahko poslužimo primerjave z avtom. Starši, ki to finančno zmorejo, že dolgo kupujejo otrokom avtomobile, čim so ti dovolj stari za vozniški izpit. Današnji avto je računalnik, tako kot UP, le da je »programiran« drugače. Z nespretno ali neodgovorno uporabo lahko avtomobil v uporabnikovih rokah postane ubijalsko sredstvo, za voznika in druge udeležence v prometu. Res pa je, da avtomobila ne smemo voziti brez vozniškega dovoljenja.

Za mehki del tega vprašanja je težje najti primerjavo. Pred desetletji so knjige o vzgoji otrok (in starševstvu) priporočale, da je otroku lažje najti »prijatelje«, npr. otroke znancev, kakor pa imeti več otrok, ali bolj neposredno: naj ne bo glavni razlog za drugega otroka poskrbeti, da otrok ne bo edini v družini, da bo torej imel družbo tudi doma, saj je težje vzgajati otroke kakor najti prijatelje. Ali to še drži v družbi, kjer izobraževalni procesi v celoti, tako je to v Klari in Soncu, v realnosti pa smo izkusili med kovidom, potekajo na daljavo, od doma?

UP-ji so nov pripomoček (igrača?) »naravnega« razvoja našega »elektronskega« sveta, v katerem nadgrajeni otroci, večinoma edinci, živijo svoja izolirana življenja, za vzpostavljanje stikov z drugimi ljudmi (vrstniki) pa jim starši, večinoma so to mame (samohranilke?), občasno organizirajo posebna »interakcijska srečanja«.

UP-ji dobivajo energijo od Sonca, kar je smiselno in ekološko. Medtem ko se ostali UP-ji obnašajo skladno z načrtom (prilagoditi se »svojemu otroku«, biti njegov najboljši prijatelj), Klaro odlikuje poseben dar za opazovanje, izjemna vedoželjnost, dejansko si želi razumeti človeka in delovanje sveta. V tem kontekstu religiozno čaščenje Sonca, ki ga razvije, niti ni naivno, kot se bralcu morda zazdi sprva – konec koncev Sonce dejansko je naš edini »pravi bog«, saj z njega prihaja vsa energija, ki jo izrabljamo na Zemlji – kot je skrajno človeško njeno otroško pričakovanje, da se bo ob dovolj dobrih namenih in žrtvovanju zgodil čudež.

Klara pa ni le učljiva, ampak tudi izjemno občutljiva, ravno zato si jo izbere(ta) senzitivna najstnica (Josie) ter njena navzven samozavestna, vase zaverovana (v sebi pa ranljiva, nesigurna) mama.

Klari ne uide, da določeni otroci, ki si jo ogledujejo v izložbi, gledajo »čudno, žalostno ali zagrenjeno«, včasih razstavljenim UP-jem skozi steklo celo rečejo kaj neprijaznega. Vodja prodajalne UP-jev, ki ni samo prodajalka, ampak ima nalogo (nežne, a odločne) »vzgoje« UP-jev v procesih njihovega privajanja na bodočo vlogo prijatelja, ji razloži, da naj se glede tega ne sekira, saj tak otrok najverjetneje (samo) ne more »zadovoljiti svojih želja«. Ali pa je osamljen, ugotovita skupaj.

Klara opazuje tudi obnašanje UP-jev, ki se po ulici sprehajajo skupaj s svojimi otroki, predvsem se ji zdi čudno, da jih je tako malo. Po razmisleku dojame, da se najbrž izogibajo izložbe v strahu, da bi »njihovi otroci« opazili novejše, boljše modele, zaradi katerih bi njih zavrgli. Nekateri otroci hodijo par korakov pred svojim UP-jem; Klara premišlja, kako neki se mora počutiti UP, ki končno najde svoj dom, potem pa ugotovi, da ga njegov otrok ne mara (več).

Medtem ko ChatGPT posebno pozornost posveča vljudni komunikaciji, jo Klara nameni čustvovanju. Z opazovanjem ljudi prepoznava in se uči tudi mešanih čustev, npr. nadeti si žalosten obraz in obenem poskrbeti, da bo naslovnik izraza lahko dojel, da ne mislite resno in da niste jezni.

Poleg umetne inteligence se roman dotakne še nekaterih aktualnih tem, ki so se nam pripetile ali se dogajajo, preden smo bili nanje dobro pripravljeni, npr. odnosi v digitalni družbi (odtujenih) samozadostnih individualistov, osamljenost, ki se zdi vse bolj neizogibna, tekmovalnost in vsesplošna podrejenost imperativu uspešnosti, ekologija in (neustavljivo?) onesnaževanje, in genetsko zdravljenje (inženirstvo).

 

»Nadgrajeni« otroci

Otroci vseh, ki kaj dajo nase (»višji razred«), so namreč genetsko popravljeni, nadgrajeni. (Družba je nedvomno razslojena: Josiejina, četudi efektivno enostarševska družina (Josie očeta sicer pozna, a nima veliko stikov z njim) sodi v višji razred, kar je navzven razvidno po maminih oblačilih in obutvi, za gospodinjstvo in v pretežni meri za otroka (Josie) skrbi hišna pomočnica (mama in Josie se redno videvata le pri zajtrkih), ki je priseljenka, kar jasno kaže njena nepravilna, a za komuniciranje pri opravljanju »nižjih« del očitno zadovoljiva raba jezika. Do svoje bogataške delodajalke ima delno ciničen odnos, ki ga spretno prikriva, kljub temu pa — žensko, pričakovano — razvije zaščitniški odnos do otroka, Josie.) Na tiste, ki si nadgradnje ne morejo (nočejo?) privoščiti, se gleda zviška in so v precejšnji meri izločeni, še bolj so izločeni (samoizvrženi?) izstopajoči posamezniki, ki ne želijo (več) živeti z »nekakšno jezno izčrpanostjo v očeh« in so, kot npr. Klarin oče, pustili dobro plačano službo in bleščečo kariero v zameno za skromno, a pristno življenje in s tem postali marginalci.

Nadgradnja otrok pa ni enostavna; prihaja do zapletov, ki se v določenih primerih lahko končajo s smrtjo. Natančna Klarina opazka Josijine hoje bi lahko napeljevala na eno že poznanih genetskih bolezni, ki s posegom ni bila v celoti sanirana. Ne povsem uspela Josijina nadgradnja (ter mamina predhodna podobna izkušnja, ki se je žal končala tragično) se izkaže kot pravi razlog, zaradi katerega se je mama dejansko odločila za Klaro, ki se ji je zdela ravno prav dobra, da bi ji nekoč, če pride do najhujšega, lahko nadomestila Josie, pa čeprav je na trg že prihajal bolj izpopolnjen model UP-ja; na koncu se vedno odločimo čustveno.

Ishiguro se s tem dotakne vprašanja skrajnega egoizma sodobnega posameznika, ki si to lahko privošči, in na drugi strani regulacije – poslovnež, ki je ne glede na morebitne moralne zadržke pripravljen razviti katerokoli poslovno idejo, če le zasluti, da se bo našel trg zanjo.

Čeprav robot Klara na koncu pristane na smetišču, njen »karakter« ne preneha, dokler le sonce napaja njene fotocelice in njeni sestavni deli ne zarjavijo: do zadnjega diha skrajno pozorno opazuje dogajanje okrog sebe, pa četudi je to le hrbet odhajajoče nekdanje Vodje, in četudi od shranjevanja podatkov, njihove analize in izhajajočih informacij ni več pričakovati ne potrebe ne koristi.

V romanu je množica eksplicitnih in še več implicitnih vprašanj — za politiko, filozofijo, medicino, ekonomijo, pedagogiko, psihologijo, za celotno intelektualistično sfero družbe, še posebej pa za pravo. Odgovore, ki ne bodo niti enostavni niti enoznačni, bi veljalo poiskati čim prej, tudi telesa EU so na srečo s tem že pričela. Ključno bo obsežno multidisciplinarno sodelovanje in razvijanje novih vrst konsenzualnosti – nečesa precej drugačnega po dolgem obdobju specializacije strok.

Nič ni tako slabo, da ne bi bilo za nekaj dobro, pravi stara modrost. Morda je priložnost za korenitejše družbenosistemske spremembe. Umetna inteligenca nam pri tem lahko pomaga, če bomo le znali — pravzaprav, če se bomo znali odločiti — uporabljati jo dobronamerno.

 

*Objavljeno z dovoljenjem izdajatelja. Prvotna objava: Dular Mirjam, Sence v romanu Klara in Sonce, Pravna praksa, št. 29-30, 2023, str. 43-45. (C) LEXPERA, 2023.

Sence v romanu Klara in Sonce
Avtor: Mirjam Dular
O avtorju: Mirjam Dular piše prozo in poezijo, doslej je izdala zbirko kratke proze Milina pogovora in tri pesniške zbirke, Stikanja, SND - Spoznavanje narave in družbe in Lirika. Pesmi objavlja na www.pesem.si, nekaj njenih proznih prispevkov pa je objavljenih na www.vrabecanarhist.eu. Njen prvi roman Hoja po oblakih je eden od petih finalistov natečaja ob 20-letnici založbe Litera, objavljenem v letu 2022. Živi v Ljubljani, po izobrazbi je doktorica fizikalnih znanosti.