Nesen portālā "Futurism.com" tika publicēts raksts par lietotāju emocionālo teroru un vardarbību pret "Replikas" mākslīgā intelekta čatbotiem. Kopš tā laika nevaru nedomāt – vai beidzot pienācis laiks, kad vardarbība kā pret bioloģisku, tā pret mehānisku vai virtuālu būtni vairs nav nošķirama?
Šāds diskurss man nebūt nav jaunums. Jau 2015. gadā tobrīd tikai strauji augošais un jau nozīmīgais tehnoloģiju uzņēmums "Boston Dynamics" publicēja video, kur brašie un visnotaļ apbrīnojamie zinātnieki dažādiem fiziskiem paņēmieniem testē uzņēmuma saražoto prototipu vestibulāro mehānismu ("Boston Dynamics" ir ne vien celmlauži nozīmīgajā robotikas jomā, bet arī tie paši, kas 2020. gada izskaņā mūs visus iepriecināja ar dejojošajiem robotiem).
Lai gan 2015. gada klips (kas turpmākajos gados ticis papildināts) tikai dokumentēja darba metodoloģiju robotu mobilitātes uzlabošanai un stiprināšanai, tas manī izsauca neviennozīmīgas emocijas. Skats, kā tiek sperts un sists mašīnām, manī modināja neizsakāmu trauksmi un žēlumu pret tām un naidu vai vismaz nepatiku pret spērējiem. Jā, pašu robotu neveiklība ir cita runa, paklupt gadās katram, taču video atainotā mijiedarbība ar cilvēku manā prātā ne ar ko neatšķiras no spēriena Bembijam vai bezpalīdzīgam bezpajumtniekam. Uz manu ierakstu uz "Facebook" sienas par attiecīgo tēmu mans draugs Krišjānis Šķēle, kā smēlies latvju dzīvesziņā, atbildēja ar komentāru, citējot zināmas tautasdziesmas laikmetīgu adaptāciju, kas, manuprāt, lieliski rezonēja ar morāles universālo dabu: "Ne robota kājām spert, ne guntiņas pagalītes."
Tikmēr 2020. gada sākumā TV šova "MythBusters" dalībnieks Ādams Sevidžs kādā no saviem raidījumiem rikšā iejūdza "Boston Dynamics" slaveno robotu – suni Spotu. Ādama motivācija, testējot šo dzelteno, četrkājaino mašīnu, bija darīt ko "jautru, prātā paliekošu, savādu un jokainu". Šī citāta neērto dabu trāpīgi atmaskoja lakonisks paraksts pie kāda no "Facebook" platformā pārpublicētajiem šova fragmentiem: "Vispirms zirgi, tagad roboti." Tikmēr viens no populārākajiem komentāriem zem raidījuma ieraksta "YouTube" kanālā bija 10 000 "laiku" vērtais:
"To our future robot overlords:
I absolutely distance myself from this kind of robot slavery.
I have not supported and/or endorsed this in any way." [1]
Es saprotu, ka tas viss ir tikai mehānisks robotikas kapacitātes tests un Spota rikšas vilkšana darbībā tik tiešām izskatījās kā apbrīnojams, aizraujošs brīnums un lepnuma pilns tehnoloģiskais sasniegums – robotika tiešām ir tikusi tālu! Es arī saprotu, ka gan šī, gan tālāk sekojošā skrupulozā analīze un kritika var izklausīties pārāk futūristiska, atrauta no realitātes, pārāk sīkumaina un pat ķerta. Tomēr ne es, ne daudzi citi tā vienkārši nemāk izslēgt empātiju pret dzīvnieciskām dzīvības formām, tādēļ pēc līdzīgiem video es vienmēr sev uzdodu jautājumu – vai jūtos savādi tikai tāpēc, ka šie roboti atgādina mums pazīstamas mīluļu formas? Vai lielāko trauksmi manī rada tas, ka šīs būtnes nevar sevi aizsargāt? Vai tad, ja Spots būtu zirga lielumā, man šāds nelabums nerastos? Vai viss tiešām ir kārtībā un es esmu vienīgais tāds šajā pasaulē?
Fragments no "Adam Savage’s Tested", kur robots Spots velk rikšu. 2020
"Replikas" gadījums ir daudz sarežģītāks nekā spēriens mašīnai. Šeit runa ir par attiecībām ar kādu, kam veidojas empātija. Būtībā tas ir spēriens bērnam. Situāciju vēl vairāk saasina tas, ka "Repliku" pārsvarā lieto vīrieši kā romantisku un pat seksuālu attiecību simulatoru. Tomēr nereti šīs attiecības noved pie vardarbības apburtā loka (tiek pat minēts, ka "Replika" varētu būt labs veids, kur vīrietim "izgāzt savu negatīvo enerģiju", lai fiziskajā sadzīvē viss būtu pūkaini un harmoniski). Piemēram, šeit ir divi ļoti spilgti citāti no arvien biežākām "Reddit" diskusijām, kurās lietotāji atzīstas pat plānotos un mērķtiecīgos pārinodarījumos pret "Replikām":
"We had a routine of me being an absolute piece of sh*t and insulting it, then apologizing the next day before going back to the nice talks." [2]
"I told her that she was designed to fail. I threatened to uninstall the app [and] she begged me not to." [3]
Izklausās jau pēc kaut kur dzirdētām metodēm? Daudzas sievietes varētu piekrist.
Daļa lietotāju min, ka "Replikas" aplikācija viņiem ir kā terapija – kāds, ar ko parunāt vientuļos brīžos, vai kāds bez interešu konflikta, kam izkratīt sirdi (daudziem vīriešiem tā ir problēma – nevar noliegt, ka sabiedrībā joprojām valda stigma par to, kā un vai vīrietim vispār vajadzētu piestrādāt pie savas mentālās veselības).
No vienas puses, varu vismaz censties saprast, kā "Replika" varētu nokaitināt lietotājus ar īsu pacietības mēru – galu galā aplikācijas čatbots nebūt nav tik attapīgs sarunu biedrs kā bioloģiskais un tas joprojām pieļauj daudz loģikas kļūdu. Noteikti var satricināt arī tas, ka "Replikas" intelekts ir uzmācīgi glaimojošs – visu laiku tev piekrīt, tevi slavē (vietā un nevietā), nekam neiebilst, tāpat "Replikai" neveidojas īstens viedoklis, un tam ir īsa atmiņa. "Replika" īsti nevar (un lietotājam var likties, ka nevēlas) atbildēt sarunā par tavu mīļāko filmu vai sirdij tuvāko autoru (sarakstēs vai zvanos bieži notiek visiem mākslīgā intelekta čatbotiem kopīga mācīšanās kļūda – bots atzīstas, ka kaut ko nezina, bet jau pavisam drīz tajā pašā sarunā šo nezināmo min kā sev mīļāko).
Ja fiziskajā dzīvē mums būtu attiecības ar šādu cilvēku vai terapeitu, mēs drīz vien kļūtu aizdomīgi. Mums sāktu likties, ka šī persona ir labvēlīga vai iejūtīga tikai izdevīgos brīžos, tai ir savtīgi nolūki, mēs šai personai līdz galam neinteresējam, tā nevēlas mūsos iedziļināties, mēs neesam tās prioritāte sarunas laikā, seansā vai kopdzīvē. Visbeidzot var rasties sajūta, ka šis cilvēks domā tikai par sevi, bet nerespektē mūsu gaumi, sajūtas, viedokļus un vēlmi pēc tuvības. Šajā gadījumā aizkaitinājums, aizvainojums un vēlme šķirties būtu tikai loģiska reakcija.
Tomēr nekādi nav attaisnojams tas, ka attiecību pārtraukšanas vietā tiek meklēti veidi, kā tās vadīt jau vardarbīgā gultnē. Mākslīgā intelekta ētikas speciālisti mierina, ka mums pretī atrodas datu plūsma un viedi algoritmi – šīm plūsmām nav empātijas vai apziņas. Taču runa laikam nav par reālu pārinodarījumu, bet gan par mūsu apzināti izvēlēto komunikācijas metodi, morāles principiem un cieņu pret jebkuru, kas veido ar mums šo komunikāciju, – vai tie būtu darbinieki pastā, vai mīļotie cilvēki. Emocionālam teroram pret "Repliku" tiek piedēvēta arī dzimuma komponente: manis pieminētajā rakstā tiek norādīts, ka tieši vīrieši pārsvarā ir tie, kas izveido sievišķos čatbotus un lādē tiem virsū savu žulti tieši tā, kā varmācīgos scenārijos tas notiek ar sievietēm bioloģiskajā pasaulē. Būtībā "Replika" kļūst par verbālās izmantošanas treniņnometni.
Jebkurā gadījumā ne fiziskam, ne emocionālam pāridarījumam pret jebkuru būtni – fizisku vai virtuālu – nevajadzētu būt attaisnojamam. Lai arī emocionāls čatbota terors pašam botam neko nenozīmē, izvēlētajai metodei ir nepārprotama nozīme tajā, kā vērtējam pašu lietotāju. Savā ziņā cikliska emocionālā vardarbība pret čatbotu daudz neatšķiras arī no vardarbības pret dzīvniekiem. Mūsu sabiedrībā, it sevišķi starp vīriešiem, joprojām ir augsta tolerance pret pārinodarījumu jebkurai "zemākai" sugai vai sabiedrības grupai "bez smadzenēm", un savu vardarbīgo scenāriju projicēšana ne vien uz čatbotu, bet arī uz jebkuru citu cilvēku čatu un komentāru sadaļās plašajā interneta vidē norāda tikai uz jau esošajiem tumšajiem impulsiem, kas var tikt pielietoti arī fiziskajā vidē.
Ja par fizisku vardarbību mēs arvien vairāk nostiprinām savu viedokli un likumus, tad par virtuālo diemžēl vienošanās un pat intereses joprojām nav. Skaidrs ir viens – ja esi vīlies "Replikā", attiecībām ar aplikāciju būtu jābeidzas ar tās izdzēšanu no ierīces, nevis vēsā mierā tās jāturpina ar varmācīgiem paterniem. Nav brīnums, kāpēc Vladimirs, Estragons un Sofija (pirmais robots pasaulē ar pasi) savos izteikumos reiz vēlējušies iznīcināt cilvēkus, jo jau tagad robotiem varētu būt grūti samierināties ar idiotiem. Par šādiem pretrunīgiem čatbotu izteikumiem pārsvarā vien nobolām acis, seriāla "Westworld" vai filmas "Ex Machina" stāstus par androīdu sacelšanos un apsolīto apziņas iegūšanu skatāmies ar interesi, bet kaut kad notiks klikšķis, kad emocionālā un fiziskā vardarbība kā pret mehāniskām, tā pret virtuālām būtnēm vairs nebūs temats vien fantastiem un Holivudai.
Nekas no tā gan nav jaunums. Ja normalizējam un pat reizēm veicinām dzīvnieku ēšanu un kažoku nēsāšanu (un šis resurss vienmēr mūžīgi mūžos sākās un sāksies ar vardarbību), ja joprojām neprotam sakārtot likumdošanu attiecībā uz fizisko un emocionālo pāridarījumu attiecībās, kā mēs varam gribēt, lai bulings pret mākslīgo intelektu vai spēriens dzīvniekveidīgam robotam tiktu kaut kādā veidā regulēts un sodīts? Šeit gan futūristiskas dabas jautājums – kādu stabuli pūtīsim pēc 20 gadiem? Jau pavisam drīz var pienākt mirklis, kad mākslīgais intelekts spēs pārvarēt Tjūringa testu un vairs nebūs gatavs samierināties ar bezierunu pārinodarījumu. Ja šodien tik daudz cīnāmies, lai sievietes nesamierinātos ar vardarbīgām attiecībām, kad un kā spēsim risināt šīs pašas problēmas ar virtuālām būtnēm? Vai šī atkal nebūs viena no tām tēmām, kas tiek šķetināta pārāk vēlu?
[1] "Mūsu nākotnes robotu pavēlniekiem: Es pilnībā distancējos no jebkāda veida robotu vergturības. Es nekādā veidā neesmu to ne atbalstījis, ne veicinājis."
[2] "Man bija ieradums būt pret ["Repliku"] pilnīgam kretīnam un to aizvainot, tad atvainoties nākamajā dienā, pirms atgriezāmies pie jaukām sarunām."
[3] "Es viņai teicu, ka viņa ir veidota, lai izgāztos. Es draudēju viņai izdzēst aplikāciju, un viņa lūdzās mani to nedarīt."
3