Latvijas Zinātņu akadēmija nosaukusi 2023. gada nozīmīgākos sasniegumus Latvijas zinātnē. Starp tiem arī Irēnas Barkānes pētījums "Cilvēktiesību nozīme mākslīgā intelekta laikmetā. Privātums, datu aizsardzība un regulējums masveida novērošanas novēršanai". Grāmata bez maksas lasāma tīmeklī.
No monogrāfijā aplūkotajām tēmām vēlos tuvāk aplūkot vienu, ko varētu vienkāršoti apzīmēt par "sejas atpazīšanu", un atspēriena punkts manai refleksijai ir autores vispārinājums: "Mūsu sejas attēls, ar kuru mēs vienmēr esam varējuši brīvi rīkoties un kas ļauj mums sazināties, paust emocijas un iekšējās izjūtas dažādās situācijās, vai tās būtu prieks, sajūsma, pārsteigums, aizrautība, pateicība vai arī vienaldzība, neizpratne, bēdas, nožēla, dusmas, vienmēr ir piederējis tikai mums pašiem. Tomēr tagad arvien nenovēršamāk tas tiek izmantots, lai izstrādātu un ieviestu mākslīgā intelekta tehnoloģijas, veidotu datubāzes un trenētu algoritmus." (49. lpp.)
Šis vispārinājums mani ieinteresēja, jo kaut īslaicīgs un paviršs ieskats dažādās sociālajās platformās liecina, ka daudzi no mums savu seju (ne tikai, protams) aizrautīgi rāda pasaulei visās iespējamās situācijās. Tik aizrautīgi, ka šādi eksponētu seju, manuprāt, grūti vairs uzskatīt par konkrētā indivīda īpašumu – teju ikviens var redzamo komentēt, nopelt, uzslavēt, citādi novērtēt. Un šādā kontekstā ir nedaudz amizanti, ka piebāzt sociālo platformu kontus ar savu seju skaitās normāli un pat vēlami, savukārt seju atpazīšanas programmas un prakse vairumā gadījumu tiek uzlūkota ar aizdomām par Lielā Brāļa iejaukšanos indivīda privātajā telpā. Citiem vārdiem sakot, ir nedaudz pretrunīgi uztraukties par savu privātumu un vienlaikus piekopt vēsturiski nepieredzēti aktīvu ekshibicionismu.
Tomēr es neuzstāju uz tēmas apciršanu saknē, ironiski apgalvojot, ka indivīda novērošana un iegūtās informācijas tālāka izmantošana vienkārši atbilst laika garam. Kur tad ir problēma?
Sāksim ar vienkāršāko. Visādas tehnoloģijas mums var patikt, var nepatikt, tomēr tās diezgan nepārprotami izdomājuši gudri ļaudis. Vai vismaz ne muļķi. Tomēr rodas šaubas. "Tās [sejas atpazīšanas tehnoloģijas] tiek izmantotas darba intervijās un darbinieku vērtēšanā, lai noteiktu, kurš ir "produktīvāks" vai "labāks darbinieks", turklāt bieži vien pašus darbiniekus par to neinformējot. ASV bankas izmanto šīs tehnoloģijas, lai varētu novērtēt, vai darbinieki pietiekami bieži smaida bankas apmeklētājiem." (58. lpp.) Man pat grūti saprast, cik pavirši domājošam ir jābūt, lai iedomātos, ka pēc sejas var izdarīt secinājumus par cilvēka raksturu, nodomiem, spējām utt. Turklāt – tas jāuzsver! – runa ir nevis par ikdienā sastopamiem izteikumiem "nu, pēc sejas nepateiksi…" vai "viņam taču sejā rakstīts!", kas nerada nopietnas sekas nedz izteikuma autoram, nedz indivīdam, par kuru tas teikts. Nē, runa šajā gadījumā ir par pilnā nopietnībā (pareizāk būtu teikt – pilnā stulbumā) paustiem secinājumiem par kādu cilvēku. Apbrīnojami! Pieklājīgāk par to izsakās autore: "Ir apstrīdams zinātniskais pamats tehnoloģijām, kas apgalvo, ka, pamatojoties uz fizioloģiskiem mērījumiem, piemēram, sejas izteiksmi, balsi un gaitu, var atklāt tādas lietas kā personība, emocijas, garīgā veselība un citus iekšējos stāvokļus." (60. lpp.) Īsi sakot, kārtējais tehnoloģiju brīnums izrādās pašpaļāvība un bezatbildība. Patiesībā tas nav smieklīgi. Pusbēda būtu, ja kāds padumjš algoritms no manas sejas izteiksmes "secinātu", ka šis cilvēks pēdējo reizi ir smējies 20. gadsimtā. Daudz nepatīkamāk, ja "secinājums" paustu, ka mana sejas izteiksme liecina par manu bīstamību un mani būtu vēlams aizturēt.
Tā nav teoretizēšana. "Sejas atpazīšana galvenokārt tiek izmantota kriminālizmeklēšanā. Francijas pilsētā Lionā ar tās palīdzību tiek izmeklētas automašīnu zādzības. Īrijā to parasti izmanto, lai atklātu krāpniekus, kas pieprasa sociālos pabalstus, lietojot vairākas identitātes. Pēdējos gados arvien izplatītāka kļūst automatizēta sejas atpazīšana reāllaikā (live facial recognition – angļu val.). Šo tehnoloģiju izmanto ne tikai pilsētu ielās, bet arī mūzikas koncertos, piemēram, Eda Šīrana (Ed Sheeran) koncertā, kā arī sporta sacensību laikā. Gan ASV, gan Eiropā, piemēram, Itālijā, Vācijā, to izmanto pie futbola stadioniem, lai atrastu cilvēkus, kuri ir iekļauti vardarbīgu sporta līdzjutēju sarakstos." (53. lpp.) Labi, principā man kā miermīlīgai un likumpaklausīgai būtnei nav iebildumu, ka tiesībsargi savlaicīgi izķer kaut kādus nejaukus personāžus. Pašam drošāk. Un, ņemot vērā, ka es neesmu likumpārkāpējs vai dauzoņa, man nevajadzētu būt iebildumiem pret to, ka starp citām novērotajām un analizētajām sejām būs arī manējā. Tomēr jautājums ir par līdzsvaru starp drošību un indivīda tiesībām. Proti, algoritmi nav perfekti, kas nozīmē, ka cilvēku var apstādināt tāpēc, ka viņš ir kādam ļoti līdzīgs. Galu galā ne visi izskatās tik eksotiski kā šī teksta autors. Protams, var teikt, ka pārpratums agri vai vēlu noskaidrojas, piedzīvotās neērtības un pazemojums ir normāla cena par drošību, tomēr daudziem cilvēkiem tā neliekas. Un ko tad? Kādi ir risinājumi?
Te mēs nonākam līdz ļoti interesantam juridiskam jautājumam. Vispirms citāts, lai jautājumam piešķirtu konkrētību: "Belgradas Republikas laukumā pie sienas stiprinājumiem ir redzamas kupola formas kameras, kas nemanot skenē cilvēkus, kuri staigā pa centrālo laukumu. Tā ir viena no 800 vietām pilsētā, par kuru Serbijas valdība pagājušajā gadā paziņoja, ka to uzraudzīs, izmantojot kameras, kas aprīkotas ar sejas atpazīšanas programmatūru, kura tika iegādāta no Ķīnas uzņēmuma "Huawei". Valdība nejautāja Belgradas iedzīvotājiem, vai viņi šādas kameras vēlas. "SHARE Foundation", kuru vada Danilo Krivokapičs (Danilo Krivokapic), pēc neveiksmīgiem informācijas pieprasījumiem, apšaubot projekta likumību un efektivitāti, uzsāka pūļa finansētu sabiedrības kampaņu "Tūkstošiem kameru" ("Hiljade Kamera"), lai atklātu informāciju, identificētu un atzīmētu vietas ap Belgradu, kur tiek uzstādītas viedās novērošanas kameras ar sejas atpazīšanas programmatūru." (56. lpp.) Kā būtu, ja es kā Belgradas iedzīvotājs, kuram neviens nav prasījis viedokli par kamerām, kādu no tām sasistu? (Te nu bija mans miermīlīgums…) Pieņemsim, ka es zinātu, ka tās ir valdības ierīkotas. Vai es drīkstu privātuma vārdā notriekt, teiksim, kaut kādu bezpilota lidaparātu sev virs galvas? Pandēmijas laikā Horvātijā izmantoja dronus, lai mērītu cilvēku temperatūru. Bet kā es varu zināt un kāpēc man vispār būtu jāzina, ka konkrētais drons mēra manu temperatūru – pat pieņemot, ka es šādu mērīšanu akceptēju –, varbūt tas ir kādas privātpersonas vai uzņēmuma gaisā palaists verķis ar pavisam citiem, man nezināmiem nolūkiem? Vai man būs nepatikšanas? Tas nav pārmetums monogrāfijas autorei, bet es neguvu atbildi uz šo jautājumu, un tas ir zīmīgi. Proti, visi mēģinājumi juridiski korekti runāt par šīm tēmām manā skatījumā ir pārpilni ar neskaidrībām un dažādu interpretāciju iespējām.
Atcerēsimies pandēmiju, kad ļoti daudziem dažādās prasības un kontrole likās nepieņemama valsts iejaukšanās cilvēka brīvībā un privātumā. Noteikumi par to, kā un kādas aizsargmaskas jāvalkā, atceraties? Amizantā kārtā valsts uzbāzības simbols var izrādīties privātuma aizsardzības līdzeklis. "Vēl pirms Covid-19 vīrusa parādīšanās protestētāji Honkongā aizklāja sejas ar aizsegiem, lai aizsargātos nevis pret vīrusiem, bet lai viņas neatpazītu sejas atpazīšanas tehnoloģijas." (88. lpp.) Izbaudīsim šo paradoksu.
Par juridisko pusi: "ECT [Eiropas Cilvēktiesību tiesas] norādītie apsvērumi ir būtiski, izvērtējot jaunu mākslīgā intelekta novērošanas tehnoloģiju ieviešanu un izmantošanu. Pirms šādu tehnoloģiju ieviešanas ir jāizvērtē, vai tās ir vajadzīgas, jo "var palīdzēt" un "ir piemērotas", lai sasniegtu konkrēto mērķi, piemēram, lai garantētu valsts drošību, vai arī tās ir "stingri nepieciešamas" un nepastāv citu mazāk tiesības ierobežojošu veidu un līdzekļu, kā šo mērķi sasniegt." (177. lpp.) Retorisks jautājums: kuram būs galavārds par to, vai novērošanas tehnoloģijas ir, piemēram, "stingri nepieciešamas"? Vai arī tikai "nepieciešamas"? "Ļoti noderīgas"?
Eiropā ir izstrādātas prasības, jauki. "Cilvēkiem arī jāapzinās, ka viņi mijiedarbojas ar mākslīgā intelekta sistēmu. Pārredzamības prasība paredz, ka ir jāinformē par mākslīgā intelekta sistēmu iespējām un mērķiem, kā arī ierobežojumiem. Cilvēkiem ir jāsaprot, kā tiek izstrādātas, apmācītas un izmantotas mākslīgā intelekta sistēmas. Izskaidrojamība attiecas uz spēju izskaidrot gan sistēmas tehniskos procesus, gan ar tiem saistītos pieņemtos lēmumus. Tehniskā izskaidrojamība prasa, lai mākslīgā intelekta sistēmas pieņemtos lēmumus varētu saprast cilvēki. Pārredzamības prasības var atklāt, kā šīs sistēmas tiek izmantotas, lai veiktu prognozes, sniegtu ieteikumus vai pieņemtu lēmumus." (215. lpp.) Jūs jokojat? Pati autore (skaidrs, ka ne jau viņa vien) tikmēr atzīst – un viņai ir taisnība! –, ka "tomēr daudzos gadījumos mākslīgā intelekta sistēmas ir pārāk sarežģītas, lai tās varētu izskaidrot. Ne vienmēr ir iespējams izskaidrot, kāpēc mākslīgā intelekta sistēma ir pieņēmusi konkrētu rezultātu vai lēmumu un kāda ievades faktoru kombinācija to veicināja." Tātad ECT prasības praksē nav izpildāmas.
Pret to, ko ikdienā sauc par "mākslīgo intelektu", izturos rezignēti, bez naida. Tomēr man šķiet, ka mēs vēl gadiem ilgi kulsimies kā vista pa pakulām ar neskaitāmiem pārpratumiem, tiesvedībām, sazvērestības teorijām un reālām cūcībām.
0