Lietuvoje vykstant didžiausiam technologijų ir inovacijų festivaliui Baltijos šalyse „Login“, daugybė žmonių atranda dar neregėtų, negirdėtų dalykų. Tačiau šiuolaikinėms technologijoms milžinišku žingsniu einant į priekį, dažnai tie pasiekimai atsisuka prieš patį žmogų. Ką apie tai mano Lietuvos mokslo elitas?
Sukuriamų duomenų kiekis pasaulyje padvigubėja kasmet. 2016 metais buvo sukurta tiek duomenų, kiek per visą žmonijos istoriją. Kiekvieną minutę sukuriame šimtus tūkstančių „Google“ paieškų ir „Facebook“ žinučių. Jos atspindi informaciją apie mūsų gyvenimą, mąstymą ir jausmus. Greitai mus supantys daiktai ir namai, o galbūt ir mūsų drabužiai bus įjungti į internetą.
Visi dalykai taps išmanūs – greitai turėsime ne tik išmaniuosius telefonus, bet ir išmaniuosius automobilius ir namus, išmaniąsias gamyklas ir išmaniuosius miestus. Ar galima tikėtis, kad turėsime ir išmanias tautas ir išmanesnę planetą? Nebūtinai.
Sparčiai plėtojasi dirbtinis intelektas. Jis ne tik programuojamas, bet ir sugeba mokytis, save tobulinti. Algoritmai, kaip ir žmonės, gali atpažinti ranka rašytus tekstus, o kai kurias užduotis vykdyti geriau už žmones. Jie gali apibūdinti fotografijų ir vaizdo filmų turinį. Dabar 70 proc. visų finansinių perlaidų vykdo algoritmai. Per ateinančius 10 ar 20 metų apie pusę darbo vietų valdys algoritmai. Išnyks 40 proc. iš šių dienų svarbiausių 500 bendrovių.
Tikėtina, kad superkompiuteriai tarp 2020 ir 2060 metų pralenks žmogaus galimybes beveik visose srityse. Technologijų ekspertai, tokie kaip Ilonas Maskas (Elon Musk) iš „Tesla Motors“, Bilas Geitsas (Bill Gates) iš „Microsoft“ ir „Apple“ įkūrėjas Stivas Vozniakas (Steve Wozniak) skambina pavojaus varpais. Jie įspėja, kad dirbtinis intelektas yra rimtas pavojus žmonijai, galbūt pavojingesnis net už branduolinius ginklus.
Perimta kontrolė
Ketvirtajame praėjusio amžiaus dešimtmetyje amerikiečių matematikas Norbertas Vineris (Norbert Wiener) išrado kibernetiką. Pasak jo, sistemų elgesį galima valdyti tinkamu grįžtamuoju ryšiu. Greitai tyrėjai įsivaizdavo tuo pačiu principu galėsiantys valdyti ekonomiką ir visuomenę, bet tuo metu nebuvo tinkamos technologijos. Dabar ji yra.
Singapūras yra puikus skaitmeninių duomenų valdomos visuomenės pavyzdys. Kibernetika valdo ekonomiką ir imigracijos politiką, rinką ir net mokyklų tvarkaraščius. Kinija seka panašiu, bet savu keliu. Neseniai „Google“ kiniškas ekvivalentas „Baidu“ pakvietė kariškius dalyvauti projekte, kuris naudoja gilaus mokymosi algoritmus ieškant duomenų apie jo vartotojus. Tai Kinijoje planuojama piliečių socialinė kontrolė. Pranešama, kad kiekvienas kinas gaus vadinamąjį „Piliečio balą“, kuris nulems, kokiomis sąlygomis jis galės gauti paskolą, darbą ar kelionės į užsienį vizą. Bus kontroliuojami žmonių socialiniai kontaktai ir naršymas internete.
Kinijos pavyzdys rodo, kaip piliečių socialinė kontrolė gali paveikti mūsų gyvenimą. Čia visi piliečiai suklasifikuoti pagal skalę, kurioje viskas, kad ir ką jie darytų, duoda teigiamus arba neigiamus balus. Todėl „Piliečio balas“ atspindi jo elgesio ir socialinę kontrolę. Net draugų ir pažįstamų elgesys veikia šį balą. Tai gresia demokratijos pamatams, nes sekimas ir vertinimas viso piliečio aktyvumo, kuris palieka skaitmeninius pėdsakus, kuria „nuogą“ pilietį, kurio žmogiškas orumas ir privatumas nuolat degraduoja. Jo sprendimai nebūtų laisvi, nes klaidingas sprendimas valdžios ar darbdavio požiūriu turėtų neigiamų pasekmių. Kadangi algoritmų nebūna be klaidų, įstatymai būtų pakeisti skaitmeniniais, prieš juos piliečiai negalėtų gintis. Individualios saviraiškos galimybės išnyktų, o kartu ir demokratinis pliuralizmas. Vietinės kultūros ir socialinės normos nebūtų tinkamo elgesio pagrindas. Tokia visuomenės kontrolė skatintų konfliktus, saugumo praradimą, nestabilumą ir vestų nuo atsakingų asmenybių prie mažų nuolankių žmogeliukų visuomenės. Tai visiškai prieštarauja demokratinėms vertybėms, kurios remiasi skaitmeniniu apsisprendimu. O šiam reikia demokratinių technologijų: informacinių sistemų, kurios yra suderinamos su demokratiniais principais – kitaip jos sugriaus mūsų visuomenę.
Mes, vakariečiai, taip pat esame institucinės priežiūros fokuse. Tai ypač paaiškėjo 2015 metais, kai tapo vieši britų slaptosios tarnybos „Karma Police“ programos faktai, rodantys išsamų kiekvieno interneto naudotojo sekimą.
Rinktis nebeįmanoma
Viskas prasidėjo nekaltai. Internetas siūlo produktus ir paslaugas. Kartu renka informaciją apie asmens duomenis, pirkinius, judėjimą ir socialinius ryšius. Nors oficialiai asmens duomenys apsaugoti, praktiškai jie lengvai pasiekiami. Algoritmai žino, ką mes darome, ką galvojame ir kaip jaučiamės, galbūt geriau nei mūsų draugai, šeima ar mes patys. Faktiškai mes jau esame valdomi. Kuo daugiau apie mus žinoma, tuo mažiau mūsų pasirinkimai yra laisvi ir nepaveikti kitų. Naudojant įmantrias manipuliavimo technologijas, tam tikros programinės įrangos galės visapusiškai valdyti mus. Tendencija yra nuo kompiuterių programavimo prie žmonių programavimo.
Šios technologijos tampa vis populiaresnės politikos pasaulyje. Vyriausybės bando nukreipti piliečius sveikesniam ir ekologiškesniam elgesiui modernia tėviško rūpinimosi forma. Globėjiškos vyriausybės suinteresuotos ne tik žinoti, ką mes veikiame, bet nori būti tikros, kad teisingai elgiamės. Tai panašu į skaitmeninį skeptrą, kuris leidžia efektyviai valdyti mases, neleidžiant piliečiams dalyvauti demokratiniuose procesuose. Ar tai optimizuos pasaulio tvarką? Jei taip, tai piliečiai gali būti valdomi duomenis valdančiųjų „išmintingų karalių“, kurie galės kurti norimą ekonomiką ir socialinę tvarką tarsi magiška skaitmenine burtininko lazdele.
Nusikaltėliai, teroristai ir ekstremistai visada bandys perimti magiškos skaitmeninės burtininko lazdelės kontrolę, mums gal net nepastebint. Beveik į visų svarbiausių pasaulio bendrovių ir institucijų kompiuterius jau daug kartų buvo įsilaužta ir pavogta svarbi informacija, bandyta paveikti rinkimus. Rezultatas yra visuomenės susiskaldymas, kuris veda net į jos suirimą. Toks ir yra kompiuterinių įsilaužėlių tikslas.
Manipuliaciniai metodai pakeičia mūsų sprendimų priėmimo būdą ir daro rimtą socialinę žalą, įskaitant gyvulišką elgesį skaitmeninėje erdvėje, nors už tai niekas neprisiima atsakomybės. Manipuliacinės technologijos riboja mūsų pasirinkimo laisvę. Jeigu mūsų elgesio nuotolinis valdymas veiktų puikiai, būtume skaitmeniniai vergai (zombiai), nes aklai vykdytume kitų priimamus sprendimus. Kol kas manipuliacinės technologijos tik iš dalies efektyvios. Nepaisant to, mūsų laisvė ir teisės lėtai, bet užtikrintai nyksta visuomenei nesipriešinant. Demokratija negali veikti visu pajėgumu, jeigu šios teisės negerbiamos. Jei jos yra suvaržytos, tai griauna mūsų Konstitucijos, visuomenės ir valstybės pamatus.
Grįš totalitarinis režimas
Įsivaizduokime, kad jau turime superprotingą mašiną, turinčią dieviškų žinių ir superžmogiškų galimybių. Ar vykdysime jos nurodymus? Tai labai tikėtina. Bet jei taip, tai I.Masko, B.Geitso, S.Vozniako, S.Hokingo ir kitų informacinių technologijų ekspertų nuogąstavimai taptų teisingi – kompiuteriai perimtų pasaulio kontrolę. Neabejotinai superprotas taip pat gali daryti klaidas, meluoti, siekti savanaudiškų tikslų arba būti manipuliuojamas. Jo nebūtų galima sulyginti su paskirstytu kolektyviniu visos žmonijos protu.
Piliečių mąstymo pakeitimas kompiuterių klasteriu būtų absurdiškas, nes tai dramatiškai sumažintų sprendimų pasiekiamumo įvairovę ir kokybę. Jau dabar aišku, kad pasaulio problemų dėl duomenų antplūdžio nesumažėjo – priešingai! Taika pasaulyje tapo trapi. Klimato kaita skatina didžiausią gyvybės rūšių išnykimą nuo dinozaurų išnykimo laikų. Nesugebame įveikti finansinių krizių. Dėl kibernetinių nusikaltėlių pasaulis kasmet praranda apie 3 trln. dolerių. Kai kurios valstybės ir teroristai ruošiasi kibernetiniam karui, kurio tikslas sugriauti pasaulį be bombų.
Greitai besikeičiančiame pasaulyje superprotas negali priimti tobulų sprendimų, nes sistemos sudėtingumas didėja greičiau nei duomenų kiekis, o jis didėja greičiau nei galimybė juos apdoroti. Tai baigiasi nepaisymu žinių ir faktų, svarbių geriems sprendimams. Yra pavojus, kad manipuliacija galingais algoritmais priimant sprendimus gali pakirsti pagrindus kolektyvinio proto, kuris prisitaiko prie sudėtingo pasaulio iššūkių. Jei mūsų sprendimai bus nulemti algoritmų, tai sukels žmonių smegenų plovimą. Žmonės pavirs tik komandų gavėjais, kurie automatiškai atsakys į įtaką.
Pagaliau, centralizuota elgesio sistema ir socialinė kontrolė naudojant superprotingą informacijos sistemą atves į naują diktatūros formą. Todėl direktyviniu būdu valdoma visuomenė būtų ne demokratinė, o totalitarinis režimas su rožine priedanga.
Centralizuotas hierarchinis valdymas tinkamas tik nesudėtingoms visuomenėms. Vykstant ekonominei ir kultūrinei evoliucijai, socialinis sudėtingumas auga. Todėl ateitį turėtų lemti kolektyvinis intelektas. O jis reikalauja didelės įvairovės. Sumažėjus socialinei įvairovei mažėja ekonomikos ir visuomenės funkcionalizmas ir veikla. Todėl totalitariniai režimai dažnai sukelia konfliktus su kaimynais, politinį nestabilumą ir karą, kaip jau ne kartą istorijoje atsitiko ir gresia vėl atsitikti.
Dar galima viską pakeisti
Galima teigti, kad dabar esame kryžkelėje. Didelės duomenų bazės, dirbtinis intelektas ir kibernetika keičia mūsų visuomenę į gerą ar blogą pusę. Jei sparčiai plintančios naujos technologijos bus nesuderinamos su visuomenės pamatinėmis vertybėmis, anksčiau ar vėliau jos pakenks. Jos gali atvesti į automatizuotą totalitarinę visuomenę. Blogiausiu atveju centralizuotas dirbtinis intelektas kontroliuos, ką mes žinome, ką galvojame ir kaip elgiamės. Dabar yra istorinis momentas kiekvienai tautai pasirinkti teisingą kelią, kuris leistų turėti naudos iš skaitmeninės revoliucijos. Tam reikia decentralizuoti informacines sistemas, stiprinti skaidrumą, mažinti informacijos taršą, skatinti socialinę ir ekonominę įvairovę, kolektyvinį intelektą ir atsakingą piliečių elgesį skaitmeniniame pasaulyje per skaitmeninį raštingumą ir švietimą.
Ko reikia, kad skaitmeninė Lietuvos visuomenė būtų sėkminga? Pirmiausia reikia naujos švietimo koncepcijos. Ji turi būti nukreipta į kritinį mąstymą, kūrybingumą, išradingumą ir verslumą, o ne į ugdymą standartinių darbuotojų, kurių darbą ateityje atliks robotai ir kompiuterių algoritmai. Švietimas turi suteikti atsakingo ir kritinio skaitmeninių technologijų naudojimo supratimą, nes piliečiai privalo suprasti, kaip skaitmeninis pasaulis yra susipynęs su fiziniu. Kad galėtų naudotis savo teisėmis, piliečiai privalo suprasti ateinančias technologijas ir koks jų naudojimas yra neteisėtas. Todėl reikia, kad mokslas, verslas, politika ir švietimo įstaigos stengtųsi, kad žinios taptų plačiai prieinamos, nes demokratijos principas – piliečiai turi būti išsilavinę. Nereikia pamiršti ir dvidešimt keturių amžių senumo Sokrato ir Konfucijaus genialių minčių. Pirmasis mokė, kad lavindami smegenis, o ne trokšdami turtų galime tapti laimingi, o antrasis – kad ugdant asmenybes galima sukurti stabilią socialinę tvarką, o mokslas yra asmenybės ugdymo būdas. Man sunku pripažinti, kad tie Lietuvos universitetai, į kuriuos patenka dvejetukininkai, ugdo asmenybes. Nuo gimimo gauname vietą ir atsakomybę šeimoje ir visuomenėje. Irstančios šeimos ardo visuomenę. Valdovai turi vadovautis šeimos vertybėmis.
Parengta pagal dienraštį „Vakaro žinios“
