Elu pärast Google'it. Von Krahli teatri vikerraadio ja Eesti Teaduste Akadeemia koostöös sündinud loengusari elu pärast Google'it pakub visioone elust Eestis ja maailmas 25 aasta pärast. Loengud olid, aluseks on järjeks tulevikuvisioonide saatesarjale Raadio Jaik mida saate kuulata vikerraadio kodulehelt ja mobiiliäpist. Elu pärast Google'it. Head vikerraadio kuulajad eelmisel nädalal jõudis teieni loengusarjast elu pärast Google'it Oliver Laasi loengu tehisintellekt ja transhumanism esimene osa, kus filosoofia, kultuuriteoreetik, klaas, rääkisime lähemalt meie tsivilisatsiooni ees ootavast Neljast võimalikust suurest muutusest, elust, infost, üleküllastunud maailmas, võimalikust singulaarsusest, intellekti plahvatusest, superintellektist trantsumanismist, tehisintellekti erinevatest vormidest ja paljust muust. Huvid pärast loengu esimest osa saate järelkuulata mugavalt teile sobival ajal ja kohas, vikerraadio kodulehelt ja mobiilirakendusest. Täna jätkab Oliver Laas tulevikuvisioonide loengut tehisintellekti ja transhumanism. Ehk milline võiks olla meie elu ja ühiskond veerandsaja aasta pärast. Loengu lõpus kuulajatega publiku küsimusi ja Eesti Teaduste Akadeemia presidendi Tarmo Soomere kommentaari teemale. Head kuulamist ja kaasa mõtlemist. Oliver Laas on õppinud kujutavat kunsti, kultuuriteooriat ja filosoofiat ning tegutseb ka kõigis nimetatud valdkondades. Tema teadustöö peamisteks suundadeks on metafüüsika, loogika, tehnoloogia, filosoofia, semiootika ja mänguuuringud. Hetkel töötab ta Eesti kunstiakadeemias. Estonian Business kuulis Tallinna Ülikoolis ja Eesti ettevõtluskõrgkoolis Mainor. Ei ole veel selge, kas täielikult peab paika või on hüpotees, et inimkäitumine on täielikult määratud ajus aset leidvate füüsikaliste protsesside poolt. Tee on selles, et kui ma taasloom aju füüsikalise struktuuri, siis ma taasloon inimkäitumise, teadvuse ja kõige muu sellise. Aga ei ole täiesti selge, kas see on ainus asi, mis meie käitumist määr vähemalt filosoofilises plaanis ei ole sa ilmne. Teine oluline küsimus on selles, et kas ilma kehata selline olend üleüldse saaks toimida, sest et meie ajud on evolutsiooni kui individuaalse arengu käigus alati seotud mingisuguse kehaga. Lahenduseks võiks olla virtuaalse keha simuleerimine, robotkeha ja nii edasi. Probleemiks on siinse, selle stsenaariumi ei ole ilmne, et meil on tehnoloogilist võimekust simuleerida inimaju oma täies jõudluses. Keskmine on aju, on umbes 1250, kuupsentimeetreid tarbib umbes 20 vatti elektrit. 2013. aasta võimsaim superarvuti tarbis 23 megavatti ja võttis endale 720 ruutmeetrit seal arvutusvõimsus ligilähedal äkki inimaju arvutusvõimsusele. Ühesõnaga ei ole ilmne, et meil saab olema kunagi tehnoloogia, mis võimaldab täielikult emuleerideni mõju. Veel üks stsenaarium, mida saaks kaaluda, on see, et me lihtsalt otse ühendame oma aju arvutiga. Jällegi mõelgem heitriks filmile istute tooli lükkate juhtme kuklasse ja kui ta silmad lahti te olete nagu Brusly näiteks oskate kung-fu'd suurepäraselt või olete nagu Einstein lahendate füüsika valemeid, niiet. Idee oleks jällegi selles, et kui me lisame intelligentsed võimekust tõstvad implantaadid inimestele, siis need inimesed on võimekamad, töötavad välja veel paremad implantaadid tõstavad veel oma võimekust, veelega, intellekti, plahvatuse superintellekt. Seal on paar probleemistik, terviseriskid näiteks Parkinsoni patsientide sümptomit saab peaaegu kõrvaldada teatud aju regressiooni elektriga stimuleerides, selleks istutakse ajju sügavale implantaat aga mõningad uuringud on näidanud, et sellel on kõrvalmõjud, näiteks kõne suravus kahaneb valikuline tähelepanu kahaneb värvide nimetamise võime ja sõnaline mälu langevad. Samuti on kõikvõimalikud õnnetused, mes implantaatide kaaslane põivad. Ja teiseks ei ole üldse ilmne, et me saame nagu meetriks filmis ajju otse informatsiooni üles laadida. Probleem on selles. Arvutid säilitavad informatsiooni kindlas formaadis, inimaju seda ei tee, ta säilita isolatsiooni kindlas formaadis, kindlas kohas. Ja probleem on selles, et kui meil oleksid olemas tehnoloogia, mis aitaks nii-öelda otse üle kanda arvutist ajju informatsioone ja niimoodi, et aju suudaks seda vastu võtta ja töödelda nii kiiresti, kui arvuti seda edastada suudab siis tõenäoliselt meil on juba olemas tehnoloogia selleks, et luua tehisintellekt ilma üldse endale mingeid juppe külge panemata. No mulle tundub, et see ei ole kõige efektiivsem viis sinna jõudmiseks. Milline võiks olla superintellekti mõju enne, kui me räägime riskidest ja sellega tõmbame joone alla tänasel loengul? Milline võiks olla superintellekti mõju, oletame jällegi hoolimata nendest erinevatest puudustest, et mõni neist tehnoloogiatest, Viidmeid, superintellekt. Me saaksime eristada kahte tüüpi sellist inimühiskonda fundamentaalselt mõjutavat tehisintellektilainet. Esimese algust me praegu juba näeme selles mõttes, et me näeme praegu tehisintellekti rakendusi, mis lubavad oletada teatud tulevikutrend, näiteks nagu isesõitvad autod ja nii edasi. Ühesõnaga esimene laine koosneb spetsialiseerunud tehisintellektist, mis on mingis valdkonnas inimestest paremini. No esimene asi, mis tõenäoliselt muutub, millest meil on siin ka varasemates loengutes räägitud on meie majandus, tehisintellekti rakendamine, automatiseeritud suurendamine tootmises kahandab hindu, suurendab tarbimist, kiirendab majanduskasvu, toob kaasa ka suurema tööpuuduse. Vähem on vaja inimesi, kes asju toodavad, midagi teevad. Ühesõnaga selle kõigega võib kaasneda senisest suurem varanduslik kihistumine, kus veelgi rikkamaks saavad need, kes tehisintellekti rakendavad või loovad. Vaesemaks saavad need, kellel ei ole juurdepääsu nendele ressurssidele, kes jäävad selle tõttu töötuks. Teiselt poolt optimistlikult on võimalik mõelda, et selline ühiskond, kus enamiku nii-öelda raskesti tüütust rutiinses töös teevad ära masinad muutub kardinaalselt, hakkab näiteks väärtustama loovust ja haridust ja vaba aja tegevused on need, mis saavad mingil kujul tasustatud. Samal ajal kui nii-öelda tootev töö tehakse masinate poolt. Utopistlik visioon. Kui me räägime revolutsioonilise tehisintellekti nii-öelda teisest lainest, kus meil on superintellekt siis selle-ga kaasnevad võimalikud positiivsed tagajärjed võivad olla väga suured. Mis võiksid olla heaks motivaatoriks, miks siukest asja luua? Põhimõtteliselt oleks mõeldav kõigi teaduslikult ja ratsionaalselt lahendatavate küsimuste ja probleemide lahendamine. Lihtsalt lühike mittetäielik loetelu võimalikest lahendustest, kliima soojenemise peatamine, näljahädade kaotamine, liikide väljasuremise peatamine või juba välja surnud liikide taaselustamine, teiste planeetide koloniseerimine hetkel ravimatut haigust nagu vähk või HIV täielik ravim, vananemise aeglustumine, peatamine ja kui see on vähegi füüsikaliselt biokeemiliselt võimalik võib-olla ka teatud tüüpi surematus. Ühesõnaga preemiad või, või nii-öelda kasud või potentsiaalne tulu on päris suur. Lõpetuseks, mis on see oht, kui selline asi tekkinud, mis on need riskid? Eksistentsiaalsed riskid on riskid, mis ähvardavad planeedilt maa pärit intelligentset elu, väljasuremisega, pandeemiat, kliima soojenemine, Kokkupõrge, asteroidide, aga need on kõik näited eksistentsiaalsete riskidest. Ja meil on tegelikult põhjust arvata, et superintellekt võib ka saada meie liigil eksistentsiaalselt riskiks. Vaatame kahte stsenaariumit, kuidas see võib juhtunud. Nooriumid ise on tüüpiliselt filosoofilise stsenaariumid, mis on pastakast välja imetud ja mitte väga tõsiseltvõetavad. Aga mida nad välja toovad? Nad toovad välja nõrgad kohad, mis võivad kaasneda superintellekti loomisega. Esimene neist selle kohta me võiksime öelda, perversne instantsiiatsioon, eksis. Superintellekt leiab viisi, kuidas ellu viia oma lõppeesmärki, nii et selle määratlenud programmeerunud ei suutnud seda ette näha, mis võib halbade tagajärgedeni paar tobedat näidata. Oletame, et me ütleme oma superintellektile, sinu lõppeesmärk on panna meid naerma, olesti lõbus, kõigil tuju heaks. Superintellekt võib heida väga perverssed viisilised ellu viia. Ta halvab meie näolihaseid, nii et meil on pidev naeratus näol. Kusjuures see on väga otsekohene, lihtne viis seda probleemi lahendada. Saite nalju välja mõtlema, komöödiaid treima, sa lihtsalt teed nii, et meil on pidevalt tardunud naeratus, probleem lahendatud või ütleme, et me tahame, et me oleks õnnelikud, oleme superintellekti loonud, ütleme, tee meid õnnelikuks. Perversne lahendus sellele probleemile istutada elektroodid meie aju naudingukeskusse pidevalt elektrit anda. Aju naudingukeskuse stimuleerimine on kõige otsesime kiirem viis nii inimeste kui ka hiirte õnnelikuks tegemiseks, nagu laborikatsete puhul teame. Ühtlasi teame tänu hiirtele, et selle ettevõtmise lõpptulemus oleks näljasurm, sellepärast et selline olend, kelle aju naudingukeskust pidev stimuleeritakse, ei taha enam mitte midagi muud teha. Või oletame, et me tahame kõike seda vältida, ütleme oma superintellektile teadmess, käitun niimoodi, et sa ei tunneks südametunnistuse piinu siis ära tee midagi, mille pärast sul on hiljem tunned süütunnet. Ehk ta niimoodi käitub hästi. Väga kiire ja lihtne lahendus superintellekti poolt eemaldossegi tunnet tekitab osa oma programmist, siis ma ei tunne kunagi süümepiinu. Seal on umbes sama, nagu te ütlete inimesele, et käitun hästi nii, et see tunneks süütunnet ja te teete psühholoogiliselt nii, et lihtsalt ei tunneks ennast kunagi süüdi millegipärast, mis te teete, probleem lahendatud. Ühesõnaga, see on üks probleem. Me võime super intellektile eesmärke seades ja nende läbiviimise viise ette kirjutades midagi kahe silma vahele jätta, mis saab meile saatuslikuks. Teine stsenaarium on see, mille kohta öeldakse infrastruktuuri üleküllus. Ehk siis olukord, kus superintellekt muudab suurema osa kättesaadavust universumist mingisuguse eesmärgi saavutamise nimel infrastruktuuriga. Ja see võib kaasa tuua suure väljasuremise laine, sest superintellekt kasvatab paljudele liikidele vajalikud ressursid oma lõppeesmärgi saavutamisel lihtsalt ära. Ehk siis see on see olukord, kus superintellekt töötajatele, et jah, ma saan aru, et sa oled aatomite, seda mul on neid vaja. Kaks näidet. Esimene stsenaarium, mõlemad pärinevad filosoof nik postromilt, kui ma õieti mäletan. Esimest stsenaariumi nimeks on Riimani hüpoteesi katastroof. Vaatame, et me anname oma superintellektile ülesanded tõestada Riimani vaadates, mis on lahtine probleem matemaatikas ning ta muudab selle eesmärgi saavutamiseks kogu meie päiksesüsteemi kaasatud meie kehades leiduvad aatomid komputrooniumiks. See on siis arvutuste teostamise jaoks optimaalne füüsikaline ressurss, mis kõik saab arvutiks. Põhimõtteliselt. Siin on probleem selles, et eesmärk ise on kahjutu, aga saavutamiseks vajalik riistvara infrastruktuuri loomine viib katastroofiliste tagajärgedeni. Teine stsenaarium on pisut veelgi tobedam, aga jällegi toob esile mõningad nõrkused või puudused, eksistentsiaalsed riskid. Seda nimetatakse kirjaklambri tehisintellekt, eks ütleme, et me teeme oma tehisintellektil super intellektile ülesandeks maksimeerida kirjaklambrite toodangut ja selle nimel muudata kogu meie planeedi ja suure hulga nähtavast universumist kirjaklambriteks. Sest et nagu öeldud, pidevalt on vaja ehitada uusi vabrikuid, pidevalt teha uusi kirjaklambreid, selleks on vaja koguda ressursse, me rääkisime, et üheks motivatsiooniks ressursside kogumine, täiendamine, ühesõnaga lõpuks meil on lihtsalt niisugune hulk kirjaklambreid, planeet, ka muid selliseid asju enam ei ole. Need, stsenaariumid ise ei ole tõenäolised, aga need illustreerivad kahte võimalikku põhjust, miks superintellekt võib saadeksite sotsiaalseks riskiks? Me ei pruugi ette näha kõiki viise, kuidas tehisintellekt oma eesmärkide saavutamiseni jõuab. Kusjuures seda näitavad juba praegused tehisintellekti rakendused. Malet mängivad, koos, mängivad tehisintellekti, avastavad nendes mängudes strateegiaid, mille peale inimesed ei ole kunagi tulnud. Ei ole sugugi välistatud kordades intelligentsem asi, midagi sarnast ei tee. Üks lahendus oleks kontrollitud intellekti plahvatus, ehk siis me suuname seda protsessi niimoodi, et me väldime eksistentsiaalseid riske ja selleks on pakutud välja järgnevaid võimalusi. Esiteks näiteks piirame tehisintellekti võimeid selliselt, et ei saa otseselt maailma mõjutada ka muuta. Ütleme, et on näiteks ühes väga kindlalt suletud ruumis hoones aga see ei aita siis tehisintellekt võib maailma muuta kaudselt inimeste veenmise kaudu. Ja superintellekt on tõenäoliselt kõige osavam manipuleerima, mida meie planeet kunagi näinud olen. Ta ei pea ise maailma kokku puutumata käsilased, keda ta veenab seda tegema. Teine variant on, et me loome selliseid intellekti, mille ainus huvi on küsimustele vastata. Ütleme, et mis on elu mõte või ütleme näiteks küsima, et miks on elu mõte, ta ütleb 42, järgmine küsimus, palun, ja nii edasi, aga siin on probleem. Nimelt selline Indrek näetakse tõhu, kõigi tema vastustes toodud eesmärkide saavutamise kõige tõhusam viis oleks piiramatu joovate võimetega tehisintellekt. Mitte ainult, mis oskab küsimustele vastata. Ja sellel tulemusel ta tõenäoliselt manipuleeriks küsijaid niimoodi, et nad ehitaksid sellise tihese intellekti. Jällegi oleks džinn purgist väljas põhimõtteliselt. Kolmas id ei oleks, et hea küll. Me programmeerime tihes intellekti selliselt, et ta käitub moraalselt. Et ta oma lõppeesmärkide elluviimisel võtab arvesse teatud moraalseid asjaolusid, ei tee kellelegi kahju, hoiab üleval teatud väärtuse, siin on kaks probleeme. Esiteks ei ole selge, milline kogum moraalinorme aitaks neid riske vältida. Ja teiseks ei ole selge, kuidas siukseid asju peaks üldse masinasse programmeerima, et ta neid järgiks. Kokkuvõtteks, mida me siis täna oleme teinud? Esiteks, ma püüdsin visandada mõningaid muutusi, mida infotehnoloogia võiks järgmise 25 aasta jooksul meile arusaamades tõdemustesse kaasa tuua ja ka meie keskkonnas. Ja teiseks, ma püüdsin visandada pikemat perspektiivi ühe konkreetse tehnoloogilise hüpoteesi näitel, milliseid muutusi võiks tehisintellekt kaasa tuua näiteks käesoleval sajandil. Nüüd, kui te küsite, millal singulaarsus võiks aset leida siis ma vabandaks end välja sellega, et ennustamine on tänamatu töö. Nagu ma sissejuhatuses ütlesin, et ma ei tea, kuigi erinevad ekspertide küsitlused paigutavad selle tehisliku üldintellekti loomise võimalikkuse käesoleva sajandi keskpaigast kuni selle lõppu. Kui te küsite, kas me peaksime niivõrd võimsaid tehisintellektimasinaid looma, siis mu isiklik vastus oleks selline ettevaatlik vastus. Hoolimata võimalikest riskidest ma oleksin ettevaatlikult optimistlik sest mulle tundub, et mitmed inimkonna ees seisvad probleemid ja nende lahendamine võivad nõuda suuremat ratsionaalsust kui meiesugused, huumor Simpsonid suudavad välja näidata. Ühesõnaga tundub, et tehisliku üldintellekti loomine toob kaasa eksistentsiaalsed riskid. Aga on väga võimalik, et selle loomata jätmine teeb seda samuti sulgema. Kõigepealt, enne kui päris küsimusteni lähme, mul tuli sinu kohtingutega seoses lihtsalt üks väga oluline nüanss, mida ma tahtsin teiega jagada, et lihtsalt kuulsin niivõrd hea definitsiooni, mis asi on Teit, et see on intervjuu Forseks? See lihtsalt selline hea kokku võtta. Aga nüüd sa kasutasid sellist väljendit nagu teatud tüüpi surematus, kas sa tahaksid seda natuke avada? Tutvustuses sai välja hõigatud, et me räägime surema. Sest ta, kuna see ajaline piir sundis valima teemasid, siis ma mõtlesin, et ehk jääb see vestlusringi jaoks teatud tüüpi surematu, seal on, kõigepealt tasuks mõelda sellele, mida meelse surematusele silmas peame. Kui ma küsiksin siin ruumis inimestelt, et kas keegi tahaks olla surematu, siis mõni võib-olla tõstaks käega. Aga siis, kui edasi uurida, et aga milline see surematus oleks, siis tõenäoliselt enamik kujutaks ette sellist Hollywoodi surematust, et igavesti 25 ilus ja sile ja nii edasi, eks ole. Enamik vist ei kujuta ette nii-öelda Borgese surematust. Sportlase lühijutus on lugu piloodist, kui ma õieti mäletan, kest hädamaandumise kanjonisse näeb seal. Ja kuna see kanjonist välja ei saa, siis nad pärast mõnda aega seal viibimist ta saab aru, et need inimesed on surematut, aga nende surematus seisneb selles, et lihtsalt vananevad lõputult, aga ei sure kunagi ära. Et see on esimene asi, mida silmas pidades on teatud tüüpi suramatusele, milline surematus. Aga teine küsimus on jah, see, et milline, ütleme, tehnoloogilises plaanis, surematus võiks olla. Üks idee, mida transhumoristid on välja käinud, on see, et meil on võimalik geenitehnoloogia bioloogiliste vahenditega peatada, vananemine see ei tähendaks siis ütleme, sellist surematustajate kestab kauem, kui universum tähendaks sellist surematust, et mingis mõttes on kontroll selle üle, millal te otsustate, et aitab küll, nüüd on juba tapvalt igav, kõik on neli korda järjest ära proovitud, võiks kasti ära saada ja siis saate näiteks need teie vananemist pidurdavat protsessid lõpetada või nii edasi. Teine variant ideemiaga, mõned füüsikud on mänginud ennekõike Deutsche diplar on see, et kui me suudame luua arvuti, mis on võimeline stimuleerima mingit osa universumist nii-öelda teatud tüüpi väga võimsad virtuaalreaalsuse siis teatud füüsikaliste tingimuste realiseerumisel on võimalik, et need inimesed, kelle teadvus sinna virtuaalreaalsusse üles laetakse, nende subjektiivse kogemuse seisukohalt nad elavad igavesti. Universumi ümberringi võib küll otsa saada, aga see simulatsiooni sees kogetud aeg justkui kestaks igavesti. Need tehnilised üksikasjad on natuke liiga keerulised ja mu mälu on natuke liiga pehme hetkel kõiki meelde tuletada, aga see oleks teine nii-öelda surematus, mida ma silmas pidasin, kui mõtlesin teatud tüüpi suremat. Iseküsimus on, muidugi jätkus surematust üldse tasuks tahta seal midagi, mis teeks elu paremaks väärtuslikuks. Ma ei ole isiklikult kindel, kas on. Teine küsimus oli mul see sinu ütluse kohta, et justkui me oleme oma aju täies mahus ära kasutanud ja seal on piirid ees. Samas me oleme nii harjunud selle ütlusega, et me kasutame väga väikest osa oma ajast. Tahad ja oskad sa seda kommenteerida kuidagi? No ma pidasin ennekõike silmas füüsikalisi piire ses mõttes, et elektriimpulsse kandvaid usi naljalt rohkem kolba sisse ei pressi. Nüüd see, kas me kasutame kümmet või kahtekümmend protsenti kõigist oma võimetesse, oli tõepoolest aastakümneid tagasi populaarne seisukoht. Kui ma nüüd õieti mäletan kognitiivteadustest ja psühholoogias, siis rangelt võttes ei pea paika, sellepärast et väga suur hulk infotöötlust käib allpool tähelepanu ja teadvustamise lävendit, seal on meie aju teeb palju rohkem pidevalt, kui me teadlikud olema. Mis ei tähenda muidugi, et tõepoolest kõik ressursid on ära kasutatud, seda mitte tõenäoliselt arenguruumi on, aga tundub, et ühel hetkel tulevad siiski mingid füüsikalised piirid vastu, mis tehisintellektiga masina puhul nii kiiresti vastu ei toaks. Selline küsimus, et te rääkisite singulaarsus, ta siin on palju räägitud singulaarsus, mis justkui nagu mõjub inimestele hirmutavalt, et noh, et tekib tulevikus mingi olukord, kus tekib selline hetk, et me ei oska enam edasi arvutada, mis edasi võib juhtuda, eks ole, et justkui midagi olemuslikku haihtub. Kuidas filosoofina näete, et kas senise sead olevas inimvaimuajaloos näete mõndasid sündmusi või etappe, et on mingid singulaarsus juba toimunud, kus on nagu mingi olemuslikult muide kultuurikeskkond või inimmõtleme niimoodi toimunud, et jah, ühesõnaga, et kas te näete sellist, see on selles mõttes raske küsimus, et mingis mõttes ta paigutab ta ajaloo, teaduse ja filosoofia valda tagantjärgi tundub kõik seletatav ja mingis mõttes vääramatu, eks ole, tundub tagantjärgi et tagantjärgi tundub vääramatu ja möödapääsmatult prantsuse revolutsioon uppus verre, eks ole, ja nii edasi, kuigi asjaosaliste endi jaoks tõenäoliselt tundusid kõik tulevikuteed lahti ja võimalused. Ja mulle tundub, et Nemad ei tagasi vaadates kui jääda ranged singulaarsuse definitsiooni juurde, et see nii-öelda murdepunkt, millest edasi inimmõistuse ja elukorraldus on nii radikaalselt teistsugune nagu mõistetamatu, siis ainuüksi selle definitsiooni järgi ei saa minevikus olla midagi sellist juba toimunud, sest et oleviku perspektiivis tagasi vaadates vähemalt tundub mulle näib, et põhjendatult meil ikkagi on mingisugune arusaamine nendest sündmustest, mis on juba aset leidnud. No ütleme tinglikult võtta näiteks kui kütt-korilase maailmapilt, eks ole. Ja nüüd tulid peale põlluharijad olemuslikult muutus väärtussüsteem kõik igasugus, kategooriad, muutused, et, et kas see on singulaarsusele. Ma ei ole kindel, sellepärast ma arvan, et kui te paneksite kütt-korilase ja põlluharija kokku, siis nad siiski laias laastus saaksid teineteisest aru, jah, nende väärtused on erinevad. Nende eluviisid on erinevad, aga dildo andes saaksid ikkagi aru, miks üks teeb seda, mida ta teeb ja miks teine ei tee seda, mida ta ei tee. Aga singulaarsuse puhul me põhimõtteliselt ikkagi räägime niivõrd äärmuslikust muutusest põhimõtteliselt sealpool seda punkti paiknevad olendid võivad meile olla täiesti ligipääsmatud intellektuaalsest plaanis. Vähemalt niimoodi on seda kirjanduses serveeritud sageli tagasivaatavalt. Kütt-korilase maailmapilt on nüüd meile jälle kättesaamatu, sama moodi, et midagi seal vahepeal oli vist nii ja naa. Mulle tundub, et ta ei ole siiski niivõrd kättesaamatu, kui näiteks on nahkhiiremaailmapilt või siis nagu on näiteks puugimaailmapilt. Ja mulle paistab, et see piir krit korilase meie vahel on teistsugune. Kui piir meie ja mõne teise liigi esindaja vahel ja mul on lõpetasingulaarsusest rääkida, siis me räägime pigem selles seda tüüpi piirist, mis on meie ja teiste liikide esindajate vahel, kus meil saame oletada, nagu ma ka täna püüdsin spekuleerida, mis võiks olla nende motiividega ja nii edasi. Aga sellist arusaamine, suhtlus on raskendatud kui mitte peaaegu võimatu. Tervist, et mul on küsimus siis selle tehnoloogia arengu argumendi kohta, et nagu paljud on väitnud ja siiamaani väidetakse, on see, et tehnoloogia ei arene siiski eksponentsiaalselt ja et ei ole piisavalt tõendeid. Mul on küsimus, et kas siis mida tehnoloogia all mõeldakse, et kas me võtame arvesse seda, et umbes kolm miljonit aastat tagasi me hakkasime tuld kasutama mitte meie, aga meie eellased. Ja pärast seda kivitööriistad siis 200000 aastat tagasi meie ja pärast seda juba tsivilisatsioonid 6000 aastat tagasi 7000 aastat tagasi. Kas me arvestame seda kõike kui arengut, sellepärast et kui seda vaadata, siis praegune ligi 100 aastaga arenenud automobiilid ja kõik see on suhteliselt üllatav. Ja tõepoolest, see on hea tähelepanek, see kiirendas argument, selle kriitika sõltub kahest asjast ühelt poolt, kuidas määratleme, mis seal tehnoloogiandame arvestamisel olla, mitte mida mitte laia definitsiooni põhjal ma võiksin öelda, et keel on ka tehnoloogia mingis mõttes, eks ole, ja teine küsimus on tõepoolest see, et lähtuvalt sellest määratlusest kui suurt ajaperioodi või kui pika ajavahemiku Me vaatama. Ja need, kes kirjandus argumenti pooldavad üldiselt võtavad võrdlemisi laiatehnoloogia määratluse, toovad sinna olla just nimelt kivitööriistad ja kõik muu sellise ja võtavad suhteliselt pika ajaperspektiivi, ütlevad, et kui te vaatate nende tehnoloogiate vahetumise perioodil, siis nad jäävad aina lühemaks uute tehnoloogiate asendamise periood ja selle tõttu siis on meil on põhjust arvata, et jah, meil on tegemist siiski tehnoloogi eksponentsiaalselt kasvuga kriitikud siis kas määratlevad tehnoloogiat natuke teisiti või otsivad välja väiksemaid perioode selles pikas perioodis. Et näidata, et kiirendades argument sõltult teatamata sellises andmete teatud viisil valimisest ma vaatan tehnoloogia muutuse perioode, aga ma tahan kahe silma vahele need pikad perioodid, kus 1000 kaks-kolm 1000 aastat midagi ei toimunud. Noh, kui me võtame näiteks liiklusvahendid tehnoloogia alla ja ütleme, et auto on hetkel meie jaoks kõige arenenum ratastel liiklusvahend siis ainult sellel lõikes vaadates ratta leiutamisesti hobukaarikutega kasutamisest kuni autoni oli pikk vaikus tegelikult, eks ole, mulle tundub jah, et see on seotud nagu te ütlesite, kaks asja, ühesõnaga see ajapiiri paikapanemine ja määratlus ma isiklikult selle koha pealt positsiooni ei võtaks, kuigi ma kaldun pigem nendega nõustuma, kes ütleksid, et mingisugust kiirenemist võime täheldada, iseasi, kas ta on nii puhtalt eksponentsiaalne kasv, eksponentsiaalne kasv leiab aset nüüd ilmtingimata meie põlvkonna elu jooksul, et me näeme seda kuni mingisuguse singulaarsuseni välja, aga mulle tundub andmete põhjal ka, et pigem siiski need tehnoloogiliste muutuste perioodid jäävad lühemaks. Tahtsin ühe repliigi öelda transhumanismi ja surematusega seoses, et teie loengust pead üpris selline rahustav mulje, et need on mingid üksikud nohikud, futuroloogid, kes sellega tegelevad. Ent samas on maailmas miljardäre, kes panustavad palju raha sellesse. Üks Vene miljardär nimega Dmitri Peskov on algatanud sellise projekti nagu 2045 mille eesmärgiks on luua siis üks neljast võimalikust avatarist, mis on siis ka teie rääkisite nendest variantidest, mis tuleks kõne alla. Et mis te sellest arvate? Kui jäi mulje, et see on mingisuguse väikese hullude kamba taotlus, siis see mulje oli ekslik ja ma vabandan selle pärast, vastupidi mulle tundub, et need algselt väikestest gruppidest alguse saanud ideede taotlused on eesmärgid, on meie kultuuri suhteliselt laialdaselt levinud. Me näeme ka mitmed Silicon Valley miljardäride puhul sarnaseid soove, kas siis näiteks peale surma kohe oma keha külmutada lootuses, et millalgi tulevikus saab sellel üles sulatada, meditsiiniliselt eluiga pikendada ja nii edasi, nii et jah, pigem tundub, et sellised ideed on levimus omaette. Huvitav küsimus on, mulle tundub vähemalt see, et miks just praegu ja võib-olla üks põhjendus võiks olla see, et traditsiooniliselt surematus oli religiooni pärusmaa. Kui religiooni autoriteet vähemalt üha rohkem ilmalikus muutuvas läänemaailmas on kadumas, siis psühholoogiline impulss või soov ei ole kadunud. Tundub, et otsib lihtsalt teisi väljundeid, antud juhul siis teaduslik tehnoloogilist. Kõigepealt aitäh, väga huvitav oli, mul on hunnik küsimusi, ma väga palju ei küsi, aga lihtsalt teie subjektiivset arvamust, mis on kindlasti objektiivsem, kui minu oma ei julge lubada. Üsna kindlasti mul mul praegu läks selle sissejuhatusega juba üks küsimus meelest ära. Aga me rääkisime sellest ka, et 2045 eks ju, Kurts rail Postram Eestis Jaan Tallinn näiteks, nad peavad seda tõenäoliseks kuupäevaks, kui superintellekt või singulaarsus võiks saabuda, ütleme, kui sa isegi 2045.-ks aastaks ei saabu teie vaata siis, kui 100 aasta pärast inimene on endiselt sarnane bioloogiline olend, nagu ta on, praegu saame, kui vaidleme ikka mingitel pseudoteemadel nagu LGBT õigused, näiteks, kas siis on midagi kapitaalselt mäda läinud inimkonnaga. Teiseks, ma tahaks küsida, kas teie enda arvates me ühiskonnana praegu räägime sellistest asjadest nagu transhumanism, posthumanism, singulaarsus, kõik need asjad liiga liiga liiga vähe ja kolmas oli ka, aga see läks mul meelest ära, aitäh. Suur tänu. Ma alustan siis esimesest ma ei arva, et see, kui ütleme lubatud tähtajaks superintellekt ei saabuses inimkonnaga oleksin midagi valesti ja see, kui me 100 aasta pärast vaidleme nendes LGBT õiguste üle siis ma võib-olla arvaks küll, et midagi on valesti, aga mitte sellepärast Nende teemadel vaidlema, vaid kui ma ei ole 100 aasta jooksul suutnud selle osas midagi mõistlikku ette võtta, siis jah, on midagi valesti, kui me sihukest probleemi see on sisuliselt poliitilise tahte moraalset arusaamad, aga kui nüüd 100 aastaga ei ole suutnud seda ka ära lahendada, siis on sellepärast midagi valesti. Mitte sellepärast, et meil ei ole masin jumalaid, aga mis puudutab neid ennustusi siis kui ütleme, lubatud tärmiteks neid asju juhtunud ei ole, muidugi see annaks põhjust arvata, et äkki ei juhtugi, aga teiselt poolt, kui te usute, et selline asi on võimalik, siis saab alati leida mingeid alternatiivseid hüpoteese või seletusi näiteks superintellekti loomiseks. Vaegtehnoloogia ei ole veel siin, nende tehnoloogiliste lahenduste leidmine on oodatust raskem ja nii edasi ja nii edasi, ühesõnaga samamoodi nagu näiteks meil on ju roopams Euroopa usklikes ringkondades korduvalt lubatud maailmalõpu viimset päeva, mis ei ole tulnud alati olnud mingi põhjendus, miks üks aasta 1666, kui ma õieti mäletan mingis mõttes saatuslik, et nüüd pidi midagi juhtuma TULI 1667 elu oleks vanamoodi edasi. Siis sellel veel mingi põhjendus, miks ei juhtunud, et tõenäoliselt midagi sarnast saavad singulaarsuse pooldajaid öelda nii 45. aastal kui ka uue milleeniumi alguses, mis see teine küsimus nüüd oligi? Kas me räägime ühiskonnana liiga vähe nendest asjadest, mis tegelikult on fundamentaalselt hakkavad inimelusid ühiskonda mõjutama nüüd needsamad transhumanism posthumanism või siis võtame kasvõi väiksemalt näiteks Krisper, kas üheksa geenimuundamist, tehnoloogide asjad, et kas me räägime piisavalt nendesse enda arvates ma arvan, et ei räägi, aga ma eelistaksin seda, millest me nüüd räägime superintellektist, singulaarsusest, võib-olla see on natuke varada sellel teemal, pidada laia ühiskondlikku debatti, sest et On pakilisemaid küsimusi, aga need tehnoloogiat, mis meil juba olemas on ja mille puhul on võimalikud väärkasutamise ohud või ebaeetilise kasutamise ohud, nendest peaks küll rohkem rääkima. Ma tahaks ühe repliigi selle inimesena, kui intelligentsi kohtadest lisada. Ma lugesin kaks kuud tagasi refereeringut väest Norra psühholoogia ajakirjast artiklit, kus öeldi sellist asja, et meie kohutab usk. Et üldse areng on hea. Me kohutab usk kõige nagu kasvu. Et sa pole nagu päris okei ja et ai q või inimese intelligents näitab märke just nagu mandumisest. Ja just tänu sellele, ehk siis seostub tegelikult teemaga elu pärast Google'it. Et kuna mäe sõltuma järjest rohkem tehnoloogiast seda rumalamaks või isegi mitte rumalamaks, aga nagu seda vähem nutikamaks muutuma ja nutikus ongi ju tegelikult Aitjuu nutikus nagu ennast kohandada erinevate nagu situatsioonidega, et sellisel juhul inimese endale kui intelligentsi nagu plahvatuslik kasv seda nagu võib-olla üldse ei tule ja siis seal oli mainitud sellist asja, et võib-olla see põlvkond võib-olla need kõik need inimesed, kes me siin ruumis olema, et võib-olla see on kõige viimane targem põlvkond maailmas. See viimane oleks muidugi kõigile meist väga suur kompliment. Eks läheks sinna iga eelneva põlvkonna jaoks päevakajalisi tõdemuse alla, et noorsugu hukas. Mulle tundub. Aga tõsi ta on jah, et seda nimetatakse Flynni efektiks, eks ole, Flynni efekt, et iga uue põlvkonnaga keskmine tase tõuseb, kas ta oli kolm punkti või palju ta täpselt oli, ma hetkel ei mäleta, et see efekt näitab nüüd aeglustumise tagasipöördumise märke, pigem regressi. Jah, just just tänu sellele, et ma toetume tehnoloogiale ja me ei pane käiku enam no täiesti tavalist nagu õppimisprotsessi, ehk siis see, et selle asemel, et leida, kuidas ma lähen tänavale, yksed hoopis mätsin seda või guugeldan mingit asja, otsin Vikipeediast, mille tulemusena minu aju enda õppimisvõime nagu, mis tõstab minu intelligentsi, et see hoopis läheb alla. Et tõepoolest, kui, kui siin ongi nüüd tegemist mitte mingisuguse ajutise regressiooniga, vaid pikema trendiga, siis seda võiks kasutada selle seisukoha poolt, et kui ka leiab aset mingi intellekti plahvatus, siis inimesed ei ole need, kelle intellekt plahvatab. See on keegi teine, tõenäoliselt Meie arvutit või arvutiprogrammid. Ja meie jääme järjest rumalamaks, sellega seoses on ka vastavas kirjanduses räägitud siuksest asjast nagu lapsehoidja tehisintellekt võin, närvi ei aeta siis see on selline tehisintellekt, mis nii-öelda infantiilseks üha rumalamaks muutuva inimkonna kõik rasked küsimused ära lahendab. Et ühesõnaga meil on selline lapsevanemlik tehisintellekt mingis mõttes, kes kõik rasked otsused ära teeb, ütleb, millal palju peab magama, millal võib telekamängu mängida ja palju kommi võib siia ja nii edasi, eks ole. Jah, ühesõnaga ma olen nõus, et kui see on tõesti trend, siis seal argument selle poolt, et sellepärast progress minu jaoks tegelikult tähendab või nagu tähendab alati võitlust raskustega ja kui sa võtad ära nagu inimeselt motivatsiooni, midagi muuta, enda elu paremaks muuta, siis progress võib hoopis seiskuda ja muutuda regressiks. Ma ei tea, ma olen täiesti nõus, peab olema probleeme, mida lahendada selleks, et toimuks mingisugune kognitiivne või mingit muud tüüpi edasiliikumine. Kuidas selle biotehnoloogiaga on kogu aeg rääkida arvutitest, aga kas on olemas selliseid täiesti nagu ütleme, bakteriaalsete kogukondadel baseeruvad bioroboteid? Hea küsimus siin on kaks põhjust, miks ma jäin arvutite poole, esiteks ma tunnen ennast nende seltsis mugavamalt kui elusolendite seltsis saame paremini läbi, tavaliselt aga teiselt poolt ka sellel ajaliste piirangute tõttu, kuid nii palju kui ma kursis olen, ütleme singulaarsuse superintellekti seisukohalt on laual mõningat bioloogiliselt tehnoloogia osasid ma ka põgusalt mainisin, üks on, eks ole, implantaadid ehk siis superintellekti jõudmine kübordiks saamise kaudu. Ma mainisin mõningaid ohte selle juures, teine variant on selline, ma tahaks öelda eugeenika, aga ütleme selline iga järgneva põlvkonna embrüod. Geneetiline parendamine niimoodi, et tõsta intellekti taset, niivõrd-kuivõrd seda on võimalik teha ja aidata siis hiljem keskkonnaga kaasa. Selline variant on õhus ja on ka niisugune variant nagu neutroopikud, millest osad neist on kindlasti kuulnud, need on siis ajutiselt kognitiivset võimekust tõstvad erinevad keemilised ühendid näiteks Need teist, kes töötavad programmeerimise vallas. Mul on tuttaval kolleege, kes selleks, et 12 või enam tundi järjest rahulikult keskenduda programmeeritud, neil endal tervisehädalised ei ole, võtavad Ritaliini. Okei, ma ütlen robotid aga lihtsalt ma mõtlesin üldse mitte, ühesõnaga see, mida sa mainisid seal üsna selline algeline, mõtlesin täiesti nagu uut, sellist nagu bakteriaalset, nagu ma ei tea, kas selle kohta öeldakse strein. Et me loome mingisuguse täiesti uue eluvormi, mis on mingis mõttes meist intellektuaalselt võimekad Lasnamäe maja või mis mingil mingil kujul tekib, kusjuures tekkimisega seoses üks hüpotees veel selle kohta, kuidas superintellekt võiks saabuda, on see, et internetis saab ise ühel hetkel täiesti spontaanselt targaks, targemaks kui meie kõik kollektiivne superintellekt sellega. Probleem on selles, et on väga vähetõenäoline, midagi siukest spontaanselt juhtub. Võimalik on, et järk-järgulise parendamise teelse leiab aset ja mulle tundub, et bioloogias on kuidagi samamoodi. Evolutsioon on suhteliselt pime, ei ole välistatud midagi niisugust juhtub, aga tundub, et selline tagant utsitatud suunatud protsesside puhul on see tõenäolisem. Aga iseasi jällegi, millised võiksid olla nüüd füüsikalised piirid, ütleme bioloogiliste olendite kognitiivse võimekusele lähtuvalt aju suurusest millestki muust sellisest. Üks küsimus veel, et praegusi seadusi jäi välja, et kui moori seadusest räägiti Ja aga nüüd on see kvantarvutid arenemas ja need arvutid arenevad veel kiiremini kui moori seades. Millal need asjad pannakse kokku, et tehisintellekt ja kvantarvutid meil on, seda, siin on kaks lahtist küsimust, esiteks praeguste tehnoloogiliste programmeerimisvõimaluste juures kvantarvuti ei ole rangelt võttes kiirem, kui olemasolevad on võimanni arhitektuuriga arvutid. Ta lihtsalt võimaldab rohkemaid probleeme mingis mõttes korraga lahendada, ta ei lahenda neid seetõttu kiiremini kui väga lihtsalt öelda, aga teine probleem on selles. Roger Penrose kunagi kirjutas ja väitis, et me ei saa praeguste arvutitehnoloogia puhul tehisintellekti luua, sellepärast et intellektuaalsed protsessid ajus sõltuvad kvantefektidest väga väiksel tasandil. Aga minu teada ta on selle arvamusega hetkel vähemuses. Ühesõnaga ei ole sugugi selge, et meie intellektuaalne võimekus tuleneb mingitest kvanttasandi protsessidest meie ajus, missis väljenduvad suuremal mõõtkaval intelligentsus käitumises, ratsionaalses planeerimisoptimeerimis võimas ja seetõttu minu teada vähemalt kvantarvu töid ja see tehnoloogia hetkel sellise tehisliku üldintellekti loomise osas ei ole veel nii esiplaanil, kui ta võib-olla ühel hetkel võid saada aastaarvuga ei saa muidugi absoluutselt. Tahaks ennustada. Aga teine küsimus oleks veel, et mis juhtus aastal 2017 juulis tehisintellekti vallas. Kas seal kuldvillaku küsimus, natuke sinnapoole, jah, aga kui ei tule nagu midagi ette, kas võis olla? Kas ma räägin singulaarsuse sarnast, kas me räägime kood mängivatest arvutitest? Aitäh. Ma enam natukene jätkan siit, et ma ei tea, kas sa oled kursis? Oki, jälle lift. Pinkman mindi either, intelligents raamatuga, Dagmar alustab seda teksti võimalike tulevikustsenaariumite kirjeldamist sellise väikese ilukirjandusliku looga Sis projektoomegast, kus siis grupp teadlasi arendab tehisintellekti, mis siis põhimõtteliselt mõjutab nii, ma ei tea meie ühiskondlikke institutsioone kultuuri, ühiskonda peaaegu igal tasandil ja eelkõige siis võimu tasandil jätab muidugi otsad seal lahti. Aga mis on selle jutu juures või ilukirjandusliku kõrvalepõike juures, huvitav on see, et ega inimesed ei ole teadlikud sellest, et singulaarsus on möödanik ja siit võib-olla küsimus, et natukene tuli jutuks, et, et kas on variant. Me lihtsalt ei ole taibanud, et asjad on toiminud, et juttu oli ka siin tegelikult ju trantsumonistlikust, noh ma ei tea kognitiivsete võimete laiendamisest, et kas ei ole võimalik, et see, et meil on kõigil nutitelefon taskus, ongi juba mõnes mõttes transhumanistlik singulaarsus või mingi mingi osa mingist suuremast protsessist, et et me kujutame ette, et, et me laiendama mälu mingisuguse kapsli alla võtmisega, aga, aga me ei suuda siiski mõista, et ka see on nagu osa osa meist või, või ka sama internetiküsimus on ju teada, kuidas internet mõjutab seda, kuidas tekivad kogukonnad, kuidas liigub informatsioon, kuidas inimesed tekitavad informatsiooni ja kuidas inimesed on motiveeritud või mille jaoks inimesed on motiveeritud. Nüüd on küsimus, kas on võimalik, et see kõik on juba toimunud. Ma ei välistaks seda, et on, on toimunud, need esimeseks jusse lõi nutitelefonide küsimusega mingis mõttes küll, kui me ütleme, et intellekt ei piirdu sellega, mis on kolba sees, kas me räägime sellest, intellekt on tegelikult hajus Brundiliselt protsessid ja süsteemid on tegelikult hajusalt, ühesõnaga see, et vastukaaluks siis sellele, mis siin varem oli jutuks, et Flynni efekt langeb sellele võiks optimistlikult näiteks vastukaaluks väita, et mis siis ma olen lihtsalt mõningad oma mälufunktsioonid, kognitiivsed funktsioonid oma kolbast väljapoole tõstnud, pannud pilve, pannud serveritesse, pannud nutitelefonidesse ja nii edasi ja nad on kogu aeg kättesaadavad ja selle võrra mingis mõttes ma olen tegelikult isegi kognitiivset võimekam kui varasemad põlvkonnad, mul on tegelikult olemas rohkem informatsiooni, mis on mulle iga hetk kättesaadav, kui oli olnud kunagi varem. Mis puutub seda võimalust, singulaarsus on juba toimunud, siis ma pigem kalduks isiklikult rohkem selle seisukoha poole, et võib-olla on toimunud, need sammud on ära olnud, mille tulemusel ühel hetkel näeme superintelligentsed, et mingisugust masinat, aga mulle tundub, et vähemalt peamised arutelud selle stsenaariumile, mida ma ka siin püüdsin kokku võtta käsitlevad seda võimalust, et meil on ühel hetkel mingisugune autonoomne masin, Softbot midagi muud sellist, mis ületab meid intellektuaalse võimekuse poolest. Tundub, et seda veel ei ole kuigi selleks vajalik tehnoloogia võib-olla juba olemas ja et selles mõttes see sõltub mingis mõttekuse. Singulaarsus, mida ma ainult põgusalt mainisin, on minule tegelikult üksjagu vaieldakse, kas singulaarsus on miski, mis leiab aset väga lühikese aja jooksul mõne tunni, mõne kuu, mõne aasta või on see pikk protsess, mis vältab võib-olla aastakümneid. Kui tal on selline pikaaegne stsenaarium, siis selle perspektiivi yldiselt mulle tundub, saaks jah võib-olla öelda, et jah, see on tegelikult juba aset leidnud, tan alanud, me lihtsalt ei tea seda. Aga kui me räägime mingisugusest väga lühikese ajaga aset leidvast intellekti plahvatusest, mille tulemuseks on intellekt, mis on inimeste võimetest mäekõrguselt üle, siis see stsenaarium mulle tundub, veel ei ole realiseerunud, kui just kusagil juba keegi selline toimet toime sellest lihtsalt teadlikud ei ole. Kas see natuke seal taga oli meist jätsingi mainimata, et selles täigmarki loos ka inimesed ei olnud sellest teadlikud. Ma võtaks just sellesama küsimuse otsa üle, et kuskil 10 aastat tagasi lugesin Indian Timesist ühe india professori mõtisklus teemal tulevik ja tehisintellekt ja kuidas siis ise loovad ise mõtlevad süsteemid, saavad endast teadlikuks, õpivad ennast täiustama endast paremaid versioone looma ja siis selline pikk mõtiskle, mis tänapäeval on täiesti tavapärane, toona oli väga visionäärlik ja siis ta lõpetas selle sellega, et kui siis tekib tehisintellekt, kes on iseendast teadlik kas jälgib seda, kes me oleme, kus me oleme, kuidas inimesed selle teemaga möllavad. Miks ta peaks meile teada andma, kui ta on tekkinud, et ta vaatab lihtsalt muiates pealt, kuidas me teda leiutama? Loogiliselt võttes ei saa sellist stsenaariumit loomulikult välistada, ise küsimus mulle tundub, on lihtsalt selles, et mis on see tehnoloogiline lahendus või rakendus või tehnoloogiline nii-öelda põhi, mille peal ta jookseb, kas see on meil juba olemas, et kui see on olemas, siis stsenaarium mulle tundub? Jah, loomulikult saab öelda, et see ei ole välistatud. Kas inimene on vaid vahelüli ahvi ja tehisintellekti vahel? Sinu tänase loengu põhjal võiks siis küsida, kas inimene on vaid vahelüli ahvi ja superintellekti vahel. Hea küsimus, ma arvan, evolutsiooni perspektiivist vaadates me oleme paratamatult vahelüli ahvi ja millegi vahel, mis iganes, see on selles mõttes, et kõik meie eelnevad versioonid on ühel või teisel põhjusel välja surnud kusjuures ei ole päris selge, miks me oleme ainsana olles jäänud, võib-olla me oleme lihtsalt lõime kõik teised konkurendid maha või surid nad muudel põhjustel välja. Nii et selles mõttes jah, kindlasti me oleme vahelüli ahvi ja millegi vahel, kas nüüd ahvi ja superintellekti või mitte, see sõltub natuke sellest, millised tulevikustsenaariumid realiseeruvad. Kui realiseeruvad need pessimistlikud stsenaariumid, et meid ootab tegelikult sotsiaalne ökoloogiline kollaps ees, siis on väga, tõenäoliselt tõmbab käsipiduri peale igasugusele tehnoloogilisele, innovatsioonile ja arengule ja tundub tõenäoline, et siis see tõmbab käsipiduri peale tehisintellekti arengule. Kui asjad kõige mustemate stsenaariumide järgi ei lähe siis võib-olla tõesti, kui internetis näete neid erinevaid Darwini inimese karikatuur, et alguses neljal jalal, siis on kütt-korilane, siis lõpuks lõpetab arvuti taga, eks ole, et siis võib-olla sinna saaks edasi mingisuguse järgmise asja lisada. Selle kõige taamal, kui me räägime tehisintellektist, singulaarsusest, superintellektist, tekib ikkagi ka teadvuse küsimus, et kuidas sa seda seletaksid. Filosoofilist perspektiivist lapse otsapidi tagasi Johnson oli kuulsa hiina toa argumendi juurde tema väide sellise tugeva tehisintellekti vastu sisuliselt ongi see, et masin, mis oleks inimesega võrdne intellektuaalsete võimete poolest, ei ole võimalik, sest tal ei ole teadvust. Täitsa teeb puhtalt süntaktilisi operatsioone, ta ei saa aru sellest, mida ta teeb, nii nagu inimene saab näiteks keelest aru muidugi argumente palju kritiseeritud on leitud, et see ei pea paika või et see ei näita tugeva tehisintellekti võimatust. Aga Johnson ise kirjutas siin mõned aastad tagasi just singulaarsuse ideid silmas pidades sellele jätku, kus ta väitis, et igasugune hirm ja riskianalüüsid singulaarsus stsenaarium normide suhtes on täiesti põhjendamatud, just nimelt sellepärast, et kui tema argument paika peab, siis teadvusega tehisintellekt ei ole võimalik. Ja kui alateadvusega tehisintellekt võimalik, siis ei saa olla sellist asja nagu hea või halva tahtega. Tehisintellekt ei taha mitte midagi ja seetõttu põhimõtteliselt meil ei ole mõtet Nende võimalik riskistsenaariumite peale väga palju aega energiat kulutada. Ma ise leian, et see argument ei ole nii põhjapanev, kui ta ise leiab või usub. Ja mulle tundub, et see teadvuse küsimus on omaette raske. Masina teadvuse küsimus on raske ainuüksi sellepärast, et inimteadvuse küsimus on raske, ei ole üldse selge, miks meil teadvus on. Mõningaid filosoofid ja teadlased väidavad, et ei ole üldse kindel, kas, kas meil seal äkki meile tundub, et meil on teadvus on võib-olla lihtsalt mingisuguste bioloogiliste funktsioonide poolt genereeritud nendes simulatsioon organismi jaoks, et ta saaks paremini keskkonnas hakkama kogu lugu. Nii et jah, see küsimus masinal teadvusest mingis mõttes sõltub küsimusest inimese teadvuse kohta, aga mulle tundub, et kui me räägime superintellektist, siis mingil kujul on see võimalik sõltumata sellest, kas tal on teadvus või ei ole. Ühesõnaga on ikkagi võimalik mingisugune masin, mis näiteks optimeerimisprobleeme suudab lahendada väga erinevates maailma sissetulevates kontekstides ja teeb seda oluliselt paremini kui ükskõik milline inimene. Siin teadvus ei ole primaarne. Teadvuse küsimus tuleb olulisem julmalt, mulle tundub siis mängu, kui me hakkame küsima selliseid küsimusi nagu millised peaksid olema superintellekti näiteks juriidilised õigused, kas ta saab vastutada oma tegude eest, kas teda saab karistada selle eest, mida ta teeb, kas teda saab moraalselt kiita või laita, siis tundub, et karistamise puhul me eeldame seda, et see, keda me karistame, saab näiteks kannatusi kogeda, vastasel juhul karistamisele suurt mõtet. Tundub, et teadust mitteomavate olendite puhul karistamine vist ei annaks erilist tulemust aga mulle tundub, et see teadvuse küsimus tuleb olulisemalt mängu isegi siis, kui me hakkame küsima juriidilisi moraalseid küsimusi superintellekti puhul. Rakenduste poole pealt. Ma usun, et arvutiteadlased on piisavalt nutikad, et vahet pole, kas seal on teadvust või ei ole inimese intellektuaalset võimekust omandava masina loomisel mingi lahendus leitakse ühel või teisel viisil tõenäoliselt ikka, iseasi siis, kui laialdase valdkondadesse rakendatav on. Ehk siis kas nad üldine teis intellektuaalid Eks puutusin kokku robootika kolme põhiseadusega, Isaac Asimov pilt aastast 1942. Esiteks, robot ei tohi oma tegevusega tegevusetusega inimesele kahju teha. Teiseks, robot peab alluma inimesena antud käsule, kui sa ei lähe vastuollu esimese seadusega. Kolmandaks, robot peab kaitsma oma olemasolu, kuni see ei ole vastuolus esimese või teise seadusega. Ja mõne aja pärast lisas Asimov siis ka selle, et robot ei tohi oma tegevuse või tegevusetusega inimkonnale kahju teha. Mõned aastad tagasi oli see teema päevakorral suureavaldusena, kus siis Ilon mask, Stephen Hopkins, Noam Chomsky tegid, kus 1000 robootikateadlasega suure pöördumise maailmale, et võiks ikkagi need tehisintellektiga varustatud tapirobotid keelustada, aga noh, maailma valitsejad muidugi väga entusiastlikud sellest minu teda kinni haaranud. Ja sa oma loengus enne rääkisid ka seda, et me lähtume väga antropotsentriliselt, et me omistame siis nii roboti maailmale, kui nad on algelised, siis on see mõistetav, aga sealt edasi, kui me räägime tehisintellektist ja superintellektist rääkimata, omistame selliseid inimlikke mõõtmeid ja vaateid, et mis puudutab ka moraali ja eetikat ja head ja halba. Ja meenub ka veel, eks Putin ja Macron ja teised, kes on viidanud sellele, et see, kes esimesena leiutab kõige võimsama tehisintellekti, see valitseb maailma, kuidas selle info valguses, mis siis on just nimelt see hea ja kuri, et ühelt poolt tohutud võimalused ja teiselt poolt hiiglaslikud riskid, kuidas seda sa näed, on seda võimalik reguleerida, kuidas seal suhtumist sättida, kas selle või jälle nii, et läheb käest ära ja pauh olemegi kirjaklambrid kõik. Mulle tundub, et see on, kui sul on õnne küsimus, et kas me räägime näiteks posthumanismi stendide tehnoloogiate mõjust liiga vähe, sest mulle tundub, et see on üks asi, millest ma ka liiga vähe rääkima. Seda näitab minu meelest ainuüksi see, et me ei ole Asimovi seadustest kaugemale jõudnud rohkem kui poole sajandiga. Et see on endiselt ja ikka veel, mis puudutavad robotieetikat ja tehisintellektieetikat mingis mõttes selline stardipunkt, kust siis arutlemist alustatakse. Ja see on probleem, sellepärast et ei ole sugugi ilmne, et need kolm seadust on piisavad selleks, et tegelikult riskis stsenaarium ära hoida. Mis siis oleks üleskutseruumis viibivatele filosoofia tudengitele, ma tean, üks on kusagile ära peitnud, mõni on veel. Kui te kooli lõpetate karjääri tegema hakata, siis äkki spetsialiseeruks tehisintellekti ja robootikaeetikale, sellepärast et siin on tõsiseid puudujääke. Mis puudutab nüüd selle poliitilist konkurentsi ja siis üks võimalik stsenaarium või üks episood, mida nende superintellektile jõudmise stsenaariumite puhul läbi mängitud, on tõepoolest see, et aga milline võiks olla poliitiline huvi nende loomise taga ja mõningad uuringud küsitlused on näidanud, et vähemalt sõjasektorist hoolimata eksistentsiaalsete riskidest, kuid on teada, et meil on selline näiteks külma sõjalaadne olukord, kus käib võidurelvastumine kahe suurriigi vahel tehisintellekti vallas siis eksistentsiaalsete riskidest hoolimata tõenäoliselt seda jätkata, sest tõepoolest see, kes selle esimesena saavutab, tal on oluliselt suurem sõjaline ja poliitiline eelis teises, nii nagu tuumarelvade puhul. Moraali küsimus jäi mõnda aega tahaplaanile reaalpoliitika ees, sest mulle tundub, et ei ole sama stsenaariumi kordumine ei oleks üldse välistatud tehisintellekti puhul, kui tekib mingisugune võidu arendamine ja ennekõike just ütleme, mitte rahumeelsete rakendustes vallas. Nüüd otsa saanud, enne kui me loeme selle sessiooni lõppenuks, palun, Tarmo, sinu viimane etteaste. Küllap on aita, mul on jah, tänamatu ülesanne teha põhjalik kokkuvõte kõigist 12-st ajarännakust, mille osalised olema, nii et ma saan aru, et osa inimesi saavad aru, et see on lootusetu lõpuni jälgida ja lahkuvad, Tulevikku vaatamine on kallis rahambitus mõttes, meie enda riik on ka ju kallis ja ega siis elu maa peal üldse kallis. Aga vaadake tulevikku vaatamisega, tulevikule mõtlemisega mõtlema ka sellele, et elu siin maa peal sisaldab meil ju iga aasta tasuta reisi ümber päikese. Kui me paneme selle maa konteksti, kui palju võiks see reaalselt maksta ja see kõik meil on tasuta käes. Tänase ajareisi üks oluline aspekt oli, et me jõudsime peaaegu kaasaega. Esimest korda oli kasutusele midagi, mis sarnanes tahvelarvutile, aga päris kaasaegne jõudnud sest et Stafford Beer ütleb, et kui see töötab ja see töötas, on see ajast maas. Nii et kaasajas olime eelmisel loengul, kui arvutit ei saanud tööle. Ja siis me jõudsime täpselt 200 hetkel, kui loeng algas ja arvuti hakkas tööle. Ja kui me üldse räägime arvutist või tahvelarvutist, siis on generatsioonide vahe täiesti selgelt ja seda väljendas Styybiops, märkides, et vanemad inimesed küsivad, et mis see on, aga nooremad kolivad, küsivad mina ma sellega teha saan. Ja see on nüüd küll niisugune väga oluline põhjus, mille kohta on 1000. antakse prii, ütles, et lapsed peavad suurte inimestega väga kannatlikud olema. Oliver rõhutas, et ta on filosoof filosoofi kohta. On olemas definitsioon toomast juubelilt. Et filosoof on inimene, kas suudad vaadata ka tühja klaasi naeratusega. Oli veel seda probleemi olnud, siis klaas on endiselt pooltäis. Aga siia juurde lisas Artur bluff ehk Murphy seadusest märkuse, et inimene, kes suudab naeratada, kui asjad lähevad halvasti, nii nagu siin 500 pooles loengus on sündinud, on juba mõelnud sellele, keda süüdistada. Masinate tulek on toonud meile tõepoolest neli fundamentaalset muutust, aga on toonud ka veel viienda ja võib-olla veel olulisema ja fundamentaalse muutuse. Et küllap mäletame kõik sõnu, et eksimine on inimlik, pärinevad tegelikult pühalt august diilusalt, kes pani koma juurde, aga et eksimusse jää, meid on saatanast. Aga need asjad muutunud, see viies muutus, mida tegelikult küsimuste kaudu Oliver välja pressiti sele väljendas Paul EL-is väga selgelt, et eksimine on inimlik, aga selleks, et asju tõeliselt sassi ajada, on vaja arvutit. Ja nüüd on see küsimus, et mida tuli saalist väga mitmes versioonis, et kas siis ikkagi tehisintellekt mõtleb või teeb ainult nii, nagu see eestlane, kes juhiste järgi sõidutab hiina tähti heinaga padre lepikule. Ega küsimus ei ole ju üldse mitte selles, et kas meil on teadvus ja seda on Burgus Frederic Skinner väljendanud oma arvamusega, et tõeline küsimus ei ole mitte selles, kas masinad mõtlevad vaid sellest, kas inimesed seda teevad. Ja sinna juurde on ju lisanud kvantfüüsika üks alusepanijaid luid, prooli, et kaasaja tähtsaim probleeme ei ole tehisintellekt või, või mis iganes. Et kas inimene suudab oma leiutised üle elada. Sõltuvus masinatest ja küsimus transhumanismi, st ja, ja Iidee kultuurist ja teatrist kui kultuurisambast. Ei ole juhus, et kui vaatame, mida selle kohta on öelnud, need, kes on maailma saatust kas püüdnud muuta või muutnud näiteks Benito Mussolini. On täiesti selge arvamusega. Tema ütleb triivi mehele on kultuur täiesti üle arve luksus. Ja Stalin lisas seda tantsuhumanismi inimeste masinate vaheliste suhete kohta midagi hästi pragmaatilist öeldes, et inimesed, kes hääletavad, ei otsusta midagi, need, kas hääli loevad, otsustavad kõik. Transhumanismi probleem tekib sellest momendist, kui hääletusmasinatele tekib teadvus ja see on vist üks asi, mida üks meie praegustest võimuparteidest paistab. Nagu väga kartvat, selgus ka üks asi, mis kindlasti saalis istuvatele paljudele füüsikutele väga-väga meeldib, et see on nagu füüsikute unistus. No mitte ainult see, et õunal ei ole enam eesmärki, kui olen juhtunud, ole pihta sai, aga eks reaalse ja virtuaalse piiri hägustumine on paljudele üks keskkond, milles on võimalik öelda lainetel lasta end kanda. Et kindlasti on paljudel kodus kiisu, ma ei küsi, kui paljudel tähendab väsinud tehakse, aga tõsta. Aga mõelge selle peale, kui Schröderi kass muutub normiks, et igahommikutele voodisse hüpata, ei tea, kas ta on elus või surnud ja siis tekib nagu tõeline probleem veristamises, et noh, et, et ei tea, kas ta on surnud või on patareid vaja vahetada ja see probleem tavaliselt ületab inimvõimete piiri hästi kõvasti. Tehislike ja superintelligentsete olevuste probleem on siiski filosoofiast natuke nagu meie ja nende probleem, et seda on käsitlenud jälle mitmed-mitmed, riigijuhid varasemate loengute valgusest, tuletades meelde asse Sauga loengut, mille kohta Bill Clinton oleks kindlasti öelnud, et kui keegi räägib, et raha probleem, siis on juttu võõrast rahast ja samuti on keegi Ameerika presidentidest öelnud ju, et miski ei ole võimatu inimesele, kes ei pea seda ise tegema. Tulevikustsenaariumid ja vandenõuteooriad on mingis mõttes hirmus sarnased, selle kohta on hästi hea ütlus, mida Samulbeketelt vaid Bernaar Becketelt. Et vandenõuteooriate ja, ja ka tulevikuprognooside häda on selles, et nad eeldavad, noh, oleks inimene võimeline keerukaid sündmusi kontrollima selle eelduse seadis täna tegelikult Oliver hästi kenasti küsimuse alla intellekti intelligentsuse plahvatanud tus. Teatriinimestele oli tegelikult üks sündmus, mida me kõik meie Rooma Klubi ettekuulutuste ja Hiiobi sõnumite valguses ootame kui tõelist valget laeva. Sest tuletage meelde, mida ütles Mikk Mikiver, tema ütles, on intelligentsus, mäletate, mis ta ütles, mis on intelligentsus Mikk Mikiveri meelest ei mäleta. See on inimese omadus vähem ruumi võtta. 10 miljardit 20 miljonit ei ole probleem, kui inimene piisavalt intelligentne ja plahvatuse tõsiste tagajärgede osas. Kõige tõsisema tagajärje osas jättis Oliver ütlemata midagi äärmiselt olulist mille sõnastas Clive jams ja mille kohta võib-olla saime vihje eile, kui mobiilideega meile probleem oli, et see, kui võim, sadam, masinad, restorane, siis aruna rikki lähevad. Ma jätan kõrvale pirtsakas sekretäri probleemi, õige vastus on 31,6 protsenti. Ja superintellekt, mis meid paneb naerma või ennast mõnusalt tundma selle kohta makstress öelnud, et tehnoloogia. On võte korraldada maailm ümber selliselt, et me ei peaks seda üldse kogema ja kõrgtehnoloogia, arvas David Hogti. Selle probleem on selles, et lõpuks kasutad sõitnud käe. Need käärid on meil täna täitsa olemas. Need kärjed olemas kahes versioonis. Üks versioon on kuusepool viis ja pool optimismi kasuks. Aga kui me nüüd tuleme selle juurde, et tuli saalist küsimus, et kas me oleme asjade üle piisavalt rääkinud siis on meil teine skoor. Sa näed nii hea välja, see on 10, kaks, kaks daami oli esinejate seas. On küll ausalt tunnistama, et ma natuke kade Von Krahli akadeemia peale, sest et Eesti Teaduste Akadeemiasse skoor on 67, neli et umbes kolm korda sandim. Nii et veel ei ole hakanud inimese intelligentsus intelligents jõudma nii kaugele, nagu Aleksei Turovski märkis, et muus maailmas isase tegelase rolli ületähtsustamine hakk ka viimasel ajal märgatavalt kahanema. Mis akadeemiat meil ka tegemist on, ei ole see protsess veel kohale jõudnud. Aga rääkimisest ja piisavalt rääkimisest selle kohta ütles Margaret Thatcher, väga hea mõte, kui tahate midagi, öeldakse, paluge meest. Kui tahate midagi tehtaks, paluge naist. Aitäh. Elu pärast Google'it saatesari toob teieni Von Krahli teatri vikerraadio ja Eesti Teaduste Akadeemia koostöös sündinud loengusarja mis pakub visioone elust Eestis ja maailmas 25 aasta pärast. Toimetajad Kristin Kalamees, Peeter Jalakas, Ingrid Peek, helioperaatorid Algis Pauli Kaitis, Aili Jõeleht, Priit Karinud, Virgo mäe helirežissöör, maris Tombak, helilooja Hendrik Kaljujärv. Teksti loeb Taavi Eelma. Kuulake saateid ja täispikkuses loenguid elu pärast Google'it koos publiku küsimuste ja Eesti Teaduste Akadeemia presidendi Tarmo Soomere kommentaariga vikerraadio kodulehelt ja mobiiliäpist sealtsamast leiatega tulevikuvisioonide saatesarja Raadio Jaik. Vaadake kodulehte Jaik poee. Kohtumiseni järgmisel laupäeval pärast kella viieseid uudiseid vikerraadios. Elu pärast Google'it.