Superintellekt on intellekt, mis ületab kognitiivsete võimete soorituste poolest inimest kõigis valdkondades. But turistid on aastaid spekuleerinud superintellekti võimalikkuse ning selleni jõudmise viisidele. Superintellekti loomisel võiks olla mitmeid positiivseid tagajärgi. Teaduslike probleemide lahendamine, kliima soojenemise peatamine, ravimatut haiguste ravimine ning inimeste üleüldise heaolu maksimeerimine. Superintellekti jõudmiseks on välja pakutud mitmeid stsenaariume. Õppimisvõimelise teadmatuse tingimustes otsustava ja loova tehisliku üldintellekti tehislik evolutsioon intelligentsete inimeste poolt. Suunatuna võidi superintellekti tekkeni, sest evolutsioon loodusliku valiku teel on ühel korral juba viinud loomuliku üldintellekti ehk inimese tekkeni. See stsenaarium ei pruugi superintellekti nii viia, kui intelligentsus osutub sarnaselt immuunsüsteemile. Üheks nendest evolutsiooni saadustest, mida inimesed tehislikes tingimustes taasluua ei suuda. Täielikult emuleeritud aju jooksutamine järk-järgult võimsamalt riistvaral võib lõpuks viia superintellekti, sest riistvara võimsuse kasv tooks endaga eeldatavasti kaasa kaimuleeritud aju intellektuaalsete võimete kasvu. Takistuseks võib osutuda arvutusvõimsus, sest ei ole kindel, et meie praegune arusaam arvutustehnoloogiast võimaldaks superintellekti jõudmiseks vajaliku võimsusega arvutite loomist. Aju-arvuti liides on implantaatide ja teiste infotehnoloogiliste lahenduste lisamine orgaanilisel ajule selle kognitiivse võimekuse kasvatamiseks. Esimene selliste implantaatide kübarkita põlvkond loks senisest paremaid implantaate, mida kasutav teine kübargite põlvkond oleks eelmisest võimekam ja nõnda edasi kuni superintellekti loomiseni. Üheks probleemiks võivad osutuda implantaate tega kaasnevad terviseriskid. Teiseks, kui meil on aju-arvuti liidese loomiseks sobiv tehnoloogia, siis on meil tõenäoliselt ammugi tehisliku üldintellekti loomiseks vajalik tehnoloogiat mistõttu muutuks implantaatide abil superintellekti jõudmine. Veel üks viis super intellekteni jõudmiseks oleks kollektiivne superintellekt inimestest, robotitest organisatsioonidest ja arvutitest koosnev superintelligentne võrgustik. Võrgustik ise oleks superintelligentne, kuigi ükski üksikelement seda ei oleks. Üheks selle stsenaariumi näiteks on idee, et internet kunagi üles ärgata ja kollektiivse superintellekti moodustada. Tundub, aga täiesti uskumatu, et superintellekt võiks tekkida spontaanselt, eriti arvestades seda, kui raske On intelligentsete masinate sihipärane loomine. Hoolimata võimalikest hüvedest võib superintellekt osutuda eksistentsiaalselt riskiks ehk riskiks, mis ähvardab intelligentsete elu meie planeedil väljasuremisega sest superintellekti motiivid ja lõppeesmärgid ei pruugi olla inimlikud. Sarnaselt super intellekteni jõudmise stsenaariumitega on välja pakutud ka mitmeid eksistentsiaalse riskistsenaarium. Superintellekt viib oma lõppeesmärgi ellu viisil, mida selle loojad ette näha ei suutnud. Näiteks oletame, et superintellektile antakse ülesandeks inimkonna õnnelikkust maksimeerida. Eesmärgi saavutamiseks istutab ta kõigi inimeste ajude naudingukeskustesse elektroodid sest naudingukeskuse stimuleerimine on kiirem viis inimeste ja hiirte õnnelikkuse maksineerimiseks. Hiirte näitel me teame, et selline ettevõtmine lõppeb näljasurmaga. Superintellekt võib muuta suurema osa universumist oma lõppeesmärgi saavutamiseks vajalikuks infrastruktuuri x millega võib kaasneda intelligentse elu väljasuremine sest ta kasutab eluks vajalikud ressursid ära. Näiteks Riimani hüpoteesi tõestamiseks muudab superintellekt kogu meie päikesesüsteemi komputrooniumiks ehk arvutuste teostamise jaoks optimaalseks füüsikaliseks ressursiks. Superintellekt ei teeks seda pahatahtlikkusest vaid lihtsalt seetõttu et tema jaoks Me koosneme aatomitest, mida saaks kasulikumalt kasutada. Need stsenaariumide ei ole realistlikud, kuid nad illustreerivad kahte põhjust, miks superintellekt võib eksistentsiaalset riskiks osutuda. Esiteks superintellekti poolt oma eesmärkide saavutamiseks valitud ootamatult meetodid võivad meile kahjulikuks osutuda. Teiseks superintellekti poolt oma eesmärkide saavutamiseks vajalikud ootamatult vahendid võivad meile saatuslikuks osutuda. Seega võib öelda, et spekulatiivsete tulevikutehnoloogiate seas on superintellekt korraga nii palju lubavamaid kui ka üks ohtlikumaid. Tulevikku vaatab Oliver.
