Šausmu kabinets

Mašīnu pieaugums un mākslīgā intelekta sagrābšana. Pilnīgas uzraudzības un sociālās kontroles pasaule. Kodolkarš un civilizācijas deģenerācija. Daudzām tumšām nākotnes vīzijām, kas zīmētas pirms daudziem gadiem, vajadzēja notikt šodien. Un tikmēr atskatāmies un šķiet, ka viņu tur nebija. Vai tu esi pārliecināts?

Ir diezgan stereotipisks populāro repertuārs distopiskie pareģojumi (par melno nākotnes vīziju). Papildus izplatītākajām, kas saistītas ar dabas vides un resursu iznīcināšanu, ir plaši izplatīts uzskats, ka jaunākās tehnoloģijas kaitē starppersonu komunikācijai, attiecībām un sabiedrībai.

Virtuālā telpa maldinoši aizstās reālu līdzdalību pasaulē. Citi distopiskie uzskati tehnoloģiju attīstību uzskata par veidu, kā palielināt sociālo nevienlīdzību, koncentrēt varu un bagātību mazu grupu rokās. Mūsdienu tehnoloģiju augstās prasības koncentrē zināšanas un prasmes šauros priviliģēto personu lokos, palielina cilvēku uzraudzību un iznīcina privātumu.

Pēc daudzu futūristu domām, augstāka produktivitāte un lielāka redzamā izvēle var kaitēt cilvēka dzīves kvalitātei, radot stresu, apdraudot darba vietas un padarot mūs arvien materiālistiskākus attiecībā uz pasauli.

Viens no slavenajiem tehnoloģiskajiem "distopiem", Džeimss Gleiks, sniedz šķietami triviālu piemēru par TV tālvadības pulti kā klasisku izgudrojumu, kas neatrisina nevienu būtisku problēmu, radot daudzas jaunas. Gleiks, citējot kādu tehnikas vēsturnieku Edvards Teners, raksta, ka iespēja un vienkāršība pārslēgt kanālus, izmantojot tālvadības pulti, primāri kalpo, lai arvien vairāk un vairāk novērstu skatītāja uzmanību.

Gandarījuma vietā cilvēki arvien vairāk ir neapmierināti ar skatītajiem kanāliem. Tā vietā, lai apmierinātu vajadzības, ir nebeidzamas vilšanās sajūta.

Vai automašīnas mūs rezervēs?

Vai mēs spēsim kontrolēt šo lietu, kas ir neizbēgama un, iespējams, drīzumā? Pāri mākslīgajam intelektam? Ja tas tā ir, kā vēsta daudzas distopiskas vīzijas, tad nē. (1).

Ir grūti kontrolēt kaut ko, kas ir daudzkārt spēcīgāks par mums. palielinoties uzdevumu skaitam. Pirms divdesmit gadiem neviens nebūtu ticējis, ka spēj nolasīt emocijas cilvēka balsī un sejā daudz precīzāk nekā mēs paši. Tikmēr pašlaik apmācītie algoritmi jau spēj to izdarīt, analizējot sejas izteiksmes, tembru un runas veidu.

Datori zīmē attēlus, komponē mūziku, un viens no tiem pat uzvarēja dzejas konkursā Japānā. Viņi jau ilgu laiku ir situši cilvēkus šahā, apgūstot spēli no nulles. Tas pats attiecas uz daudz sarežģītāko Go spēli.

tas pakļaujas arvien ātrāka paātrinājuma likumiem. Tas, ko mākslīgais intelekts ir sasniedzis – ar cilvēku palīdzību – pēdējo desmitgažu laikā divkāršosies nākamajos gados, varbūt tikai mēnešos, un tad tas prasīs tikai nedēļas, dienas, sekundes…

Kā nesen izrādījās, algoritmi, ko izmanto viedtālruņos vai lidostās, lai analizētu fotoattēlus no visuresošām kamerām, var ne tikai atpazīt kādu dažādos kadros, bet arī noteikt tikai intīmas psiholoģiskas iezīmes. Teikt, ka tas ir milzīgs privātuma risks, ir tas pats, kas neteikt neko. Šeit nav runa par vienkāršu uzraudzību, katra soļa vērošanu, bet gan par informāciju, kas rodas paša cilvēka izskata rezultātā, par viņa slēptajām vēlmēm un personīgajām vēlmēm. 

Algoritmi to var iemācīties salīdzinoši ātri, analizējot simtiem tūkstošu gadījumu, kas ir daudz vairāk, nekā pat visgudrākais cilvēks var redzēt dzīves laikā. Apbruņojušies ar tik bagātu pieredzi, viņi spēj skenēt cilvēku precīzāk nekā pat vispieredzējušākais psihologs, ķermeņa valodas un žestu analītiķis.

Tāpēc īstā atvēsinošā distopija ir nevis tajā, ka datori spēlē šahu vai vēršas pret mums, bet gan tajā, ka viņi var redzēt mūsu dvēseli dziļāk nekā jebkurš cits, izņemot mūs pašus, pilnu ar aizliegumiem un blokiem, lai atpazītu šīs vai citas tieksmes.

Elons Musks uzskata, ka, AI sistēmām sākot mācīties un spriest arvien pieaugošā mērogā, kaut kur var attīstīties “inteliģence” dziļi tīmekļa slāņos, mums nemanāms.

Saskaņā ar 2016. gadā publicēto amerikāņu pētījumu, nākamo 45 gadu laikā mākslīgajam intelektam ir 50 procentu iespēja pārspēt cilvēkus visos uzdevumos. Sinoptiķi saka, ka jā, mākslīgais intelekts atrisinās vēža problēmu, uzlabos un paātrinās ekonomiku, nodrošinās izklaidi, uzlabos dzīves kvalitāti un ilgumu, izglītos mūs tā, lai bez tā nevarētu dzīvot, taču iespējams, ka kādreiz, bez naids, tikai pamatojoties uz loģisku aprēķinu, tas mūs vienkārši noņem. Iespējams, fiziski tas nedarbosies, jo katrā sistēmā ir vērts saglabāt, arhivēt un glabāt resursus, kas “varētu kādreiz noderēt”. Jā, tas ir resurss, ko mēs varam izmantot AI. Aizsargāts darbaspēks?

Optimisti mierina sevi ar to, ka vienmēr ir iespēja izvilkt kontaktdakšu no rozetes. Tomēr viss nav tik vienkārši. Jau tagad cilvēka dzīvība ir kļuvusi tik ļoti atkarīga no datoriem, ka radikāls solis pret tiem mums būtu katastrofa.

Galu galā mēs arvien vairāk veidojam uz AI balstītas lēmumu pieņemšanas sistēmas, dodot tām tiesības lidot ar lidmašīnām, noteikt procentu likmes, vadīt spēkstacijas – mēs zinām, ka algoritmi to izdarīs daudz labāk nekā mēs. Tajā pašā laikā mēs pilnībā nesaprotam, kā tiek pieņemti šie digitālie lēmumi.

Pastāv bažas, ka tādas superinteliģentās komandu sistēmas kā "Sastrēgumu samazināšana" var likt viņiem secināt, ka vienīgais efektīvais veids, kā paveikt darbu, ir... samazināt iedzīvotāju skaitu par trešdaļu vai pat uz pusi.

Jā, ir vērts dot mašīnai vissvarīgāko instrukciju, piemēram, "Vispirms izglābiet cilvēka dzīvību!". Tomēr, kas zina, vai tad digitālā loģika novedīs pie cilvēces ieslodzījuma vai zem šķūņa, kur mēs varbūt esam drošībā, bet noteikti ne brīvi.

Kibernoziegumi kā pakalpojums

Agrāk distopijas un postapokaliptiskās pasaules tēli literatūrā un kinematogrāfijā parasti risinājās postkodolenerģijas laikmetā. Mūsdienās kodoliznīcināšana nešķiet nepieciešama pasaules katastrofai un iznīcināšanai, kādu mēs to zinām, lai gan ne tā, kā mēs to iedomājamies. , diez vai tas iznīcinās pasauli kā "Terminatorā", kur tas tika apvienots ar kodoliznīcināšanu. Ja viņa to darītu, viņa nebūtu superinteliģence, bet gan primitīvs spēks. Galu galā pat cilvēce vēl nav sapratusi postoša kodolkonflikta globālo scenāriju.

Īsta mašīnu apokalipse var būt daudz mazāk iespaidīga.

Kiberkarš, vīrusu uzbrukumi, sistēmu uzlaušana un izpirkuma programmatūra, izpirkuma programmatūra (2) paralizē un iznīcina mūsu pasauli ne mazāk efektīvi kā bumbas. Ja to mērogs paplašināsies, mēs varam nonākt pilnīga totāla kara fāzē, kurā kļūsim par mašīnu upuriem un ķīlniekiem, lai gan tām nav jārīkojas autonomi, un iespējams, ka aiz visa joprojām stāvēs cilvēki.

Pagājušajā vasarā ASV Kiberdrošības aģentūra (CISA) nosauca izspiedējvīrusu uzbrukumus par "redzamākajiem kiberdrošības draudiem".

CISA apgalvo, ka par daudzām darbībām, kurās kibernoziedznieks pārtver un šifrē personas vai organizācijas datus un pēc tam izspiež izpirkuma maksu, nekad netiek ziņots, jo upuris maksā kibernoziedzniekiem un nevēlas publiskot problēmas ar viņu nedrošajām sistēmām. Mikrolīmenī kibernoziedznieki bieži vien ir vērsti uz gados vecākiem cilvēkiem, kuriem ir grūtības atšķirt godīgu un negodīgu saturu internetā. Viņi to dara ar ļaunprātīgu programmatūru, kas ir iegulta e-pasta pielikumā vai uznirstošajā logā inficētā vietnē. Tajā pašā laikā pieaug uzbrukumi lielajām korporācijām, slimnīcām, valsts aģentūrām un valdībām.

Pēdējie bija īpaši mērķtiecīgi viņu rīcībā esošo sensitīvo datu un iespēju maksāt lielas izpirkuma maksas dēļ.

Daža informācija, piemēram, informācija par veselību, īpašniekam ir daudz vērtīgāka nekā cita, un tā var nopelnīt noziedzniekiem vairāk naudas. Zagļi var pārtvert vai ievietot karantīnā lielus pacientu aprūpei svarīgu klīnisko datu blokus, piemēram, testu rezultātus vai informāciju par zālēm. Kad uz spēles ir likta dzīvība, slimnīcā nav vietas sarunām. Viena no amerikāņu slimnīcām tika uz visiem laikiem slēgta pagājušā gada novembrī pēc augusta terorakta.

Laika gaitā tas, iespējams, tikai pasliktināsies. 2017. gadā ASV Iekšzemes drošības departaments paziņoja, ka kiberuzbrukumi var būt vērsti pret kritisko infrastruktūru, piemēram, ūdensapgādes uzņēmumiem. Un rīki, kas nepieciešami šādu darbību veikšanai, arvien vairāk ir pieejami mazākiem operatoriem, kuriem viņi pārdod tādus izspiedējvīrusu komplektus kā Cerber un Petya programmatūru un iekasē izpirkuma maksu pēc veiksmīgiem uzbrukumiem. Pamatojoties uz kibernoziegumiem kā pakalpojumu.

Bīstami traucējumi genomā

Viena no populārākajām distopijas tēmām ir ģenētika, DNS manipulācijas un cilvēku audzēšana – turklāt pareizi “ieprogrammēta” (autoritātes, korporācijas, militārpersonas).

Šo bažu mūsdienu iemiesojums ir popularizēšanas metode CRISPR gēnu rediģēšana (3). Galvenās bažas rada tajā ietvertie mehānismi. piespiežot vēlamās funkcijas nākamajās paaudzēs un to potenciāls izplatījās uz visiem iedzīvotājiem. Viens no šīs tehnikas izgudrotājiem, Dženifera Dudna, pat nesen aicināja noteikt moratoriju šādām "dīgļu līnijas" rediģēšanas metodēm potenciāli postošu seku dēļ.

Atgādināt, ka pirms dažiem mēnešiem ķīniešu zinātnieks Viņš Dzjankui ir plaši kritizēts par cilvēka embriju gēnu rediģēšanu, lai tos imunizētu pret AIDS vīrusu. Iemesls bija tāds, ka viņa veiktās izmaiņas varēja tikt nodotas no paaudzes paaudzē ar neparedzamām sekām.

Īpašas bažas rada tā sauktais d (gēnu pārrakstīšana, gēnu piedziņa), t.i. gēnu inženierijas mehānisms, kas kodē rediģēšanas sistēmu konkrētā indivīda DNS CRISPR/CAS9 genoms iestatot to rediģēt šo nevēlamā gēna variantu. Sakarā ar to pēcnācēji automātiski (bez ģenētiķu līdzdalības) pārraksta nevēlamo gēna variantu ar vēlamo.

Taču nevēlamu gēna variantu pēcnācējs var saņemt "dāvanā" no nemodificēta otra vecāka. Tātad gēnu dziņa pārtrauksim Mendeļa iedzimtības likumikas saka, ka puse no dominējošajiem gēniem nonāk viena vecāka pēcnācējiem. Īsāk sakot, tas galu galā novedīs pie attiecīgā gēna varianta izplatīšanās visā populācijā.

Stenfordas universitātes biologs Kristīna Smolke2016. gadā gēnu inženierijas komisijā brīdināja, ka šim mehānismam var būt kaitīgas un ārkārtējos gadījumos šausminošas sekas. Gēnu piedziņa spēj mutēt, pārejot pa paaudzēm un izraisīt ģenētiskus traucējumus, piemēram, hemofiliju vai hemofiliju.

Kā lasām rakstā, ko žurnālā Nature Reviews publicējuši Kalifornijas Universitātes Riversaidas pētnieki, pat ja dzinulis darbojas, kā paredzēts vienā organisma populācijā, viena un tā pati iedzimtā iezīme var būt kaitīga, ja tā kaut kādā veidā tiek ievadīta citā populācijā. . tāds pats izskats.

Pastāv arī risks, ka zinātnieki rada gēnu virzienus aiz slēgtām durvīm un bez salīdzinošās pārskatīšanas. Ja kāds tīši vai netīši ievada cilvēka genomā kaitīgu gēnu virzību, piemēram, tādu, kas iznīcina mūsu izturību pret gripu, tas pat varētu nozīmēt homo sapiens sugas galu...

Uzraudzības kapitālisms

Distopijas versija, ko bijušie zinātniskās fantastikas rakstnieki diez vai varēja iedomāties, ir interneta un jo īpaši sociālo mediju realitāte ar visām tās plaši aprakstītajām sekām, kas iznīcina cilvēku privātumu, attiecības un psiholoģisko integritāti.

Šī pasaule ir krāsota tikai jaunākās mākslas izrādēs, piemēram, to, ko varējām redzēt sērijā Black Mirror 2016. gada sērijā "The Diving" (4). Shoshana Zuboff, Hārvardas ekonomists, šo realitāti sauc par pilnībā atkarīgu no sociālās pašapliecināšanās un pilnībā "deprivatizētu". uzraudzības kapitālisms (), un tajā pašā laikā Google un Facebook vainagojums.

4. Kadrs no "Melnais spogulis" - sērija "Niršana"

Pēc Zubofa teiktā, Google ir pirmais izgudrotājs. Turklāt tā nepārtraukti paplašina uzraudzības aktivitātes, piemēram, izmantojot šķietami nevainīgus "gudrās pilsētas" projektus. Piemērs ir Google meitasuzņēmuma Sidewalk Labs projekts Pasaules inovatīvākā apkaime. mols Toronto.

Visus mazākos datus par krastmalas iemītnieku dzīvi, pārvietošanos un pat elpošanu Google plāno apkopot ar visuresošu monitoringa sensoru palīdzību.

Ir arī grūti izvēlēties interneta distopiju, par kuru Facebook nevar runāt. Iespējams, ka novērošanas kapitālismu ir izgudrojis Google, taču tieši Facebook to pacēla pilnīgi jaunā līmenī. Tas tika darīts, izmantojot sociālos un emocionālos vīrusu mehānismus un nežēlīgu vajāšanu pat tiem, kuri nav Cukerberga platformas lietotāji.

Apsargāts AI, iegremdēts virtuālajā realitātē, dzīvo kopā ar UBI

Pēc daudzu futūristu domām, pasaules un tehnoloģiju nākotni apzīmē pieci saīsinājumi - AI, AR, VR, BC un UBI.

"MT" lasītāji droši vien labi zina, kas tie ir un no kā sastāv pirmie trīs. Pazīstamais izrādās arī ceturtais, "BC", kad saprotam, par ko ir runa. Un piektais? UBD ir jēdziena saīsinājums, kas nozīmē "universālais pamatienākums » (5). Tas ir ik pa laikam postulēts sabiedrisks labums, ko saņems katrs no darba atbrīvotais cilvēks, attīstoties citām tehnoloģijām, īpaši AI.

5. Universālie pamata ienākumi – UBI

Šveice pērn šo ideju pat izvirzīja referendumam, taču tās pilsoņi to noraidīja, baidoties, ka garantētu ienākumu ieviešana izraisīs imigrantu plūdus. UBI rada arī vairākas citas briesmas, tostarp pastāvošās sociālās nevienlīdzības pastāvēšanas risks.

Katra no tehnoloģiskajām revolūcijām, kas slēpjas aiz akronīma (skat. arī:) - ja tas izplatās un attīstās paredzētajā virzienā - rada milzīgas sekas cilvēcei un mūsu pasaulei, tostarp, protams, milzīgu distopijas devu. Piemēram, tiek uzskatīts, ka tas varētu aizstāt četru gadu vēlēšanu ciklus un novest pie referendumiem par neskaitāmiem jautājumiem.

Savukārt virtuālā realitāte spēj "izslēgt" daļu cilvēces no reālās pasaules. Kā tas notika, piemēram, ar korejieti Jang Ji Sung, kura pēc meitas nāves 2016. gadā no neārstējamas slimības kopš tā laika ir satikusi savu iemiesojumu VR. Virtuālā telpa rada arī jauna veida problēmas vai faktiski pārnes visas vecās zināmās problēmas uz "jauno" pasauli vai pat uz daudzām citām pasaulēm. Zināmā mērā to jau varam redzēt sociālajos tīklos, kur gadās, ka pārāk maz like ierakstiem noved pie depresijas un pašnāvības.

Pravietiskas pasakas vairāk vai mazāk

Galu galā arī distopisko vīziju radīšanas vēsture māca būt piesardzīgiem, formulējot prognozes.

6. Filmas "Salas tīklā" vāks

Pagājušajā gadā tika filmēts Ridlija Skota slavenais zinātniskās fantastikas šedevrsandroid mednieks» Kopš 1982. Var runāt par daudzu konkrētu elementu piepildīšanos vai nē, taču neapstrīdams ir tas, ka svarīgākais pareģojums par saprātīgu, humanoīdu androīdu, daudzējādā ziņā pārāku par cilvēkiem, eksistenci mūsdienās vēl nav kļuvis par realitāti.

Mēs būtu gatavi paciest daudz vairāk pravietisku sitienu."Neirovēži»i., romāni Viljams Gibsons kopš 1984. gada, kurš popularizēja jēdzienu "kibertelpa".

Taču tajā desmitgadē parādījās mazliet mazāk zināma grāmata (mūsu valstī gandrīz pilnībā, jo tā netika tulkota poļu valodā), kas daudz precīzāk paredzēja šodienas laiku. Es runāju par romantikuSalas tīmeklī"(6) Brūss Stērlings kopš 1988. gada, iestatījums 2023. gadā. Tā piedāvā pasauli, kas ir iegremdēta kaut kas līdzīgs internetam, kas pazīstams kā "tīmeklis". To kontrolē lielas starptautiskas korporācijas. "Salas tīklā" ir ievērojamas ar to, ka tās nodrošina it kā bezmaksas interneta kontroli, uzraudzību un monopolizāciju.

Interesanti ir arī paredzēt kaujas operācijas pret tiešsaistes pirātiem/teroristiem, izmantojot bezpilota lidaparātus (dronus). Operatori tūkstošiem jūdžu attālumā ar drošiem galddatoriem — kā mēs to zinām? Grāmata nav par nebeidzamo konfliktu ar islāma terorismu, bet gan par cīņu pret spēkiem, kas iestājas pret globalizāciju. Islands in the Net pasaule ir arī piepildīta ar plaša patēriņa ierīcēm, kas līdzinās viedpulksteņiem un viediem sporta apaviem.

Ir vēl viena 80. gadu grāmata, kas, lai gan daži notikumi šķiet fantastiskāki, lieliski ilustrē mūsu mūsdienu distopiskās bailes. šis "Georadar programmatūra", stāsts Rūdijs Rūkersnoteikts 2020. gadā. Pasaule, sabiedrības stāvoklis un tās konflikti šķiet neticami līdzīgi tam, ar ko mēs šodien saskaramies. Ir arī roboti, kas pazīstami kā bopperi, kuri ir ieguvuši pašapziņu un aizbēguši uz pilsētām uz Mēness. Šis elements vēl nav īstenojies, bet mašīnu dumpis kļūst par pastāvīgu melno pareģojumu atturēšanos.

Arī mūsu laika vīzijas grāmatās daudzējādā ziņā ir pārsteidzoši precīzas. Oktāvija Batlere, īpaši iekšāLīdzības par Sējēju» (1993). Darbība sākas 2024. gadā Losandželosā un norisinās Kalifornijā, ko izpostījuši klimata pārmaiņu izraisītie plūdi, vētras un sausums. Vidusšķiras un strādnieku ģimenes satiekas slēgtās kopienās, mēģinot izbēgt no ārpasaules, izmantojot narkotikas un virtuālās realitātes komplektus. Rodas jaunas reliģijas un sazvērestības teorijas. Bēgļu karavāna dodas uz ziemeļiem, lai izvairītos no ekoloģiskā un sociālā sabrukuma. Pie varas nāk prezidents, kurš izmanto kampaņas saukli "Make America Great Again" (tas ir Donalda Trampa sauklis) ...

Batlera otrā grāmata "Līdzība par talantiemstāsta, kā jauna reliģiskā kulta pārstāvji pamet Zemi ar kosmosa kuģi, lai kolonizētu Alfa Kentauri.

***

Kāda ir mācība no šīs plašās aptaujas par prognozēm un vīzijām, kas izteiktas pirms vairākiem gadu desmitiem attiecībā uz mūsu ikdienas dzīvi?

Iespējams, fakts ir tāds, ka distopijas notiek bieži, bet visbiežāk tikai daļēji.