Kauhujen kabinetti

Koneiden nousu ja tekoälyn vallankaappaus. Täydellisen valvonnan ja sosiaalisen kontrollin maailma. Ydinsota ja sivilisaation rappeutuminen. Monien vuosia sitten piirrettyjen synkän tulevaisuuden visioiden olisi pitänyt tapahtua tänään. Ja sillä välin katsomme taaksepäin ja näyttää siltä, ​​​​että he eivät olleet siellä. Oletko varma?

Siellä on melko stereotyyppinen repertuaari suosittuja dystopian profetiat (musta tulevaisuuden visiosta). Yleisimpien luonnonympäristön ja resurssien tuhoamiseen liittyvien tekniikoiden lisäksi uskotaan, että uusimmat teknologiat vahingoittavat ihmisten välistä viestintää, ihmissuhteita ja yhteiskuntaa.

Virtuaalitila tulee petollisesti korvaamaan todellisen osallistumisen maailmaan. Muut dystopistiset näkemykset näkevät teknologisen kehityksen keinona lisätä sosiaalista eriarvoisuutta, keskittää valtaa ja vaurautta pienryhmien käsiin. Modernin teknologian korkeat vaatimukset keskittävät tiedot ja taidot kapeisiin etuoikeutettujen henkilöiden piiriin, lisäävät ihmisten valvontaa ja tuhoavat yksityisyyden.

Monien futuristien mukaan korkeampi tuottavuus ja näkyvämpi valinnanvara voivat heikentää ihmisten elämänlaatua aiheuttamalla stressiä, vaarantamalla työpaikkoja ja tekemällä meistä entistä materialistisempia maailman suhteen.

Yksi kuuluisista teknologisista "dystopioista", James Gleick, antaa näennäisen triviaalin esimerkin television kaukosäätimestä klassisena keksinnönä, joka ei ratkaise yhtäkään merkittävää ongelmaa ja synnyttää monia uusia. Gleick lainaten teknistä historioitsijaa Edward Tenner, kirjoittaa, että kanavanvaihdon mahdollisuus ja yksinkertaisuus kaukosäätimellä ensisijaisesti häiritsee katsojaa yhä enemmän.

Tyytyväisyyden sijaan ihmiset ovat yhä tyytymättömiä katsomiinsa kanaviin. Tarpeiden täyttämisen sijaan on loputtoman pettymyksen tunne.

Pitääkö autot meidät varattavissa?

Pystymmekö hallitsemaan tätä asiaa, joka on väistämätön ja todennäköisesti tulossa pian? Yli tekoälyn? Jos näin on, kuten monet dystopistiset visiot julistavat, niin ei. (1).

On vaikea hallita jotain, joka on monta kertaa meitä vahvempi. tehtävien määrän lisääntyessä. Kaksikymmentä vuotta sitten kukaan ei olisi uskonut voivansa lukea tunteita ihmisen äänestä ja kasvoista paljon tarkemmin kuin me itse pystymme tekemään sen. Samaan aikaan tällä hetkellä koulutetut algoritmit pystyvät jo tekemään tämän, analysoimalla ilmeitä, sointia ja tapaamme puhua.

Tietokoneet piirtävät kuvia, säveltävät musiikkia, ja yksi niistä voitti jopa runokilpailun Japanissa. He ovat lyöneet ihmisiä shakissa pitkään ja oppineet pelin tyhjästä. Sama koskee paljon monimutkaisempaa Go-peliä.

se noudattaa yhä nopeamman kiihtyvyyden lakeja. Se, mitä tekoäly on saavuttanut – ihmisten avulla – viimeisten vuosikymmenten aikana kaksinkertaistuu seuraavien vuosien, ehkä vain kuukausien aikana, ja sitten kestää vain viikkoja, päiviä, sekunteja…

Kuten äskettäin kävi ilmi, älypuhelimissa tai lentokentillä kaikkialla olevista kameroista otettujen valokuvien analysoimiseen käytetyt algoritmit voivat paitsi tunnistaa jonkun eri kehyksistä, myös määrittää yksinomaan intiimejä psykologisia piirteitä. Sanoa, että tämä on valtava tietosuojariski, on kuin sanoisi mitään. Tässä ei ole kyse yksinkertaisesta valvonnasta, jokaisen askeleen seuraamisesta, vaan tiedoista, jotka syntyvät ihmisen ulkonäön seurauksena, hänen piilotetuista haluistaan ​​ja henkilökohtaisista mieltymyksistään. 

Algoritmit voivat oppia tämän suhteellisen nopeasti analysoimalla satoja tuhansia tapauksia, mikä on paljon enemmän kuin älykkäinkään ihminen voi nähdä elämänsä aikana. Aseistettuna näin runsaalla kokemuksella he pystyvät skannaamaan ihmisen tarkemmin kuin kokenein psykologi, kehonkieli- ja eleanalyytikko.

Todellinen hyytävä dystopia ei siis ole se, että tietokoneet pelaavat shakkia tai käyvät meitä vastaan, vaan se, että ne näkevät sielumme syvemmälle kuin kukaan muu kuin me itse, täynnä kieltoja ja esteitä näiden tai muiden taipumusten tunnistamisessa.

Elon Musk uskoo, että kun tekoälyjärjestelmät alkavat oppia ja järkeillä jatkuvasti kasvavassa mittakaavassa, "älykkyys" voi kehittyä jossain syvälle verkkokerroksiin, meille huomaamaton.

Vuonna 2016 julkaistun amerikkalaisen tutkimuksen mukaan tekoälyllä on seuraavien 45 vuoden aikana 50 prosentin mahdollisuus ohittaa ihmiset kaikissa tehtävissä. Ennustajat sanovat, että kyllä, tekoäly ratkaisee syöpäongelman, parantaa ja nopeuttaa taloutta, tarjoaa viihdettä, parantaa elämän laatua ja kestoa, kouluttaa meidät niin, ettemme voi elää ilman sitä, mutta on mahdollista, että jonain päivänä ilman viha, vain loogisen laskelman perusteella, se vain poistaa meidät. Ehkä se ei toimi fyysisesti, koska jokaisessa järjestelmässä kannattaa tallentaa, arkistoida ja tallentaa resursseja, jotka "saattavat joskus olla hyödyllisiä". Kyllä, tämä on tekoälyn resurssi. Suojattu työvoima?

Optimistit lohduttavat itseään sillä, että aina on mahdollisuus vetää pistoke irti pistorasiasta. Kaikki ei kuitenkaan ole niin yksinkertaista. Ihmiselämä on jo tullut niin riippuvaiseksi tietokoneista, että radikaali askel niitä vastaan ​​olisi meille katastrofi.

Loppujen lopuksi luomme yhä enemmän tekoälyyn perustuvia päätöksentekojärjestelmiä, jotka antavat heille oikeuden lentää lentokoneita, asettaa korkoja, ajaa voimalaitoksia – tiedämme, että algoritmit tekevät sen paljon paremmin kuin me. Samaan aikaan emme täysin ymmärrä, kuinka nämä digitaaliset päätökset tehdään.

Pelätään, että superälykkäät komentojärjestelmät, kuten "Reduce Congestion", voivat saada heidät päättelemään, että ainoa tehokas tapa saada työ tehtyä on... vähentää väestöä kolmanneksella tai jopa puolella.

Kyllä, koneelle kannattaa antaa tärkein ohje kuten ”Ensinnäkin pelasta ihmishenki!”. Kuitenkin, kuka tietää, johtaako digitaalinen logiikka sitten ihmiskunnan vankeuteen vai navetan alle, jossa saatamme olla turvassa, mutta ei todellakaan vapaita.

Tietoverkkorikollisuus palveluna

Aiemmin kirjallisuuden ja elokuvan dystopiat ja kuvat post-apokalyptisesta maailmasta sijoittuivat yleensä ydinvoiman jälkeiseen aikaan. Nykyään ydintuho ei vaikuta tarpeelliselta tuntemamme maailman katastrofille ja tuholle, vaikkakaan ei sillä tavalla kuin sen kuvittelemme. , se ei todennäköisesti tuhoa maailmaa kuten "Terminaattorissa", jossa se yhdistettiin ydintuhoon. Jos hän tekisi, hän ei olisi superäly, vaan primitiivinen voima. Loppujen lopuksi edes ihmiskunta ei ole vielä ymmärtänyt tuhoisan ydinkonfliktin globaalia skenaariota.

Todellinen kone-apokalypsi voi olla paljon vähemmän vaikuttava.

Kybersodankäynti, virushyökkäykset, järjestelmän hakkerointi ja kiristysohjelmat, kiristysohjelmat (2) lamauttavat ja tuhoavat maailmamme yhtä tehokkaasti kuin pommit. Jos niiden mittakaava laajenee, voimme siirtyä täydellisen kaiken sodan vaiheeseen, jossa meistä tulee koneiden uhreja ja panttivankeja, vaikka niiden ei tarvitse toimia itsenäisesti, ja on mahdollista, että ihmiset ovat edelleen kaiken takana.

Viime kesänä Yhdysvaltain kyberturvallisuus- ja infrastruktuuriturvavirasto (CISA) nimesi kiristysohjelmahyökkäykset "näkyviksi kyberturvallisuusuhkaksi".

CISA väittää, että monista toimista, joissa kyberrikollinen sieppaa ja salaa henkilön tai organisaation tiedot ja sitten kiristää lunnaita, ei koskaan ilmoiteta, koska uhri maksaa kyberrikollisille eikä ole halukas julkistamaan heidän turvattomien järjestelmiensä ongelmia. Mikrotasolla kyberrikolliset kohtaavat usein vanhuksia, joilla on vaikeuksia erottaa Internetin rehellinen ja epärehellinen sisältö. He tekevät tämän haittaohjelmilla, jotka on upotettu sähköpostin liitteeseen tai tartunnan saaneen verkkosivuston ponnahdusikkunaan. Samaan aikaan hyökkäykset suuria yrityksiä, sairaaloita, valtion virastoja ja hallituksia vastaan ​​ovat lisääntymässä.

Jälkimmäiset olivat erityisen kohteena heidän hallussaan olevien arkaluontoisten tietojen ja kyvyn maksaa suuria lunnaita vuoksi.

Jotkut tiedot, kuten terveystiedot, ovat omistajalle paljon arvokkaampia kuin toiset ja voivat ansaita rikollisille enemmän rahaa. Varkaat voivat siepata tai asettaa karanteeniin suuria potilaan hoidon kannalta tärkeitä kliinisiä tietoja, kuten testituloksia tai lääketietoja. Kun henki on vaakalaudalla, sairaalassa ei ole tilaa neuvotteluille. Yksi amerikkalaisista sairaaloista suljettiin pysyvästi viime vuoden marraskuussa elokuun terrori-iskun jälkeen.

Luultavasti se vain pahenee ajan myötä. Vuonna 2017 Yhdysvaltain sisäisen turvallisuuden ministeriö ilmoitti, että kyberhyökkäykset voivat kohdistua kriittiseen infrastruktuuriin, kuten vesilaitoksiin. Ja tällaisten toimien suorittamiseen tarvittavat työkalut ovat yhä enemmän pienempien operaattoreiden saatavilla, joille ne myyvät kiristysohjelmapaketteja, kuten Cerber- ja Petya-ohjelmistoja, ja veloittavat lunastusmaksun onnistuneiden hyökkäysten jälkeen. Perustuu kyberrikollisuuteen palveluna.

Vaarallinen häiriö genomissa

Yksi dystopian suosituimmista aiheista on genetiikka, DNA-manipulaatio ja ihmisten jalostus - lisäksi oikein "ohjelmoitu" (viranomaiset, yritykset, armeija).

Näiden ahdistusten nykyaikainen ilmentymä on popularisointimenetelmä CRISPR-geenin muokkaus (3). Sen sisältämät mekanismit ovat ensisijaisesti huolestuttavia. pakottaa halutut toiminnot myöhemmillä sukupolvilla ja niiden potentiaali levisi koko väestöön. Yksi tämän tekniikan keksijöistä, Jennifer Doudna, vaati jopa äskettäin keskeyttämään tällaiset "idut" muokkaustekniikat mahdollisesti tuhoisten seurausten vuoksi.

Muista, että muutama kuukausi sitten, kiinalainen tiedemies Hän Jiankui on kritisoitu laajasti ihmisalkioiden geenien muokkaamisesta niiden immunisoimiseksi AIDS-virusta vastaan. Syynä oli se, että hänen tekemänsä muutokset saattoivat siirtyä sukupolvelta toiselle arvaamattomilla seurauksilla.

Erityisen huolestuttavia ovat ns. d (geenin uudelleenkirjoitus, geeniajo), ts. geneettisesti muokattu mekanismi, joka koodaa muokkausjärjestelmän tietyn yksilön DNA:ssa CRISPR/CAS9-genomi asettamalla sen muokkaamaan tätä ei-toivotun geenin varianttia. Tästä johtuen jälkeläiset automaattisesti (ilman geneetikkojen osallistumista) korvaavat ei-toivotun geenivariantin halutulla.

Jälkeläiset voivat kuitenkin saada ei-toivotun geenivariantin "lahjaksi" muuttamattomalta toiselta vanhemmalta. Joten geenivoima murretaan Mendelin perinnöllisyyden laitjotka sanovat, että puolet hallitsevista geeneistä menee toisen vanhemman jälkeläisille. Lyhyesti sanottuna tämä johtaa lopulta kyseisen geenivariantin leviämiseen koko väestöön.

Biologi Stanfordin yliopistossa Christina Smolke, geenitekniikan paneelissa vuonna 2016, varoitti, että tällä mekanismilla voi olla haitallisia ja äärimmäisissä tapauksissa kauhistuttavia seurauksia. Geeniasema pystyy mutatoitumaan sukupolvien välillä ja aiheuttamaan geneettisiä häiriöitä, kuten hemofiliaa tai hemofiliaa.

Kuten voimme lukea Kalifornian yliopiston Riversiden tutkijoiden Nature Reviews -lehdessä julkaisemasta artikkelista, vaikka ajaminen toimisi tarkoitetulla tavalla jossakin organismin populaatiossa, sama perinnöllinen piirre voi olla haitallinen, jos se jollakin tavalla joutuu toiseen populaatioon. . sama ilme.

On myös olemassa vaara, että tutkijat luovat geeniajoja suljettujen ovien takana ja ilman vertaisarviointia. Jos joku tahallaan tai tahattomasti tuo ihmisen genomiin haitallisen geeniajatuksen, kuten sellaisen, joka tuhoaa vastustuskykymme influenssaa vastaan, se voi jopa merkitä homo sapiens -lajin loppua...

Valvontakapitalismi

Versio dystopiasta, jota entiset tieteiskirjailijat tuskin olisivat voineet kuvitella, on Internetin ja erityisesti sosiaalisen median todellisuus kaikilla sen laajasti kuvatuilla seurauksilla, jotka tuhoavat ihmisten yksityisyyden, suhteet ja psyykkisen koskemattomuuden.

Tämä maailma on maalattu vain uudemmissa taideesityksissä, kuten Black Mirror -sarjassa vuoden 2016 jaksossa "The Diving" (4). Shoshana Zuboff, Harvardin taloustieteilijä, kutsuu tätä todellisuutta täysin riippuvaiseksi yhteiskunnallisesta itsevakuutuksesta ja täysin "riistiseksi". Valvontakapitalismi (), ja samalla Googlen ja Facebookin kruunaustyö.

4. Kohtaus "Black Mirror" -jaksosta "Diving"

Zuboffin mukaan Google on ensimmäinen keksijä. Lisäksi se laajentaa jatkuvasti valvontatoimintaansa esimerkiksi viattomalta vaikuttavien älykaupunkiprojektien kautta. Esimerkkinä on Googlen tytäryhtiön Sidewalk Labsin World's Innovative Neighborhood -projekti. laituri Torontossa.

Google aikoo kerätä kaikki pienimmät tiedot ranta-alueen asukkaiden elämästä, liikkumisesta ja jopa hengityksestä kaikkialla olevien valvonta-anturien avulla.

On myös vaikea valita Internetin dystopiaa, joka ei tule kysymykseen Facebookissa. Valvontakapitalismin on saattanut keksiä Google, mutta Facebook vei sen kokonaan uudelle tasolle. Tämä tehtiin sosiaalisten ja emotionaalisten virusmekanismien ja armottoman vainon avulla jopa niitä kohtaan, jotka eivät ole Zuckerberg-alustan käyttäjiä.

Vartioitu tekoäly, uppoutunut virtuaalitodellisuuteen ja elää UBI:n kanssa

Monien futuristien mukaan maailman ja teknologian tulevaisuus on merkitty viidellä lyhenteellä - AI, AR, VR, BC ja UBI.

"MT":n lukijat tietävät todennäköisesti hyvin, mitä ne ovat ja mistä kolme ensimmäistä koostuu. Tuttu osoittautuu myös neljänneksi, "BC", kun ymmärrämme mistä on kyse. Ja viides? UBD on lyhenne käsitteestä, joka tarkoittaa "yleinen perustulo » (5). Tämä on aika ajoin oletettu julkinen etu, joka annetaan jokaiselle työstä vapautuneelle muiden teknologioiden, erityisesti tekoälyn, kehittyessä.

5. Universal Basic Income - UBI

Sveitsi jopa äänesti ideasta viime vuonna, mutta sen kansalaiset hylkäsivät sen peläten, että tulotakuun käyttöönotto johtaisi maahanmuuttajien tulviin. UBI sisältää myös monia muita vaaroja, kuten olemassa olevan sosiaalisen eriarvoisuuden jatkumisen riskin.

Jokaisella lyhenteen takana olevilla teknologisilla vallankumouksilla (katso myös:) - jos se leviää ja kehittyy odotettuun suuntaan - on valtavat seuraukset ihmiskunnalle ja maailmallemme, mukaan lukien tietysti valtava annos dystopiaa. Sen uskotaan esimerkiksi korvaavan neljän vuoden vaalisyklit ja johtavan kansanäänestyksiin lukemattomista asioista.

Virtuaalitodellisuus puolestaan ​​pystyy "sulkemaan pois" osan ihmiskunnasta todellisesta maailmasta. Kuten kävi esimerkiksi korealaiselle Jang Ji-sunille, joka tyttärensä kuoleman jälkeen vuonna 2016 parantumattomaan sairauteen on sittemmin tavannut avatarinsa VR:ssä. Virtuaalitila luo myös uudenlaisia ​​ongelmia, tai itse asiassa siirtää kaikki vanhat tunnetut ongelmat "uuteen" maailmaan tai jopa moniin muihin maailmoihin. Jossain määrin tämä näkyy jo sosiaalisissa verkostoissa, joissa tapahtuu niin, että liian vähän tykkäyksiä viesteissä johtaa masennukseen ja itsemurhaan.

Enemmän tai vähemmän profeetallisia tarinoita

Loppujen lopuksi dystopisten visioiden luomisen historia opettaa myös varovaisuutta ennusteiden muotoilussa.

6. Kansi "Islands in the Net"

Viime vuonna kuvattiin Ridley Scottin kuuluisa sci-fi-mestariteosandroid metsästäjä» Vuodesta 1982. On mahdollista keskustella monien tiettyjen elementtien täyttymisestä tai ei, mutta on kiistatonta, että tärkein ennustus älykkäiden, monin tavoin ihmisiä parempien humanoidiandroidien olemassaolosta meidän aikanamme ei ole vielä toteutunut.

Olisimme valmiita sietämään paljon enemmän profeetallisia osumia."Hermosyövät »eli romaaneja William Gibson vuodesta 1984 lähtien, joka popularisoi "kyberavaruuden" käsitettä.

Sillä vuosikymmenellä ilmestyi kuitenkin hieman vähemmän tunnettu kirja (maassamme melkein kokonaan, koska sitä ei käännetty puolaksi), joka ennusti nykyajan paljon tarkemmin. Puhun romantiikastaSaaret verkossa"(6) Bruce Sterling vuodesta 1988, sijoittuu vuoteen 2023. Se esittelee maailmaa, joka on upotettu Internetin kaltaiseen maailmaan, joka tunnetaan nimellä "verkko". Sitä hallitsevat suuret kansainväliset yhtiöt. "Islands on the Net" ovat merkittäviä siinä mielessä, että ne tarjoavat oletettavasti ilmaisen Internetin hallinnan, valvonnan ja monopolisoinnin.

On myös mielenkiintoista ennakoida sotilaallisia operaatioita, jotka suoritetaan miehittämättömillä ilma-aluksilla (droneilla) online-merirosvoja/terroristeja vastaan. Operaattorit tuhansien kilometrien päässä suojatuilla pöytäkoneilla – mistä tiedämme sen? Kirja ei kerro loputtomasta konfliktista islamilaisen terrorismin kanssa, vaan taistelusta globalisaatiota vastustavia voimia vastaan. Islands in the Netin maailma on myös täynnä kuluttajalaitteita, jotka näyttävät paljon älykelloilta ja älyurheilujalkineilta.

On toinenkin kirja 80-luvulta, joka, vaikka jotkut tapahtumat näyttävätkin fantastisemmilta, tekee hyvää työtä havainnollistaessaan nykyajan dystopisia pelkoamme. Tämä "Georadar ohjelmisto", Historia Rudy Rookerasetettu vuonna 2020. Maailma, yhteiskunnan tila ja sen konfliktit näyttävät uskomattoman samanlaisilta kuin nykypäivän. On myös robotteja, jotka tunnetaan nimellä boppers, jotka ovat saaneet itsetietoisuuden ja paenneet kuun kaupunkeihin. Tämä elementti ei ole vielä toteutunut, mutta koneiden kapinasta on tulossa jatkuva musta ennustus.

Aikamme visiot kirjoissa ovat myös monella tapaa hämmästyttävän tarkkoja. Octavia Butler, erityisestiVertaukset kylväjästä» (1993). Toiminta alkaa vuonna 2024 Los Angelesista ja tapahtuu Kaliforniassa, jota tuhoavat ilmastonmuutoksen aiheuttamat tulvat, myrskyt ja kuivuus. Keski- ja työväenluokan perheet kohtaavat suljetuissa yhteisöissä yrittäessään paeta ulkomaailmasta riippuvuutta aiheuttavien huumeiden ja virtuaalitodellisuussarjojen avulla. Uusia uskontoja ja salaliittoteorioita syntyy. Pakolaiskaravaani suuntaa pohjoiseen välttääkseen ekologista ja sosiaalista romahdusta. Presidentti tulee valtaan, joka käyttää kampanjan iskulausetta "Make America Great Again" (tämä on Donald Trumpin iskulause) ...

Butlerin toinen kirja,Vertaus lahjakkuuksistakertoo, kuinka uuden uskonnollisen kultin jäsenet poistuvat Maasta avaruusaluksella kolonisoidakseen Alpha Centaurin.

***

Mikä on opetus tästä laajasta selvityksestä, joka koskee useita vuosikymmeniä sitten tehtyjä ennusteita ja visioita jokapäiväisestä elämästämme?

Tosiasia on luultavasti se, että dystopiaa tapahtuu usein, mutta useimmiten vain osittain.