Konemurhaajan haamu jatkuu. Mihin presidentti Putin uskoo?

Sotilaallisten robottien kannattajat (1) väittävät, että automatisoidut aseet tarjoavat enemmän vaihtoehtoja ihmishenkien suojelemiseen. Koneet pääsevät lähemmäksi vihollista kuin sotilaat ja arvioivat uhan oikein. Ja tunteet joskus halvaantavat kyvyn tehdä oikeita päätöksiä.

Monet tappajarobottien käytön kannattajat uskovat vahvasti, että ne tekevät sodista vähemmän verisiä, koska vähemmän sotilaita kuolee. He huomauttavat, että vaikka robotit eivät tunne sääliä, ne ovat immuuneja negatiivisille ihmisten tunteille, kuten paniikkille, vihalle ja kostolle, jotka usein johtavat sotarikoksiin.

Ihmisoikeusaktivistit käyttävät myös argumenttia, että armeija on vähentänyt valtavasti siviiliuhreja viimeisen puolen vuosisadan aikana, ja armeijan robotisoituminen mahdollistaa mekanismin, jolla sodan lakeja voidaan valvoa tiukemmin. He väittävät, että koneista tulee eettisiä, kun ne varustetaan ohjelmistolla, joka pakottaa ne noudattamaan sodan lakeja.

Tietenkin valtava määrä ihmisiä, mukaan lukien erittäin kuuluisat, eivät jaa tätä mielipidettä vuosiin. Huhtikuussa 2013 käynnistettiin kansainvälinen kampanja iskulauseella (2). Sen puitteissa kansalaisjärjestöt vaativat autonomisten aseiden käytön täydellistä kieltämistä. Asiantuntijat useista maista istuivat ensimmäisen kerran keskustelemaan tästä aiheesta YK:n aseistariisuntakonferenssissa Genevessä toukokuussa 2014. Muutama kuukausi myöhemmin Human Rights Watchin ja Harvardin yliopiston tutkijoiden julkaisema raportti sanoi, että autonomiset olisivat liian vaarallisia - he valitsivat omat kohteensa ja tappoivat ihmisiä. Samaan aikaan ei ole kovin selvää, kenen pitäisi olla vastuussa.

2. Demonstraatio osana toimenpidettä "Stop killer robots"

Mitä pienten droonien parvi voikaan tehdä

Kiistat tappajaroboteista (ROU) ovat jatkuneet vuosia, eivätkä ne katoa. Viime kuukaudet ovat tuoneet mukanaan uusia yrityksiä pysäyttää armeijarobotit ja raporttien aallon tämän tyyppisistä uusista projekteista, joista joitain jopa testataan todellisissa taisteluolosuhteissa.

Marraskuussa 2017 esitettiin video tappavia minidroneparvia ., pelottavassa toiminnassa. Katsojat näkivät, että emme enää tarvitse Predatorsin heittämiä raskaita sotakoneita, tankkeja tai ohjuksia massiiviseen tappamiseen ja konekiväärillä. Pääohjaaja Stuart Russell, Berkeleyn tekoälyn professori, sanoo:

-

Viime kevät viisikymmentä professoria Maailman johtavat yliopistot ovat allekirjoittaneet vetoomuksen Korea Institute of Advanced Science and Technologylle (KAIST) ja sen kumppanille Hanwha Systemsille. he ilmoittivat, että he eivät tee yhteistyötä yliopiston kanssa ja isännöi KAIST-vieraita. Syynä oli molempien toimielinten toteuttama "itsenäisten aseiden" rakentaminen. KAIST kiisti tiedotusvälineiden tiedot.

Pian sen jälkeen Yhdysvalloissa yli 3 Googlen työntekijää protestoi yrityksen armeijan työtä vastaan. He olivat huolissaan siitä, että Google teki yhteistyötä hallituksen koodinimisen Maven-projektin kanssa, jonka tarkoituksena on käyttää tekoälyä esineiden ja kasvojen tunnistamiseen sotilasdroone-videoissa. Yrityksen johdon mukaan Mavenin tavoitteena on pelastaa ihmishenkiä ja pelastaa ihmisiä ikävältä työltä, ei aggressiota. Mielenosoittajat eivät olleet vakuuttuneita.

Taistelun seuraava osa oli julistus tekoälyn asiantuntijoita, sis. työskentelee Google-projektissa ja Elon Musk. He lupaavat olla kehittämättä robotteja. He myös kehottavat hallituksia tehostamaan ponnisteluja näiden aseiden sääntelemiseksi ja rajoittamiseksi.

Lausunnossa sanotaan osittain, että "päätöstä ihmishengen ottamisesta ei saa koskaan tehdä koneella". Vaikka maailman armeijat on varustettu monilla automaattisilla laitteilla, joilla on joskus suuri autonomia, monet asiantuntijat pelkäävät, että tulevaisuudessa tästä tekniikasta voi tulla täysin autonominen, mikä mahdollistaa tappamisen ilman ihmisoperaattorin ja komentajan osallistumista.

Asiantuntijat varoittavat myös, että autonomiset tappamiskoneet voivat olla jopa vaarallisempia kuin "ydin-, kemialliset ja biologiset aseet", koska ne voivat helposti riistäytyä hallinnasta. Kaikkiaan viime vuoden heinäkuussa Future of Life Instituten (FGI) alaisen kirjeen allekirjoitti 170 organisaatiota ja 2464 2019 henkilöä. Vuoden XNUMX alkukuukausina ryhmä FLI:hen sidoksissa olevia lääketieteen tutkijoita vaati jälleen uutta kirjettä, joka kieltää tekoälyn (AI) ohjaamien aseiden kehittämisen.

Viime vuoden elokuussa pidetty YK:n kokous Gniewossa sotilaallisten "tappajarobottien" mahdollisesta laillisesta sääntelystä päättyi menestykseen... koneita. Ryhmä maita, mukaan lukien Yhdysvallat, Venäjä ja Israel, esti jatkotyön näiden aseiden kansainvälisen kiellon käyttöönottamiseksi (luonnos tiettyjen tavanomaisten aseiden käytön kieltämistä tai rajoittamista koskevaksi yleissopimukseksi, CCW). Ei ole sattumaa, että nämä maat ovat tunnettuja itsenäisten ja robottiaseiden kehittyneiden järjestelmien kehittämisestä.

Venäjä keskittyy taisteluroboteihin

Presidentti Vladimir Putinin sanotaan usein sanoneen armeijan tekoälyjärjestelmistä ja taisteluroboteista:

-.

puhuu avoimesti autonomisten aseiden kehittämisestä. Sen asevoimien esikunnan päällikkö kenraali Valeri Gerasimov kertoi äskettäin sotilasuutistoimistolle Interfax-AVN, että robottien käyttö tulee olemaan yksi tulevien sotien pääpiirteistä. Hän lisäsi, että Venäjä yrittää täysin automatisoida taistelukenttä. Samanlaisia ​​kommentteja esittivät myös varapääministeri Dmitri Rogozin ja puolustusministeri Sergei Shoigu. Liittoneuvoston puolustus- ja turvallisuuskomitean puheenjohtaja Viktor Bondarev sanoi, että Venäjä pyrkii kehittymään Rojun teknologiatTämän ansiosta drone-verkot voisivat toimia yhtenä kokonaisuutena.

Tämä ei ole yllättävää, jos muistamme, että ensimmäiset teletankit kehitettiin Neuvostoliitossa 30-luvulla. Niitä käytettiin toisen maailmansodan alussa. Nykyään myös Venäjä luo tankkirobotit tulla yhä autonomisemmaksi.

Putinin valtio lähetti hiljattain omansa Syyriaan Miehittämätön taisteluajoneuvo Uran-9 (3). laite menetti yhteyden maajohtopisteisiin, jousijärjestelmässä oli ongelmia ja sen aseet eivät toimineet täydellisesti eivätkä osuneet liikkuviin kohteisiin. Se ei kuulosta kovin vakavalta, mutta monien mielestä Syyrian pyyhintä on hyvä taistelutesti, jonka avulla venäläiset voivat parantaa konetta.

Roscosmos on hyväksynyt alustavan suunnitelman kahden robotin lähettämisestä kansainväliselle avaruusasemalle tämän vuoden elokuuhun mennessä. Fedor (4) miehittämättömässä unionissa. Ei niinkuin kuorma, mutta. Kuten elokuvassa RoboCop, Fedor käyttää asetta ja osoittaa tappavaa ampumistaitoa ammuntaharjoituksissa.

Kysymys kuuluu, miksi avaruudessa oleva robotti olisi aseistettu? Epäillään, ettei kyse ole vain maasovelluksista. Samaan aikaan maan päällä venäläinen asevalmistaja Kalashnikov esitti visualisoinnin robotti Igorekjoka, vaikka se aiheutti paljon naurua, osoittaa, että yritys työskentelee vakavasti autonomisten taisteluajoneuvojen parissa. Heinäkuussa 2018 Kalashnikov ilmoitti rakentavansa asetta, jolla hän tekee "ammu tai älä ammu" -päätöksiä.

Näihin tietoihin on lisättävä raportit, joiden mukaan venäläinen aseseppä Digtyarev kehitti pienen autonominen säiliö Nerekht joka voi liikkua hiljaa kohti kohdetta yksin ja sitten räjähtää voimakkaalla voimalla tuhotakseen muita tai kokonaisia ​​rakennuksia. Yhtä hyvin kuin Tankki T14 armeija , Venäjän asevoimien ylpeys, on suunniteltu mahdolliseen kauko-ohjaukseen ja miehittämättömään ajoon. Sputnik väittää, että venäläiset sotilasinsinöörit työskentelevät tehdäkseen T-14:stä täysin autonomisen panssaroidun ajoneuvon.

Vastaväitedirektiivi

Yhdysvaltain armeija itse on asettanut melko selkeän rajan aseidensa autonomialle. Yhdysvaltain puolustusministeriö julkaisi vuonna 2012 direktiivin 3000.09, jonka mukaan ihmisillä tulee olla oikeus vastustaa aseistettujen robottien toimintaa. (vaikkakin poikkeuksia saattaa olla). Tämä direktiivi on edelleen voimassa. Pentagonin nykyinen politiikka on, että ratkaiseva tekijä aseiden käytössä tulee aina olla henkilö, ja että tällaisen tuomion tulee olla. noudattaa sodan lakeja.

Vaikka amerikkalaiset ovat käyttäneet lentäviä, Predatoria, Reaperia ja monia muita superkoneita vuosikymmeniä, ne eivät olleet eivätkä ole itsenäisiä malleja. Operaattorit ohjaavat niitä etänä, joskus useiden tuhansien kilometrien etäisyydeltä. Kiihkeä keskustelu tämän tyyppisten koneiden autonomiasta alkoi prototyypin ensiesittelystä. drone X-47B (5), joka ei vain lentänyt itsenäisesti, vaan saattoi myös nousta lentotukialusta, laskeutua sen päälle ja tankata ilmassa. Tarkoitus on myös ampua tai pommittaa ilman ihmisen väliintuloa. Projekti on kuitenkin edelleen testaus- ja tarkistusvaiheessa.

5. Miehittämättömän X-47B:n testit amerikkalaisella lentotukialuksella

Vuonna 2003 puolustusministeriö alkoi kokeilla pientä panssarimaista robottia. SPOES varustettu konekiväärillä. Vuonna 2007 hänet lähetettiin Irakiin. ohjelma kuitenkin päättyi, kun robotti alkoi käyttäytyä epäsäännöllisesti ja liikuttaa kivääriään epäsäännöllisesti. Tämän seurauksena Yhdysvaltain armeija luopui aseistettujen maarobottien tutkimisesta useiksi vuosiksi.

Samaan aikaan Yhdysvaltain armeija on lisännyt operaatiomenojaan vuoden 20 2014 miljoonasta dollarista 156 miljoonaan dollariin vuonna 2018. Tämä budjetti on jo noussut 2019 miljoonaan dollariin vuonna 327. Tämä on 1823 prosentin kumulatiivinen kasvu vain muutamassa vuodessa. Asiantuntijat sanovat, että jo vuonna 2025 Yhdysvaltain armeijalla voi olla taistelukenttä enemmän robottisotilaita kuin ihmisiä.

Viime aikoina Yhdysvaltain armeija on aiheuttanut ja ilmoittanut paljon kiistaa ATLAS-projekti () - Automaattinen. Tiedotusvälineissä tätä pidettiin edellä mainitun direktiivin 3000.09 vastaisena. Yhdysvaltain armeija kuitenkin kiistää ja vakuuttaa, että henkilön sulkeminen päätöksentekosyklin ulkopuolelle ei tule kysymykseen.

Tekoäly tunnistaa hait ja siviilit

Itsenäisten aseiden puolustajilla on kuitenkin uusia argumentteja. prof. Ronald Arkin, Georgia Institute of Technologyn robotiikka, toteaa julkaisuissaan, että Nykyaikaisessa sodankäynnissä älykkäät aseet ovat välttämättömiä siviiliuhrien välttämiseksi, koska koneoppimistekniikat voivat tehokkaasti auttaa erottamaan toisistaan ​​taistelijat ja siviilit sekä tärkeät ja merkityksettömät kohteet.

Esimerkki sellaisista tekoälytaidoista on partioiminen Australian rannoilla. droonit Little Rippervarustettu Sydneyn teknillisen yliopiston kehittämällä SharkSpotter-järjestelmällä. Tämä järjestelmä etsii vedestä automaattisesti haita ja varoittaa käyttäjää, kun se näkee jotain vaarallista. (6) Se voi tunnistaa ihmiset, delfiinit, veneet, surffilaudat ja vedessä olevat esineet erottaakseen ne haista. Se voi havaita ja tunnistaa noin kuusitoista eri lajia suurella tarkkuudella.

6. Tunnistetut hait SharkSpotter-järjestelmässä

Nämä edistyneet koneoppimismenetelmät lisäävät ilmatiedustelun tarkkuutta yli 90 %. Vertailun vuoksi samassa tilanteessa oleva ihminen tunnistaa tarkasti 20-30 % ilmakuvien kohteista. Lisäksi henkilö tarkistaa edelleen henkilöllisyyden ennen hälytystä.

Taistelukentällä operaattori näkee kuvan ruudulta tuskin päättelee, ovatko maassa olevat ihmiset hävittäjiä AK-47 kädessään vai esimerkiksi maanviljelijöitä haukien kanssa. Arkin huomauttaa, että ihmisillä on taipumus "nähdä mitä haluavat nähdä", etenkin stressaavissa tilanteissa. Tämä vaikutus vaikutti siihen, että USS Vincennes pudotti vahingossa iranilaisen lentokoneen vuonna 1987. Tietenkin hänen mielestään tekoälyohjatut aseet olisivat parempia kuin nykyiset "älypommit", jotka eivät ole todella tuntevia. Viime elokuussa Saudi-Arabian laserohjattu ohjus osui bussiin, joka oli täynnä koululaisia ​​Jemenissä ja tappoi neljäkymmentä lasta.

"Jos koulubussi on asianmukaisesti merkitty, sen tunnistaminen autonomisessa järjestelmässä voi olla suhteellisen helppoa", Arkin väittää Popular Mechanicsissa.

Nämä väitteet eivät kuitenkaan näytä vakuuttavan kampanjoita automaattisia tappajia vastaan. Tappajarobottien uhan lisäksi on otettava huomioon toinen tärkeä seikka. Jopa "hyvä" ja "huomaava" järjestelmä voidaan hakkeroida ja ottaa haltuunsa erittäin pahat ihmiset. Sitten kaikki sotilasvarusteita puolustavat argumentit menettävät voimansa.