Kerro kissanpennullesi, mitä ajattelet sisältä – musta laatikko -efekti

Se, että edistyneet tekoälyalgoritmit ovat kuin musta laatikko (1), joka heittää tuloksen pois paljastamatta, miten se syntyi, huolestuttaa joitain ja järkyttää muita.

Vuonna 2015 New Yorkin Mount Sinai -sairaalan tutkimusryhmää pyydettiin käyttämään tätä menetelmää laajan paikallisten potilaiden tietokannan analysointiin (2). Tämä laaja kokoelma sisältää valtameren potilastietoja, testituloksia, reseptejä ja paljon muuta.

Tutkijat kutsuivat työn aikana kehitettyä analyysiohjelmaa. Se koulutti noin 700 XNUMX ihmisen dataa. ihmisillä, ja uusissa rekistereissä testattuna se on osoittautunut erittäin tehokkaaksi sairauden ennustamisessa. Ilman ihmisasiantuntijoiden apua hän löysi sairaalan asiakirjoista kuvioita, jotka osoittavat, mikä potilas on matkalla johonkin sairauteen, kuten maksasyöpään. Asiantuntijoiden mukaan järjestelmän ennuste- ja diagnostinen tehokkuus oli paljon korkeampi kuin muilla tunnetuilla menetelmillä.

2. Potilastietokantoihin perustuva lääketieteellinen tekoälyjärjestelmä

Samaan aikaan tutkijat huomasivat sen toimivan mystisellä tavalla. Kävi ilmi, että se sopii esimerkiksi mielenterveyshäiriöiden tunnistaminenkuten skitsofrenia, joka on lääkäreille erittäin vaikeaa. Tämä oli yllättävää, varsinkin kun kenelläkään ei ollut aavistustakaan, kuinka tekoälyjärjestelmä pystyi näkemään mielisairaudet niin hyvin pelkästään potilaan sairauskertomusten perusteella. Kyllä, asiantuntijat olivat erittäin tyytyväisiä tällaisen tehokkaan konediagnostikon avulla, mutta he olisivat paljon tyytyväisempiä, jos he ymmärtäisivät, kuinka tekoäly tekee johtopäätöksensä.

Keinotekoisten hermosolujen kerrokset

Heti alusta lähtien, eli siitä hetkestä lähtien, kun tekoälyn käsite tuli tunnetuksi, tekoälyyn oli kaksi näkökulmaa. Ensimmäinen ehdotti, että olisi järkevintä rakentaa koneita, jotka järkeilevät tunnettujen periaatteiden ja inhimillisen logiikan mukaisesti, jolloin niiden sisäinen toiminta tulisi läpinäkyväksi kaikille. Toiset uskoivat, että älykkyys syntyisi helpommin, jos koneet oppisivat havainnoinnin ja toistuvan kokeilun kautta.

Jälkimmäinen tarkoittaa tyypillisen tietokoneohjelmoinnin kääntämistä. Sen sijaan, että ohjelmoija kirjoittaisi komentoja ongelman ratkaisemiseksi, ohjelma luo omaa algoritmia näytetietojen ja halutun tuloksen perusteella. Koneoppimismenetelmät, joista on myöhemmin kehittynyt tehokkaimmat nykyään tunnetut tekoälyjärjestelmät, ovat juuri kulkeneet polkua kone itse ohjelmoi.

Tämä lähestymistapa pysyi tekoälyjärjestelmien tutkimuksen marginaalilla 60- ja 70-luvuilla. Vasta edellisen vuosikymmenen alussa, muutamien uraauurtavien muutosten ja parannusten jälkeen, "Syvät" neuroverkot alkoi osoittaa radikaalia parannusta automatisoidun havainnoinnin kyvyissä. 

Syvä koneoppiminen on antanut tietokoneille poikkeuksellisia kykyjä, kuten kyvyn tunnistaa puhutut sanat lähes yhtä tarkasti kuin ihminen. Tämä on liian monimutkainen taito ohjelmoitavaksi etukäteen. Koneen on kyettävä luomaan oma "ohjelma" by koulutusta valtavista tietokokonaisuuksista.

Syväoppiminen on myös muuttanut tietokoneen kuvantunnistusta ja parantanut huomattavasti konekäännösten laatua. Nykyään sitä käytetään kaikenlaisten keskeisten päätösten tekemiseen lääketieteen, rahoituksen, tuotannon ja muiden aloilla.

Kaiken tämän kanssa kuitenkin et voi vain katsoa syvän hermoverkon sisään nähdäksesi kuinka "sisäpuoli" toimii. Verkoston päättelyprosessit ovat upotettuja tuhansien simuloitujen neuronien käyttäytymiseen, jotka on järjestetty kymmeniksi tai jopa sadoiksi monimutkaisesti toisiinsa liittyviin kerroksiin..

Jokainen ensimmäisen kerroksen neuroneista vastaanottaa syötteen, kuten kuvan pikselin intensiteetin, ja suorittaa sitten laskelmia ennen tulosteen tulostamista. Ne lähetetään monimutkaisessa verkossa seuraavan kerroksen hermosoluille - ja niin edelleen, lopulliseen lähtösignaaliin asti. Lisäksi on olemassa prosessi, joka tunnetaan nimellä yksittäisten neuronien suorittamien laskelmien säätäminen siten, että koulutusverkko tuottaa halutun tuloksen.

Usein mainitussa koiran kuvantunnistusta koskevassa esimerkissä tekoälyn alemmat tasot analysoivat yksinkertaisia ​​ominaisuuksia, kuten muotoa tai väriä. Korkeammat käsittelevät monimutkaisempia asioita, kuten turkki tai silmät. Vain ylin kerros kokoaa kaiken yhteen ja tunnistaa kaiken tiedon koiraksi.

Samaa lähestymistapaa voidaan soveltaa muuntyyppisiin syötteisiin, jotka saavat koneen oppimaan itseään: äänet, jotka muodostavat sanoja puheessa, kirjaimet ja sanat, jotka muodostavat lauseita kirjoitetussa tekstissä, tai esimerkiksi ohjauspyörä. ajoneuvon ajamiseen tarvittavat liikkeet.

Auto ei ohita mitään.

Yritetään selittää, mitä tällaisissa järjestelmissä tarkalleen tapahtuu. Googlen tutkijat muuttivat vuonna 2015 syväoppivaa kuvantunnistusalgoritmia siten, että valokuvien kohteiden näkemisen sijaan se loi tai muokkasi niitä. Ajamalla algoritmia taaksepäin he halusivat löytää ominaisuudet, joita ohjelma käyttää esimerkiksi linnun tai rakennuksen tunnistamiseen.

Nämä kokeet, jotka tunnetaan julkisesti nimellä, tuottivat hämmästyttäviä kuvauksia (3) groteskeista, omituisista eläimistä, maisemista ja hahmoista. Paljastamalla joitain koneisen havainnoinnin salaisuuksia, kuten sen tosiasian, että tiettyjä malleja palautetaan ja toistetaan toistuvasti, he osoittivat myös, kuinka syvä koneoppiminen eroaa ihmisen havainnosta - esimerkiksi siinä mielessä, että se laajentaa ja monistaa artefakteja, jotka jätämme huomiotta. havainnointiprosessissamme ilman ajattelua. .

3. Projektissa luotu kuva

muuten, toisaalta nämä kokeet ovat paljastaneet omien kognitiivisten mekanismiemme mysteerin. Ehkä käsityksemme mukaan on olemassa erilaisia ​​käsittämättömiä komponentteja, jotka saavat meidät välittömästi ymmärtämään ja jättämään huomiotta jotain, kun taas kone toistaa kärsivällisesti iteraatioitaan "tärkeillä" objekteilla.

Muita testejä ja tutkimuksia suoritettiin yrittäessään "ymmärtää" konetta. Jason Yosinski hän loi työkalun, joka toimii kuin aivoihin juuttunut koetin, joka kohdistuu mihin tahansa keinotekoiseen neuroniin ja etsii kuvaa, joka aktivoi sen voimakkaimmin. Viimeisessä kokeessa verkoston "piippaamisen" seurauksena ilmestyi abstrakteja kuvia, mikä teki järjestelmässä tapahtuvista prosesseista vieläkin mystisempiä.

Kuitenkin monille tutkijoille tällainen tutkimus on väärinkäsitys, koska heidän mielestään järjestelmän ymmärtämiseksi tunnistaa monimutkaisten päätösten tekemisen korkeamman tason mallit ja mekanismit, kaikki laskennalliset vuorovaikutukset syvän neuroverkon sisällä. Se on jättimäinen matemaattisten funktioiden ja muuttujien sokkelo. Tällä hetkellä se on meille käsittämätöntä.

Tietokone ei käynnisty? Miksi?

Miksi on tärkeää ymmärtää kehittyneiden tekoälyjärjestelmien päätöksentekomekanismeja? Matemaattisten mallien avulla selvitetään jo, ketkä vangit voidaan vapauttaa ehdonalaiseen, ketkä voivat saada lainaa ja ketkä voivat saada töitä. Kiinnostuneet haluaisivat tietää, miksi tämä päätös tehtiin eikä toinen, mitkä ovat sen perusteet ja mekanismi.

hän myönsi huhtikuussa 2017 MIT Technology Reviewissa. Tomi Yaakkola, MIT-professori, joka työskentelee koneoppimisen sovellusten parissa. -.

On jopa olemassa oikeudellinen ja poliittinen kanta, jonka mukaan kyky tutkia ja ymmärtää tekoälyjärjestelmien päätöksentekomekanismia on perusihmisoikeus.

EU on vuodesta 2018 lähtien pyrkinyt vaatimaan yrityksiä selittämään asiakkailleen automatisoitujen järjestelmien tekemiä päätöksiä. Osoittautuu, että tämä ei joskus ole mahdollista edes suhteellisen yksinkertaisilta vaikuttavilla järjestelmillä, kuten sovelluksilla ja verkkosivustoilla, jotka käyttävät syvällistä tiedettä mainosten näyttämiseen tai kappaleiden suosittelemiseen.

Näitä palveluita suorittavat tietokoneet ohjelmoivat itsensä, ja ne tekevät sen tavoilla, joita emme voi ymmärtää... Jopa näitä sovelluksia luovat insinöörit eivät pysty täysin selittämään, kuinka se toimii.