Petri Suurnäkki on diplomi-insinööri ja lennokkiteknologian väitöskirjatutkija Aalto-yliopistosta sekä filosofian maisteri Helsingin yliopiston tietojenkäsittelytieteen laitokselta. Hän toimii puolustusalalla miehittämättömien järjestelmien kehitystyössä ja teknisenä johtajana yhteiseurooppalaisessa puolustusteknologiahankkeessa.

NATO rakentaa itäisen rintaman pelotetta, mutta sotilaallinen voima ei yksin estä aggressioita. Robotiikka ja tekoäly voivat vahvistaa uskottavaa pelotetta, sillä ne voivat tehdä hyökkäyksistä helpommin havaittavia ja torjuttavia. Kyseessä ei olisi kuitenkaan ydinasepelotteen korvike, vaan kiistämiseen eli onnistumisen epätodennäköisyyteen perustuvan pelotteen uusi kerros. Kun tehtävää eivät toteuta enää vain ihmiset vaan algoritmit, liittokunnan on pohdittava, miten länsimaiset arvot säilyvät.

Kuvitellaan NATO:n itäiselle sivustalle tulevaisuuden puolustusvyöhyke, jolla satelliitit, tutkat, passiiviset sensorit ja lennokit seuraavat joukkojen liikkeitä kauas raja-alueen taakse. Jos hyökkäys alkaisi ja vihollinen siirtyisi rajan yli, järjestelmä tunnistaisi kohteet ja lähettäisi koneita hyökkäämään viholliskohteita vastaan. Hyökkääjän näkökulmasta rajan molemmin puolin syntyisi vyöhyke, jossa lähes kaikki sotilaallinen liike olisi havaittavissa ja johtaisi välittömään iskuun.

Tällaista autonomista “tappovyöhykettä” on vaikea kuvitella osaksi liittokunnan nykyistä puolustusta, mutta ajatus ei silti ole enää pelkästään tieteiskuvitelmaa. Ukrainan on jo raportoitu kokeilleen täysin autonomisia lennokkeja, jotka etsivät ihmiskohteita ja iskivät niihin ilman aktiivista ohjausta. Uutisointi perustuu rajallisiin tietoihin, mutta kehityssuunta on silti selvä. Myös Venäjän on raportoitu käyttäneen autonomisia lennokkeja iskuissaan Ukrainaan. Koneet eivät enää vain lennä tai aja sinne, minne ihminen käskee. Ne voivat havaita, luokitella, priorisoida ja lopulta iskeä kohteisiin ennalta määriteltyjen sääntöjen perusteella.

Ihminen ja kone tulkitsevat tehtävän eri tavoin

Ihminen ja kone eivät tulkitse taistelukenttää ja saamaansa tehtävää samalla tavalla. Sosiaalisessa mediassa levinneet, Ukrainan taistelukentiltä peräisin olevat videot sotilaita jahtaavista lennokeista havainnollistavat tätä eroa. Ihminen näkee lennokin kuvassa juoksevan sotilaan, johon pystyy samaistumaan. Hän voi tunnistaa pelon, tulkita tilannetta eri tavoin, epäröidä ja keskeyttää oman toimintansa. Vartiotehtävässä ihmissotilas voi tuntea, kun jokin ei täsmää ja jättää noudattamatta tuhoamiskäskyä. Kone puolestaan näkee pikseleitä, todennäköisyyksiä ja tavoitteen, eikä se välttämättä erottele kohteitaan tuhoamisalueella. Tämä ei tarkoita, että ihminen toimisi aina moraalisesti oikein tai että kone tekisi virheen toimiessaan annetun tehtävän mukaisesti – ihminen vain pystyy ymmärtämään teon merkityksen suhteessa sodan tarkoitukseen ja oman yhteiskuntansa arvoihin.  

Verkkojulkaisu War on the Rocks on kirjoittanut Ukrainassa käytetystä pistejärjestelmästä, jossa vahvistetut iskut, evakuoinnit ja muut tehtävät muutetaan pisteiksi, joiden perusteella yksiköt voivat hankkia kalustoa. Pelillistetty järjestelmä voi nopeuttaa materiaalin jakamista, osoittaa materiaalia tehokkaille yksiköille ja palkita myös ihmishenkien pelastamisesta. Samalla se kuitenkin osoittaa, että mittaaminen ja palkitseminen alkavat ohjata ihmisen käytöstä. Sodankäyntiä pelillistetään siis jo nyt, eikä mahdollinen vääristymä synny koneesta vaan ihmisen määrittelemästä tavoitteesta.

Merkittävä ero ihmisen ja koneen välillä on siinä, että ihminen voi olla seuraamatta pistejärjestelmää, jos hän arvioi tilanteen tarvitsevan muunlaisen ratkaisun. Jos pelilogiikka toimii autonomisen järjestelmän tavoitteena, järjestelmä optimoi sen mukaan. Jos esimerkiksi helposti vahvistettava tuho tuottaa enemmän hyötyä kuin vaikeammin mitattavat vaikutukset, kuten tiedustelu, harhauttaminen tai vastustajan päätöksenteon häiritseminen, järjestelmä voi johdonmukaisesti suosia väärää mittaria varsinaisen tarkoituksen sijasta. Ihminen voi kyseenalaistaa pelin säännöt, kun taas kone jatkaa sille määritellyn pelin pelaamista koneen tehokkuudellaan.

Robottiase yksinään ei vielä ole pelote

NATO määrittelee pelotteen yhdistelmäksi suorituskykyjä, joihin kuuluvat ydinaseet, ohjuspuolustus, avaruus- ja kybersuorituskyvykkyydet sekä tavanomaiset aseet. Näiden taustalla ovat liittokunnan poliittinen yhtenäisyys ja toimintavalmius. Pelotteen tarkoitus on vaikuttaa vastustajan laskelmaan lopputulemasta ennen kuin se ryhtyy sotatoimiin. Aseilla ei ole kuitenkaan pelotevaikutusta vain siksi, että ne ovat olemassa. 

Ulkopoliittisen instituutin tuore tutkimus korostaa, että uskottavan pelotteen on suljettava vastustajalta mahdolliset reitit voittoon ja tarjottava puolustajalle vaihtoehtoja, jotka vaihtelevat tavanomaisista aseista ydinaseisiin. Tähän jatkumoon ja pelotteen tehostajiksi sopivat myös robotit ja tekoäly. 

Robottiparvi ei kuitenkaan toimi kuin ydinase. Sillä ei uhata kokonaisia yhteiskuntia tuholla, eikä sen poliittinen painoarvo tai käyttämisen kynnys ole samanlainen. Sen ensisijainen vaikutus olisi estää hyökkäyksen onnistuminen. Jos hyökkääjä uskoo, ettei se voi keskittää voimaa, saavuttaa yllätystä tai murtaa puolustusta, hyöty aloittaa sota häviää.

Itäisestä sivustasta tekoälyavusteiseksi pelotelinjaksi?

Nato kuvailee kehitteillä olevan itäisen sivustan pelotelinjan (Eastern Flank Deterrence Line) muodostuvan jatkuvasta havainnoinnista, tekoälyavusteisesta päätöksenteosta, täsmävaikutuksista ja miehittämättömistä järjestelmistä. Sen tavoitteena on vaikeuttaa vihollisen joukkojen keskittämistä, läpimurtoa ja aloitteen saamista.

Pelotelinja on osa NATO:n laajempaa itäisen sivustan vahvistamista, joka perustuu eteen sijoitettuihin joukkoihin, ilmapuolustukseen, harjoituksiin ja monikansalliseen yhteistyöhön. EFDL:n tavoite on nopeuttaa prosessia havainnosta iskuun.  

NATO:n yhteinen doktriini korostaa sotilaallisen toiminnan poliittista ohjausta ja komentajan tahtoa. Koneiden vartioima tuhoamisvyöhyke kuitenkin haastaisi tämän periaatteen: jos robottiparvi tulkitsee tilanteen, tekee toimenpiteitä ja käyttää voimaa ennen kuin ihminen ehtii reagoida, syntyy kuilu komentajan vastuun ja järjestelmän tosiasiallisen päätösvallan välille. Samalla syvälle vihollisen alueelle ulottuva, koneen nopeudella tapahtuva toiminta voisi lisätä väärintulkinnan ja eskalaation riskiä. Nopeuden ei tule poistaa poliittista kontrollia. 

Pelote syntyy ihmismielessä

Pelote on kognitiivinen ilmiö, jonka onnistuminen riippuu siitä, miten vastustaja arvioi kyvyn, tahdon ja seuraukset. NATO:n kognitiivista sodankäyntiä käsittelevä raportti kuvaa päätöksentekoon, havainnointiin ja ihmisten käytökseen vaikuttamisen keskeiseksi osaksi sotilaallista vaikuttamista. Rajan mittainen sensoriverkosto ja vaikeasti paikannettavat robottiaseparvet vaikuttaisivat todennäköisesti vastustajan käyttäytymiseen jo ennen ensimmäistä iskua. Pelkästään joukkojen keskittäminen voisi paljastaa aikeen hyökätä, ja jokainen havaittu radiolähetin tai ajoneuvo voisi muuttua maaliksi. 

Tällaisen järjestelmän käyttöönotto voisi synnyttää hyökkääjälle vaikutelman tappovyöhykkeestä, joka perustuu ajatukseen kiistämiseen perustuvasta pelotteesta. Pelote ei silti syntyisi pelkästään koneiden kyvyistä, vaan uskosta siihen, että NATO kykenisi tulkitsemaan tilanteen oikein ja käyttämään järjestelmää ennen kuin hyökkääjä ehtisi saavuttaa tavoitteensa. 

Tilanteen tulkinta on kohta, jossa teknologinen kehitys tuo pelotteeseen uuden jännitteen. Sodankäynnin suuret muutokset eivät ole syntyneet historiallisesti vain uusista aseista, vaan myös sodan mittakaavan, toimintatapojen ja poliittisen ympäristön muutoksista. Robotiikan ja tekoälyn kohdalla merkittävä muutos liittyy erityisesti päätöksenteon nopeuteen. Automaatio voi nopeuttaa havainnointia, tiedonkäsittelyä ja toimintasuosituksia, mutta samalla se lyhentää aikaa tulkita vastustajan tarkoitusta, arvioida seurauksia ja korjata väärinkäsityksiä. Pelotteen vakauden kannalta kysymys ei siten ole vain siitä, kuinka nopeasti järjestelmä pystyy toimimaan, vaan siitä, säilyykö nopea tekninen toiminta strategisen harkinnan ja poliittisen kontrollin alaisena. 

Ihmisen päättäväisyys on osa pelotetta. Sotilasorganisaation on kyettävä toimimaan myös virhetilanteissa tai konejärjestelmän suositusten ollessa ristiriitaisia. Teknologisesti edistynein joukko ei ole välttämättä toimintakykyisin, jos sen komentajat eivät luota saamaansa tietoon tai sotilaat järjestelmän toimintaan. 

Arvojen on oltava osa suorituskykyä

Länsimaiset arvot esitetään usein teknologian rajoitteina: miksi emme tekisi jotain, koska vihollinenkin varmasti tekee niin? Pelotteen näkökulmasta arvot ovat kuitenkin teknologian käytön reunaehdot, joiden on oltava osa järjestelmää.

NATO perustelee pelotetta paitsi alueen ja väestön puolustamisella, myös yksilönvapauden, demokratian, ihmisoikeuksien ja oikeusvaltioperiaatteen suojaamisella. Jos näiden arvojen puolustamiseksi rakennettu järjestelmä irrotetaan väkivallan poliittisesta vastuusta, se alkaa toimia omaa tarkoitustaan vastaan. Liittokunnan tekoälystrategia korostaa vastuullisuutta, selitettävyyttä, luotettavuutta ja hallittavuutta: tekoälyn on määrä varmistaa komentajan luottamus, poliittisen johdon hyväksyntä ja liittolaisten yhteentoimivuus. 

Strategia tuo esiin autonomisen sodankäynnin toimivaltakuilun: komentaja säilyttää muodollisen vastuun, vaikka kone toimii ennen kuin ihminen ehtii puuttua tapahtumien kulkuun. Vastuu korostuu itäisen sivustan mittaisella puolustusvyöhykkeellä. Yksittäinen päätös saattaa vaikuttaa vähäiseltä, mutta peruuttamaton seuraus voi syntyä satojen osapäätösten ketjusta. Jos ihmisen suorittama valvonta kohdistuu vain yksittäisiin toimenpiteisiin, päätösketju voi johtaa iskuun ilman, että kukaan arvioi sen merkitystä kokonaisuutena. 

Ihmisvalvonta ei riitä, jos hyväksyttäviä ehdotuksia tulee sata sekunneissa tai jos reagointi on mahdollista vasta sen jälkeen, kun järjestelmä on jo toiminut. Toimivaltaa ei siksi voi jättää pelkäksi ohjeeksi tekoälymallille, vaan se on sidottava erilliseen mekanismiin, jota tekoäly ei itse hallitse. 

Liittokunta ei kuitenkaan voi keskittyä tappamaan nopeammin ja tehokkaammin kuin vastustaja. Se tarvitsee järjestelmän, jota sotilaat, päättäjät ja yhteiskunnat ymmärtävät ja johon he luottavat. Suorituskyky, jonkaa käyttöä rajoittavat arvot, ei ole uskottava pelote.

Pelote ei voi olla erillään arvoista

Robotiikan ja tekoälyn avulla on mahdollista luoda alue, jossa hyökkääjä ei pysty luottamaan  yllätykseen, joukkojen keskittämiseen tai nopeaan läpimurtoon. Rajan mittainen robottiparvi voisi teoriassa muuttaa hyökkäyksen tappioksi, joka voidaan ratkaista koneiden nopeudella. Tämän vuoksi juuri ihmisten on päätettävä etukäteen, mitä koneilla tavoitellaan.

Robottiaseilla vahvistetun pelotteen uskottavuus ei synny järjestelmän kyvystä tuhota kaikki havaitsemansa. Se syntyy pikemminkin siitä, että vastustaja uskoo hyökkäyksensä tulevan havaituksi, pysäytetyksi ja lyödyksi. Automatisointi ei saa kuitenkaan viedä Natolta päätösvaltaa siitä, milloin väkivaltaa käytetään, rajoitetaan tai lopetetaan. Toiminnan on säilyttävä poliittisten tavoitteiden ja liittokunnan arvojen ohjaamana. 

Robottien ja tekoälyn ei tule tehdä tappamisesta autonomista, vaan pelotteen tulee toimia hyökkäyksen aloittamista ehkäisevänä tekijänä. Tappajarobotit eivät voi toimia arvojamme vastaan. Mitä muutoin enää puolustamme?