Kello 2.14 saapuu päätös. Kolme sivua virkakieltä, kaksi liitettä ja yksi lause, jonka perustelu on jätetty pois. Ihminen lukisi tämän aamulla kahvin jälkeen, jos lukisi. Kansalaisen agentti lukee sen heti: se poimii sovellettavat pykälät, vertaa niitä siihen, mitä päätöksessä sanotaan, huomaa aukon ja kirjoittaa oikaisuvaatimuksen. Ihminen nukkuu.

Tämä kohtaus on esimerkki, ei raportti mistään yksittäisestä tapauksesta. Sama pätee kaikkiin muihinkin jutun kohtauksiin: kellonajat, sivumäärät ja virastojen jono-olosuhteet ovat keksittyjä, mutta kitka on todellista.

Aamulla pöydällä on valmis asiakirja. Ihminen lukee sen tai ei lue, allekirjoittaa tai jättää allekirjoittamatta. Jossain virastossa sama asiakirja laskeutuu jonoon, joka on tänään hieman pidempi kuin eilen.

Koko jutussa on yksi kysymys: mitä tapahtuu, kun kansalainen ei enää olekaan järjestelmän hitain osapuoli?

Mikä oikeastaan vapautuu

Usein sanotaan, että tekoälyagentit vapauttavat ihmiset työstä. Se on liian nopea johtopäätös. Ensimmäisenä vapautuu kitka: se aika ja kärsivällisyys, joka kuluu järjestelmän kanssa asioimiseen — lakitekstin tulkinta, muodollisuudet, oikeiden liitteiden metsästys, se kun jaksaa kolmannen kerran selittää saman asian eri virkailijalle.

Kitka on ollut halpaa siksi, että se on ollut kansalaiselle käytännössä ilmaista. Valittaminen on maksanut aikaa ja nöyryytystä, ja molempia on riittänyt laihasti. Järjestelmä on voinut perustella monimutkaisuutensa huolellisuudella. Jos huolellisuus siirtyy koneelle, jäljelle jää kysymys, mitä muuta siinä prosessissa oli.

Kolme epämiellyttävää skenaariota

Nämä ovat skenaarioita, eivät ennusteita. Vaihtoehtojen kirjo on kapea, ja jokainen niistä maistuu vaivaannuttavalta.

Kone vastaan kone. Valtio voi yrittää vastata tuleen tulella ja automatisoida oman päänsä: agentteja, joiden ainoa tehtävä on tuottaa hylkääviä päätöksiä takaisin kansalaisten agenteille. Siitä seuraa absurdiuden huipentuma. Agentit kinastelevat keskenään valtion palvelimilla, kukaan ihminen ei enää lue yhtään päätöstä, ja hallinto muuttuu näkymättömäksi taustakohinaksi, jossa on kaksi osapuolta ja molemmat ovat ohjelmia. Riita voidaan käydä loppuun niin monta kertaa sekunnissa, ettei kukaan ehdi laskea, ja jokaisella kierroksella molemmat osapuolet ovat muodollisesti oikeassa. Kansalainen on tässä kuviossa lähinnä se, jonka nimissä kinastellaan.

Keinotekoinen kitka. Jos järjestelmä ei kestä sitä, että valittaminen on ilmaista ja vaivatonta, se voi yrittää rakentaa kitkaa takaisin: maksuja oikaisuvaatimuksille, hankalia digitaalisia allekirjoituksia — tunnisteita, jotka on tehty tahallaan työläiksi väärentää tai suorittaa — tai rajoituksia sille, kuinka monta kertaa vuodessa viranomaisen päätöksen saa kyseenalaistaa. Tämä istuu huonosti siihen, mitä oikeusturvasta ja yhdenvertaisuudesta on sovittu. Jos muutoksenhausta tehdään käytännössä maksullista tai mahdotonta, jäljellä oleva legitimiteetti kuluu nopeasti. Kitkaa voi lisätä, mutta se on myönnettävä ääneen — ja ääneen myönnetty kitka on poliittisesti kallista.

Pakotettu yksinkertaistaminen. Kun byrokratian pyörittäminen maksaa enemmän kuin jaettava raha, harkintavallasta tulee kallista. Jokainen tulkittava pykälä on kohta, jossa agentti voi kysyä perustelun, ja jokainen kysytty perustelu maksaa työtunteja. Silloin lakien yksinkertaistaminen voi muuttua edullisemmaksi kuin niiden puolustaminen. Tulo- ja tilannekohtaiset tukihärvelit ja lupaviidakot voivat kutistua kohti automaattisia, ehdottomia malleja — perustuloa ja universaaleja palveluita — joissa ei ole mitään tulkittavaa eikä valitettavaa. Sellaista mallia on vaikea riitauttaa, koska siinä ei ole päätöstä, jota vastaan riitautua.

Jos kuvio toteutuu, rahoitus on järjestettävä uudelleen, koska työn verottaminen tuottaa vähemmän. Kolme mekanismia nousevat esiin. Pääoman ja automaation verotus: kun tuottavuus siirtyy ihmisiltä järjestelmiä omistaville yrityksille, veropohja seuraa perässä osinkoihin, voittoihin ja pääomatuloihin. Dataverotus: data on näiden järjestelmien polttoainetta, mutta sitä on hankala verottaa, koska se liikkuu rajojen yli nopeammin kuin yksikään verotarkastaja. Kulutus- ja haittaverot: kun pääoma voi siirtyä maasta toiseen, arvonlisävero ja energian tai maapohjan kaltaisten resurssien verotus muuttuvat houkuttelevammiksi, koska kulutus tapahtuu siellä, missä ihminen seisoo.

Painopiste siirtyisi siihen, missä kone tekee rahaa ja missä resurssit kuluvat. Mikään näistä ei ole valmis ohjelma, ja yksityiskohdat puuttuvat.

Sääntelyn kaksi terää

EU:n tekoälyasetus on tässä kuvassa kiinnostava peluri, koska se voi toimia molempiin suuntiin. Mitä asetus tarkalleen vaatii ja miltä osin, se kannattaa tarkistaa erikseen; tässä on kyse siitä, millaisia vipuja sääntelyssä on.

Siltä osin kuin tiukemmin säännelty korkean riskin luokka — järjestelmät, joiden virheet voivat vahingoittaa ihmisiä vakavasti — osuu julkishallinnon ja etuuksien jaon järjestelmiin, asetus näyttää painavan valtiota kohti dokumentaatiota, läpinäkyvyyttä ja ihmisvalvontaa. Valtio joutuisi virittämään vastausagenttinsa sääntökirja kädessä samalla kun kansalaiset virittelevät omiaan vapaammin.

Samasta asetuksesta on kuitenkin myös toinen pää. Siinä on säännöksiä, jotka rajoittavat viranomaisen mahdollisuuksia käyttää tekoälyä ihmisten profilointiin tai manipulointiin, ja joissakin tilanteissa oikeus saada selitys tekoälyn tekemästä päätöksestä. Tarkat edellytykset vaihtelevat tapauskohtaisesti. Jos selitysvelvoite on olemassa, se on maali, johon kansalaisen agentin on helppo ampua: se voi pyytää tuhansia yksityiskohtaisia selvityksiä ja täyttää virastojen sähköpostit.

Paikalliset mallit tekevät kielloista hampaattomia. Jos joku yrittää estää suurten toimijoiden tarjoamat riitauttamistyökalut, avoimista painoista — julkisesti ladattavista mallitiedostoista, joita kuka tahansa voi muokata — hienosäädetyt versiot pyörivät kotikoneella tai puhelimessa. Niin kauan kuin malli mahtuu kannettavalle, valtion on vaikea nähdä, mitä koodia koneesi laskee, eikä kotietsintöjä voi tehdä sillä volyymilla, jolla malleja ladataan. Se ei tee valvonnasta mahdotonta. Se tekee siitä vaikeaa tehdä siististi: sen pitäisi toimia reaaliajassa, kaikkialla ja ilman että siitä tulee poliittisesti sietämätöntä. Nämä kolme ehtoa eivät osu kohdalleen kovin usein.

Paikallinen malli voidaan virittää pahan asianajajan rooliin ilman yhdenkään yhtiön turvasuodatinta. Se voi tuottaa loputtomasti muodollisesti pätevää tekstiä, joka on räätälöity juuri Suomen lainsäädäntöön ja juuri tähän liitteeseen. Jos taskussa on ilmainen ja sensuroimaton vastapuoli, valtion puolustus ei ole enää tekstintuotanto. Jos käännösvaihtoehtoa ei ole, jäljelle jää kapitulaatio tai kitkan lisääminen.

Agentti voi myös valehdella

Tämä on koko idean ehto, ei sivuhuomio. Jos agentti on pelkkä tekstigeneraattori, joka tuottaa sata sivua uskottavaa paskaa, kansalainen saa oman hallusinointikoneensa, joka lähettää viraston suuntaan virallisen näköistä sumua. Se ei ole vahvempi kansalainen, se on nopeampi.

Käyttökelpoinen agentti erottaisi toisistaan lain, havainnon, tulkinnan ja epävarmuuden. Mikä on pykälän sanoma, mikä päätöksestä luettu tosiasia, mikä omaa tulkintaa, ja missä kohtaa tulkinta on hutera. Ilman tätä erottelua valituksia syntyy lisää, mutta oikeus ei liiku mihinkään. Pahimmassa tapauksessa oikeat asiat hukkuvat massaan, jonka lukeminen on alkanut maksaa liikaa.

Kolmas loppu, jota kukaan ei mainosta

Vastakkainasettelu on houkutteleva: agentti joko vapauttaa kansalaisen tai halvaannuttaa hallinnon. On kolmaskin kuvio.

Jos viranomaisen päätöksistä tehdään koneluettavia, perustelut kirjoitetaan selvästi ja muutoksenhaku toimii, sama agentti voi toimia tulkkina. Se kääntää virkakielen ihmiselle ymmärrettäväksi ja kertoo, mitä päätöksessä oikeastaan päätettiin ja mitä jäi auki. Silloin se ei kaiva valtion ja kansalaisen väliin sotaa, vaan pystyttää väliin käännöksen.

Tämä on tässä jutussa epämuodikkain kohta, koska se ei ole kenenkään mainoslause. Samalla se on ainoa, jossa lopputulos ei ole pelkästään huono eikä pelkästään hyvä.

Vapaa aika ei ole vapaus

Jos perustarpeet turvataan ja aikaa vapautuu, luovuudelle syntyy tilaa. Perustulo itsessään ei takaa siitä mitään: ihminen tarvitsee myös yhteisöjä, merkitystä ja syyn nousta aamulla. Renessanssi voisi näyttää rumalta ja keskeneräiseltä. Joku tekee musiikkia, toinen rakentaa oman verotusagenttinsa, kolmas kirjoittaa dadaistisen perustuslain ja neljäs yrittää myydä sen kaikille. Osa ihmisistä ei tee mitään. Osa lepää, osa kyllästyy, osa käyttää vapautensa loputtomaan selailuun, joka ei johda edes dadaistiseen perustuslakiin.

Toisella puolella on tyhjiö. Jos työ on ollut toimeentulon lisäksi sosiaalinen rakenne, identiteetti ja rytmi, sen katoaminen voi jättää tilalle hiljaisuuden, jota vapaa-aika ei täytä. Pelkkä aika ei automaattisesti muutu luovuudeksi eikä edes tekemiseksi.

Kaiken tämän alla on kuitenkin kysymys, jota kukaan ei jaksa pitää esillä: kuka omistaa ylijäämän. Jos automatisointi keskittää vallan ja varallisuuden harvoille, ihmiset saavat enemmän aikaa ja vähemmän vaikutusvaltaa. Silloin kyse ei ole renessanssista eikä tyhjiöstä, vaan riippuvuuden uudesta versiosta: vapaa aika, jonka ehdot on kirjoittanut joku muu.

Ja lopuksi takaisin siihen, mistä aloitettiin. Kun kansalaisen kyky käsitellä järjestelmää kasvaa nopeammin kuin järjestelmän kyky käsitellä kansalaista, hallinto muuttuu. Mihin suuntaan, sitä ei ratkaise teknologia vaan se, kenellä on valta päättää ehdoista. Vanha oletus siitä, että kansalainen on aina järjestelmän hitain ja heikoin osapuoli, alkaa murentua.

Ja se on jo itsessään melkoinen ontologinen pizzauuni.