Minulla on henkilökohtainen haavoittuvuus, joka kulkee mukanani teknologiakeskusteluissa: peliongelma. Se on myös yksi syy siihen, miksi olen alkanut katsoa teknologiaa eri tavalla.

Kun puhutaan käyttöliittymistä, sovelluksista ja tekoälystä, yksi yleisimmistä tavoitteista on kitkan poistaminen. Kitkalla tarkoitan tässä vastusta, joka jää käyttäjän ja toiminnon väliin. Vähemmän klikkauksia, nopeampi palkinto, helpompi maksaminen, tarkempi suosittelu. Käyttäjän pitäisi päästä haluamaansa mahdollisimman nopeasti.

Kuulostaa hyvältä, kunnes käyttäjän halu ja käyttäjän etu eivät enää ole sama asia. Tuon ristiriidan tunnen omasta kokemuksestani.

Ihminen ei ole aina oman klikkauksensa puolella

Teknologiassa käyttäjää käsitellään usein rationaalisena toimijana. Käyttäjä painoi nappia, joten hän halusi painaa nappia. Käyttäjä jäi sovellukseen kolmeksi tunniksi, joten sisältö oli kiinnostavaa. Käyttäjä käytti enemmän rahaa, joten palvelu tuotti enemmän arvoa.

Todellisuus ei ole näin siisti. Ihminen voi haluta jotakin ja samalla tietää, ettei hänen pitäisi tehdä sitä. Hän voi tehdä päätöksen, jota katuu jo melkein samalla hetkellä. Hän voi ymmärtää järjestelmän täydellisesti ja silti hävitä sille.

Peliongelmassa tämä ristiriita tulee hyvin näkyväksi. Järjellä tietää, ettei seuraava kierros muuta matematiikkaa. Voi ymmärtää todennäköisyydet, talon edun ja jopa senkaltaisen psykologisen mekanismin, joka yrittää vetää takaisin. Ja silti järjestelmä voi saada otteen.

Tieto ei automaattisesti tarkoita kontrollia. Se on ollut minulle iso oppitunti myös teknologian rakentamisesta.

Hyvä käyttöliittymä voi olla ihmiselle huono käyttöliittymä

Käyttöliittymäsuunnittelussa puhutaan paljon konversiosta – siis siitä, kuinka moni jatkaa, ostaa tai toimii halutulla tavalla. Jos mittarina on pelkkä toiminnan määrä, erittäin tehokas järjestelmä voi näyttää onnistuneelta samalla kun se tekee käyttäjälle pahaa.

Pelijärjestelmä on tästä äärimmilleen viety esimerkki. Nopea palaute, satunnainen palkinto, melkein voitto, uusi mahdollisuus heti. Raha muuttuu numeroiksi, numerot merkeiksi ruudulla. Todellisen menetyksen ja seuraavan napinpainalluksen väliin jää mahdollisimman vähän aikaa.

Kaikki on erittäin sujuvaa. Juuri siinä on ongelma.

Joskus hyvä järjestelmä tarvitsee tarkoituksellista kitkaa: tauon, vahvistuksen, rajan, viiveen, mahdollisuuden perua. Hetken, jonka aikana impulssi ehtii muuttua ajatukseksi.

Aloin nähdä järjestelmien alla mekanismeja

Peliongelman vuoksi minun on vaikea katsoa teknologisia ratkaisuja pelkkinä käyttöliittyminä. Näen niiden alla mekanismeja.

Mitä tämä yrittää saada ihmisen tekemään? Miten nopeasti se palkitsee? Mitä se mittaa onnistumisena? Mitä tapahtuu, jos käyttäjä tekee juuri sen, mitä järjestelmä haluaa, sata kertaa päivässä? Kuka hyötyy, kuka kantaa haitan?

Tämä ajattelu on levinnyt lähes kaikkeen, mitä rakennan, myös tekoälyyn. Tekoälyjärjestelmä voi olla aivan yhtä vaarallisen houkutteleva kuin mikä tahansa muu järjestelmä, jos sen tärkeimmäksi tavoitteeksi tulee poistaa käyttäjän ja toiminnan välinen kitka.

Kirjoita yksi lause, saat kokonaisen artikkelin. Paina yhtä nappia, saat kymmenen ideaa. Paina uudestaan, saat sata. Rajaton generointi kuulostaa vapauttavalta. Mutta rajattomuus ei ole automaattisesti hyvä asia.

Tekoäly teki minusta odottamattoman varovaisen

Tässä on käänne, jota en osannut odottaa. Olisin voinut kuvitella, että generatiivinen tekoäly vetäisi minut entistä syvemmälle nopeuden, määrän ja välittömän palkinnon maailmaan. Rajattomasti musiikkia, tekstiä, sovelluksia, kokeita. Ja kyllä, olen käyttänyt sitä myös juuri noin.

Mutta samalla tekoäly on tehnyt minusta oudon varovaisen. Kun näkee tarpeeksi monta kertaa, kuinka nopeasti kone tuottaa vakuuttavan näköistä paskaa, nopeus menettää hohtoaan.

Alkaa kiinnostaa, mitä tapahtuu ennen lopputulosta. Mistä tieto tuli? Miksi järjestelmä teki tämän päätöksen? Mikä sitä rajoittaa? Voiko toiminnon perua? Kuka saa hyväksyä? Kuka maksaa hinnan, jos järjestelmä epäonnistuu?

Tämä on aika kaukana ajatuksesta, että teknologian pitäisi vain tehdä kaikesta nopeampaa.

Rajat voivat olla suojaavia rakenteita

Minussa on puoli, joka haluaa rikkoa, purkaa, kiertää ja uudelleenrakentaa järjestelmiä. Katson sääntöä ja mietin ensimmäisenä, miksi se on siinä – ja seuraavaksi, pääseekö siitä läpi.

Peliongelma on näyttänyt tämän ajattelutavan toisen puolen. Kaikkia rajoja ei kannata murtaa. Joskus raja on juuri se osa järjestelmää, joka suojaa ihmistä silloin, kun hänen oma päätöksentekonsa on hetkellisesti heikoimmillaan.

Siksi hyvä suunnittelu voi tarkoittaa myös sitä, että järjestelmä sanoo joskus: ei, ei vielä, tarkista tämä, oletko varma. Se voi kuulostaa huonolta käyttökokemukselta. Minusta se voi olla erinomaista käyttökokemusta.

Entä jos järjestelmä huomioisi myös tulevaa sinua?

Kun tietää henkilökohtaisesti, miltä tuntuu, kun oma toiminta ei seuraa omaa pitkän aikavälin etua, alkaa suhtautua epäluuloisesti järjestelmiin, jotka mittaavat jokaisen impulssin kysynnäksi.

Klikkaus ei aina tarkoita halua. Halu ei aina tarkoita suostumusta – eihän järjestelmän vahvistama impulssi ole sama kuin tietoinen päätös. Sitoutuminen ei aina tarkoita hyvinvointia. Käytetty aika ei ole sama kuin saatu arvo, eikä käytetty raha todista tyytyväisyyttä. Joskus korkea käyttöaika tarkoittaa vain sitä, että järjestelmä löysi ihmisen heikon kohdan.

Monet digitaaliset järjestelmät optimoivat sen ihmisen toimintaa, joka pitää puhelinta kädessään juuri nyt. Mutta ihmisellä on myös tuleva versio: se, joka herää huomenna, katsoo pankkitiliä ensi viikolla ja joutuu elämään tämän päivän päätösten kanssa.

Hyvä järjestelmä voisi yrittää huomioida myös hänet. Ei moraalinvartijana, vaan järjestelmänä, joka ymmärtää, ettei tämänhetkinen impulssi ole ihmisen koko tahto.

Teknisesti tämä voi tarkoittaa arkisia asioita: rajoja, viiveitä, selkeää tietoa, historiatietoa, mahdollisuutta sulkea asioita pois käytöstä ja tehdä päätöksiä etukäteen silloin, kun ajattelu on rauhallista – ei siinä hetkessä, kun järjestelmä yrittää houkutella jatkamaan.

Minusta tällaisessa suunnittelussa on enemmän älykkyyttä kuin siinä, että jokainen este poistetaan käyttäjän tieltä.

Sama ajatus on mukana myös Anomancerissa, tekoälyavustajien rakennuspaikassa, jota olen kehittämässä. Siellä tekoälyavustajat eivät voi omin päin julkaista tekstiä eivätkä laajentaa tehtäväänsä. Niiden löytämä aineisto ei ole julkaistavaa tietoa ennen kuin ihminen on käynyt sen läpi, ja väitteet tarkistetaan uudelleen myös muokkausten jälkeen ennen julkaisua. Lopullisen päätöksen tekee ihminen.

En suunnitellut näitä periaatteita peliongelman hoitokeinoiksi. Mutta jälkeenpäin yhteys näyttää ilmeiseltä. Rakennan järjestelmiä, joissa yksikään impulssi ei saisi muuttua välittömästi peruuttamattomaksi toiminnaksi. Ehkä siksi, että tiedän liian hyvin, miltä päinvastainen järjestelmä näyttää.

Teknologia ei tunne käyttäjän puolesta

Kone voi optimoida, ennustaa ja havaita käyttäytymismalleja. Se voi tietää tilastollisesti hämmästyttävän paljon siitä, mitä ihminen todennäköisesti tekee seuraavaksi. Mutta se ei tarkoita, että koneen tavoite olisi automaattisesti ihmisen tavoite.

Jos tavoitteeksi annetaan maksimaalinen käyttöaika, kone optimoi käyttöaikaa. Jos tavoitteeksi annetaan ostojen määrä, se optimoi ostamista. Jos tavoitteeksi annetaan sisältömäärä, se tuottaa sisältöä. Jossakin kohtaa jonkun täytyy kysyä, oliko tavoite alun perinkään järkevä.

Siksi tekoälyn etiikka ei mielestäni ala siitä, kuinka älykäs malli on. Se alkaa tylsemmästä kysymyksestä:

Mitä järjestelmä palkitaan tekemään?

Jos vastaus on väärä, erittäin älykäs järjestelmä tekee väärää asiaa erittäin tehokkaasti.

En halua rakentaa täydellistä houkutusta

Minulla on edelleen taipumus innostua järjestelmistä, peleistä, numeroista, kokeista ja palautesilmukoista – siitä, miten teko vahvistaa seuraavaa tekoa. Sitä puolta ei tarvitse tuhota, sen kanssa pitää vain osata rakentaa.

Ehkä siksi minua kiinnostaa nykyään enemmän teknologia, joka ei yritä tehdä käyttäjästä mahdollisimman ennustettavaa kulutuskonetta. Haluan rakentaa järjestelmiä, joissa ihminen näkee koneiston, voi pysähtyä, voi perua, ja joissa päätösvaltaa ei hiljalleen siirretä pois käyttäjältä jonkin mittarin numeron parantamiseksi.

Peliongelma on henkilökohtainen haavoittuvuuteni. En halua romantisoida sitä – se on ongelma. Mutta en voi myöskään väittää, etteikö se olisi muuttanut tapaani nähdä järjestelmiä. En valinnut sitä, mutta voin valita, mitä teen sillä tiedolla.

Yksi asia, jonka se on opettanut: kaikkea kitkaa ei pidä poistaa.

Joskus kitka on juuri se pieni väli, jossa ihminen ehtii saada itsensä takaisin mukaan päätökseen. Se ei ehkä näytä teknologiselta edistykseltä. Minusta se on yksi sen tärkeimmistä muodoista.