Tyhmät algoritmit vallankäyttäjinä

Algoritmien vallasta on puhuttu paljon. Ne kyllä tietävät paljon ja tekevät erilaisia päätelmiä, joskus hyviä, joskus huonoja. Mieleen tulee Paavo Haavikon aikanaan esittämä toteamus: ”Tietoyhteiskunta tietää kaiken eikä ymmärrä mitään.”

Algoritmit tietävät paljon ja ne ohjaavat erilaisten palveluiden käyttämistä, tiedon saantiamme ja uutisten lukemistamme. Mutta tekevätkö algoritmit oikeita päätelmiä, mitä ne ymmärtävät?

Otan omakohtaisen esimerkin, tiedostaen, ettei oma esimerkki aina ole suinkaan yleistettävä tai ainut mahdollisuus.

Käyn välillä lueskelemassa persu-poliitikkojen kirjoituksia, esimerkiksi Jussi Halla-ahon FB-sivuja, vaikka en ole persu-henkinen poliittisilta mielipiteiltäni. Niinpä netti- ja some-palvelut päättelevät, että olen persujen kannattaja, sillä minulle tuli viime vaalien aikaan paljon persujen mainoksia Facebookissa.

Sikäli algoritmi on oikeassa, että voisin hyvin olla persujen kannattaja. Olen keski-ikäinen heppu Hyvinkäältä, jossa persut oli suosituin puolue viime kevään vaaleissa.

Ei siis ihan huono päätelmä. Silti pieleen meni, minusta ei saa persua, se algoritmin olisi syytä oppia!

Algoritmi tekee oikeita ja systemaattisia havaintoja, mutta se voi tehdä myös vääriä päätelmiä. Se ei tunne motiivejani eikä ymmärrä minua.

Toinen kiinnostava esimerkki palveluiden tavasta tehdä datasta väärä päätelmä on saksalaisen taiteilijan kokeilu. Hän veti kadulla perässään pientä kärryä, jossa oli 99 matkapuhelinta. Google Maps päätteli, että kadulla on paljon autoilijoita ja ilmoitti, että siellä on ruuhka, vaikka mitään ruuhkaa ei ollut.

Algoritmien vääristä päätelmistä herää kysymys, voimmeko luottaa algoritmeihin ja dataan. Tekevätkö ne onnistuneita päätelmiä? Missä määrin algoritmeillä lopulta on valtaa meitä käyttäjiä kohtaan?

On tietysti paljon esimerkkejä, joissa algoritmi tekee onnistuneita päätelmiä. Ne voivat tunnistaa sairauden paremmin kuin lääkäri. Tosin annetaanko algoritmille valta ja vastuu, jos se vaikkapa tekee päätöksen siitä, korvaako vakuutusyhtiö sairauden vai ei?

Erinomainen onkin tutkija Airi Lampisen huomio, että puhumalla algoritmien vallasta vältytään puhumasta algoritmeista vallankäytön välineenä. Algoritmit ovat kuitenkin ihmisen tekemiä luomuksia ja ne eivät käytä valtaa, mutta niiden taakse voidaan piiloutua – vakuutusyhtiö voi mennä algoritmin päätöksen taakse piiloon, vaikka se on itse ohjelmoinut algoritmin.

Algoritmien valtaa saatetaan myös liioitella. Professori Esa Väliverronen kyseenalaisti algoritmien vallan ja väittää, että somekuplat perustuvat vahvemmin median käyttäjien omiin valintoihin kuin algoritmeihin.

Algoritmeistä ja datasta puhuttaessa on siis aina muistettava, kuinka inhimillinen ja yhteiskunnallinen toiminta, motiivit ja valta ovat kietoutuneet niihin. Ne eivät ole puhdasta teknologiaa. Ja usein ne ovat vielä hieman tyhmiä!