Avainsana-arkisto: Charles Stross

Maailman vallannut superäly

Tekoälystä

Tekoälystä puhutaan nykyään paljon. Siitä puhutaan usein silloinkin, kun kyse on pohjimmiltaan tietolähteiden yhdistelystä ja vähemmän itse älykkyydestä. Perinteisimmin tekoälyllä nimenomaan tarkoitettiin keinotekoista älykkyyttä ja ehkä jopa ihmisten älykkyyden matkimista ja jopa ylittämistä. Ihan merkittävä joukko tekoälyyn perehtyneitä ihmisiä on nykyään todella huolissaan siitä, että tietokoneiden älykkyys ohittaa meidän älykkyytemme.

Tekoälyriskistä puhutaan nykyään enemmän. Esimerkiksi asiaan perehtynyt Future of Life Institute erottelee kaksi riskiä:

  1. Jotain tuhoisaa varten ohjelmoidun tekoälyn
  2. Jotain järkevää tavoitetta varten ohjelmoidun tekoälyn aiheuttama oheisvahinko

Jälkimmäisestä jokseenkin klassikoksi on muodostunut ajatusleikki klemmarimaksimoijasta. Eräänä päivänä joku saa päähänsä ohjelmoida tekoälyn tekemään klemmareita. Kone on superälykäs, joten se käyttää kaikki taitonsa paperiliittimiin ja pian maailmassa ei muuta oikein olekaan. Tekoäly näkisin ihmisisessäkin vain resursseja uusiin paperiliittimiin. (1)

Ehkä vankemmin klassikon muotoon tästä ovat päässeet Isaac Asimovin esittämät robotiikan säännöt. Näitä moni tuntuu pitävän ratkaisuna yllä oleviin ongelmiin, mutta Asimovia hieman referaatin lisäksi lukeneet tietävät, että kirjat ovat (hiukan lapsellisen scififantasian lisäksi) oikeastaan tutkielmia siitä, miten juuri nämä robotiikan lait eivät toimi.

Tekoälyä on siis vaikea suunnata samaan suuntaan kuin ihmisiä. Hyvistäkin tavoitteista tulee vaikeita toteuttaa. Ehkä siksi että ongelma on vaikea ja teknologian aiheuttama, sen tutkimus on herättänyt mediassa kohtuullisesti kiinnostusta.

Toinen tapa rajoittaa tekoälyn valloitussuunnitelmia on asettaa se jotenkin rajattuun ympäristöön. Jos tietokone pyörii irti internetistä ja vielä tarkkaan hallittuna, ei vaaraa muille ole. Tietokone lukitussa arkussa on kuitenkin vain tietokone arkussa, vaikka sen sisällä olisikin älyä enemmän kuin ihmiskunnalla. Näistä toimista voikin olla apua, mutta taitava ja superälykäs tekoäly osannee hyödyntää niin ihmisten kuin valitun teknisen ratkaisun heikkouksia. Ehkä vanginvartija ottaa vastaan lahjuksen. Ehkä tietokoneen wlanin saa kytkettyä päälle, kun on riittävän ovela.

Riittävän älykästä tekoälyä voi olla vaikea hallita.

Koska tekoäly olisi fiksu, tajuaisi se varmaan myös aika äkkiä, että se voi ohjelmoida itseään uudelleen. Ehkä ihmiskunnan palvelu ei tuntuisikaan siitä tärkeimmältä asialta maailmassa. Säännöt ovat bittejä ja bitit voi aina kirjoittaa uudelleen.

Riittävän älykkään säännöt voi olla vaikea pitää sellaisina kuin me haluamme.

Ihmistä älykkäämmistä asioista

Kaksi hyvin yhteen toimivaa ihmistä ovat älykkäämpiä kuin yksi ihminen. Ihminen ja tietokone ovat älykkäämpiä kuin pelkkä ihminen. Kaksi ihmistä ja kaksi tietokonetta ovat älykkäämpiä kuin kaksi ihmistä. Yksi hyvin organisoitu ihmisyhteisö tietokoneineen on fiksumpi kuin ihminen.

Ihmisten älykkyyttä mitataan kokein. Ihmisyhteisöjen älykkyyden mittaaminen on vaikeampaa, mutta siitä huolimatta näyttää siltä, että erilaiset tavat pureutua suuriin ongelmiin joukolla ovat aika tyypillinen tapa ratkaista maailman ongelmia.

Jos haluaa nähdä asiat vertauksin, voi ajatella, että vaikkapa tehokkaasti toimiva yritys on kuin organismi ja se on parempi tehtävissään kuin yksittäinen ihminen. Se pystyy analysoimaan tarjontaa ja kysyntää ja se kykenee tuottamaan strategioita, joilla maailma valloitetaan.

Vielä tätäkin mahtavampia organismeja on olemassa. Yritykset toimivat nykyään markkinatalouden sisällä. Jos siis yhden organisaation rakenne on pielessä ja kokonaisuudessaan tyhmempi kuin saapas, voi sen korvata toinen älykkäämpi ja ketterämpi. Tätä rakennetta voisi sanoa markkinataloudeksi.

Tässä kohti on kuitenkin syytä pysähtyä miettimään, mitä yritykset oikeastaan maksimoivat. Paperiliittimien maksimointia ei yksikään firma tee. Tavoitteena on rahan tekeminen omistajille. Yrityksen pitää tuottaa voittoa omistajilleen tai kasvattaa omaa arvoaan, joka periaatteessa kytkeytyy kykyyn maksaa omistajille rahaa joskus tulevaisuudessa.

Miten rahaa sitten tehdään? Kaikilla laillisilla menetelmillä ja oikeastaan joskus laittominkin, jos vain odotusarvo rangaistusten ja voittojen välille jäävät plussalle. Periaatteessa ajatuksella voi kuitenkin nähdä olevan ihan hyvienkin asioiden optimointi: voittoa tehdään tarpeita viime kädessä tyydyttämällä. Kun tarvitsen ruokaa, voin ostaa sitä kaupasta ja joku tekee rahaa sen tuottamisella, joku sen siirtämisellä kauppaan ja joku sen kaupassa minulle jakelusta. Raha liikkuu moneen suuntaan, mutta minun vatsani täyttyy lopuksi – usein toki vähän liiankin kanssa. (2)

Jos ruoka on liian kallista kuluttajille, voivat yritykset kaatua. Voi löytyä halvempi tuottaja tai halvempi kuljetusfirma. Yritykset kaatuvat ja kokonaisuus tyydyttää tarpeita halvemmalla ja tehokkaammin. Markkinatalous toimii suuren optimoijan tapaan – niin hyvän, että se on parempi kuin yksikään ihminen.

Markkinatalous on ihmistä älykkäämpi.

Usein tehokkuus syntyy nykyään tehokkaasta teknologian hyödyntämisestä: logistiikka-ala on itseasiassa yksi eniten tietokoneista hyötyneitä. Markkinatalous hyödyntää tietokoneiden älyä ja ihmisten älyä tehokkaasti ja saumattomasti tavoitteidensa toteuttamiseen.

Markkinatalous on jo maailman valloittanut tekoäly

En halua aliarvioida lukijaa, mutta lienee selvä, että sekä tekoälyskenaarioiden ja nykyisen markkinatalouden voittokulun välillä on paljon yhtymäkohtia. Huolettekoälystä ovat todennäköisesti periaatteessa järkeviä. Samat ihmiset ovat kuitenkin yllättävän sokeita markkinatalouden voittoja optimoivalle logiikalle. Tässä kannattaa avata silmät. Itselleni tämän hyvän yhtymäkohdan esitti ensimmäisenä Charles Strossin mainiossa ja paljon otsikkoaan paremmassa luennossaan Dude, you broke the Future!

Markkinatalous on ihmistä älykkäämpi olio. Sen toimintaa on vaikea hallita. Markkinatalous voi myös kirjoittaa omat sääntönsä uudelleen.

Toisin kuin tekoälyn kanssa – markkinatalouden suurempien epäkohtien korjailua on ehditty miettiä jo satoja tai ainakin kymmeniä vuosia. Oikeastaan jokainen suomalainen puolue tuntuu jakavan käsityksen, että pelkkä markkinatalous ei riitä. Melkein kaikki tuntuvat ajattelevan, että markkinatalous on kätevä tapa maksimoida joitakin asioita, mutta sen toimintaa pitää rajoittaa joissakin asioissa.

Ilmeinen esimerkki ovat kasvihuonepäästöt. Markkinatalous ei kykene huomioimaan päästöjemme planeettaa lämmittävää vaikutusta ja sen aiheuttamia ongelmia ihmiskunnalle tulevaisuudessa. Markkinat kun toimivat hiukan itsetuhoisella ja lyhytkatseisella tavalla: Jos keskittyy nyt vihreään teknologiaan, ei sillä välttämättä saa voittoa niin paljoa lyhyellä aikavälillä kuin fossiilipolttoaineiden polttamisella.

Looginen ja perusteltu ratkaisu ongelmalle on asettaa markkinat rajattuun tilaan, jossa optimointi on harmitonta: rankaista saastuttavia yrityksiä niin paljon, että ne hakevat puhtaat ratkaisut. Ongelmia tässä kuitenkin riittää, sillä valtiot ovat pieniä toimijoita suurimpiin yrityksiin verrattuna. Laatikoistamme on turhan helppo karata.

Analogia on tässä perin vahva. Toisessa ongelmakentässä tutut ongelmat voivat näyttää toisissa hieman erilaisilta, mutta toimivat aika hyvin. Esimerkiksi markkinatalouteen liittyy erittäin vahvasti samanlainen sääntöjen uudelleenkirjoittamisen riski kuin tekoälyyn. Tekoäly ehkä kirjoittaisi säännöt todella bitteihinsä uudelleen, mutta markkinatalous voi myös muuttaa ympäristöään: yritys voi vaikuttaa siihen, mitkä lait rajoittavat sen toimintaa. Tätä sanotaan lobbaukseksi.

Markkinatalous on vaarallinen maailman jo vallannut tekoäly, jonka kuriin laittaminen on todella vaikeaa.

Tiedän, että nyt monet yrittäjät ja suurten yritysten työntekijät rientävät puolustautumaan: yritykset koostuvat ihmisistä ja ihmisillä on arvoja, periaatteita ja omaa näkemystä. Näin epäilemättä on ja väitettä ei minustakaan pidä viedä liian pitkälle. Ihmisten arvoilla on merkitystä kaikessa toiminnassa. Siitä huolimatta yritykset ja markkinatalouden logiikka ovat yllättävän kovia valitsemaan arvoiltaan ja periaatteiltaan sopivia ihmisiä sopiviin tehtäviin.

Tietenkin tupakkateollisuus löytää sen periaatteisiin suurin piirtein uskovan lobbarin Suomesta. Tietenkin teollisuuden lobbari uskoo perusviestin siitä, ettei Suomessa pidä ajaa päästöjä alas liian nopeaa. Tietenkin IT-firman lobbari uskoo EU:n tietosuojaa koskevan lainsäädännön menevän liian pitkälle – vaikka tietosuoja tärkeää onkin. Jos oma leipä riippuu johonkin faktaan uskomisesta, sille faktalle löytää kyllä tarvittavaa tukea nykypäivänä helposti.

Tekoäly ja markkinatalous myös muuttuvat yhdeksi asiaksi: yritykset, markkinat ja vaikkapa sijoittajat digitalisoituvat valtavaa vauhtia.

Kun se jonkun tutkijan koodaama superälykäs tekoäly jostain laatikosta lopulta karkaa, on aika selvää, että siitä tulee äkkiä markkinapeluri. Jos siis vakavasti uskoo tekoälyriskiin, kannattaa ehkä suunnata katseet markkinatalouden pitämiseen aisoissa.

(1) Ajatusleikin suurin jälki maailman historiaan tähän mennessä taitaa olla addiktiivinen verkkoselainpeli.

(2) Tilanpuutteen vuoksi vedän tässä tietoisesti mutkia suoraksi. Voidaan aiheellisesti kysyä myös kysymyksiä siitä, kuinka paljon kuluttajille voidaan synnyttää tarpeita tyhjästä. Lisäksi onhan näitä ihmisten lisäksi ostajia muitakin, kuten vaikkapa kaikki valtioiden omistamat aseet.

Facebooktwittergoogle_plusredditpinterestlinkedinmail