Neuvottelija.AI

EP210 · Yhteiskunta · 2023-09-08

Tekoäly ja minä | Petteri Järvinen | Neuvottelija 210

Tämä on tiivistelmä Neuvottelija AI:ssa. Itse jakso — koko litterointi, tekstitykset ja luvut — on osoitteessa Neuvottelija.fi, joka on sen kanoninen koti.

Tietokirjailija Petteri Järvinen Sami Miettisen vieraana syyskuussa 2023 kirjastaan Tekoäly ja minä. Jakso on lohdullinen kirja puettuna keskusteluksi: ihminen pärjää, ammatteja kuolee ja syntyy, ja luddiitit ovat olleet aina väärässä. Mutta sen alla kulkee kaksi kysymystä, jotka eivät ratkea — miten neuroverkon päätöksestä voi ottaa vastuun, kun se ei kerro perustelujaan, ja mitä tapahtuu kun vinouma korjataan vääristämällä dataa. Käytännön anti on erottelu tiivistämisen ja ekstrapoloinnin välillä. Jakson litteraatti on automaattitekstitys, mikä on merkitty.

Sami Miettinen

Tekoäly ja minä | Petteri Järvinen | Neuvottelija 210

Tiivistelmä: Tietokirjailija Petteri Järvinen Sami Miettisen vieraana syyskuussa 2023 kirjastaan Tekoäly ja minä. Jakso on lohdullinen kirja puettuna keskusteluksi: ihminen pärjää, ammatteja kuolee ja syntyy, ja luddiitit ovat olleet aina väärässä. Mutta sen alla kulkee kaksi kysymystä, jotka eivät ratkea — miten neuroverkon päätöksestä voi ottaa vastuun, kun se ei kerro perustelujaan, ja mitä tapahtuu kun vinouma korjataan vääristämällä dataa. Käytännön anti on erottelu tiivistämisen ja ekstrapoloinnin välillä. Jakson litteraatti on automaattitekstitys, mikä on merkitty.

Vieras ja lähdevaraus

Petteri Järvinen on pitkän linjan tietokirjailija, ja jakso perustuu hänen kirjaansa Tekoäly ja minä — Ihmisenä tekoälyn aikakaudella (Tammi 2023). Nauhoitus on 8.9.2023.

Kaksi varausta:

Kirjan ydinviesti on lohdullinen: ihminen pärjää tekoälyn kanssa ja sitä vastaan. Jakson kiinnostavin sisältö on kuitenkin siinä, mikä jää ratkaisematta.

1. Kaksi visiota — ja miksi kumpikin on epätäydellinen

Isäntä esittää kaksi näkemystä, jotka hän kertoo kuulleensa pääomasijoittajalta, ja pyytää Järvistä arvioimaan ne.

Visio 1: tekoäly delegointialustana. Vihdoin käyttöliittymä, jolle voi antaa komentoja ja joka hoitaa asian.

Järvisen vastaus ei ole innostus vaan historiallinen vertailu, ja se on osuvin tässä osuudessa: puheohjauksesta puhuttiin samoin kymmenen vuotta sitten — ääniavustajien piti olla seuraava sisällönjakokanava — eikä siitä tullut mitään. Hän lisää tähän oman kokemuksensa 1990-luvulta: hän uskoi internetiin vilpittömästi eikä osannut kuvitella sen varjopuolia. Päätelmä ei ole, ettei visio toteudu, vaan että varjopuolet tulevat yllätyksenä.

Visio 2: henkilökohtainen dataismi. Koulutat yksityisessä ympäristössä kopion itsestäsi — “mini-Petterit ja mini-Samit” — joka hoitaa rutiinin ja säästää sitä, mitä isäntä kutsuu “Kahneman-mehuksi”, eli raskaan päättelyn kapasiteettia.

Järvisen vastaväite on jakson hienoin, koska se on henkilökohtainen ja konkreettinen:

Parhaat asiat ovat yllätyksiä. Jos hänellä olisi ollut agentti suodattamassa yhteydenottoja, se olisi todennäköisesti hylännyt tämän haastattelupyynnön — tuntematon kysyjä, ei aiempaa historiaa.

Se on kuratoinnin hinta lyhyimmillään, ja se on esitetty esimerkkinä, jonka kumpikin osapuoli tunnistaa juuri sillä hetkellä.

2. Tiivistäminen vastaan ekstrapolointi — jakson käyttökelpoisin erottelu

Tämä on osuus, jonka voi ottaa käyttöön tänään:

Tiivistäminen on luotettavaa, koska se on kompressiota. Malli poistaa tavaraa ja säilyttää jonkin uskollisuustason — siinä ei voi mennä kovin pahasti pieleen. Hallusinaatio syntyy ekstrapoloinnista: kun mallia pyydetään lisäämään jotain, mitä lähdeaineistossa ei ole, se tuottaa sitä.

Isäntä esittää samaan hengenvetoon rajoituksen, joka estää erottelua muuttumasta tekosyyksi: voiko alkuperäisaineistoon perehtymistä koskaan kokonaan välttää? Kysymys jää auki.

Käytännön jatko on tarkka: erikoistuneet liitännäiset vähentävät hallusinointia, koska ne siirtävät osan tehtävästä pois kielimallilta — matematiikka laskimelle, dokumentti hakukoneelle. Se on arkkitehtuurihavainto eikä mielipide.

Osuuteen kuuluu myös varoittava esimerkki: kokeilu, jossa mallilta pyydettiin ehdotuksia ja se päätyi ehdottamaan jotain sellaista, mitä kukaan ei voisi toteuttaa. Järvinen käyttää sitä perusteena sille, miksi hän jätti kirjastaan pois suuren osan esimerkeistä — ne vanhenevat nopeasti, ja yksittäiset kompakysymykset korjataan mallista käsin.

Se on kirjailijan metodinen huomio, ja se on hyödyllinen: älä rakenna argumenttia yksittäisen mallivirheen varaan.

3. Flynnin ilmiö — huoli, joka ei ole teknologiavastainen

Järvisen huoli on esitetty tutkimusviitteenä, ja se on tarkistettavissa: uusiseelantilaisen psykologin nimeä kantava ilmiö, jonka mukaan mitattu älykkyysosamäärä nousi vuosikymmeniä, on useissa maissa kääntynyt. Yhtenä selityksenä on esitetty sitä, että ulkoiset työkalut — älypuhelin, hakukone — vähentävät tarvetta rasittaa aivoja.

Hänen päätelmänsä on ehdollinen eikä kategorinen, ja se on syytä lukea sellaisena: jos kaikki hoituu komentamalla, vaikutus aivojen aktiivisuuteen ei välttämättä ole hyvä.

Tämä on jakson ainoa kohta, jossa kaksi vierasta ovat aidosti eri linjoilla ilman että sitä sanotaan riidaksi. Isännän oma käytäntö on päinvastainen: hän kertoo pitävänsä tarkkaavuutta yllä antamalla aivoille toissijaisen tehtävän — kävely koiran kanssa, yksinkertainen peli — jolloin äänikirjan seuraaminen paranee. Järvinen kertoo päinvastaisen kokemuksen: hän ei jaksa täyttää ympäristöään jatkuvalla äänellä, ja arvostaa sitä, että ajatukset saavat vaeltaa.

Kumpikaan ei väitä toisen olevan väärässä, ja jakso kehottaa lukijaa kokeilemaan itse. Se on epätavallisen rehellinen tapa käsitellä kognitiivista neuvoa.

4. Vastuu, jota ei voi ottaa — jakson painavin osuus

Tämä on se kohta, jonka takia jakso kannattaa lukea, ja se rakentuu kahdesta osasta.

Miksi neuroverkko ei voi perustella

Järvinen tekee historiallisen erottelun, joka selittää nykytilanteen paremmin kuin useimmat selitykset:

1980-luvulla rakennettiin tietämysjärjestelmiä — sääntöjä, jos–niin-lauseita, päätöspuita. Ne epäonnistuivat niin pahoin, että koko ala jäätyi pitkäksi aikaa. Läpimurto tuli siitä, että luovuttiin sääntöjen opettamisesta: annetaan aineisto, annetaan halutut lopputulokset ja annetaan koneen päätellä itse, miten yhdestä päästään toiseen.

Ja juuri siksi se ei osaa kertoa, miksi se päätyi tähän.

Erottelu on tekninen ja se on oikein. Siitä seuraa kysymys, jota kumpikaan ei ratkaise:

Millä perusteella ihminen ottaa vastuun päätöksestä, jonka perusteluja hän ei saa tietää? — ja tämä koskee yhtä lailla työhaastatteluun valitsematta jättämistä kuin yhteiskunnallista päätöstä.

Esimerkki, joka tekee siitä konkreettisen

Järvinen kertoo Hollannin tapauksen: viranomaiset rakensivat järjestelmän sosiaalitukien väärinkäytösten löytämiseksi, ja lopputuloksena syntyi skandaali, jonka seurauksena hallitus vaihtui.

Tapaus on tosi ja tarkistettavissa — kyse on Alankomaiden lapsilisä- ja hoitotukiskandaalista, jonka vuoksi pääministerin hallitus erosi vuonna 2021. Järvinen huomauttaa myös, ettei kyse ollut varsinaisesti edes tekoälystä vaan koneoppimisesta ja yksinkertaisista ehtolauseista — mikä tekee esimerkistä vahvemman, ei heikomman: automatisoidun päätöksenteon ongelma ei vaadi kehittynyttä mallia.

Siihen liittyy Järvisen realistinen tarkennus, joka pienentää paniikkia: asiakkaiden pisteyttäminen ja priorisointi on aina tapahtunut eikä se vaadi tekoälyä. Uutta on mittakaava ja läpinäkymättömyys, ei itse toiminta.

5. Vinouma, ja kohta jossa artikkeli erottaa kannan argumentista

Osuus syrjinnästä on jakson kiistanalaisin, ja se on eriteltävä tarkasti.

Havainto, joka on tarkistettavissa: kuvageneraattorit tuottavat suomalaiseen käyttötarkoitukseen aineistoa, jonka jakaumat tulevat muualta — Järvinen ja isäntä puhuvat siitä käyttäjän ongelmana, eivät poliittisena kysymyksenä.

Järvisen kanta, joka on kanta eikä havainto: dataa ei pitäisi tarkoituksella oikaista tuottamaan haluttua lopputulosta, koska korjaus on keinotekoinen eikä läpinäkyvä. Hän kutsuu tätä insinöörilogiikaksi.

Vasta-argumentti, jota jaksossa ei esitetä ja joka on merkittävä tähän: koulutusaineisto ei ole neutraali lähtökohta vaan itsessään valikoitunut, joten “datan seuraaminen” ei ole korjaamattomuutta vaan yhden valikoituneen jakauman toistamista. Kumpi tahansa valinta on valinta.

Jakso kuitenkin nimeää ratkaisun, joka on molemmille kannoille yhteinen ja siksi hyödyllinen: yksityiset, käyttötarkoitukseen koulutetut ympäristöt — jolloin jakauma valitaan tietoisesti eikä peritä oletuksena.

Tuuppaus

Samaan osuuteen kuuluu keskustelu ohjauksesta. Molemmat hyväksyvät, että tuuppaus voi olla perusteltua, ja kumpikin epäilee sitä, kun sen tekee kaupallinen toimija: esimerkkinä karttapalvelun reittisuositusten muuttuminen polttoainetta säästäviksi.

Isännän oma esimerkki koskee indeksirahastoa, jonka sijoituspolitiikka muuttui yleisindeksistä vastuullisuuspainotetuksi. Hänen argumenttinsa on sijoitustekninen — hän haluaa mahdollisimman vähäkuluisen yleisindeksin ilman suodatusta — ja hän sanoo erikseen, ettei vastusta vastuullisuutta sinänsä. Hän myös kertoo itse, että kyseisen palvelun omistajan podcast on hänen kilpailijansa. Se merkitään tähän, koska hän merkitsee sen itse.

6. Miksi ihmistyö ei ole ohi

Jakson optimistinen osuus, ja se nojaa kahteen argumenttiin, joista toinen on hyvä ja toinen on arvaus.

Hyvä argumentti — historiallinen kontrolli: Järvinen kertoo löytäneensä kirjaston poistohyllystä vuonna 1978 ilmestyneen kirjan, jonka tulevaisuudenkuvat kuulostivat samalta kuin nykyiset. Ammatteja on kuollut ja syntynyt enemmän kuin kuollut. Luddiitit ovat olleet aina väärässä — mihin hän lisää kuivan tarkennuksen, että he ovat olleet osittain myös aina oikeassa.

Huolenaihe ei ole työn määrä vaan polarisaatio: yksinkertaisia suorittavia tehtäviä tarvitaan ja vaativia tarvitaan, ja väli ohenee.

Arvaus, joka on merkittävä sellaiseksi — “luomureaktio”: kun tekstin tuottaminen on helppoa, aletaan arvostaa tekstiä, jonka joku on oikeasti miettinyt ja joka ei ole monisanaista höttöä. Se on ennuste kulttuurisesta vastareaktiosta, eikä sitä voi tarkistaa.

Luovuudesta Järvinen tekee määritelmällisen havainnon: luovuus rakentuu aiemmin luodun ja satunnaisvaihtelun varaan, joten kysymys ei ole siitä voiko kone yhdistellä, vaan missä kohtaa yhdistely muuttuu ihmisen kaltaiseksi luovuudeksi. Hän sanoo olevansa eniten hämmästynyt ohjelmointikyvystä, koska se ei hänen mukaansa voi olla pelkkää seuraavan sanan todennäköisyyttä.

Ja siitä seuraa varoitus, joka on ammatillinen eikä dramaattinen: jos kone kirjoittaa koodin, painopiste siirtyy testaamiseen ja virheenjäljitykseen — ja koneen kirjoittama koodi toisen koneen ajettavaksi on se kohta, jossa hän itse alkaa huolestua.

7. Kaksi sivupolkua, jotka kannattaa poimia

Aivomyytti. Järvinen oikaisee suoraan väitteen, jonka mukaan ihminen käyttäisi aivoistaan kymmentä prosenttia: ihminen käyttää alueellisesti kaikkia osia, eikä käyttämätöntä kapasiteettia ole. Oikaisu on oikea. Isäntä muotoilee saman asian uudelleen tavalla, joka säilyttää hyödyn: rutiinien siirtäminen automaattisiin prosesseihin vapauttaa kapasiteettia raskaaseen päättelyyn.

Merkitysneuvottelu. Jakson lopussa viitataan suomalaisen tekoälytutkijan ajatukseen, jossa neuvottelu käydään koneiden välillä osapuolten preferensseillä: oleta, että toinen haluaa lisätä nettovarallisuuttaan ja tehdä arvoa lisääviä transaktioita — ja anna koneiden etsiä yhteiset intressit. Se on visio eikä tuote, mutta se on tämän kanavan aiheeseen nähden kiinnostavin yksittäinen ajatus jaksossa.

Väitteitä, jotka esitetään väitteinä

Mitä jaksosta jää käteen

  1. Tiivistäminen on kompressiota, hallusinaatio ekstrapolointia. Se kertoo, missä tehtävissä mallia voi käyttää vähällä valvonnalla ja missä ei.
  2. Neuroverkko ei voi perustella, koska juuri perustelujen opettamisesta luovuttiin. Siitä seuraa vastuukysymys, jota jakso ei ratkaise eikä teeskentele ratkaisevansa.
  3. Automatisoidun päätöksenteon ongelma ei vaadi kehittynyttä tekoälyä — Hollannin tapauksessa riittivät koneoppiminen ja ehtolauseet.
  4. Kuratointi maksaa yllätykset. Paras esimerkki on se, että agentti olisi hylännyt tämän haastattelupyynnön.

Jakson kulku

Osastot: Tekoäly ja yhteiskunta + Työkalut ja toteutukset · Markdown: index.md · In English