Kuten moni on arvellutkin, on ChatGPT hevonpaskaa suoltava automaatti ja nyt asiasta on julkaistu tieteellinen raportti, joka on ytimekkäästi otsikoitu ChatGPT is bullshit (Michael Townsen Hicks, James Humphries & Joe Slater, Ethics and Information Technology 26/2024).
Tutkijat lainaavat tämän alatyyliin viittaavan termin Harry Frankfurtilta, joka esitteli sen ensi kertaa esseessään On Bullshit 1986 (myöhemmin kirjana 2005) ja jolla hän tarkoittaa sellaista löysää puhetta, joka ei ole varsinaisesti valhetta, mutta ei myöskään piittaa totuudesta. Tällaista hevonpaskaa eli toisin sanoen paskapuhetta suoltavat poliitikot ja mainosmiehet.
Tutkimuspaperissaan kirjoittajat ampuvat alas kaikki illuusiot tekoälyn ”älystä” tai ”ajattelusta”; kielimallit tuntuvat kyllä inhimillisiltä, mutta niiden toimintaperiaate on vain arpoa sanoja peräkkäin lähdemateriaalista johdettujen todennäköisyyksien perusteella. Ne eivät siis ole tietoisia ”totuudesta”, mutta eivät myöskään ”valehtele”, koska valehtelu edellyttäisi jonkinlaista intentiota. Ne siis vain puhuvat paskaa.
Tutkijat myös kritisoivat yleisesti käytettyä ilmaisua tekoälyn ”hallusinoinnista”; hallunisoija näkee maailman ”väärin”, tekoäly taas ei näe maailmaa ollenkaan.
Frankfurt jakaa termin kahteen: 1) hard bullshit ~ kova hevonpaska, jonka tarkoitus on johtaa kuulijan harhaan 2) soft bullshit ~löysä hevonpaska, joka ei pyri tahallisesti johtamaan harhaan. Koska kielimallilla ei ole omaa tahtoa eikä siis tavoitteitakaan, on se löysää paskaa. Kielimalli toisaalta johtaa harhaan siinä mielessä, että se esiintyy ”inhimillisenä” keskustelukumppanina.
Olen varma, että kirjoittajat saavat termin käytöstä samaa infantiiliä mielihyvää kuin minäkin.
Frankfurtin termiä kehitteli pidemmälle Andre Spicer (kirjassa Business bullshit, suom. Tapani Kilpeläinen Hevonpaskabisnes 2018), joka kutsuu hevonpaskaksi sellaista turhaa hölinää tai kirjoitusta, jolla ei ole mitään muuta merkitystä kuin täyttää tyhjää tilaa. Jokainen meistä valkokaulusorjista törmää tähän tekstityyppiin jatkuvasti, mahdollisesti joutuu itsekin tuottamaan sitä työkseen: raportteja, selontekoja, mainostekstejä, konsulttijargonia, kehittämissuunnitelmia. Jokaisen itseään kunniottavan yrityksen kotisivuilla kuuluu olla yrityksen ”arvot” listattuna. Yhteistyötä syvennetään ja prosesseja kehitetään.
(Uskomme edelleen sanamagiaan. Moderni ihminen hymähtelee kalaonnea loitsivalle muinaissuomalaiselle, mutta itse uskoo innovaatiopuheeseen. Juridisilla teksteillä on mahtia meidän maailmassamme, mutta vain jos ne esitetään tietyssä muodossa ja tietyssä yhteydessä — samalla tavalla kuin uskonnolliset riitit.)
Spicerin käsitettä lähellä on David Graeberin hevonpaskaduuni, josta tässäkin blogissa on pariin otteeseen kirjoitettu.
Tekoäly onkin erinomainen työkalu erilaisten työelämätekstien kirjoittamiseen. Juuri merkityksettömän tekstimaton tuottamiseen kielimalleja käyttävät tekoälyt ovat omiaan.
Ja jos et jaksa lukea moista hevonpaskaa, voit aina pyytää tekoälyä lukemaan sen puolestasi ja tekemään tiivistelmän.
Opettajat epäilevät, että oppilaat teettävät kotitehtävänsä tekoälyllä, mutta ei hätää: opettajat voivat myös tarkistaa kotitehtävät tekoälyn avulla.
Olemme pian siis siinä tilanteessa, että tekoälyohjelmat sekä luovat että lukevat hevonpaskaa päivät pitkät kuin pyörittäisivät rukousmyllyjä. Kaikki tietenkin tiedämme miten huvittava koko ajatus on, mutta meille on tärkeää, että näin tapahtuu, koska joku jossain pitää sitä tärkeänä (vrt. Žižek ideologiasta).
On visioitu, että tekoälyn myötä kokonaisia ammatteja katoaa. Ironia tietenkin piilee siinä, että monet näistä ammateista ovat Graeberin kuvaamia hevonpaskaduuneja: ne ovat olemassa vain itsensä vuoksi. Ollaanko pian siinä tilanteessa, että hevonpaska ei katoa minnekään, mutta sitä vain generoidaan tekoälyn avulla?
En kyllä usko sellaiseen visioon. Kassatyöntekijät kyllä tullaan korvaamaan itsepalvelukassoilla, mutta sen viimeisen työntekijän palkkaamiseen tarvitaan useampi korkeapalkkainen konsultti, joka veloittaa hommastaan sen 10 000€.
Aina kun kuulen tieteellisessä artikkelissa mainittavan sanan ”hevon”, poistan varmistimen, ja ammun kyseisen ”tieteellisen” artikkelin lennosta. Tähän mennessä osumatarkkuus on ollut sata
Kyllä tekoäly osaa vastata yksinkertaisiin kysymyksiin jo nyt paremmin ja nopeammin kuin hakukone. Tarkat vastaukset vaatii erittäin tarkat ja osaavat kysymykset. Muuten tulee tosiaan jonninjoutavaa .