Tekeekö tekoäly meistä tyhmiä?

Tehokkaat tekoälytyökalut ovat kaikkien saatavilla. Mutta mitä niiden käyttö tekee kriittiselle ajattelullemme ja oppimisellemme? Kuinka helposti alamme luottamaan kielimallien tuottamaan tietoon? Kuinka innokkaasti automatisoidessamme kulutamme samalla luonnonvaroja?

Tämä blogi perustuu Aer Studiosin teknologiajohtaja James Hobbsin Codegardenissa pitämään luentoon "Is AI Making Us Bird Brained?" Hobbs tarkastelee tekoälyn hyötyjä ja riskejä erityisesti luottamuksen, verifioinnin, turvallisuuden ja ympäristövaikutusten näkökulmasta.

Luottaminen vai ymmärtäminen?

Tekoälyä käyttäessä kannattaa kysyä kolme asiaa. Voinko luottaa tähän tuotokseen? Milloin se pitää validoida? Mitä tapahtuu jos olen väärässä?

Mitä enemmän tekoälystä ymmärtää, sitä vähemmän siihen luottaa sokeasti. Tämä pätee koodiin, tekstiin, kuviin ja kaikkeen muuhunkin tekoälyn tuottamaan sisältöön.

Tekoälyn käyttäjän ei tarvitse tietää kaikkea, mutta hänen täytyy ymmärtää riittävästi arvioidakseen tuotoksen luotettavuutta.

Hallusinointi ja datan myrkyttäminen

Kielimallit voivat tuottaa vakuuttavan kuuloista, mutta täysin keksittyä tietoa. Jokainen tällainen hallusinointi kuluttaa laskentatehoa turhaan.

Siksi tekoälyn tuotoksia pitää tarkistaa erityisesti silloin, kun virheellä on seurauksia. Hyvä nyrkkisääntö on pyytää mallilta asioita, jotka pystyt itse helposti tarkistamaan ja käyttää mahdollisuuksien mukaan deterministisiä työkaluja.

Ongelma ei kuitenkaan ole vain hallusinointi. Myös tekoälyn käyttämän datan luotettavuus on haaste. Jos verkossa oleva sisältö on väärää, manipuloitua tai tarkoituksella ”myrkytettyä”, malli voi oppia siitä.

Tarkista siis sekä tekoälyn vastaus että sen lähteet.

Prompt injection on tekoälyn uusi hyökkäyspinta

Kun tekoälylle annetaan pääsy ulkoiseen dataan ja mahdollisuus toimia itsenäisesti, syntyy uudenlaisia tietoturvariskejä. Esimerkiksi verkkosivulle voidaan piilottaa ohjeita, jotka tekoäly tulkitsee käskyiksi.

Prompt injection -hyökkäyksiltä ei voi täysin suojautua, mutta riskiä voi pienentää rajoittamalla sitä, mitä tekoälymalli saa samanaikaisesti: nähdä yksityisestä datasta, lähettää ulkopuolelle ja lukea epäluotettavista lähteistä.

Verifioinnin ongelma

Mistä tiedämme, milloin tekoäly huijaa?

Yksi vaihtoehto on tarkistaa tulos toisella mallilla. Toinen on käyttää testejä ja ennalta määriteltyjä sääntöjä. Kolmas, ehkä mullistavin, on tarkistaa tulos itse, mutta itse tarkistaminen voi johtaa reference rabbit holeen: yhdestä lähteestä seuraa toinen, siitä kolmas ja pian huomaat käyttäneesi tuntikausia lähteiden tutkimiseen.

Siksi tarkistamisen määrää kannattaa suhteuttaa virheen mahdollisiin seurauksiin.

Seurausten jatkumo

Hobbsin esimerkissä seuraukset muodostavat jatkumon:

• ”Ei väliä”: kokeilet vibe-koodausta omassa proof of conceptissasi
• ”Näytän tyhmältä”: julkaiset kotibileiden kutsussa väärän päivämäärän
• ”Me näytämme tyhmältä”: lähetät asiakkaalle sähköpostin, jossa on asiavirhe
• ”Ihmisiä vahingoittuu”: tekoäly paljastaa sille annetun luottamuksellisen asiakastiedon
• ”Kaikki ovat kuolleet”: koodasit vahingossa Skynetin ja ihmiskunta tuhoutui

Viimeinen on onneksi epätodennäköinen. Pointti on kuitenkin tärkeä:

Mitä suuremmat seuraukset virheellä voi olla, sitä huolellisemmin tuotoksen oikeellisuus pitää varmistaa.

Ihmiset eivät ole deterministisiä

Ihmiset tekevät jatkuvasti satunnaisia, outoja ja epäloogisia asioita. Ehkä suurten kielimallien suurin ongelma ei siis olekaan niiden epädeterministisyys, vaan ihmiset, jotka eivät ymmärrä niiden rajoituksia eivätkä tarkista niiden tuotoksia.

Kriittinen ajattelu on tekoälyn aikakaudella entistä tärkeämpää.

Hyvä insinööri ei vain ”vedä riskillä ja toivo parasta”, vaan rakentaa ympärille järjestelmän, joka auttaa löytämään virheet. Koodissa tämä tarkoittaa esimerkiksi pariohjelmointia, pull request -katselmointeja, staattista analyysiä sekä yksikkö-, integraatio- ja end-to-end-testejä.

Sisällössä vastaavia keinoja ovat toimitukselliset katselmukset, lähteiden tarkistaminen ja ennen kaikkea se, että luet itse sen, minkä tekoäly tuotti.

Entä pingviinit?

Tekoälyn ympäristövaikutuksista on vaikea antaa yksinkertaista vastausta, mutta yksi asia on selvä: datakeskusten energiankulutus ja veden käyttö kasvavat ja tekoäly lisää laskennan tarvetta.

Siksi älä tuhlaa tokeneita.

Käytä tehtävään sopivaa työkalua sen sijaan, että käyttäisit tekoälyä kaikkeen vain siksi, että se on helposti saatavilla. Kaikkea ei tarvitse ratkaista suurella kielimallilla.

Lopuksi

Tekoäly ei välttämättä tee meistä tyhmiä. Sen ajattelematon käyttö voi kuitenkin tehdä meistä laiskoja ajattelemaan.

Käytä siis aivojasi, jotta ne eivät surkastu.

• Älä luota tekoälyyn sokeasti
• Tarkista tuotokset suhteessa niiden mahdollisiin seurauksiin
• Ymmärrä käyttämiesi työkalujen rajoitukset
• Käytä oikeaa työkalua oikeaan tehtävään
• Älä anna koneen tehdä kaikkea sitä, mikä on kiinnostavaa ja opettavaista

Anna tekoälylle tylsät tehtävät. Pidä ajattelu itselläsi.

Ota meihin yhteyttä ja muutetaan ideasi tekoälyratkaisuiksi!