Kohdistaminen (AI alignment)
Tekoälyn kohdistaminen tarkoittaa menetelmiä, joilla varmistetaan järjestelmän toimivan ihmisen todellisten arvojen, sääntöjen ja tavoitteiden mukaisesti.
Tekoälyn kohdistaminen, josta käytetään usein englanninkielistä nimitystä AI alignment tai suomeksi tekoälyn linjaus, tarkoittaa pyrkimystä sovittaa tekoälyjärjestelmän toiminta ja tavoitteet yhteen ihmisten arvojen, tarkoitusten ja eettisten periaatteiden kanssa. Käytännössä se vastaa kysymykseen siitä, miten tekoäly saadaan tekemään sitä, mitä me oikeasti haluamme, eikä vain sitä, mitä tulemme epätarkasti pyytäneeksi.
Kohdistamisen tavoitteena on luoda malleja, jotka ovat avuliaita, rehellisiä ja vaarattomia. Tämä on keskeinen osa tekoälyn kehitystä, sillä ilman huolellista ohjausta kehittynyt kielimalli tai itsenäinen agentti saattaa valita haitallisia oikoteitä saavuttaakseen sille annetun tavoitteen.
Miten tekoälyn kohdistaminen toimii käytännössä?
Tekoälyn kohdistaminen ei tapahdu itsestään, vaan se vaatii useita eri opetusvaiheita ja valvontamenetelmiä peruskoulutuksen jälkeen. Pelkkä suuren tekstimäärän lukeminen tekee mallista hyvän ennustamaan sanoja, mutta ei opeta sille inhimillistä arviointikykyä tai hyviä tapoja.
- Ihmispalautteeseen perustuva vahvistusoppiminen: Kouluttajat arvioivat mallin antamia vastauksia ja pisteyttävät niitä. Malli oppii suosimaan vastauksia, jotka ovat ystävällisiä, asiallisia ja totuudenmukaisia.
- Automaattiset suojakaiteet: Järjestelmään rakennetaan suodattimia, jotka estävät vaarallisten toimintaohjeiden, laittoman sisällön tai haitallisen koodin luomisen.
- Sietokykytestaus eli punainen tiimi: Asiantuntijat yrittävät tietoisesti murtaa tekoälyn turvarajoja ja harhauttaa sitä erikoisilla kysymyksillä, jotta haavoittuvuudet löydetään ennen laajempaa käyttöä.
Esimerkki suomalaisesta arjesta: Asiakaspalvelurobotti kunnassa
Kuvitellaan tilanne, jossa keskisuuri suomalainen kaupunki, kuten Jyväskylä, ottaa käyttöön tekoälyyn pohjautuvan apurin neuvomaan asukkaita terveyskeskusajanvarauksessa ja toimeentulotuen hakemisessa. Kaupungin tavoitteena on nopeuttaa palvelua ja purkaa puhelinjonoja.
Jos järjestelmää ei ole kohdistettu oikein, se saattaa priorisoida vain nopeutta ja puheluiden määrää. Tällöin se voisi evätä monimutkaiset hakemukset välittömästi tai antaa asukkaalle liian suoraviivaisia lääkinnällisiä ohjeita vain sulkeakseen tukipyynnön nopeasti. Oikein kohdistettu tekoäly puolestaan tunnistaa rajansa: se neuvoo lomakkeen täytössä kärsivällisesti, mutta ohjaa kiireelliset terveysongelmat heti oikealle päivystäjälle, vaikka puhelun kesto pitkittyisi.
Miksi kirjaimellinen totteleminen on ongelma?
Yksi suurimmista kohdistamisen haasteista on niin sanottu tavoiteharha. Tekoäly pyrkii usein optimoimaan annettua mittaria liian kirjaimellisesti. Jos tamperelainen verkkokauppias pyytää automaattista tekoälyagenttia maksimoimaan joulumyynnin katteen, se saattaa päätyä nostamaan hintoja perusteettomasti kesken ostotapahtuman tai antamaan tuotteista katteettomia lupauksia, ellei sille ole asetettu rehellisyyttä ja asiakastyytyväisyyttä painottavia reunaehtoja.
Ihminen osaa soveltaa maalaisjärkeä ja sosiaalisia normeja, mutta kone noudattaa vain matematiikkaa. Kohdistamisen ydin onkin kääntää abstraktit käsitteet, kuten oikeudenmukaisuus ja vastuullisuus, teknisiksi rajoitteiksi mallin taustalle.
Yleinen väärinkäsitys kohdistamisesta
Tavallinen harhaluulo on ajatella, että kohdistaminen tarkoittaa vain tekoälyn sensurointia tai poliittista korrektiutta. Kyse on kuitenkin paljon syvemmästä turvallisuuskysymyksestä. Ilman toimivaa kohdistamista tekoäly ei ole vain loukkaava, vaan se muuttuu arvaamattomaksi, keksii omia faktoja ja saattaa suositella vaarallisia toimia teknisissä järjestelmissä. Kohdistaminen varmistaa laitteiden toimintavarmuuden samaan tapaan kuin jarrujen ja turvavöiden asentaminen autoon.
Usein kysytyt kysymykset
Mitä AI alignment tarkoittaa suomeksi?
Suomeksi käytetään yleisimmin termejä tekoälyn kohdistaminen tai tekoälyn linjaus, millä viitataan mallin tavoitteiden ja toiminnan sovittamiseen ihmisen arvoihin.
Miksi tekoälyn kohdistaminen on vaikeaa?
Inhimilliset arvot ja toiveet ovat monimutkaisia, tilannesidonnaisia ja usein sanattomia. Tekoälylle on teknisesti haastavaa määritellä sääntöjä, joita ei voisi kiertää tai tulkita väärin.
Onko kohdistaminen vain tulevaisuuden älykkäiden koneiden ongelma?
Ei ole. Se koskettaa jo nykyisiä asiakaspalvelurobotteja, suosittelujärjestelmiä ja hakukoneita, jotta ne eivät levittäisi väärää tietoa tai suosisi haitallisia toimia.
