Przejdź do treści
promptowy.com / Tekoälysanasto / Ylisovittaminen (overfitting)
Mallit ja opetus

Ylisovittaminen (overfitting)

Ylisovittaminen on koneoppimisen virhetila, jossa tekoälymalli opettelee opetusdatan ulkoa eikä kykene yleistämään oppimaansa uusiin tilanteisiin.

Ylisovittaminen (englanniksi overfitting) tarkoittaa koneoppimisessa tilannetta, jossa tekoälymalli oppii opetusaineistonsa liian tarkasti ja alkaa käytännössä muistaa asioita ulkoa sen sijaan, että se ymmärtäisi taustalla olevia säännönmukaisuuksia. Kun malli sovitetaan liian tiukasti rajattuun harjoitusmateriaaliin, se menettää kykynsä yleistää tietoa. Käytännössä tämä näkyy siten, että malli suoriutuu tutuista esimerkeistä erinomaisesti, mutta tekee karkeita virheitä heti, kun sille annetaan täysin uutta aineistoa.

Ilmiö on yksi koneoppimisen keskeisimmistä haasteista riippumatta siitä, koulutetaanko yksinkertaista ennustemallia vai monimutkaista kielimallia. Tilanne muistuttaa opiskelijaa, joka pänttää vanhan tentin kysymykset ja mallivastaukset sanasta sanaan ulkoa ymmärtämättä varsinaista ilmiötä. Jos varsinaisessa kokeessa kysytään täsmälleen sama kysymys, vastaus on täydellinen, mutta pienikin muutos sanamuodossa johtaa virheeseen.

Miten ylisovittaminen tapahtuu koneoppimisessa?

Koneoppimismallin koulutuksessa tavoitteena on opettaa algoritmille datassa toistuvia rakenteita ja sääntöjä. Todellisessa maailmassa kerätty data sisältää kuitenkin aina myös satunnaista kohinaa, virheitä ja asiaankuulumattomia poikkeamia. Jos mallilla on liian suuri laskennallinen kapasiteetti suhteessa aineiston määrään, se alkaa tulkita tätä satunnaiskohinaa pysyvinä lainalaisuuksina.

Ylisovittuminen kehittyy tyypillisesti silloin, kun mallia koulutetaan liian monta kierrosta tai kun opetusaineisto on kooltaan liian pieni ja yksipuolinen. Malli minimoi opetusvaiheen virheitä hinnalla millä hyvänsä, jolloin sen sisäisistä parametreista tulee äärimmäisen monimutkaisia. Tällöin malli ei enää kuvaa laajempaa todellisuutta, vaan ainoastaan kyseisen harjoitusdatan sattumia.

Käytännön esimerkki: Oululainen urheilukauppa

Tarkastellaan oululaista urheilukauppaa, joka haluaa ennustaa murtomaasuksien ja pitovoiteiden menekkiä koneoppimisen avulla. Yritys syöttää mallille edellisten vuosien myyntiluvut, säätilat ja viikonpäivät.

Jos malli kärsii ylisovittamisesta, se saattaa huomata, että yhtenä tiistaina marraskuussa myytiin ennätysmäärä sinistä pitovoidetta juuri silloin, kun pakkasta oli neljä astetta ja tuuli puhalsi idästä. Malli saattaa luoda säännön, jonka mukaan kyseinen sääyhdistelmä laukaisee aina samanlaisen ryntäyksen. Malli ei tiedä, että viereinen koulu järjesti kyseisenä tiistaina yllättäen suuren hiihtopäivän, josta ei ollut merkintää säädatassa. Kun sama sää toistuu seuraavana talvena ilman koulutapahtumaa, mallin ennuste menee täysin vikaan ja kaupan hyllyt täyttyvät turhasta tavarasta.

Miten ylisovittuminen näkyy kielimalleissa?

Suurissa kielimalleissa ylisovittaminen ilmenee usein siten, että malli toistaa opetusdataansa sanasta sanaan. Jos jokin tietty teksti, kuten yrityksen verkkosivu tai julkinen asiakirja, esiintyy aineistossa kymmeniä kertoja, kielimalli voi vastata kysymyksiin kopioimalla alkuperäisen pätkän sellaisenaan sen sijaan, että se muotoilisi uuden, tilanteeseen sopivan vastauksen.

Tämä rajoittaa luovuutta ja tekee vastauksista kaavamaisia. Lisäksi se voi johtaa tietosuojariskeihin, mikäli ylisovittunut malli paljastaa koulutusmateriaalissa olleita henkilötietoja tai luottamuksellisia tietoja ulkopuolisille käyttäjille.

Miten välttää ylisovittaminen?

Koneoppimisen kehittäjät käyttävät useita menetelmiä ylisovittumisen estämiseen ja mallin luotettavuuden varmistamiseen:

  • Datan jakaminen: Aineisto jaetaan aina erillisiin opetus-, validointi- ja testijoukkoihin. Mallia ei koskaan arvioida materiaalilla, jota se on jo käyttänyt opiskeluun.
  • Aikainen lopettaminen (early stopping): Koulutusprosessi keskeytetään heti, kun mallin virhemäärä alkaa kasvaa erillisessä validointiaineistossa, vaikka tulos opetussarjassa vielä paranisi.
  • Säännöllistäminen (regularization): Mallille asetetaan matemaattisia rajoitteita, jotka sakottavat liian monimutkaisista riippuvuuksista ja suosivat yksinkertaisempia ratkaisuja.
  • Aineiston monipuolistaminen: Datan määrää kasvatetaan tai olemassa olevaa aineistoa muokataan keinotekoisesti, jotta malli altistuu useammille erilaisille variaatioille.
  • Ristiinvalidointi (cross-validation): Aineisto jaetaan useisiin osiin, ja mallia testataan vuorotellen eri lohkoilla tasaisen suorituskyvyn varmistamiseksi.

Yleinen virhe: sokea luottamus opetusdataan

Tyypillinen virhe tekoälyprojekteissa on mallin onnistumisen arviointi suoraan opetustulosten perusteella. Jos järjestelmä saavuttaa koulutusdatalla lähes sadan prosentin tarkkuuden, kyseessä ei yleensä ole poikkeuksellisen kyvykäs tekoäly, vaan hälytysmerkki ylisovituksesta. Luotettava mittari on ainoastaan se, miten hyvin malli suoriutuu aineistosta, jota se ei ole nähnyt koskaan aikaisemmin.

Usein kysytyt kysymykset

Mitä eroa on ylisovittamisella ja alosovittamisella?

Ylisovittamisessa (overfitting) malli on liian monimutkainen ja opettelee datan ulkoa kohinoineen. Alosovittamisessa (underfitting) malli on puolestaan liian yksinkertainen eikä kykene havaitsemaan edes datan perustavanlaatuisia sääntöjä tai ilmiöitä.

Mistä tietää, että malli on ylisovittunut?

Ylisovittumisen huomaa vertaamalla tuloksia: malli tekee opetusdatalla lähes virheettömiä suorituksia, mutta sen virhemäärä kasvaa huomattavasti heti, kun sitä testataan uudella, ennalta näkemättömällä aineistolla.

Miten opetusdatan lisääminen auttaa ylisovitukseen?

Kun aineistoa on enemmän ja se on monipuolista, satunnaisten poikkeamien ja kohinan merkitys vähenee, jolloin mallin on pakko etsiä oikeita, toistuvia pääsääntöjä ulkoa opettelun sijaan.

← Kaikki tekoälysanaston termit

🛒 Sklep Kinetyka CapCut Pro 460 zł/rok Lovable Pro 450 zł/rok Replit Core 119 zł/rok Zobacz wszystko →
× ‹ powiększenie ›