Przejdź do treści
promptowy.com / Tekoälysanasto / Hallusinointi (hallusinaatio)
Turvallisuus ja laatu

Hallusinointi (hallusinaatio)

Tekoälyn hallusinointi tarkoittaa tilannetta, jossa kielimalli esittää vakuuttavasti keksittyä tai lähteisiin perustumatonta tietoa totena.

Tekoälyn hallusinointi tarkoittaa ilmiötä, jossa kielimalli tuottaa virheellistä, vääristeltyä tai täysin omasta päästään keksittyä tietoa, mutta esittää sen täysin varmana ja sujuvana totuutena. Teksti voi näyttää kieliopillisesti virheettömältä, asiantuntevalta ja loogiselta, vaikka sen taustalla ei olisi lainkaan todellisia faktoja tai annettua lähdeaineistoa.

Käytännön työssä hallusinaatio ei yleensä näytä järjettömältä satujen kerronnalta, vaan se piiloutuu taitavasti oikeiden faktojen lomaan. Yksi lause tai yksittäinen numero voi olla keksitty, vaikka vastauksen muut yhdeksänkymmentäyhdeksän prosenttia pitäisivät paikkansa.

Miltä hallusinaatio näyttää arjessa?

Kuvitellaan tilanne, jossa tamperelainen viestintäyrittäjä pyytää tekoälyä laatimaan yritysesittelyn pitkään toimineesta pirkanmaalaisesta konepajasta. Tekoäly kirjoittaa sujuvan ja ammattimaisen kuvauksen, jossa mainitaan yrityksen perustamisvuosi, toimitusjohtajan nimi sekä yrityksen saamat paikalliset yrittäjäpalkinnot. Teksti tuntuu täysin luotettavalta, mutta tarkistettaessa huomataan, että perustamisvuosi heittää kymmenellä vuodella, toimitusjohtajaksi on nimetty keksitty henkilö ja palkintoa ei ole olemassa.

Vastaavia tilanteita syntyy jatkuvasti myös muilla aloilla:

  • Tekoäly viittaa tieteelliseen artikkeliin, jolla on uskottava nimi, tunnettu suomalainen yliopisto ja oikeat tutkijat, mutta koko julkaisua ei ole koskaan kirjoitettu.
  • Lainsäädäntöä tai viranomaisohjeita tiivistävä malli soveltaa vanhentunutta pykälää tai muotoilee Kelan tai Verohallinnon etuuden ehdot siten, että mahdollisuus muuttuu ehdottomaksi vaatimukseksi.
  • Kokouksen muistiinpanoja tiivistävä sovellus keksii päätöksen, josta ei todellisuudessa sovittu lainkaan palaverin aikana.

Miksi tekoäly keksii asioita omasta päästään?

Tekoälyn toimintatapa perustuu todennäköisyyksiin, ei tietoisuuteen tai todellisuuden ymmärtämiseen. Laajat kielimallit on koulutettu ennustamaan, mikä sana tai lauseenosa sopii todennäköisimmin edellisen perään annetussa asiayhteydessä. Mallilla ei ole automaattista yhteyttä reaaliaikaiseen totuuteen, ellei sitä erikseen kytketä tarkistettuihin tietokantoihin.

Jos käyttäjän esittämässä kysymyksessä on mukana virheellinen oletus, malli herkästi myötäilee sitä sen sijaan, että se korjaisi kysyjää. Kielimallien koulutuksessa vastaamisen halukkuus on usein painottunut enemmän kuin rehellinen epävarmuuden myöntäminen. Malli pyrkii miellyttämään käyttäjää ja täydentämään puuttuvat palaset tilastollisesti uskottavilla tiedoilla sen sijaan, että se vastaisi yksinkertaisesti: tietoa ei ole saatavilla.

Miten tarkistat tekoälyn vastaukset käytännössä?

Hallusinaatioiden aiheuttamia riskejä voi hallita vain johdonmukaisella tarkistusprosessilla. Älä koskaan luota pelkkään asiantuntevaan sävyyn, vaan etene järjestelmällisesti:

  1. Poimi tarkistettavat faktaväitteet: Erottele tekstistä nimet, päivämäärät, lakipykälät, euromäärät ja suorat väitteet tapahtumista.
  2. Vaadi oikea lähde: Etsi jokaiselle faktalle vahvistus virallisesta dokumentista, yrityksen omilta verkkosivuilta tai luotettavasta rekisteristä. Pelkkä tekoälyn tarjoama linkki ei riitä, sillä malli voi hallusinoida myös toimimattomia verkko-osoitteita.
  3. Laske luvut itse: Jos tekstissä yhdistellään tilastoja tai lasketaan summia, tee laskutoimitus aina uudelleen taulukkolaskentaohjelmalla tai laskimella. Kielimallit eivät laske matematiikkaa samalla tavalla kuin laskimet.
  4. Älä kysy varmistusta samalta mallilta: Jos kysyt tekoälyltä heti perään, oletko aivan varma tästä tiedosta, se saattaa pyytää anteeksi ja keksiä tilalle toisen valheen tai vakuuttaa virheen olevan totta entistä jyrkemmin. Käytä aina ulkopuolista lähdettä.

Näin vähennät hallusinaatioita kehotteiden avulla

Hallusinoinnin todennäköisyyttä voi vähentää merkittävästi ohjaamalla tekoälyä tiukemmin. Yksi toimivimmista tavoista on antaa mallille valmis taustamateriaali ja kieltää sitä käyttämästä muuta tietoa.

Voit lisätä komentoon säännön: Vastaa ainoastaan alla olevan tekstin perusteella. Jos vastausta ei löydy suoraan tekstistä, kirjoita: TIETOA EI LÖYDY. Älä arvaile tai täydennä puuttuvia kohtia. Kun mallin tehtäväksi rajataan pelkkä annetun tekstin tiivistäminen tai muotoilu luovan kirjoittamisen sijaan, keksittyjen faktojen määrä putoaa murto-osaan.

Usein kysytyt kysymykset

Miksi tekoäly valehtelee niin vakuuttavasti?

Tekoäly ei valehtele tahallaan, vaan se pyrkii tuottamaan kielellisesti mahdollisimman sujuvaa ja tilanteeseen sopivaa tekstiä. Koska malli perustuu todennäköisyyksiin eikä ymmärrä totuutta, se valitsee uskottavalta kuulostavia sanoja myös silloin, kun sillä ei ole oikeaa tietoa.

Voiko tekoälyn hallusinointia estää täysin?

Hallusinoinnin riskiä ei voi poistaa kielimalleista sataprosenttisesti, mutta sitä voi vähentää merkittävästi. Paras suoja on antaa mallille lähdeteksti, rajata vastaus pelkästään siihen ja tarkistaa kriittiset faktat ihmisen toimesta.

Tarkoittaako lähteiden lisääminen komentoon sitä, että vastaus on aina totta?

Ei automaattisesti. Tekoäly voi tulkita annettua lähdettä väärin, irrottaa asioita asiayhteydestään tai muuttaa varovaisen arvion varmaksi tosiasiaksi, joten lopputulos on aina luettava huolellisesti läpi.

← Kaikki tekoälysanaston termit

🛒 Sklep Kinetyka CapCut Pro 460 zł/rok Lovable Pro 450 zł/rok Replit Core 119 zł/rok Zobacz wszystko →
× ‹ powiększenie ›