”Human in the loop” ei riitä — miksi PIM tarvitsee riskipohjaisen AI-julkaisumallin

Jos olemme varmistaneet, että  meillä on ihminen “silmukassa” ja kontrolloimassa niin sen pitäisi riittää. Tämä lause toistuu usein AI-strategiakeskustelussa tai dialogissa, jota käyn eri toimijoiden kanssa. Usein tämä johtaa siihen, että kysyn saman vastakysymyksen: missä silmukassa, määrittele tämä niin kutsuttu silmukka? Ja toisaalta kenen hallinnoiman ja omistaman silmukassa ollaan ja missä päätöspisteessä.

Useimmiten vastaus paljastaa, että ihmisen roolia ei ole oikeasti suunniteltu. On vain ajatus, että joku tarkistaa jotakin jossain vaiheessa (jotakin). Tämä ei ole governance. Tämä on toive ja jenkkifutistermein Hail Mary (niin sanottu toivotaan toivotaan hyökkäys).

Ongelma ”ihmisen silmukassa” -termissä

Konsultatiivisesti katsottuna ilmaus on ongelmallinen kahdesta syystä. Ensimmäinen on käytännön skaalautumisen kysymys: jos tiimi julkaisee tuhansia tuotevariaatioita kuukaudessa ja jokainen AI-ehdotus vaatii ihmisen hyväksynnän, tehokkuushyöty katoaa välittömästi. Pahimmillaan AI hidastaa prosessia, koska ihmisen pitää nyt tarkistaa sekä alkuperäisen datan että AI:n tuottaman version.

Toinen ongelma on päinvastainen. Kun ihminen tarkastaa satoja geneerisesti samannäköisiä AI-ehdotuksia peräkkäin, tarkkaavaisuus laskee väistämättä. Ilmiöstä on psykologinen termi — automation bias. Ihminen alkaa hyväksyä ehdotuksia melkein refleksinä, koska suurin osa niistä näyttää oikealta. Ja juuri tässä vaiheessa hallusinaatio tai virheellinen tieto solahtaa läpi. Ratkaisu ei ole lisää tarkistusta. Ratkaisu on vähemmän, mutta oikeassa kohdassa.

Riskipohjainen julkaisumalli — kehikko joka skaalautuu

Toimiva AI-governance PIM-ympäristössä perustuu riskitasojen tunnistamiseen. Kaikkea sisältöä ei ole mielekästä kohdella samalla tarkkuudella, koska niiden virheellisyyden seuraukset ovat hyvin erilaisia.

Matalan riskin sisältö kattaa meta-kuvaukset, lyhyet markkinointitiivistelmät ja hakukoneoptimoidut nimeämiset jne. Jos AI tuottaa tähän epätäydellistä kieltä, seurauksena on korkeintaan pieni konversiomenetys, mutta ei kuitenkaan ei oikeudellista vastuuta tai asiakasturvallisuusriskiä. Tämä sisältö voi mennä läpi joko täysin automaattisesti tai kevyellä pistokoetarkastuksella. Sen osalta voimme aina palata lähtötilanteeseen ja tehdä korjauksia tarvittaessa.

Keskitason riskin sisältö koostuu kategoriakuvauksista ja käännösehdotuksista. Virheet täällä vaikuttavat asiakaskokemukseen ja brändimielikuvaan, mutta eivät tyypillisesti aiheuta säädösriskejä. Ihmishyväksyntä ennen julkaisua on järkevä oletus, mutta se voi olla nopea jos esimerkiksi AI:n acceptance rate on yli 80 %, jolloin tarkastus muuttuu käytännössä silmäilyksi.

Korkean riskin sisältö alkaa teknisistä spesifikaatioista ja turvallisuusteksteistä. Tässä kategoriassa asiantuntijatarkastus on pakollinen, ja AI:n rooli on tyypillisesti ehdottaja, ei kirjoittaja. Malli voi esimerkiksi tuottaa luonnoksen, mutta julkaisu vaatii tuotepäällikön tai teknisen asiantuntijan kuittauksen.

Erittäin korkean riskin sisältöön kuuluvat compliance-väitteet, käyttöohjeiden turvallisuusosat ja sääntelyyn liittyvät merkinnät kuten REACH tai RoHS. Näissä generatiivisen AI:n vapaa käyttö on yksinkertaisesti huono ajatus. Tieto haetaan luotettavasta lähdejärjestelmästä, tyypillisesti PLM:stä tai sääntelyrekisteristä, ja AI:n rooli rajataan muotoilun ja käännösten apuun — ei sisällön keksimiseen.

Mitä tämä käytännössä tarkoittaa

Riskipohjaisen mallin kauneus on siinä, että se tekee ”ihminen silmukassa” -ajattelusta konkreettista. Jokaiselle sisältötyypille pystytään määrittämään neljä asiaa: mikä on automaation aste, kuka on hyväksyjä, millä kriteerillä hyväksyntä tapahtuu, ja missä ajassa.

Käytännön esimerkki kuluttajatuotteita myyvältä asiakkaalta. Heillä meta-kuvaukset ja SEO-otsikot syntyvät täysin automaattisesti — noin 30 000 tuotetta kuukaudessa, ei ihmistarkastusta. Kategoriakuvaukset ja varianttikuvaukset kulkevat content specialistin kevyen tarkastuksen läpi, jossa tavoiteaika on 30 sekuntia per kuvaus. Tekniset spesifikaatiot saavat AI:lta luonnoksen, mutta tuotepäällikkö käy ne läpi ennen julkaisua. Turvallisuusmerkinnät ja compliance-tekstit eivät koskaan synny generatiivisesta mallista — ne haetaan PLM-järjestelmästä sääntöpohjaisesti.

Tämä rakenne mahdollistaa sen, että AI:n ROI toteutuu nopeasti matalan riskin volyymissa, samalla kun korkean riskin päätökset pysyvät ihmisten käsissä. Eikä yksikään päätös ole sattumanvarainen — jokaiselle sisältötyypille on tehty tietoinen valinta.

Audit trail, onko sitä?

EU:n asettaman  AI Actin myötä yhden asian merkitys on noussut dramaattisesti: jäljitettävyyden. Kun tuotetekstissä on AI:n tuottamaa sisältöä, organisaation pitää pystyä osoittamaan, mikä mallin versio tuotti sen, millä promptilla, milloin, ja kuka hyväksyi.

Tätä ei voi rakentaa jälkikäteen. Se rakentuu samaan aikaan kun ensimmäinen käyttötapaus viedään tuotantoon. Jos näin ei käy niin se yksinkertaisesti jää puuttumaan tai on puutteellinen. Käytännössä tämä tarkoittaa, että PIM-alustan pitää tallentaa jokaisen AI-generoinnin metadata: lähdeattribuutit, käytetty prompt, mallin versio, ajankohta, hyväksyjä ja julkaisukanavat. Tämä ei ole tekninen yksityiskohta. Tämä on yksinkertaisesti perusta sille, että PIM-operaatio noudattaa voimassaolevia säädöksiä.  

Toimittajien ja toimijoiden kyvyssä tukea tätä on merkittäviä eroja. Kun eri järjestelmiä ja toimittajia evaluoidaan niin tulee huomioida: mitä auditointitietoa järjestelmä tallentaa yleisesti ja miten tämä tapahtuu erityisesti AI-avusteisen sisällön ja tiedon osalta. Vastaukset vaihtelevat todennäköisesti enemmän kuin markkinointimateriaali antaa ymmärtää.

Lopuksi

”Ihminen silmukassa” on hyvä periaate, mutta yksinään huono suunnitelma, joksi sitä ei oikein voi edes kutsua. Se mitä tarvitaan, on tietoinen valinta siitä, missä “silmukassa” ihminen on, missä kohtaa prosessia, minkä päätöksen kohdalla ja millä vastuulla tai mandaatilla hän operoi sekä pystyy vaikuttamaan. Riskipohjainen julkaisumalli tarjoaa tämän kehikon. Se ei tarjoa sitä tietenkään tieteellisenä totuutena, vaan enemmänkin käytännön työkaluna, jonka voi räätälöidä oman toimialan ja regulaatioiden mukaisesti.

Ja kun tämä kehikko tai malli on paikoillaan, organisaatio voi vihdoin siirtyä seuraavalle tasolle ja edetä kysymyksestä, voisiko AI:ta käyttää, oikeaan keskusteluun, jossa pohditaan missä sitä käytetään ja millä ehdoilla, turvallisesti.