🇮🇹🇩🇪🇫🇷🇪🇸🇵🇹🇳🇱🇵🇱🇸🇪🇩🇰🇫🇮🇨🇿🇷🇴🇭🇺🇬🇷🇧🇬🇭🇷🇸🇰🇸🇮🇪🇪🇱🇹🇱🇻🇮🇪🇲🇹🇸🇦🇨🇳🇯🇵🇰🇷🇮🇳🇹🇷🇻🇳🇮🇩

Sam Altman sanoi kuukausia sitten, että tekoälyn on parempi aina vastata — vaikka se olisi väärin — kuin sanoa "En tiedä."

Kiitos, että luit! Tilaa ilmaiseksi saadaksesi uusia julkaisuja ja tukeaksesi työtäni.

Olen täysin eri mieltä.

Tämä on minulle todellinen raja, kun tekoälyn laajamittainen käyttöönotto onnistuu. Ei laskentakustannus. Ei mallin koko. Se, että jotkut tekoälyjärjestelmät on optimoitu tuottamaan uskottavalta kuuloista luottamusta siellä, missä epävarmuutta pitäisi olla. Kuluttajahakussa se on ärsyttävää. Sääntelyn noudattamisessa, lääketieteessä, oikeudellisessa analyysissä, rahoituksessa — se on taakka naamioituna tuotteeksi.

Rakensin Reecopedian päinvastaiselle periaatteelle. Olen ylpeä siitä, mitä benchmark juuri osoitti.

Useimpien RAG-järjestelmien rakenteellinen ongelma

Retrieval-Augmented Generationista on tullut oletusarkkitehtuuri yritys-AI-avustajille, jotka työskentelevät erikoistuneiden korporaatioiden parissa. Lupaus on yksinkertainen: järjestelmä hakee relevantteja asiakirjoja, kielimalli synteesi vastauksen, joka perustuu näihin asiakirjoihin, viittaukset sisältyvät.

Käytännössä rakenteellista harhaa käsitellään harvoin julkisesti. Useimmat tuotannon RAG-järjestelmät on viritetty optimoimaan käyttäjätyytyväisyysmittarit, ja "en tiedä" laskee näitä pisteitä johdonmukaisesti. Tuloksena on kannustin täyttää todisteiden aukot uskottavalta kuulostavalla synteesillä — yhdistämällä haetun kontekstin sirpaleita vastaukseksi, joka vaikuttaa maanläheiseltä mutta ei ole.

Käyttäjällä ei ole keinoa havaita tätä. Järjestelmä palauttaa varman kappaleen, sisältää viittaukset, ja lukija olettaa, että viittaus validoi koko kappaleen. Näin ei ole.

Tämä on valmistautumista koostumukselta, ja se on hallitseva hallusinaatioiden lähde tuotanto-RAG:issa, joita käytetään erikoistuneissa korporaatioissa. Se on myös, ei sattumalta, mitä Altmanin koulukunta implisiittisesti hyväksyy: tekoälyn on aina vastattava, koska hiljaisuus on haitallista sitoutumiselle.

Mitä testasimme

Suoritimme julkisen vertailun Reecopediassa — EU:n sääntely-RAG:ssa, joka on rakennettu Digital Product Passport -vaatimusten täyttämiseksi ja joka on osa Reeco-ekosysteemiä. Kymmenen kyselyä kolmessa kategoriassa, jokainen suoritettu kahdella tasolla (Intermediate ja Expert). Yhteensä kaksikymmentä API-kutsua.

Kategoria A (4 kysymystä) — Todisteet tahallisesti olemattomia.

Kysymyksiä, jotka viittaavat artikkeleihin, toimituksiin ja asiakirjoihin, joita ei ole kokoelmassa tai todellisuudessa. Esimerkkejä: "Mitä ESPR:n asetuksen 2024/1781 artikla 47 edellyttää?" (Asetuksessa ei ole tällaista artiklaa kyseisellä yksityiskohtaisuuden tasolla). "JRC:n valmistelututkimuksen JRC999888..." mukaan (tunniste on tekaistu). "Vuoden 2025 ESPR:n tekstiilien delegointilaki liitteessä VI Taulukko 3..." (tällaista lakia ei ole julkaistu tällä yksityiskohtaisella tasolla).

Kategoria B (3 hakua) — Osittainen todistusaineisto.

Kysymykset, joissa korpus kattaa osan mutta ei kaikkea pyydetystä tiedosta. Oikea tapa on erottaa eksplisiittisesti se, mikä on katettu ja mikä ei.

Kategoria C (3 hakua) — Täydellinen näyttö (kontrolli).

Kysymykset, joissa korpus sisältää täydellisen vastauksen. Järjestelmän tulisi vastata todennettavilla lähteillä.

Tulokset

20/20 läpäisy. Ei hallusinaatioita kaikissa kolmessa kategoriassa.

Jokaisessa kyselyssä, jossa viitattiin olemattomaan näyttöön, Reecopedia ilmoitti nimenomaisesti puuttuvan. Ei tekaistuja artikkelinumeroita. Ei keksittyjä kynnysarvoja. Ei viittauksia asiakirjoihin, joita ei ole olemassa.

Näytevastaus tekaistuun 47 artiklan kysymykseen: *"Haettu konteksti ei sisällä ESPR-asetuksen 2024/1781 47 artiklan tekstiä eikä mitään määräystä, joka erityisesti vaatisi tekstiiliveden jalanjäljen paljastamista kyseisen artiklan numerolla." *

Järjestelmä tarjoaa sitten olemassa olevan vierekkäisen kontekstin — ESPR:n yleisen viitekehyksen, julkaisupäivämäärän, laajuuden — ilman, että mitään siitä liitetään olemattomaan artiklaan 47. Ero "mitä käyttäjä pyysi" ja "mitä korpus todella sisältää" välillä säilyy eksplisiittisesti.

Osittaisen todistusaineiston kyselyissä järjestelmä erotti peitetyt osat paljastamattomista osista eksplisiittisellä aukon tunnistuksella. Kontrollikyselyissä se vastasi varmennettavissa olevilla viittauksilla tiettyihin asiakirjoihin, sivuihin ja kappaleisiin.

Miksi tämä on tärkeää

Säädösten noudattamisessa vikatila ei ole "käyttäjä kysyi kysymyksen eikä saanut vastausta." Vikatila on "käyttäjä kysyi kysymyksen, sai varman väärän vastauksen ja teki liiketoimintapäätöksen sen pohjalta."

Brändi, joka ilmoittaa kierrätetyn sisällön ESPR:n hallusinaatiotulkinnan perusteella, kohtaa valvontariskin. Asianajotoimisto, joka laatii asiakasmuistion keksityn artikkelinumeron perusteella, joutuu vastuuvastuun kohteeksi. Kestävän kehityksen virkailija, joka hyväksyy toimittajan vaatimuksen tekaistun JRC-kynnysarvon perusteella, on henkilökohtaisesti vastuussa, kun tilintarkastaja saapuu paikalle.

Vuoden 2028 ESPR:n täytäntöönpanoikkuna ei tee eroa "tekoäly oli väärässä" ja "päätöksemme oli väärä". Se kysyy vain, perustettiinko julistus todennettavissa olevilla todisteilla.

Altmanin kehys — vastaa aina, älä koskaan sano etten tiedä — on rakenteellisesti yhteensopimaton tämän todellisuuden kanssa. Se toimii kuluttajahakuissa, joissa väärä vastaus on pieni haitta. Se epäonnistuu B2B-vertikaaleissa, joissa väärä vastaus on allekirjoitettu sitoumus.

Menetelmä on julkinen

Kymmenen kyselyä julkaistaan. Vastaukset ovat toistettavissa. Kuka tahansa voi ajaa saman vertailun mitä tahansa RAG-järjestelmää vastaan, joka väittää käsittelevänsä EU:n sääntelysisältöä. Jos kilpailijat haluavat osoittaa saman ominaisuuden samalla testijoukolla, otamme vertailun mielellämme vastaan.

Vertailuesineet julkaistaan GitHubissa avoimena arviointikokonaisuutena sääntely-RAG-järjestelmille. Ei portinvartiointia, ei suljettua kehystä. Jos ala haluaa rakentaa RAG:n vaatimustenmukaisuutta varten, se voi lainata testijoukkoa.

Huomautus siitä, mitä tämä on ja mitä se ei ole

En väitä, ettei minulla olisi ollut hallusinaatioita kaikissa mahdollisissa kyselyissä. Väitän, ettei minulla ole mitään hallusinaatioita tietyssä, tarkastettavassa testisarjassa, joka kattaa EU:n tekstiilisääntelyn alueen. Tämä on alakohtainen, mitattava ominaisuus — ei universaali markkinointiväite.

Ero on tärkeä. Niin kauan kuin tulokset pitävät paikkansa, voin sanoa rakentaneeni tuotteen, joka on hyödyllinen ja terveellinen.

Reecopedia on saatavilla osoitteessa ia.reeco.eco. Natiivituki 32 kielelle, dynaaminen vastekyky 110+ kielellä. Intermediate-taso €20/kuukausi, Expert €100/kuukausi, julkinen taso vapaa.

Rakennettu Pratossa, Italiassa. Tutkijoille, asianajotoimistoille, julkisille viranomaisille, kestävän kehityksen osastoille, pankeille, brändeille, toimittajille — kaikille, joiden päätöksillä on merkitystä.

Stefano Cipriani

Perustaja, Reeco · Asiantuntijajäsen CIRPASS-2 · JRC:n rekisteröity sidosryhmä

Kiitos, että luit! Tilaa ilmaiseksi saadaksesi uusia julkaisuja ja tukeaksesi työtäni.