Hur får man ett AI-svar som går att lita på?

Branschens svar är att skriva bättre prompter. Det hjälper, ungefär som att ställa en tydligare fråga hjälper när man ringer en myndighet. Men det avgör inte om svaret går att kontrollera.

Vad en modell och en människa har gemensamt

Båda rekonstruerar. En människa slår inte upp minnet, hon bygger det på nytt ur det hon lärt sig, och fyller luckorna med det som låter rimligt. Därför minns vi fel med gott självförtroende, särskilt om det vi minns är nära något sant. En modell gör i princip samma sak med text.

Det är alltså inte så att den ena vet och den andra gissar. Båda bygger ett svar ur material, och båda är sämst precis där materialet var tunnast.

Och vad de inte har gemensamt

En människa hör ofta på sig själv att hon är osäker. Hon tvekar, hon säger jag tror, rösten ändras. Vi använder den signalen hela dagen utan att tänka på det — den är hur vi upptäcker en gissning hos varandra.

En modell låter likadant oavsett. Det är det som gör granskningen till ett krav i stället för en god vana: den vanliga varningsklockan ringer aldrig.

Och ett fel till som är värt att känna till: en människas misstag är sitt eget. En modells misstag är systematiskt — samma fel, till alla som frågar, samtidigt.

Det som faktiskt gör skillnad står runt frågan

1. 01Materialet den får läsaEra egna dokument och beslut, inte allt den råkar minnas från träningen.
2. 02Reglerna den arbetar underVad som aldrig får påstås, vilka tal som kräver en källa, vad som ska lämnas åt en människa.
3. 03Kontrollerna som körs efteråtNågot som faktiskt faller när ett påstående inte stämmer, inte en uppmaning att vara noggrann.
4. 04Vägen att säga ifrånEtt sätt att svara "underlaget räcker inte" som inte straffas bort.

Det är arbetet, och det är därför AI-lösning hos oss är ett bygge och inte en chattruta. En modell utan något av det här är en mycket beläst kollega som aldrig säger det där vet jag faktiskt inte.

Hur du ser att det här inte bara är prat

Läs sidan du står på. Varje tal här kommer ur en lista som är beslutad, och ett test läser den färdiga sajten och faller om en siffra dykt upp som inte står där. Det finns ett fält i varje artikel som tvingar en människa att avgöra något ett test inte kan avgöra, just för att gränsen mellan två frågor är en bedömning.

Ingenting av det gör texten sann. Det gör den kontrollerbar, vilket är det enda någon kan erbjuda — och det är vad en dag med oss går åt till att lära ut.