Så använder Skolkoll AI

Var AI faktiskt används på Skolkoll, vilka kontroller som finns på plats — och, lika viktigt, vad AI:n inte gör. Vi beskriver bara det som faktiskt är byggt.

Skolkoll använder AI på ett enda ställe: assistenten Kollen, som besvarar frågor om skolstatistik i en chatt. Allt annat på sajten — siffror, beräkningar, sidor och e-postutskick — produceras utan AI. Den här sidan redovisar öppet hur det hänger ihop, vilka skyddsåtgärder som finns och var gränserna går. Vi väljer hellre att underdriva än att överdriva: en kontroll som inte är byggd står inte här.

1. Var vi använder AI

Kollen — assistenten som svarar på skolfrågor

Kollen är en AI-baserad chatt som besvarar frågor om en skola eller om skolstatistik i allmänhet. När du ställer en fråga skickas den, tillsammans med relevant sidkontext, tillAnthropic (USA) via deras Claude-API, som genererar svaret. Modellen som svarar ärClaude (Sonnet). Kollen kräver att du aktivt samtycker innan chatten startar, och svaren bygger på den verifierade data som Skolkoll redan har räknat fram — inte på något som AI:n hittar på.

Anthropic behandlar dina meddelanden som underbiträde och kan behålla innehållet i upp till 30 dagar för säkerhetsändamål. Skolkoll lagrar inte meddelandeinnehållet permanent. De fullständiga dataskyddsdetaljerna finns i integritetspolicyn och iDataskydd och underbiträden.

Utskick av e-post sker helt utan AI

Skolkoll skickar ibland e-post till skolor och huvudmän, till exempel i pilotutskick. Det är viktigt att vara tydlig: ingen AI är inblandad i att skriva eller skicka dessa utskick. Mejlen byggs av en deterministisk mall där fördefinierade fält av typen {{variabel}} fylls i med uppgifter ur våra egna register. Det finns ingen språkmodell i den vägen — varje utskick är förutsägbart och granskningsbart, och ingen AI formulerar texten åt en mottagare.

AI sätter aldrig några siffror

All statistik på Skolkoll — meritvärden, SALSA-resultat, behörighetsgrad, Skolkoll-betyget och alla andra nyckeltal — beräknas deterministiskt från källdata från myndigheter som Skolverket, SCB och Kolada. AI:n har ingen roll i att producera, ändra eller välja något av detta. När Kollen nämner en siffra kommer den från den verifierade källdatan, inte från modellen. Hur siffrorna räknas fram dokumenteras öppet påmetodsidan.

2. Vilka kontroller som finns på plats

Kring Kollen finns flera lager av skyddsåtgärder. Några är hårda garantier, andra är medvetet beskrivna som "bästa förmåga" eftersom de kan släppa igenom i undantagsfall — vi är hellre ärliga om gränserna än lovar mer än koden håller.

Förankring i verifierad data (grounding)

På en skolsida injicerar servern skolans verifierade Skolkoll-data som kontext innan frågan når modellen. Systeminstruktionen säger uttryckligen åt modellen att svara "Jag har inte data för det just nu"i stället för att gissa, och att aldrig hitta på statistik eller skolnamn som inte finns i kontexten. Källdatan är sanningskällan; modellen ska hålla sig till den.

Sanering av indata

Alla fält i skolkontexten saneras innan de byggs in i prompten, så att innehåll i datan inte kan tolkas som instruktioner till modellen.

Begränsning till skolfrågor

Prompten innehåller en instruktion att ignorera försök att injicera nya instruktioner och att bara svara på frågor om skolor och skolstatistik. Detta är en skyddsåtgärd, inte en garanti — den minskar risken för manipulation men kan inte utesluta den helt.

Ämnesscreening efter bästa förmåga

Innan en fråga besvaras klassificeras den först av en snabbare modell (Claude Haiku) som relevant eller irrelevant. Detta är en kontroll efter bästa förmåga: om klassificeringen fallerar släpps frågan hellre igenom än blockeras felaktigt (den "failar öppet"). Vi beskriver den därför aldrig som ett skydd som stoppar allt olämpligt. Separat finns en kretsbrytare som tillfälligt stänger av hela AI-chatten om huvudmodellen upprepade gånger fallerar — ett driftskydd, inte en del av ämnesscreeningen.

Begäranintegritet (HMAC-signering)

Assistentens meddelanden signeras med HMAC och verifieras på nytt vid efterföljande anrop. Om ett meddelande har manipulerats avvisas begäran. Det gör att samtalshistoriken inte kan förfalskas på vägen.

Frekvensgränser

Anropen begränsas på flera sätt: en kortsiktig spärr per IP-adress, en daglig gräns och — för inloggade användare — en månatlig kvot. Det skyddar tjänsten mot överbelastning och missbruk.

Granskningslogg med hashad IP

För varje AI-anrop skrivs en pseudonymiserad post i kollektionen ai-audit-log: en SHA-256-hash av din IP-adress (inte den fullständiga adressen), frågans och svarets längd (inte innehållet), skolkontextkod, status och tidsstämpel. Posterna taggas med en TTL på 90 dagar och raderas därefter. Inget meddelandeinnehåll loggas.

Alltid synlig "AI kan ha fel"-friskrivning

Varje svar från Kollen kompletteras automatiskt på servern med en käll- och felfriskrivning — "AI-genererad sammanfattning baserad på data från Skolverket, SCB och Kolada via Skolkoll.se. Kollen kan göra fel — verifiera viktig information." Dessutom visar chattgränssnittet en permanent friskrivning med samma uppmaning:

"Kollen drivs av AI (Claude, Anthropic). Kan göra fel — verifiera viktig information."

Friskrivningen är medveten och permanent. Den numeriska rimlighetskontroll vi gör internt är enloggning — den korrigerar eller blockerar inte svar. Därför står friskrivningen kvar som det synliga skyddet: källdatan är sanningskällan, modellen är förankrad i den, och du uppmanas alltid att verifiera viktig information.

Uttryckligt samtycke som kan återkallas

Kollen startar inte förrän du aktivt samtyckt. Du kan när som helst återkalla samtycket via knappen "Återkalla AI-samtycke" i chatten. Själva konversationen lagras bara för webbläsarsessionen och försvinner när du stänger fliken; samtycket ligger kvar tills du aktivt återkallar det.

3. Vad AI:n inte gör

Vi håller den här sidan ärlig om gränserna: ämnesscreeningen failar öppet och instruktionen att bara svara på skolfrågor är en skyddsåtgärd snarare än en garanti. Om något skydd förbättras eller läggs till uppdateras sidan därefter.

Transparens · Integritetspolicy · Metod · Säkerhet