Nya modeller och funktioner förbättrar Svea

De drygt 60 kommuner, regioner och myndigheter som deltar i projektet fick nyligen en uppdaterad plan för återstoden i projektet, fram till årsskiftet. Arbetet är uppdelat i fyra huvudsakliga spår: Utbildning och förändringsledning, förbättrad användarupplevelse, bättre AI-modeller och svar på ett antal juridiska frågor.

En slutsats i projektet så här långt är att chefer och ledningsgrupper har en viktig roll att spela för att skapa incitament hos alla medarbetare att börja använda generativ AI mer. Ledare måste visa vägen, göra prioriteringar och använda resurser till att skapa kunskap och förändring.

– Vi har sett att de som använder Svea mest aktivt också är de som också fått en bra introduktion till generativ AI. Det handlar om att användaren ska få kunskap om hur man använder Svea, vad Svea har för begränsningar och att ha en tydlig idé om vad man vill använda generativ AI till. Därför kommer vi i återstoden av projektet satsa mer på att stödja de ledare som är kopplade till projektet, för att de i sin tur ska kunna skapa rätt förutsättningar i sina organisationer, säger Jonatan Permert.

Joakim Uddling är digital strateg på Sollentuna kommun och ansvarig för kommunens deltagande i projektet:

Annotering lägger grunden för bättre svar från Svea

Under våren har deltagare i projektet tillsammans ägnat 2500 timmar åt att annotera träningsdata. I det här sammanhanget innebär det att kombinationer av frågor och svar betygsätts för att sedan användas för att träna AI-modellerna som Svea bygger på.

Hämtningsmodellen är en viktig komponent för den funktion som i prototypen har fått namnet “kunskapsskällan”. När den aktiveras baserar chattbotten sina svar på information från den dokumentsamling som finns tillgänglig. Beroende på i vilken organisation användaren jobbar kan det handla om kommunens riktlinjer för äldreomsorgen, nationell lagstiftning, administrativa guider och annat.

– Det här är den typ av lösning som kallas för RAG, retrieval augmented generation, vilket bygger på två typer av modeller: Hämtningsmodellen som hämtar relevanta faktauppgifter ur dokumenten, och språkmodellen som sedan sammanfattar och formulerar ett svar, säger Adam Ek.

Det innebär att det är hämtningsmodellen som står för det faktamässiga innehållet i svaren: Ju bättre hämtningsmodell, desto mer korrekta svar. Jonatan Permert förklarar varför man bestämt sig för att utveckla en egen i projektet:

– De embedding-modeller som finns tillgängliga för svenska är helt enkelt inte tillräckligt bra för den typ av dokument som finns i offentlig sektor. För att kunna skapa ett verktyg som verkligen skapar nytta där behöver vi därför träna en bättre modell – vilket också visar på styrkan i det här projektet. Inte någon av deltagarna är tillräckligt stora för att på egen hand göra det här jobbet. Varken att skapa data eller utföra träningen. Men tillsammans blir det möjligt.

Nya funktioner och juridiska svar

Bland de nya funktioner som är på gång finns bland annat röstfunktioner, både för att kunna prata in sina promptar och få hjälp att transkribera ljudfiler. Båda funktionerna är något som efterfrågats av många användare. Ett annat spår handlar om “specialister”, vilket i Sveas kontext handlar om specialiserade chattar för specifika arbetsuppgifter som en för projektdokumentation, en för HR-frågor och en för kommunikationsmaterial. 

– För att hjälpa användarna igång jobbar vi också med att göra gränssnittet mer vägledande och särskilt anpassat efter den svenska offentliga sektorns behov. Eftersom den stora majoriteten av användare är oerfarna eller förstagångsanvändare av generativ AI, så finns det ett extra stort värde att göra Svea lätt att förstå, säger Jonatan Permert.

Kring användningen av generativ AI i offentlig sektor hänger också ett antal juridiska frågor som projektet jobbar intensivt med. 

– Vi utreder bland annat om det finns stöd i lagen att behandla känsliga personuppgifter och sekretessbelagd information i Svea. Vi tror att vi på sikt kommer kunna öppna för användning som även involverar känsliga uppgifter och sekretessbelagd information, säger Jonatan Permert.