SAFE-CARE

SAFE-CARE är ett bilateralt innovationsprojekt som leds av AI Sweden och kopplar samman svensk industri, offentlig sektor och cybersäkerhetsexpertis med amerikanska forskningspartners. Projektet bygger ett modulärt ramverk för AI-driven säkerhetsbedömning i två spår: AI-SAST (Static Application Security Testing) i CI/CD-pipelines för programvarukod och adversariellt red-teaming av agentiska vårdassistenter. Utvecklingen sker i isolerade sandlådemiljöer med syntetiska eller representativa data – utan att exponera känsliga produktionssystem. 

AI Sweden fungerar som ekosystembrygga: ett dedikerat ekosystemteam tar emot use-case-förfrågningar, koordinerar introduktioner och sprider resultat till svenska organisationer. 

"Moderniseringen av vårdens digitala tjänster kräver snabb AI-adoption, men det kan inte ske utan garanterad säkerhet. Vi behöver innovation som förstår AI-systemens unika sårbarheter – och som använder AI för att hitta säkerhetshål innan illasinnade aktörer gör detsamma." – representant, VGR Sahlgrenska

Utmaningar

Generativ AI förändrar cybersäkerhetslandskapet snabbt. Angripare kan i allt större utsträckning använda samma modeller som försvarare för att hitta och utnyttja sårbarheter i kod och agentiska system. Svenska organisationer – särskilt inom vård, offentlig förvaltning och programvaruintensiv industri – saknar idag upprepbara metoder för AI-driven säkerhetstestning. 

Agentiska vårdassistenter kombinerar språkmodeller, känsliga personuppgifter och verktygsanrop, vilket skapar nya risker såsom prompt injection, otillåten dataåtkomst och verktygsmissbruk. SAFE-CARE adresserar gapet genom kontrollerade miljöer där nya AI-modeller kan testas, jämföras och användas som defensiva "mikroskop" – under svenska krav på integritet, digital suveränitet och operativ säkerhet.

Projektets syfte och förväntat reslutat

Syftet är att gå från koncept till validerad proof-of-concept inom tolv månader. Projektet ska leverera: (1) en AI-SAST-pipeline integrerad i en realistisk CI/CD-miljö, (2) en autonom red-teaming-miljö för agentiska vårdassistenter, (3) en säkerhetsguide med metodik, arkitektur och rekommendationer, samt (4) återanvändbara sandboxmönster och öppen källkod där det är möjligt. Framgång mäts genom minskade falska larm, verifierade sårbarheter utöver baslinjeverktyg, och dokumenterade mitigeringar för agentiska risker. På sikt stärker projektet Sveriges förmåga att bedöma AI-relaterad cybersäkerhetsrisk och bygger grund för fortsatt Sverige–USA-samarbete.

För mer information, kontakta