Secure AI
Artificiell Intelligens (AI) håller på att bli en central del för svensk industri, offentlig sektor och samhället i stort. Men i takt med att användandet ökar, ökar även riskerna. Traditionell cybersäkerhet fokuserar på att skydda infrastruktur, medan AI-säkerhet handlar om att säkerställa att AI-system i sig själva agerar på ett säkert, robust och etiskt sätt – även om de utsätts för manipulation eller attack.
AI Swedens initiativ Secure AI erbjuder en unik nationell förmåga att:
- Identifiera och hantera sårbarheter i AI-system, som manipulation, "data poisoning" och modelläckage.
- Utveckla och validera motåtgärder som gör AI pålitlig och motståndskraftig.
- Öka förståelsen för hur du skyddar integriteten data som används för att träna AI eller som skickas till en AI-modell.
- Stödja efterlevnad av EU:s AI-förordning genom konkreta metoder, verktyg och utvärderingar.
- Kompetensutveckling genom forskare, studenter och branschexperter.
Vi har arbetat med AI-säkerhet sedan 2021, och Secure AI fungerar som Sveriges samarbetsnav för att säkerställa att AI-system förblir säkra, pålitliga och i linje med våra värderingar – även inför växande hot.
AI och cyberresiliens
Sverige måste skyndsamt förbereda sig för den förestående lanseringen av mycket avancerade automatiserade cyberattackverktyg. För att möta och förekomma nya utmaningar har en grupp formats i ett sektorsövergripande samarbete mellan myndigheter, näringsliv och akademi.
Rapporterna om Anthropics nya modell ”Mythos Preview” bör fungera som en väckarklocka för alla beslutsfattare.
Robert A. (Bobby) Bridges
Innovationsledare och expert på AI-säkerhet på AI Sweden
Det var budskapet som förmedlades till de närmare 1 000 deltagarna när Robert (Bobby) Bridges tillsammans med John Billow, chef för Nationellt cybersäkerhetscenter (NCSC-SE), höll en presentation om Mythos Preview och Project Glasswing den 24 april 2026.
Se inspelningen:
Secure AI projekt
Swedish Center for Trusted and Resilient AI (STRAIC)
LeakPro 2: Operativ hantering av integritetsrisker i AI-system
AI-drivna honeypots
Talang och samarbete
AI Security Graduate Program
Industrial Immersion Exchange program
Keynotes and publications on Secure AI
Selected keynotes and publications. Visit our listing of scientific publications and AI Swedens Youtube channel for a comprehensive list.
Destabilizing a Social Network Model via Intrinsic Feedback Vulnerabilities
Rogers, Lane H., Emma J. Reid, and Robert A. Bridges. SafeThings Workshop, IEEE S&P 2025, arXiv preprint
Can 'Lying Smartly' Preserve Privacy?
Dr. Robert (“Bobby”) Bridges, Innovation lead at AI Sweden
(63 min)
Poisoning Attacks on Federated Learning for Autonomous Driving
Sonakshi Garg, Hugo Jönsson, Gustav Kalander, Axel Nilsson, Bhhaanu Pirange, Viktor Valadi, Johan Östman. In: SCAI 2024.
AI trends seminar 2025 - Impact on AI Security and trust
Rebecka Cedering Ångström, Principal researcher, Ericsson
Mauricio Muñoz, Senior research engineer, AI Sweden
(16 min)
Latest news
