Secure AI
Artificiell Intelligens (AI) håller på att bli en central del för svensk industri, offentlig sektor och samhället i stort. Men i takt med att användandet ökar, ökar även riskerna. Traditionell cybersäkerhet fokuserar på att skydda infrastruktur, medan AI-säkerhet handlar om att säkerställa att AI-system i sig själva agerar på ett säkert, robust och etiskt sätt – även om de utsätts för manipulation eller attack.
AI Swedens initiativ Secure AI erbjuder en unik nationell förmåga att:
- Identifiera och hantera sårbarheter i AI-system, som manipulation, "data poisoning" och modelläckage.
- Utveckla och validera motåtgärder som gör AI pålitlig och motståndskraftig.
- Öka förståelsen för hur du skyddar integriteten data som används för att träna AI eller som skickas till en AI-modell.
- Stödja efterlevnad av EU:s AI-förordning genom konkreta metoder, verktyg och utvärderingar.
- Kompetensutveckling genom forskare, studenter och branschexperter.
Vi har arbetat med AI-säkerhet sedan 2021, och Secure AI fungerar som Sveriges samarbetsnav för att säkerställa att AI-system förblir säkra, pålitliga och i linje med våra värderingar – även inför växande hot.
Projects and talent programs
AI-Powered Honeypots
LeakPro: Leakage profiling and risk oversight for machine learning models
AI Security Graduate Program
Keynotes and publications on Secure AI
Selected keynotes and publications. Visit our listing of scientific publications and AI Swedens Youtube channel for a comprehensive list.
Destabilizing a Social Network Model via Intrinsic Feedback Vulnerabilities
Rogers, Lane H., Emma J. Reid, and Robert A. Bridges. SafeThings Workshop, IEEE S&P 2025, arXiv preprint
Can 'Lying Smartly' Preserve Privacy?
Dr. Robert (“Bobby”) Bridges, Innovation lead at AI Sweden
(63 min)
Poisoning Attacks on Federated Learning for Autonomous Driving
Sonakshi Garg, Hugo Jönsson, Gustav Kalander, Axel Nilsson, Bhhaanu Pirange, Viktor Valadi, Johan Östman. In: SCAI 2024.
AI trends seminar 2025 - Impact on AI Security and trust
Rebecka Cedering Ångström, Principal researcher, Ericsson
Mauricio Muñoz, Senior research engineer, AI Sweden
(16 min)
Latest news
