Hoppa till huvudinnehåll

AI Security

Som en del av AI Swedens Edge Learning Consortium, och tillsammans med Dakota State University, syftar AI Security-fokuset till att ge utvecklare och användare av Edge Learning Infrastructure förståelse för att utveckla robusta och säkra AI-lösningar.

Aktuella aktiviteter

Se när Johan Östman pratar om "AI Security" under eventet "The Latest Advancements in Decentralized Learning" i Göteborg den 23 april 2024.

Dr. José-Marie Griffiths, rektor vid Dakota State University, vid lanseringen av Edge Learning Consortium, Φ-lab@Sweden, och AI Security Lab.

"Genom att använda edge-enheter för att träna AI, öppnar edge learning upp en mängd nya möjliga ytor för fientliga attacker. För att minska riskerna och effekterna av attacker på edge learning-system, är det viktigt att förstå vilka sårbarheter som finns."

AI Security Lab kommer att involvera säkerhetsforskare i utvecklingen av edge learning-lösningar. De kan hjälpa till att ge förståelse för att utveckla robusta lösningar från början för utvecklare och användare av edge learning-infrastruktur.

Utmaningar

  • Vilka nya sårbarheter kan finnas i en edge learning-miljö?
  • Vilka skulle vara föredragna attackytor i en edge learning-miljö?
  • Vilka typer av hot bör vi vara medvetna om? (t.ex., stöld av information, sabotage av modellen, kapning av systemet, etc.)
  • Vilka är strategierna och teknologin för att upptäcka attacker? Vilka är strategierna och teknologin för att förebygga attacker?
  • Vilka är strategierna och teknologin för att motverka en pågående attack?

AI Security Lab är del av Edge Learning Consortium.

Madison Cyber Labs vid Dakota State University (DSU)och AI Sweden är de huvudsakliga sponsorerna för detta lab. Det första studentutbytesprogrammet 2022 lockade sex studenter (3 amerikanska och 3 svenska), medan programmet 2023 fördubblades (6 + 6 studenter). Planen för 2024 är att fördubbla det igen. Läs mer om utbytesprogrammet.

Engagera dig

Edge Learning Lab Consortium är öppet för AI Swedens partners.


För mer information, kontakta

Beatrice Comoli
Beatrice Comoli
Administrative Lead Data Factory
+46 (0)70-146 09 64