Datadrivna organisationer
Bästa praxis för AI-implementering i Sverige
Under 20 månader har organisationer från näringslivet, offentliga sektor och akademi jobbat tillsammans för att hitta svar på hur man tar AI från experiment till verklig implementering. Tillsammans har de identifierat de organisatoriska, tekniska och styrningsmodeller som möjliggör ansvarsfull, skalbar och effektiv AI-drift.
Varför gick de samman i projektet Datadrivna organisationer? Tack vare AI finns nu en verktygslåda som gör det möjligt att skapa lösningar som tidigare var otänkbara. Under de senaste åren har potentialen i AI utforskats genom proof-of-concepts och piloter hos många svenska organisationer. Denna fas har är nödvändig för att bygga en förståelse för hur AI kan skapa värde.
Men när du väl har en idé om vad du vill göra, står du inför en ny fråga: Hur du ska fortsätta utvecklingen och sätta modeller i produktion på ett strukturerat och organiserat sätt och i stor skala. Därför formulerades projektet Data-driven Organizations: Best practices for operationalizing AI in Sweden (DDO).
Hållbarhet behöver inte vara ett fint ord man nämner för att låta grön. Det handlar egentligen bara om att inte slösa: välja vad man faktiskt behöver och optimera det man har. Barriären för AI är lägre än de flesta av oss tror – det man behöver är smart arkitektur, inte bara beräkningsmuskler.
Milena Miernik
Developer på Aixia
Genom projektet insåg vi att vi behövde förändra vår container IT infrastruktur. Tack vare DDO har vi nu en riktning för hur vi kan skala upp MLOps med en gemensam delad GPU-pool. Detta kommer att öka utnyttjandet av gjorda investeringar. Vi ser också stort värde i de whitepapers som producerats av de andra deltagarna och kommer att arbeta med att anpassa dem till våra behov.
Daniel Jakobsson
Strateg Artificiell Intelligens på Trafikverket
Tack vare medverkan i projektet har vi fått stöd för att optimera kapacitet och resurser inom MLOps, samtidigt som vi fått värdefulla insikter från olika sektorer. Det har varit en mycket positiv och lärorik erfarenhet för oss i hela teamet.
Lina Gårdemark
Data Engineer / Data Scientist på Region Halland
Börja med att bygga upp en gedigen förståelse för dina verkliga krav och matcha sedan din infrastrukturinvestering därefter.Prestanda i en labbmiljö kan sällan översättas direkt till verkliga användningsfall. Dolda flaskhalsar och begränsningar visar sig ofta inte förrän du testar ditt faktiska arbetsflöde – och du kan upptäcka att du behöver betydligt färre, eller betydligt fler, resurser än förväntat.
Olof Sandell
DevOps Engineer på Aixia
Våra viktigaste lärdomar i projektet handlar om hur man anpassar etablerade DevOps-principer till MLOps och vidare till AIAppOps, för att få hela kedjan under modellens livscykel att bättre fungera ihop för att nå en högre grad av automatisering. På det sättet blir det möjligt att skala upp antalet modeller och därmed även värdet från AI utan att i samma utsträckning behöva öka antalet personer som är inblandade.
Mattias Jonhede
Manager Advanced Analytics Engineering på Volvo Parts
Projektet har finansierats av de deltagande organisationerna och Vinnova. AI Sweden delfinansieras av European Regional Development Fund inom projektet "Ökat nationellt samarbete för accelererad användning av AI i alla branscher".
Användningsfall
En stor del av arbetet i DDO har delvis skett i tre konkreta användningsfall som adresserar verkliga behov hos några av projektdeltagarna: Hur kan vi använda AI på ett hållbart sätt, hur kan vi dela fysisk infrastruktur mellan olika tillämpningar och fortfarande följa alla regelverk, och hur hanterar vi en situation med tusentals modeller i drift?
Utöver de tre användningsfallen har projektet jobbat med fler perspektiv, varav det är två som vi vill särskilt lyfta fram. Det ena ger rekommendationer kring organisatoriska frågor, det andra kopplar ihop ett datadrivet arbetssätt med applikationer.
Sustainable AI infrastructure lifecycle
Hur kan vi säkerställa att användningen av AI är ekonomiskt rimlig och hållbar under hela sin livscykel, även med begränsade resurser? I ett samarbete mellan Region Halland och Aixia utvecklades benchmarks för både språkmodeller och bildanalys för att jämföra hur bland annat energiförbrukningen förändras beroende på hårdvara, modell och utvecklingsramverk.
1000 models in production
Hur går det att skala driften av AI-modeller från några få till hundratals eller till och tusentals modeller, med bibehållen effektivitet och styrning utan att samtidigt behöva öka antalet anställda? I det här användningsfallet jobbade Volvo Parts tillsammans med Hopsworks, Red Hat och Linköping Universitet. Syftet var att identifiera praktiska strategier för att hantera livscykeln för tusentals modeller utan att antalet anställda måste öka proportionellt med antalet modeller.
Centralized AI Infrastructure with Kubernetes: Secure and Compliant
Trafikverket har ett behov av att kunna dela resurser som GPUer mellan olika tillämpningar och faser av utvecklingen och samtidigt följa de regelverk som bland andra MSB sätter upp. Samarbetet mellan Trafikverket, Stormgrid, Red Hat och Proact tog sig an den utmaningen. Tillsammans har de identifierat hur den fysiska infrastrukturen kan delas mellan utveckling-, test- och produktionsmiljöer på ett sätt som är förenligt med gällande regelverk och därmed möjliggör bättre resursutnyttjande.
Whitepaper kommer snart!
AI Apps Ops
Data-drivna AI projekt ställer organisationer inför nya typer av utmaningar med data-beroenden genom hela utvecklingscykeln. Som ett stöd för att ta sig an de här utmaningarna beskriver det här whitepapret ett ramverk som kallas AI Application Operations. AI App Ops definierar både viktiga processer och de roller som behövs för att gå från idé till driftsatta tjänster och produkter.
Building blocks for AI operationalisation
Teknisk förmåga och pilotprojekt till trots kämpar många organisationer med att ta steget från experimenterande till storskalig implementering, och vidare till att bli en helt data-driven verksamhet. Det här whitepapret beskriver viktiga byggstenar i den förflyttningen.
Whitepaper kommer snart!
Whitepapers
Från ett projekt med 20 deltagande organisationer, över 50 individer och som behandlar ett så brett ämne som MLOps blir resultatet mer omfattande än de fall som presenteras ovan. Nedan finns kompletterande publikationer om specifika ämnen som också utforskades under projektets gång.
En färdplan för AI i akademin
Detta white paper innehåller en praktisk färdplan som vägledning för universitetens IT-avdelningar i arbetet med att bygga en AI-redo miljö. Den argumenterar för ett antal steg som bygger på varandra istället för stora, spekulativa investeringar.
IBM complementary reading for DDO cases
IBM har utifrån användningsfallen i projektet sammanställt kompletterande material. Avsikten är att ge mer bakgrund och underlag för att hjälpa läsarna att fatta mer välgrundade beslut. Utöver det så innehåller denna publikation även resonemang om AI Application Operations, med fokus på Tillförlitlig AI.
Optimering av multiagent-system
Intresset för agenter och agentbaserade system är just nu stort. Predli och AI Sweden har sammanställt en introduktion till multiagent-system och gjort en djupdykning i hur de kan optimeras.
Djupdykningar & demonstrationer
Som komplement till allt material ovan finns det mer kunskap som vi vill dela. I den här spellistan hittar du tekniska djupdykningar som är relevanta för användningsfallen, presentationer av relevanta ramverk och lärdomar från partners egna MLOps-resor. Dessa är kunskapsdelningssessioner från projektet och ger en direkt inblick i de dialoger och diskussioner som fördes under DDO-projektet.
Utforska ramverken på egen hand
Som en del av projektleveranserna har nya installationer för varje leverantörsramverk och användningsfall satts upp i AI Sweden AI Labs. De är nu tillgängliga för partners för test och experiment. I testbädden hittar du Hopsworks Feature Store, IBM Fusion med Watson X, Red Hat Openshift, Red Hat Openshift AI och Stormgrids GridCloud med Run:AI.
Som en del av projektet har IBM dessutom installerat en IBM Fusion. Eftersom det är en kombination av hårdvara och mjukvara, finns nedan en förklaring av komponenterna och deras syfte. Den innehåller också resonemang om hur användningsfallen potentiellt skulle kunna köras i en Fusion-maskin.
Bilder från AI Sweden Testbed, Göteborg. Om du tillhör en partnerorganisation är du välkommen att kontakta Max Petersson, Ted Henriksson, eller Laurian Lamba om du vill veta mer.
Projektpartner
Vill du fördjupa dig ännu mer?
Flera av projektpartnerna erbjuder mer information på sina webbplatser – utforska dem nedan.
Blogginlägg från Red Hat:
MLOps-utmaningen – att skala från en modell till tusentals ”Tänk om hantering av modeller inte behövde vara kaotiskt?”
Bok om MLOps av Jim Dowling på Hopsworks:
Building Machine Learning Systems – Batch, Real-Time, and LLM Systems
Artikel skriven av Tiger m.fl. inom projektet:
Exploratory Visual Analysis for Increasing Data Readiness in Artificial Intelligence Projects
AI Operation Talks: Insikter från frontlinjen av AI-driftsättning
Samtidigt som projektet sätter ramarna för styrning och struktur, visar serien AI Operation Talks hur arbetet faktiskt går till i praktiken när man bygger AI-drivna organisationer. Serien är framtagen tillsammans med den svenska AI-communityn och består av TED-liknande föreläsningar från experter, tekniker och entreprenörer som just nu navigerar övergången från experiment till produktion.
Spellista för AI Operations Talks: Se alla 21 inspelningarna från denna webbinarieserie.
Som komplement till projektets whitepapers och playbooks erbjuder dessa presentationer en djupgående inblick i de tekniska och strategiska hindren för att driftsätta. Tittarna kan förvänta sig lärdomar om MLOps, digital suveränitet och hållbar infrastruktur. Från att skala upp verksamheten till tusentals modeller till att navigera i komplexiteten hos vibe-kodning och säkra statliga ekosystem, ger dessa seminarier den praktiska kontext som behövs för att omvandla strategi till operativ framgång.
Kontaktuppgifter
Anmäl dig till AI Swedens nyhetsbrev
Som prenumerant får du en avisering när alla whitepapers och andra resurser har lagts till på denna sida. Du får också månatliga uppdateringar, inbjudningar och de senaste nyheterna från det svenska AI-ekosystemet.
Relaterade artiklar
Nytt jätteprojekt ska visa vägen från testverksamhet till skarp drift av AI
Ny IBM-teknik skapar värdefulla testmiljöer för AI Swedens partners
