Ansvarsfull AI-användning i praktiken

DIY Workshop #7

I den här workshopen djupdyker vi i området Ansvarsfull AI. Vi tittar på konkreta utmaningar kring transparens, risk och rättvisa, och presenterar också modeller för att navigera mer ansvarsfullt i användningen av AI-drivna tjänster. Gör workshopen själv, eller ännu bättre, samla en grupp kollegor och utforska ämnet tillsammans.
 

Hur kan vi använda AI mer ansvarsfullt? 

Ansvarsfull AI låter som en bromskloss, något som ska hålla oss tillbaka för att osäkerheten runt den nya tekniken är stor. I den här workshopen kommer vi att vända på det perspektivet. Syftet med en ansvarsfull AI-användning är nämligen att hjälpa dig att öka tryggheten så att du våga köra snabbare.

Ansvarsfull AI handlar inte om att bygga det perfekta AI-systemet. För även om ambitionen är fin, så kommer det att finnas utmaningar och risker i alla system. Och risken är stor att vi aldrig kommer till införandet och värdeskapandet med systemet om allt först ska bli perfekt. Istället kan vi bygga förmågor och förutsättningar i verksamheterna, i varje AI-användare, för att navigera och möta de risker och utmaningar som dyker upp i systemet.

Ansvarsfull användning av AI är att förebygga felaktig och skadlig AI-användning. Men det är också att förhindra ett underutnyttjande av tekniken, alltså att vi av osäkerhet låter bli att använda AI där det hade kunnat skapa stort värde. AIs förmågor möjliggör att vi kanske kan höja kvaliteten, servicenivån och tillgängligheten – att spara tid, upptäcka brister och ibland till och med rädda liv. Att då ställa sig vid sidan av – för att det finns risker – är ofta inte den ansvarsfulla vägen.

I den här workshopen tittar vi på praktiska verktyg och modeller, vi lär oss mer om ansvarsfördelning och hur vi kan förhålla oss till regelverk och policy i vår vardag. I slutet kan du göra två praktiska övningar, själv eller tillsammans med kollegor.

Att bygga förmåga för ansvarsfullt AI-användande 

Ansvarsfull AI är ett begrepp på mångas läppar, men vad innebär det i vår vardag? I videon utgår vi från pyramiden och frågorna kan–bör–får,  för att ringa in ämnet:

• Kan: Vad kan tekniken göra? De tekniska möjligheter och begränsningar som styr användningen.

• Bör: Vad bör vi göra med tekniken? De etiska överväganden som rör användningen.

• Får: Vad får vi göra? De lagar och regler som styr användningen.

Bromsar göra oss snabbare. I videon används också bilen som en metafor för AI-utvecklingen. I liknelsen gav motorn gav oss förmågan att röra oss framåt i nya hastigheter – men det var tack vare bromsarna, bältet, krockkudden och vetskapen om att vi faktiskt kan sakta ner farten, som gör att vi vågar röra oss snabbare. Ingen känner sig trygg i en bil utan bromsar. Och precis som trafikregler och säkerhetsutrustning utvecklats parallellt med bilens motorer, behöver vi tänka på reglerna, ansvarsfördelningen och ramarna kring AI-användningen. Annars blir det svårt att tillgodose oss den stora nyttan från AI-tekniken. Ansvarsfull AI blir en nödvändig komponent och förutsättning för att vi ska dra nytta av den kraftfulla tekniken i våra verksamheter.

Ansvarsfull AI är laglig, etisk och robust

EU:s riktlinjer för tillförlitlig AI, Trustworthy AI, sätter tre grundkrav: Ett AI-system ska under hela sin livscykel vara lagligt (följa lagar och regler); etiskt (respektera värderingar och principer) och robust (fungera tekniskt och socialt utan att orsaka oavsiktlig skada).

I videon ser vi hur detta vilar på fyra etiska principer: respekt för mänsklig autonomi, förebyggande av skada, rättvisa samt förklarbarhet. I praktiken får vi också stöd i sju nyckelkrav: mänsklig tillsyn, teknisk robusthet och säkerhet, integritet och dataförvaltning, transparens, icke-diskriminering och rättvisa, samhälls- och miljömässigt välbefinnande samt ansvarsskyldighet.

Ansvaret för att AI används ansvarsfullt i en verksamhet är ett lagarbete – och en förmåga som en verksamhet bygger upp brett över tid, och över hela organisationen. I videon nämns tre nyckelroller: 

• Ledare/strateg. Ledarna sätter riktning och förstår hur AI skapar värde för verksamheten. Ledarna säkerställer att rätt förutsättningar finns, och formar arbetssätt och processer för ansvar och kunskapsspridning.

• Utvecklare/IT-arkitekt. Bygger och designar robustheten i praktiken, samarbetar med domänexperter, bygger in transparens och säkerhet från start, dokumenterar tekniska vägval.

• Slutanvändare/domänexpert. "Människan i loopen", personerna som använder systemen med gott omdöme, slår larm vid fel och risker, och bidrar med idéer till förbättring.

Övning #1: Risker med införande av en AI-driven tjänst.

Den här övningen handlar om att praktiskt tillämpa riskanalys.  Börja med att läsa caset nedan. 

Case: AI-stöd i rådgivning till småföretag

En regional innovationsaktör vill använda en generativ AI-assistent för att hjälpa rådgivare inför möten med företagen. Assistenten sammanställer bolagens webbplats, tidigare mötesanteckningar och inskickat material. Den sammanställer följande till rådgivaren: 

• vilka utmaningar företaget sannolikt har
• vilka stödinsatser som kan vara relevanta
• vilka frågor rådgivaren bör ställa
• ett utkast till rekommendation efter mötet

Syftet är att rådgivarna ska kunna förbereda sig snabbare och ge mer likvärdig rådgivning.

Uppgift 2: Vi får mer information – vad gör du? 

Vi får tillgång till mer information om tjänsten – från leverantören och från de första användartesterna. 
Vad rekommenderar du att organisationen gör nu?

• Data & integritet: AI:n använder webbplats, inskickat material och rådgivningsanteckningar. Leverantören säger att datan inte används för modellträning.
• Tillförlitlighet & säkerhet: Rådgivarna sparar tid och känner sig bättre förberedda, men modellen har ibland dragit felaktiga slutsatser.
• Rättvisa & diskriminering: En analys visar att företag som drivs av kvinnor och utrikes födda oftare kategoriseras som hög risk.
• Mänsklig kontroll & ansvar: Rådgivaren fattar fortfarande beslut, men vissa rådgivare har börjat återanvända AI:ns formuleringar utan egen kontroll.
• Transparens: Företagen informeras inte konsekvent om att AI används i förberedelserna.

Välj ett alternativ: Införa eller avvakta? 

• Inför nu. Vi har tillräckligt underlag för att börja använda AI-assistenten.
• Inför med villkor - Vi ser värdet, men användningen behöver först begränsas, säkras eller styras tydligare.
• Inför inte - Riskerna eller osäkerheterna är för stora för att gå vidare.

Fördjupning och referenser

Ethics guidelines for trustworthy AI (EU)

Responsible AI Knowledge Hub (AI Sweden)