1. Vem som är driftsättare och varför rollen har betydelse
AI-förordningen skiljer mellan den som utvecklar ett AI-system (leverantören) och den som använder det i sin verksamhet (driftsättaren eller användaren, engelskans deployer). Den som köper in en AI-baserad programvara för kandidatbedömning och använder den i sina egna rekryteringsprocesser klassas som driftsättare, även om organisationen inte skrivit en enda rad kod. Denna distinktion är central eftersom skyldigheterna skiljer sig åt, och ett företag kan ha olika roller för olika IT-system.
Rollen styrs inte av avtalsrubriker utan av verkligheten. Om du gör väsentliga anpassningar av systemet, ändrar dess avsedda ändamål eller sätter det på marknaden under ditt eget varumärke kan din legala roll förändras till att betraktas som leverantör. Innan ni planerar efterlevnadsarbetet måste du granska hur utvecklaren har beskrivit systemets funktion och hur ni faktiskt avser att använda det.
2. När ett AI-system klassificeras som högrisk
Ett AI-system klassas som högrisk i två huvudsakliga fall: när det utgör en säkerhetskomponent i en produkt som regleras av annan EU-lagstiftning (såsom medicinteknik eller maskiner), eller när dess användning faller under de områden som förtecknas i förordningens bilaga III. Denna förteckning omfattar bland annat personaladministration, kreditprövning, utbildning och vissa samhällsviktiga tjänster. Inte all användning inom dessa sektorer är automatiskt högrisk: avgörande är den konkreta funktion verktyget fyller.
Det första praktiska steget är klassificeringen, vilken behandlas i en separat guide. Kom ihåg att klassificeringen måste göras på företagets faktiska tillämpning och inte enbart på leverantörens produktblad. Ett allmänt textanalysverktyg kan bli ett högrisksystem i samma ögonblick som det används för att sålla jobbansökningar. Kontrollen måste upprepas varje gång verktygets användningsområde förändras.
3. Praktiska skyldigheter för driftsättaren
När ett system klassificeras som högrisk kräver förordningen en rad konkreta åtgärder från driftsättaren. Detta är inga pappersövningar: varje punkt kräver en intern ägare och verifierbara bevis. De exakta kraven stäms av med en rådgivare, men grundstrukturen nedan måste anpassas till din sektor och dina arbetsprocesser. Använd listan som en handlingsplan och inför de kontroller som är nödvändiga i praktiken.
Mänsklig tillsyn och loggning är de krav som oftast förbises. En medarbetare som automatiskt godkänner alla systemets förslag utövar ingen verklig tillsyn. Etablera tydliga kriterier för när en rekommendation ska omprövas, vem som har mandat att avbryta användningen och hur snabbt avvikelser ska hanteras. Dokumentera vilka personer som utövar tillsynen, deras befogenheter och vilken utbildning de har genomgått.
- Använd systemet strikt i enlighet med leverantörens bruksanvisningar och instruktioner.
- Säkerställ reell mänsklig tillsyn genom behöriga personer med befogenhet att ingripa eller stänga av systemet.
- Kontrollera att indata är relevanta och representativa för systemets avsedda ändamål.
- Övervaka systemets drift löpande och rapportera allvarliga incidenter och felaktigheter till leverantören.
- Bevara systemgenererade loggar under den tidsperiod som föreskrivs i regelverket.
- Informera fysiska personer när systemet används vid beslut som påverkar dem direkt.
4. Medarbetare och berörda enskilda personer
När ett högrisksystem ska användas på arbetsplatsen kräver förordningen i vissa fall att medarbetarna och deras fackliga företrädare informeras innan verktyget tas i bruk. Nationell arbetsrätt kan kräva ytterligare steg, såsom MBL-förhandlingar eller formella samråd. Detta måste planeras i god tid tillsammans med arbetsrättslig expertis innan systemet aktiveras. Om informationsskyldigheten är oklar i ert fall bör ni utreda frågan före driftsättning.
Enskilda personer som blir föremål för ett beslut som fattats med stöd av systemet har rätt till tydlig information om AI-verktygets roll. Förbered ett begripligt informationsmeddelande och en fast rutin för att hantera frågor eller överklaganden. Detta är ett avgörande moment: det är här systemet möter den enskilda individen, och det är oftast här kritik och invändningar uppstår först.
5. Konsekvensbedömning avseende grundläggande rättigheter
För vissa driftsättare – särskilt offentliga organ eller privata aktörer som tillhandahåller allmännyttiga tjänster, samt vid specifika tillämpningar som kreditprövning eller liv- och sjukförsäkringar – krävs en konsekvensbedömning avseende grundläggande rättigheter (FRIA, Fundamental Rights Impact Assessment). Kravet beror på organisationstyp och verksamhetsform. Stäm av med er rådgivare om ni berörs, eftersom bedömningen måste genomföras innan systemet tas i drift.
Bedömningen beskriver systemets ändamål, vilka grupper som påverkas, vilka risker för människors fri- och rättigheter som kan uppstå samt vilka skyddsåtgärder som vidtas för att minska riskerna. Det är ett levande arbetsdokument som ska uppdateras kontinuerligt. Se till att bedömningen formuleras på ett tydligt språk som kan förstås även av personer utan djup teknisk specialistkunskap.
6. Incidenter, funktionsfel och rapportering
Om ett högrisksystem orsakar en allvarlig incident eller uppvisar ett betydande tekniskt funktionsfel måste driftsättaren omedelbart informera leverantören och i föreskrivna fall även tillsynsmyndigheten. Definiera i förväg vad som utgör en allvarlig incident i er verksamhet: ett isolerat fel, ett systematiskt partiskt mönster eller en felaktig diskvalificering av en person. En skriftlig definition undviker tidsödande diskussioner under ett akut läge.
Upprätta även en intern rutin: vem som larmas, vem som har rätt att stoppa systemet, hur händelsen dokumenteras och hur verksamheten återgår till manuell handläggning. Denna koppling till verksamhetens kontinuitetsplanering är ofta helt avgörande, eftersom ett avstängt AI-system måste ersättas av en fungerande manuell rutin. Testa denna rutin tillsammans med den operativa personalen.
7. Avtal och leverantörer: vad du måste kräva
Avtalet med systemleverantören är verktyget genom vilket ni säkrar nödvändig information. Begär teknisk dokumentation om avsett ändamål, fullständiga bruksanvisningar, kända begränsningar, datakrav, uppdateringsrutiner och processer för incidentrapportering. Om leverantören inte kan ge tydliga svar på dessa punkter är detta i sig en risk som måste loggas. Begär även att leverantören förbinder sig att avisera alla systemändringar.
Kontrollera var data lagras och vem som har åtkomst till dem. En leverantör som enbart lämnar generiska garantier ger er inte det underlag som krävs för att bevisa efterlevnad vid en tillsyn. Begär skriftlig dokumentation för allt som krävs för att styra systemet säkert. Om svaren är vaga bör risken behandlas som ohanterad tills kompletterande underlag finns på plats.
8. Fördjupande guider inom området
Denna guide fungerar som en översiktskarta. De frågeställningar som fördjupas i separata guider omfattar: hur system klassificeras efter risknivå, vilka metoder som är helt förbjudna, hur en konsekvensbedömning avseende grundläggande rättigheter genomförs, hur AI Act samordnas med GDPR samt vad som specifikt gäller inom HR och rekrytering.
Om ni redan har ett system i drift bör ni först läsa guiden om klassificering. Om ni använder AI för att utvärdera eller anställa personal bör ni gå vidare till HR-guiden. Om ni bygger egna tjänster ovanpå en extern basmodell hjälper guiden om allmänna modeller er att förstå vilka krav som gäller. På så sätt läser ni rätt guide i rätt fas.
9. Hur du kommer igång
Välj ut det AI-system i verksamheten som ligger närmast en högrisktillämpning denna vecka och begär tre underlag från leverantören: bruksanvisningen, beskrivningen av avsett ändamål samt instruktionerna för mänsklig tillsyn. Utifrån dessa handlingar kan ni snabbt avgöra om er roll och era skyldigheter är klara, eller om kompletterande uppgifter behövs innan ni går vidare.
Utse därefter en intern systemägare och håll ett första avstämningsmöte med er juridiska rådgivare och berörd avdelningschef. Det behövs ingen fullständig plan direkt: det viktiga är att fastställa vem som beslutar, vem som utövar tillsyn och vilka uppgifter som saknas. Bestäm datum för nästa uppföljning så att arbetet hålls igång.
Vanliga frågor
Vi använder ett rekryteringsverktyg: klassas vi automatiskt som högrisk?
Inte med automatik. Det avgörande är hur ni använder systemet. Om verktyget används för att välja ut, sålla eller utvärdera kandidater faller det inom ett område som förordningen betraktar som känsligt och måste analyseras noga. Om verktyget enbart sorterar filer eller skickar kallelser är risken en annan. Gör en klassificering utifrån verklig användning och dokumentera motiveringen.
Räcker det med formell mänsklig tillsyn på papperet?
Nej. Tillsynen måste vara verklig och effektiv: en kompetent person med tillräcklig tid, kunskap och befogenhet att granska och vid behov åsidosätta eller stoppa systemet. Att slentrianmässigt godkänna förslag utan reell prövning uppfyller inte lagens krav. Dokumentera vem som övervakar, hur personen utbildats och vilka rutiner som styr ingripanden.
Måste vi spara systemets automatiska loggar?
I regel ja: driftsättare av högrisksystem är skyldiga att bevara de automatiskt genererade loggarna under den period som föreskrivs i tillämpliga regler. Den exakta lagringstiden bör stämmas av med juridisk expertis. Samordna logglagringen med reglerna i GDPR, eftersom loggarna kan innehålla personuppgifter.
Måste leverantören förklara exakt hur systemet fungerar?
Leverantören måste tillhandahålla tillräcklig information för att ni ska kunna använda systemet säkert och lagenligt, inklusive bruksanvisning, kända begränsningar och specifikation av nödvändiga indata. De behöver inte avslöja skyddade affärshemligheter, men ni måste få tillräckliga operativa instruktioner skriftligt.
Vad gäller om leverantören uppdaterar systemet?
En programuppdatering kan förändra funktioner, begränsningar eller risknivåer. Begär en beskrivning av uppdateringen från leverantören och bedöm om klassificeringen eller tillsynsplanen behöver justeras. Förutsätt aldrig att en ändring är neutral, särskilt om den påverkar hur människor bedöms.
Från när gäller dessa skyldigheter för användare?
Bestämmelserna fasas in etappvis och kan kompletteras av myndighetsriktlinjer. Lita inte på generella datum i förenklade artiklar, utan kontrollera den officiella lagtexten och stäm av tidslinjen med er rådgivare innan ni gör interna åtaganden.
Räcker det att förlita sig på leverantörens garantier?
Nej. Leverantören ansvarar för produktens egenskaper, men driftsättningen i er organisation är ert eget legala ansvar. Avtalet reglerar informationsflödet och garantierna, men befriar er inte från skyldigheten att utöva mänsklig tillsyn och föra intern dokumentation. Spara alla skriftliga besked som bevis på tillbörlig aktsamhet.