Krav för högrisk-AI inom EU senareläggs

Den 7 maj enades EU:s ministerråd och Europaparlamentet om justeringar i EU:s AI-förordning (AI Act). Förhandlingar om det så kallade Omnibus-paketet har pågått sedan februari 2025, och denna överenskommelse gäller Omnibus VII. Det kvarstår endast formalia innan ändringarna börjar gälla.

De viktigaste förändringarna omfattar:

• Senareläggning av när regler för AI-system klassade inom högrisk börjar gälla. Istället för i sommar börjar reglerna gälla 2 december 2027 (för fristående AI-system) och 2 augusti 2028 (för AI-system inbyggda i andra produkter). Många av dessa regler skulle annars börja gälla 2 augusti i år.

• Utökade förbud kring att skapa sexuella bilder utan samtycke samt barnpornografi.

• Lagstiftningen förenklas för industriella sektorer med befintlig produktlagstiftning, så som medicintekniska produkter och leksaker. Där befintlig lagstiftning ställer likvärdiga krav gäller inte AI-förordningen.

• Krav på så kallade regulatoriska sandlådor skjuts upp till 2 augusti 2027. Dessa ska upprättas av medlemsländer, för att underlätta att utveckla, testa och validera AI-system.

I Sverige förväntas Post- och telestyrelsen få huvudansvar för AI-förordningen och även för regulatoriska sandlådor, efter förslag från en utredning från oktober 2025. Huvudansvariga myndigheter skulle enligt AI-förordningen ha meddelats EU-kommissionen senast augusti 2025, men i likhet med flera andra länder har den svenska regeringen ännu inte utsett ansvariga myndighet.

Bakgrund:

• EU:s AI-förordning gäller AI på EU:s marknad, och reglerar exempelvis inte AI som ännu inte är på marknaden, som endast används för forskning, eller endast för militära ändamål.

• Den största delen av AI-förordningen gäller AI-system inom högriskområden – praktiken AI som används för att fatta beslut som har stor inverkan på människors liv, eller som används i produkter med särskild reglering (så som flyg eller sjukvård). Sådana AI-system behöver bland annat uppfylla krav på låg bias, möjlighet till mänsklig granskning och att träningsdata avspeglar målgruppen.

• En betydande del av AI-förordningen gäller AI-modeller “för allmänna ändamål” – i praktiken stora språkmodeller. Dessa har bland annat krav på dokumentation och att deras träningsdata följer EU:s upphovsrättsdirektiv. Särskilt kraftfulla modeller har också bland annat krav på säkerhetstester och löpande riskutvärdering.

Fler länkar:

• Pressmeddelande från EU:s ministerråd

• EU clinches deal to roll back AI restrictions (Politico)

• EU:s AI-regler bromsas efter kritik från industrin (Omni)

• Sammanfattning av EU:s AI-förordning

AI-bevakning sammanfattar de viktigaste AI-nyheterna på svenska, som underlag för journalister, beslutsfattare och andra som vill följa utvecklingen. Läs mer här.