Klart! Överenskommelse om förenklingar i AI-förordningen – och förbud mot ”nudifier”-appar

Den 7 maj nådde EU-parlamentet och ministerrådet en provisorisk överenskommelse om ändringar i AI-förordningen, som en del av det digitala Omnibus-paketet. Bland nyheterna finns uppskjutna deadlines för högrisk-AI och ett nytt förbud mot så kallade ”nudifier”-appar.

EU-kommissionen lade fram sitt förslag till förenklingar i november 2024, och vi på Delphi har tidigare skrivit om både kommissionens ursprungliga förslag och EU-parlamentets ståndpunkt. Nu är förhandlingarna mellan EU-institutionerna – den så kallade trilogen – avslutade, och både ministerrådet och EU-parlamentet har annonserat överenskommelsen genom pressmeddelanden, här och här.

Det har ännu inte kommit en officiell uppdaterad lagtext, utan detta kommer först när alla formaliteter är klara. Vissa detaljer kommer därför att klarna allt eftersom. Nedan går vi igenom några av de viktigaste ändringarna som publicerats.

Nya tillämpningsdatum

Överenskommelsen innebär att man skjuter upp tillämpningen av vissa delar av AI-förordningen. Ett av skälen som anges är att säkerställa att nödvändiga standarder och stödåtgärder, som behövs för att klargöra tillämpningen av reglerna, finns på plats.

Enligt överenskommelsen gäller skyldigheterna för högrisk-AI-system:

• från och med den 2 december 2027, i stället för den 2 augusti 2026, för AI-system som klassas som högrisk på grund av sitt användningsområde – exempelvis AI som används för biometrisk identifiering, inom kritisk infrastruktur, utbildning eller vid myndigheters bedömning av rätt till förmåner och tjänster,
• från och med den 2 augusti 2028, i stället för den 2 augusti 2027, för AI-system som ingår som säkerhetskomponenter i produkter som regleras av EU:s sektorsspecifika säkerhetslagstiftning, till exempel medicintekniska produkter.

Dessutom skjuts kravet på vattenmärkning av AI-genererat innehåll upp till den 2 december 2026, från den 2 augusti 2026 enligt nuvarande lydelse. Vattenmärkning gör det möjligt att identifiera och spåra innehåll som skapats av AI.

Viktigt att notera: de uppskjutna datumen innebär inte att AI-förordningen som helhet pausas. Många regler gäller redan idag.

Förbud mot ”nudifier”-appar

En av de mest uppmärksammade nyheterna är ett nytt förbud mot AI-system som skapar sexuellt övergreppsmaterial mot barn, eller som utan samtycke avbildar en identifierbar persons intima delar eller sexuella aktiviteter.

Förbudet gäller för att placera AI-system på EU-marknaden i syfte att skapa sådant innehåll, att placera dem på EU-marknaden utan rimliga säkerhetsåtgärder för att förhindra skapandet av sådant innehåll, samt att som användare utnyttja systemen för att skapa sådant innehåll.  Innehållet i fråga kan utgöras av bilder, video eller ljud, och företag ges till den 2 december 2026 på sig att anpassa sina system.

Ytterligare förenklingar

Överenskommelsen innehåller även ett antal andra förenklingar:

• Överlappande krav för AI i maskinsäkerhetsprodukter tas bort, genom att klargöra att dessa enbart behöver följa sektoriella säkerhetsregler – i stället för både AI-förordningens regler och sektoriella regler – med skyddsåtgärder som säkerställer en likvärdig hälso- och säkerhetsnivå.
• Begreppet ”säkerhetskomponent” snävas in, vilket innebär att produkter med AI-funktioner som enbart assisterar användare eller optimerar prestanda inte automatiskt omfattas av högriskkraven, om ett fel eller funktionsavbrott inte skapar hälso- eller säkerhetsrisker.
• En möjlighet öppnas att behandla personuppgifter – i strikt nödvändig utsträckning och med lämpliga skyddsåtgärder – för att identifiera och korrigera snedvridning (bias), i såväl högrisk- som icke-högrisk-AI-system.
• Utökade undantag för små och medelstora företag, för att stödja deras tillväxt.
• Tillsynen av vissa generella AI-modeller och system centraliseras till EU:s AI-kontor (AI Office).
• Fristen för inrättandet av nationella regulatoriska sandlådor för AI skjuts upp till den 2 augusti 2027.

Vad händer nu?

Överenskommelsen ska nu formellt röstas igenom och genomgå juridisk och språklig revision. Därefter publiceras den i EU:s officiella tidning och börjar gälla som lag tre dagar senare.

Vi på Delphi bevakar utvecklingen och återkommer med uppdateringar när de slutgiltiga reglerna klarnar. Fortsättning följer!

Denna artikel är skriven av Senior Associate Sebastian Torres.