EU kan börja slå till mot AI-bolag

Från och med söndag får EU-kommissionen befogenhet att utreda och bötfälla överträdelser mot unionens AI-förordning. Samma dag börjar också nya regler om öppenhet kring AI-genererat innehåll att gälla.

AI-förordningen trädde i kraft 2024, men tillämpas stegvis. Sedan i februari 2025 är vissa användningar av AI förbjudna, till exempel system som manipulerar människors beteende på ett skadligt sätt eller poängsätter dem socialt. Sedan i augusti 2025 måste utvecklare av kraftfulla AI-modeller dokumentera hur modellerna byggts och redovisa vilket material de tränats på. Det som saknats fram tills nu är kommissionens redskap för att kontrollera att reglerna faktiskt följs.

Kan nu granska och bötfälla
Från och med söndag kan EU-kommissionens AI-byrå begära information från AI-bolag, granska deras modeller och kräva att de vidtar åtgärder. I sista hand kan byrån begränsa hur en modell får spridas på EU:s marknad. Tillsynen omfattar också de förbud mot vissa AI-användningar som redan gäller sedan februari 2025.

Ansvaret för granskningen delas mellan tre myndigheter. EU-byrån ska granska de mest kraftfulla AI-modellerna samt AI-tjänster som byggs av samma bolag som utvecklat modellen, liksom AI-system som är inbyggda i de allra största onlineplattformarna och sökmotorerna. Nationella myndigheter i medlemsländerna ansvarar för övriga AI-system, medan Europeiska datatillsynsmannen granskar AI-system som används av EU:s egna institutioner.

En EU-tjänsteperson informerade på fredagen journalister om vad de nya befogenheterna innebär i grunden och underströk att kommissionen tidigare saknat verktyg för att få tillgång till modellerna för utvärdering.

– Vi har hittills inte haft den befogenheten, men situationen kommer att förändras, sade tjänstepersonen.

De kraftfullaste AI-modellerna, som bedöms kunna medföra så kallade systemrisker – det vill säga risk för storskalig skada – måste utöver dokumentationskravet också bedöma och begränsa riskerna för bland annat kemiska, biologiska och nukleära hot, förlorad mänsklig kontroll över systemet, cyberattacker och storskalig manipulation av människor.

Chatbotar måste avslöja sig
Från söndag gäller också regler om öppenhet kring AI-genererat innehåll. Chattbottar och andra AI-tjänster som kommunicerar direkt med människor måste tala om att de är AI och inte en människa. Bilder, ljud och video som skapats eller ändrats med AI och som liknar verkliga personer, platser eller händelser – så kallade deepfakes – ska märkas tydligt, så att den som exponeras för innehållet förstår att det är konstgjort. Utöver den synliga märkningen ska AI-genererat innehåll också bära en dold, maskinläsbar markering som gör det möjligt att i efterhand fastställa att innehållet inte är äkta.

AI-tjänster som redan fanns på marknaden före augusti 2025 får något mer tid på sig. Fram till den 2 december har de på sig att uppfylla just kravet på den dolda tekniska märkningen.

En EU-tjänsteperson bekräftade att hela uppsättningen av skyldigheter kring öppenhet i praktiken börjar gälla från och med söndagen och att kommissionen nyligen publicerat riktlinjer för att ge bolagen tydlighet i hur kraven ska uppfyllas.

Cirka 190 organisationer har skrivit under en [frivillig uppförandekod](Inflationen i eurozonen steg något) som kommissionen tagit fram tillsammans med oberoende experter, för att visa hur reglerna kan uppfyllas i praktiken.

"Ett viktigt steg"
– Med AI-förordningen har vi skapat ett tydligt, riskbaserat och hållbart regelverk för pålitlig AI – ett regelverk som ger innovatörer rättssäkerhet samtidigt som allmänintresset skyddas. När tillsynen nu inleds tar vi ett viktigt steg mot en AI som människor och företag kan förstå och lita på, sade EU:s säkerhetskommissionär Henna Virkkunen i ett uttalande.

Ytterligare delar av AI-reglerna kommer, bland annat förbud mot AI-genererat sexuellt innehåll utan samtycke och material med sexuella övergrepp mot barn, samt regler för AI-system som klassas som högrisk.