AI Act: AI in deepfake vsebine bodo morale biti jasno označene

Evropska komisija pripravlja pravila za označevanje generativne AI

Evropska komisija je objavila kodeks za označevanje in označevanje AI-generiranih vsebin. Pravila po 50. členu AI Act bodo pomembna za ponudnike generativne AI, medije, podjetja in javne komunikacije.

Evropska komisija je objavila kodeks prakse za označevanje in razkrivanje AI-generiranih vsebin, ki naj podjetjem, razvijalcem in organizacijam pomaga pri pripravah na nove obveznosti po evropskem AI Act.

Ključni poudarki

Kodeks prakse je prostovoljen, vendar so obveznosti iz 50. člena AI Act pravno zavezujoče.
Pravila bodo pomembna za ponudnike generativnih AI sistemov in organizacije, ki takšne sisteme uporabljajo pri objavi vsebin.
Kodeks ločuje tehnično označevanje vsebin, ki ga morajo zagotavljati ponudniki, in vidno označevanje deepfake oziroma javno pomembnih AI vsebin, ki zadeva uporabnike oziroma deployerje.
Evropska komisija je pripravila tudi nabor ikon, s katerimi je mogoče označiti AI-generirane ali AI-spremenjene vsebine.
Za podjetja to pomeni, da bo treba pravočasno urediti postopke za uporabo generativne AI, preverjanje vsebin, uredniško odgovornost in dokazovanje skladnosti.

Kaj je objavila Evropska komisija?

Evropska komisija je objavila Kodeks prakse o transparentnosti AI-generiranih vsebin, ki podpira izvajanje obveznosti iz evropskega Akta o umetni inteligenci. Gre za praktičen okvir, namenjen ponudnikom generativnih AI sistemov in organizacijam, ki takšne sisteme uporabljajo pri ustvarjanju ali objavljanju vsebin. Kodeks ne nadomešča AI Act in tudi ne prihodnjih smernic Komisije, vendar naj bi postal pomembno orodje za dokazovanje skladnosti. Njegov namen je zmanjšati tveganja zavajanja, manipulacije, deepfake vsebin in nejasnega izvora digitalnih objav. Za širši kontekst evropske zakonodaje je koristen tudi pregled Akta o umetni inteligenci na iVarnost.si.

kodeks je namenjen praktični izvedbi transparentnostnih pravil,
osredotoča se na AI-generirano ali AI-spremenjeno besedilo, slike, zvok in video,
pomemben je za razvijalce, ponudnike AI orodij, medije, javne institucije in podjetja,
podpis kodeksa naj bi olajšal dokazovanje skladnosti po AI Act.

Zakaj je označevanje AI vsebin pomembno?

Generativna umetna inteligenca omogoča hitro ustvarjanje besedil, slik, zvoka in videa, zato postaja vprašanje izvora vsebin vse bolj pomembno za zaupanje v digitalni prostor. Pri običajni uporabi AI je tveganje lahko majhno, pri političnih vsebinah, javnem obveščanju, kriznih sporočilih, oglasih, lažnih izjavah ali deepfake posnetkih pa lahko neoznačene vsebine povzročijo resno zmedo. Označevanje ni namenjeno prepovedi uporabe AI, temveč jasnejšemu razumevanju, kdaj je bila vsebina ustvarjena ali bistveno spremenjena z umetno inteligenco. To je pomembno tudi za organizacije, ki uporabljajo generativno umetno inteligenco v komunikaciji, marketingu, podpori uporabnikom ali pripravi javnih gradiv. V praksi bo treba ločiti med internimi AI orodji, uredniško pregledanimi vsebinami in vsebinami, ki lahko neposredno vplivajo na javno razumevanje dejstev.

označevanje krepi zaupanje v digitalne vsebine,
zmanjšuje tveganje zavajanja pri deepfake posnetkih,
pomaga uporabnikom razumeti izvor vsebine,
podjetjem omogoča bolj nadzorovano uporabo AI orodij.

Kaj določa 50. člen AI Act?

50. člen AI Act uvaja transparentnostne obveznosti za nekatere AI sisteme in za nekatere vrste AI-generiranih ali AI-spremenjenih vsebin. Ponudniki generativnih AI sistemov bodo morali zagotoviti, da so izhodi sistemov označeni v strojno berljivi obliki, kadar je to tehnično izvedljivo in skladno s stanjem tehnike. Organizacije, ki uporabljajo generativne AI sisteme, bodo morale v določenih primerih jasno razkriti, da je vsebina umetno ustvarjena ali spremenjena. To je posebej pomembno pri deepfake vsebinah in pri besedilih, ki obveščajo javnost o vprašanjih javnega interesa. Za podjetja, ki že pripravljajo interne politike, je zato smiselno urediti tudi AI pravilnike in postopke za pregled vsebin.

ponudniki morajo razmišljati o tehničnih oznakah in zaznavnosti,
uporabniki oziroma organizacije morajo razmišljati o jasnih razkritjih,
deepfake vsebine so posebej izpostavljene,
javno pomembna AI besedila zahtevajo dodatno pozornost.

Kako je kodeks razdeljen?

Kodeks ima dva glavna dela. Prvi del je namenjen ponudnikom generativnih AI sistemov in obravnava označevanje ter zaznavanje AI-generiranih ali AI-spremenjenih vsebin v strojno berljivi obliki. Drugi del je namenjen organizacijam, ki uporabljajo generativne AI sisteme, in obravnava vidno označevanje deepfake vsebin ter AI-generiranih besedil, objavljenih za obveščanje javnosti. Ta razdelitev je pomembna, ker odgovornost ni samo na strani tehnoloških ponudnikov, temveč tudi na strani tistih, ki AI vsebino objavljajo, širijo ali vključujejo v svoje poslovne procese. Pri tem se kodeks smiselno povezuje tudi z vprašanjem, kako naj podjetja varno uvedejo AI v procese, komunikacijo in upravljanje tveganj.

prvi del zadeva ponudnike generativnih AI sistemov,
drugi del zadeva uporabnike oziroma organizacije, ki vsebine objavljajo,
tehnično označevanje in vidno označevanje nista isto,
odgovornost se razporeja po celotni verigi ustvarjanja in objave vsebin.

Kaj pomenijo EU ikone za AI vsebine?

Evropska komisija je pripravila tudi nabor ikon za označevanje AI-generiranih ali AI-spremenjenih vsebin. Ikone so namenjene temu, da uporabniki hitro prepoznajo, ali je bila vsebina v celoti ustvarjena z AI, delno spremenjena z AI ali pa je AI sodeloval pri ustvarjanju vsebine. Njihova uporaba je prostovoljna, vendar lahko pomaga pri enotnejšem prikazu informacij v različnih digitalnih okoljih. Komisija poudarja, da uporaba ikon sama po sebi še ne pomeni popolne pravne skladnosti, zato morajo organizacije še vedno zagotoviti ustrezno razkritje, kontekst in odgovornost. Pri vsebinah, povezanih z deepfake prevarami, so takšne oznake pomembne tudi za ozaveščanje uporabnikov.

ikone so namenjene jasnemu vizualnemu razkritju,
uporabljajo se lahko pri različnih vrstah digitalnih vsebin,
same po sebi ne dokazujejo popolne skladnosti,
najbolj koristne so, ko jih spremlja razumljivo besedilo.

Koga bodo pravila najbolj zadevala?

Pravila bodo pomembna za ponudnike generativnih AI sistemov, razvijalce orodij za ustvarjanje vsebin, spletne platforme, medije, oglaševalske agencije, javne institucije in podjetja, ki AI uporabljajo v komunikaciji z javnostjo. Posebej izpostavljene bodo organizacije, ki objavljajo vsebine o javno pomembnih temah, uporabljajo AI za pripravo besedil, ustvarjajo slikovno ali video gradivo ali objavljajo sintetične glasove in podobe. Pri običajni interni uporabi AI bodo tveganja pogosto manjša, vendar to ne pomeni, da organizacije ne potrebujejo pravil. Priporočljivo je, da podjetja že zdaj popišejo, kje uporabljajo AI, kdo je odgovoren za pregled vsebin in kdaj je treba uporabo AI razkriti. Tak pristop se ujema s širšim vprašanjem odgovorne uporabe AI v podjetjih.

najbolj izpostavljene so javne in poslovne komunikacije,
pomembni so postopki odobritve in uredniškega pregleda,
podjetja morajo poznati svoje AI procese,
odgovornost za objavo ostaja pri organizaciji.

Kdaj bodo obveznosti začele veljati?

Transparentnostne obveznosti iz 50. člena AI Act bodo začele veljati 2. avgusta 2026. Kodeks prakse je bil objavljen 10. junija 2026 in je trenutno predmet presoje ustreznosti pri Evropski komisiji in odboru za umetno inteligenco. Komisija bo kodeks dopolnila še s smernicami za razlago in uporabo 50. člena AI Act. To pomeni, da organizacije ne bi smele čakati do zadnjega trenutka, saj bo treba uskladiti pravne, tehnične, uredniške in komunikacijske procese. Priprave so smiselne tudi zato, ker se AI Act povezuje s širšim pravnim okvirom digitalne in kibernetske varnosti v EU.

ključni datum je 2. avgust 2026,
kodeks je bil objavljen 10. junija 2026,
dodatne smernice Komisije bodo pomembne za razlago obveznosti,
podjetja naj priprave začnejo pred začetkom uporabe pravil.

Kaj naj podjetja naredijo že zdaj?

Podjetja naj najprej pripravijo popis generativnih AI orodij, ki jih uporabljajo pri ustvarjanju besedil, slik, zvoka, videa, predstavitev, oglasov, podpornih gradiv ali javnih sporočil. Nato naj določijo, katere vsebine so zgolj interne, katere gredo v javnost in katere lahko vplivajo na javno razumevanje pomembnih tem. Pomembno je določiti odgovorne osebe, pravila za uredniški pregled, način označevanja in postopek dokazovanja, da je bila vsebina ustrezno obravnavana. Varnostne ekipe naj pri tem sodelujejo s pravnimi, komunikacijskimi in poslovnimi oddelki, saj gre za kombinacijo skladnosti, upravljanja tveganj in zaupanja. Pri zahtevnejših sistemih je priporočljivo spremljati tudi smernice za visoko tvegane AI sisteme in preveriti, ali se posamezna uporaba AI približa strožjim regulativnim zahtevam.

popišite AI orodja in procese ustvarjanja vsebin,
določite, kdaj je označevanje potrebno,
uredite odgovornost za pregled in objavo,
pripravite notranji pravilnik za uporabo generativne AI,
spremljajte smernice Evropske komisije pred avgustom 2026.

Kaj to pomeni za kibernetsko varnost?

Označevanje AI vsebin ni samo pravno ali komunikacijsko vprašanje, temveč tudi vprašanje kibernetske varnosti. Deepfake posnetki, sintetični glasovi, lažni dokumenti in AI-generirana sporočila se lahko uporabljajo pri phishingu, socialnem inženiringu, poslovnih prevarah in vplivnih operacijah. Jasno označevanje ne bo odpravilo vseh zlorab, lahko pa pomaga pri zmanjševanju tveganj, boljšem preverjanju izvora in večji odpornosti uporabnikov. Organizacije bodo morale zato povezati pravila o AI vsebinah z varnostnim ozaveščanjem, kriznim komuniciranjem in postopki za preverjanje verodostojnosti informacij. To je še posebej pomembno pri AI spletnih prevarah, kjer napadalci uporabljajo sintetične vsebine za bolj prepričljivo zavajanje uporabnikov.

AI vsebine so lahko del socialnega inženiringa,
deepfake lahko posnema osebe, dogodke ali izjave,
označevanje podpira preverjanje verodostojnosti,
pravila o AI morajo biti povezana z varnostnim upravljanjem.

Kako naj organizacije povežejo označevanje z zaupanjem?

Označevanje AI vsebin bo učinkovito samo, če bo del širšega sistema zaupanja, preverjanja identitete in odgovorne digitalne komunikacije. Organizacije bodo morale vedeti, kdo lahko uporablja generativna AI orodja, kdo odobri javno objavo, kako se preverjajo viri in kako se odzvati, če se pojavi lažna ali manipulirana vsebina. Pri tem ne gre le za ikono ali kratek zapis pod sliko, temveč za proces, ki povezuje tehnologijo, pravo, uredniško presojo in varnostno ozaveščanje. Posebej pomembno bo razlikovati med simbolično ilustracijo, uredniško obdelano vsebino in vsebino, ki bi jo uporabnik lahko razumel kot resničen posnetek ali dokaz. Zato se tema navezuje tudi na širšo razpravo o digitalni identiteti in zaupanju v digitalne storitve.

označevanje mora biti razumljivo uporabnikom,
organizacije potrebujejo jasna pravila odgovornosti,
pri deepfake vsebinah je tveganje zavajanja največje,
zaupanje zahteva kombinacijo tehnologije, pravil in uredniškega nadzora.

Povezane vsebine

Zaključek

Kodeks prakse za označevanje AI vsebin je pomemben korak k bolj pregledni uporabi generativne umetne inteligence v EU. Čeprav je podpis kodeksa prostovoljen, bodo obveznosti transparentnosti po AI Act za zavezance pravno pomembne. Podjetja, javne institucije in mediji bodo morali jasno razumeti, kdaj je AI vsebino treba označiti, kdo je zanjo odgovoren in kako je mogoče dokazati skladnost. Najbolj pripravljene bodo organizacije, ki bodo AI obravnavale kot del upravljanja tveganj, ne le kot novo orodje za hitrejše ustvarjanje vsebin. To pomeni, da bo treba označevanje AI vsebin povezati tudi z obrambo pred socialnim inženiringom in drugimi oblikami digitalnega zavajanja.