Výtvory umělé inteligence nyní musíte označovat. Dejte si pozor na tyto věci, upozornil český regulátor
Český telekomunikační úřad (ČTÚ) upozornil zdejší firmy a organizace na začátek platnosti části evropské regulace umělé inteligence, takzvaného Aktu o umělé inteligenci (AI Act). Pravidla vešla v platnost druhého srpna. ČTÚ působí jako jeden ze zdejších regulátorů AI. Postupně staví specializovaný tým, vybral pro něj vedoucí.
Jak jsme na Lupě shrnuli, aktuální regulace se týká povinného označování výtvorů umělé inteligence. Důležité jsou tyto dva dokumenty Evropské komise. Informace přinesla i Česká asociace umělé inteligence.
ČTÚ doporučil, aby se subjekty, které vyvíjejí nebo používají systémy umělé inteligence, s novými povinnostmi seznámily a vyhodnotily, zda se na ně jednotlivé body nevztahují.
“Čl. 50 AI Actu stanoví povinnosti poskytovatele systému AI, tj. osoby, která jej uvádí na trh nebo do provozu, a zavádějících subjektů, tj. osob, které využívají systém AI při jiné než osobní neprofesionální činnosti. Správné určení role je zásadní, protože některé povinnosti dopadají pouze na poskytovatele systémů AI, jiné pouze na zavádějící subjekty. Pokud přitom osoba využívá vlastní systém AI, bude povinna plnit jak povinnosti poskytovatele, tak povinnosti zavádějícího subjektu,” shrnul úřad.
Už víme, kdo bude dohlížet na regulaci umělé inteligence v Česku. ČTÚ si vybral novou vedoucí
ČTÚ konkrétně upozornil na tyto body:
Povinnost informovat o komunikaci se systémem AI. Ustanovení čl. 50 odst. 1 AI Actu ukládá poskytovatelům systémů AI zajistit, aby fyzické osoby byly náležitým způsobem informovány o tom, že komunikují s chatbotem, voicebotem nebo jiným systémem určeným k přímé interakci s fyzickými osobami, náležitým způsobem.
Označování obsahu vytvořeného pomocí AI. ČTÚ připomíná, že podle čl. 50 odst. 2 se povinnost poskytovatelů AI systémů zajistit, aby výstupy těchto systémů byly řádně označeny ve strojově čitelném formátu a byly tak i detekovatelné, vztahuje na veškerý zvukový, obrazový, video nebo textový obsah, krom stanovených výjimek.
Naproti tomu povinnost zavádějícího subjektu podle čl. 50 odst. 4 se vztahuje toliko na tzv. deep fake a texty zveřejňované za účelem informování veřejnosti o záležitostech veřejného zájmu. Pokud je tedy obrazový, zvukový nebo video obsah vytvořen nebo významně upraven zavádějícím subjektem pomocí AI způsobem, který může vzbudit dojem autenticity, vzniká povinnost informovat veřejnost o tom, že byl tento obsah vytvořen nebo upraven za pomoci umělé inteligence. Totéž platí pro text, jenž je zveřejněn za účelem informování veřejnosti o záležitostech veřejného zájmu, generovaný nebo manipulovaný AI systémem.
ČTÚ v tomto směru upozorňuje, že podle čl. 50 odst. 5 AI Actu je třeba využívat jasné a rozlišitelné způsoby označení. V praxi lze využít například označení nebo ikony typu „AI generated“ pro plně generovaný obsah nebo „AI modified“ pro obsah upravený pomocí AI. Příklady vhodných způsobů označení lze nalézt v Kodexu správné praxe pro transparentnost AI generovaného obsahu.
Rozpoznávání emocí a biometrická kategorizace. ČTÚ dále upozorňuje, že podle čl. 50 odst. 3 mají zavádějící subjekty využívající systémy AI pro rozpoznávání emocí nebo biometrickou kategorizaci fyzických osob povinnost řádně informovat o jejich použití každou dotčenou fyzickou osobu. ČTÚ rovněž připomíná, že AI Act stanoví řadu výjimek z výše uvedených pravidel, kupříkladu pro účely související s odhalováním trestné činnosti apod., a doporučuje dotčeným subjektům vyhodnotit, zda daná činnost nespadá pod některou z těchto výjimek.
Doporučení ČTÚ je následující:
Pro správné porozumění jednotlivým povinnostem ČTÚ doporučuje prostudovat čl. 50 AI Actu společně s relevantními pokyny Evropské komise, případně Kodexem správné praxe pro transparentnost AI generovaného obsahu.
ČTÚ zároveň upozorňuje, že nad dodržováním těchto povinností budou vykonávat dohled orgány dozoru nad trhem příslušného členského státu Evropské unie, přičemž v České republice půjde mj. o Český telekomunikační úřad. V některých případech bude namísto těchto orgánů dodržování čl. 50 AI Actu vymáhat Evropský úřad pro umělou inteligenci (Úřad pro AI). Příslušnost konkrétního orgánu v rámci České republiky bude vždy odvislá od osoby poskytovatele či zavádějícího subjektu a v případě kompetence Úřadu pro AI také na poskytovateli obecného modelu umělé inteligence, na němž je daný systém založen.
Český telekomunikační úřad doporučuje všem dotčeným subjektům, aby včas provedly posouzení svých povinností a přijaly opatření nezbytná k zajištění souladu s pravidly transparentnosti podle AI Actu.
Nová pravidla shrnul i Lukáš Kačena, vládní zmocněnec pro AI:
AI musí být nově přiznaná. Komunikujete s AI chatbotem? Musí vám to oznámit. Sledujete video generované AI? Pak musí být takto označeno. AI Act dokonce nabízí jednotné ikony „AI GENERATED“ a „AI MODIFIED“, aby byla orientace v AI obsahu snazší.
Vy můžete být v klidu. Pravidla se netýkají koncových uživatelů, kteří AI využívají pro zábavu a nekomerční účely. Výjimkou jsou jen věci, které ale beztak žádný slušný člověk nedělá – třeba vytváření deepfakes intimních partií bez souhlasu dané osoby.
AI Act platí i bez národního zákona. Jelikož AI Act je nařízení a ne směrnice, platí na území Česka sám o sobě. Některé náležitosti je ale potřeba upravit národním adaptačním zákonem, který půjde v nejbližších týdnech na vládu a následně do parlamentu. Po jeho schválení bude např. stvrzená role ČTÚ jako hlavního dozorového orgánu.
Za porušení hrozí vysoké pokuty. Firmám, které pravidla poruší, hrozí pokuta až 360 milionů Kč nebo 3 % celosvětového obratu. U nejzávažnějších porušení je strop ještě vyšší, zároveň ale platí výjimky pro SME, aby pokuty nebyly likvidační.
AI Act nabíhá postupně. Některá pravidla platí už od února 2025, další vstupují v účinnost postupně. Od srpna 2028 například přibudou nová pravidla pro vybrané rizikové AI systémy – ve výtazích, v hračkách nebo zdravotnických prostředcích.
Od 2. srpna přichází povinné označování výtvorů umělé inteligence, přizpůsobit se musí řada firem
lupa.cz