Evropská unie zásadně rozšiřuje regulaci umělé inteligence. Od srpna 2026 vstoupí v účinnost nová pravidla transparentnosti (AI Act), která mají omezit šíření manipulativního a klamavého obsahu v digitálním prostředí a zvýšit důvěru uživatelů. Největší změnou je povinnost jasně označovat jakýkoli obsah vytvořený či upravený umělou inteligencí (texty, obrázky, video či audio).
Koho se nová povinnost týká?
Nařízení dopadne na vývojáře, dodavatele a provozovatele AI systémů. Ti budou muset zajistit, aby všechny výstupy AI obsahovaly strojově čitelné technické označení (metadata, digitální vodoznaky nebo kryptografické značky). Tyto identifikátory umožní automatizované rozpoznání AI obsahu napříč digitálními platformami od sociálních sítí přes vyhledávače až po nástroje pro ověřování autenticity.
Vedle technického označení bude nutné i jasné a viditelné označení výstupů pro koncové uživatele. Zvláštní důraz klade regulace na tzv. deepfakes (napodobeniny osob nebo událostí) a na obsah určený k informování veřejnosti. Uživatelé budou muset být například vizuální ikonou, textovým upozorněním či sdělením v titulku zřetelně informováni, že komunikují nebo pracují s AI generovaným obsahem.
Pravidla pro chatboty a virtuální asistenty
Nově bude povinné uživatele při první interakci upozornit, že komunikují s chatbotem nebo virtuálním asistentem. Uživatel si v žádném okamžiku komunikace s chatbotem či virtuální asistentem nesmí myslet, že ve skutečnosti komunikuje s člověkem. Nyní musí být obeznámen s tím, že mu odpovídá pouze algoritmus umělé inteligence. Technické standardy, jako jsou vodoznaky a metadata, mohou zároveň usnadnit správu digitálních dokumentů a snížit rizika spojená s chybnou identifikací obsahu.
Kodex správné praxe
Evropská komise aktuálně finalizuje Kodex správné praxe pro transparentnost obsahu generovaného AI, který má být představen v červnu 2026. Kodex stanoví technické standardy a doporučuje vícevrstvé označování AI obsahu. Zvláštní sekce se věnuje označování deepfake obsahu, kde se počítá například se zavedením speciální AI ikony. Jasné označování AI obsahu je klíčové pro bezpečné a důvěryhodné využití digitálního prostředí (v oblasti médií, ve veřejné správě, ale také v soukromém použití).