De nye reglene under regleverket for kunstig intelligens, AI Act, innebærer at samtalepartnere og interaktive systemer må opplyse brukerne om at de kommuniserer med en maskin og ikke et menneske.
I tillegg blir det krav om å merke såkalte «deepfakes» – bilder, videoer eller lyd som er redigert eller generert ved hjelp av teknologien. Alt KI-generert eller modifisert innhold må også utstyres med maskinlesbare merker slik at det enklere kan oppdages automatisk. Formålet med tiltakene er å redusere faren for manipulasjon og lureri, samt hjelpe innbyggerne med å ta informerte valg i hverdagen.
Tiltakene skal håndheves av EU-kommisjonens eget KI-kontor (AI Office) i samarbeid med nasjonale tilsynsmyndigheter. I henhold til en pressemelding fra EU-kommisjonen har kommisjonen publisert en første liste med over 180 organisasjoner som har signert en ny bransjenorm for åpenhet for å følge opp de nye kravene i praksis.