Em abril de 2024 foi publicada a Diretiva (UE) 2024/1385, do Parlamento Europeu e do Conselho, que estabelece regras mínimas relativas à criminalização de determinadas formas de violência contra as mulheres e de violência doméstica. Entre as suas inovações mais relevantes para o contexto digital destaca-se a obrigatoriedade de os Estados-Membros passarem a criminalizar a criação e difusão de deepfakes com conteúdo sexual não consentido — uma prática cuja proliferação tem vindo a levantar sérias preocupações quanto à dignidade digital, à proteção da privacidade e ao papel das plataformas na difusão destas práticas.
A diretiva determina, no seu artigo 5.º, que deve ser punida a difusão de imagens ou vídeos com conteúdo sexual falsamente gerado, designadamente através de inteligência artificial, quando tal for feito sem o consentimento da pessoa retratada. Deepfakes referem-se a vídeos sintetizados digitalmente com recurso a técnicas de deep learning, que permitem substituir, de forma realista, a aparência e a voz de uma pessoa pelas de outra. A norma visa, assim, imagens criadas por manipulação digital (por exemplo, utilizando o rosto da vítima sobreposto a um corpo ou ato sexual que não protagonizou), e não exige que o conteúdo seja real — bastando que aparente sê-lo e que seja divulgado.
Esta abordagem representa um avanço jurídico substancial, ao reconhecer que os danos causados através de artefactos digitais podem ser tão graves quanto os de conteúdos genuínos. Do ponto de vista dogmático, levanta questões relevantes quanto à materialidade da infração, à estrutura da imputação subjetiva e aos critérios de ofensividade penal em ambiente digital.
A entrada em vigor da diretiva obriga Portugal e os restantes Estados-Membros a transpô-la até 14 de junho de 2027, o que exigirá alterações ao Código Penal ou à legislação penal avulsa, onde atualmente não existe previsão específica para deepfakes sexuais não consentidos. É de esperar, por isso, um movimento legislativo europeu no sentido de acomodar nas ordens internas a regulação constante da diretiva.
Note-se que embora o Digital Services Act (DSA) já imponha obrigações às plataformas para remover conteúdos ilegais e prevenir riscos sistémicos, não define como ilícita a criação ou partilha destes conteúdos individualmente.
A interação entre o novo quadro penal europeu e os deveres de diligência das plataformas previstas no DSA evidencia uma tendência crescente de co-regulação do espaço digital, onde a proteção de direitos fundamentais requer uma atuação articulada entre entidades públicas e privadas. Neste contexto, a criminalização dos deepfakes sexuais não consentidos constitui uma peça importante na construção de uma cidadania digital segura e respeitadora da dignidade humana.
Fonte da imagem: Organization for Social Media Safety
