O drama nos casos de deepfake de cunho sexual

Isis Valverde fez boletim de ocorrência alegando ter sido vítima de um deepfake |  Foto: Reprodução/Instagram

A atriz Isis Valverde registrou uma ocorrência policial na última semana para denunciar a divulgação de montagens de suas fotos, feitas com aplicativos de inteligência artificial. Essas montagens, que mostram a atriz nua, são falsas e foram criadas sem o seu consentimento.

A criação de nudes falsos com inteligência artificial é uma forma de deepfake, um tipo de manipulação de imagem ou vídeo que cria conteúdo falso. Os deepfakes podem ser usados para fins maliciosos, como difamação ou chantagem psicológica e financeira.

Fotos de pessoas com pouca roupa, como biquínis, maiôs, roupas íntimas ou poses de corpo inteiro são mais fáceis de serem usadas para gerar nudes falsos com inteligência artificial. Isso ocorre porque esses aplicativos usam técnicas de aprendizado de máquina para identificar e remover as roupas das fotos.

É importante lembrar que, mesmo com a utilização de IA nas montagens, não é possível garantir que o resultado será perfeito. Os aplicativos de deepfake ainda estão em desenvolvimento e podem cometer erros.

A geração e divulgação de deepfakes de cunho sexual podem causar uma série de impactos negativos significativos para as vítimas, como:

Dano à reputação: O mais óbvio é o dano à reputação da vítima. A disseminação de deepfakessexuais pode manchar a imagem de alguém, mesmo que a pessoa seja completamente inocente.

Risco emocional e psicológico: O impacto emocional e psicológico nas vítimas é grave. Isso pode incluir ansiedade, depressão, vergonha, culpa e outros problemas de saúde mental devido ao constrangimento e à violação de privacidade.

Dificuldades pessoais e profissionais: Vítimas de deepfakes sexuais podem enfrentar dificuldades pessoais e profissionais. Isso pode incluir a perda de emprego, dificuldades nos relacionamentos e isolamento social.

Assédio e ameaças: A divulgação de deepfakes sexuais pode resultar em assédio on-line e ameaças diretas à segurança e à integridade física da vítima.

Dificuldades na remoção: A remoção de deepfakes pode ser uma tarefa árdua e, em alguns casos, impossível, já que esses vídeos podem se espalhar rapidamente pela internet.

Vulnerabilidade à extorsão: Aqueles que são vítimas de deepfakes podem ser alvos de extorsão, onde os criminosos pedem dinheiro ou favores em troca da não divulgação das imagens falsas.

Desconfiança e isolamento: As vítimas podem se tornar desconfiadas e temer a exposição de sua imagem, o que pode levá-las ao isolamento social e à reclusão.

É importante destacar que os impactos de deepfakes sexuais não se limitam apenas ao presente, mas também podem afetar a vida das vítimas a longo prazo. Portanto, a conscientização, a prevenção e a busca de apoio são fundamentais para lidar com esse problema crescente.

A proteção da privacidade on-line e a defesa de leis que punam a criação e disseminação de deepfakes não autorizados são essenciais para enfrentar essa ameaça.