Imagens falsas e obscenas geradas por IA estão se espalhando rapidamente e levantam preocupação sobre privacidade, direitos humanos e lacunas na lei japonesa.
O número de imagens e vídeos pornográficos falsos gerados por inteligência artificial (IA) — conhecidos como “deepfakes sexuais” — está crescendo rapidamente no Japão, provocando sérias preocupações sobre violação de direitos humanos e privacidade.
Esses conteúdos são criados por meio de ferramentas de IA generativa, capazes de combinar rostos reais com corpos nus ou gerar cenas falsas de nudez e sexo. Muitas vezes, as imagens originais são retiradas de redes sociais, álbuns de formatura ou fotos de eventos escolares, sem o consentimento das pessoas retratadas.
Em outubro, um homem foi preso por suspeita de produzir e vender imagens obscenas criadas por IA, que imitavam celebridades femininas japonesas. O caso chamou a atenção para a facilidade com que qualquer pessoa, com um smartphone ou computador comum, pode gerar esse tipo de conteúdo.
Dificuldades legais e lacunas na legislação
De acordo com especialistas, a legislação japonesa ainda não possui uma lei específica que regulamente o uso de deepfakes sexuais. Em alguns casos, é possível aplicar o crime de difamação ou de pornografia infantil, se houver uso de imagens reais de menores.
No entanto, quando as imagens são totalmente geradas por IA — apenas se assemelhando a uma pessoa real — a interpretação jurídica se torna incerta. A atual Lei de Punição de Atos Relacionados à Prostituição e Pornografia Infantil se aplica apenas a casos com imagens de crianças reais, deixando dúvidas sobre como lidar com montagens digitais.
Iniciativas locais e medidas de prevenção
Enquanto o governo central tenta enquadrar esses casos em leis existentes, autoridades locais começam a agir por conta própria. Em Tottori aprovou, em agosto, uma ordem específica para combater deepfakes sexuais.
A nova norma permite divulgar publicamente o nome de quem criar ou não remover imagens falsas, além de aplicar multas. O governo local também pediu a Tóquio o fortalecimento de ações nacionais contra esse tipo de crime digital.
Soluções tecnológicas e educação digital
O Instituto Nacional de Informática do Japão desenvolve uma espécie de “vacina digital”, um sistema que insere dados de proteção em imagens originais, impedindo que sejam manipuladas por IA. Especialistas também afirmam que as plataformas de mídia social precisam adotar mecanismos de detecção e remoção automáticos.
Além da tecnologia, o relatório da ONU e autoridades japonesas defendem o reforço da educação digital, alertando para o uso ético da IA e os efeitos psicológicos devastadores que as vítimas sofrem ao verem sua imagem usada indevidamente.
“As cicatrizes emocionais deixadas por esse tipo de crime são profundas. É urgente agir com firmeza para impedir novas vítimas”, afirmam especialistas em direitos humanos.
Com a rápida expansão da inteligência artificial, o Japão enfrenta o desafio de proteger a dignidade e a privacidade das pessoas sem sufocar o avanço tecnológico — uma tarefa que exige leis atualizadas, tecnologia segura e conscientização social.
