Governo pede medidas após aumento de imagens manipuladas de pessoas reais usando a ferramenta Grok
O governo do Japão informou nesta sexta-feira que solicitou à rede social X que adote medidas contra a alteração e a sexualização de imagens de pessoas reais por meio de sua ferramenta de inteligência artificial.
Nos últimos meses, a plataforma registrou um aumento de postagens com imagens geradas por IA que modificam fotos reais de forma inadequada, muitas vezes com conteúdo sexual falso. Como dezenas de milhões de pessoas usam o X no Japão, o governo demonstrou preocupação com a facilidade de criação e disseminação desse tipo de material.
Além de pedir ações concretas, o governo japonês solicitou que a empresa apresente um plano para lidar com o problema. Caso não haja melhorias, a administração poderá emitir orientações com base na lei de inteligência artificial do país.
“Vamos acelerar as discussões com a cooperação dos ministérios e órgãos envolvidos”, afirmou a ministra responsável pela estratégia de IA, Kimi Onoda, durante coletiva após reunião do gabinete.
A rede X, comandada pelo empresário norte-americano Elon Musk, lançou no ano passado a ferramenta de IA generativa chamada Grok, que permite aos usuários manipular imagens a partir de comandos de texto.
O uso indevido do serviço para criar imagens sexuais falsas de pessoas reais já levou governos de vários países a investigar a plataforma. Esta é a primeira vez que a resposta do Japão sobre o tema se torna pública.
Segundo o governo japonês, esse tipo de conteúdo pode violar direitos individuais, como o direito de imagem e a reputação das pessoas retratadas.
Países como Reino Unido, Canadá e Malásia também consideram o problema grave e já se manifestaram sobre o assunto.
Em resposta, o X declarou que remove conteúdos que violam suas regras, incluindo material de abuso sexual infantil e nudez sem consentimento.
No ano passado, o governo japonês também pediu melhorias à OpenAI em relação ao gerador de vídeos Sora, após a criação de vídeos muito semelhantes a animações do estilo anime japonês.
