Usuários do X podem responder criminalmente por imagens falsas sexualizadas

X responde na esfera civil por deepfakes de mulheres e crianças; usuários podem ser processados criminalmente

O uso da ferramenta de inteligência artificial Grok, disponível para usuários da rede social X, para a geração de imagens sexualizadas falsas de mulheres e crianças gera responsabilização civil da plataforma e configura crime praticado pelo usuário que escreve o prompt (texto que instrui o robô).

A percepção é de especialistas entrevistados pela revista eletrônica Consultor Jurídico, que apontam uma série de violações da plataforma e dos usuários. A IA generativa do X tem sido usada de forma frequente para produção de deepfakes de mulheres e crianças. Os usuários pedem para o robô produzir imagens das pessoas com pouca roupa ou sem roupa alguma. A partir disso, as fotos são amplamente compartilhadas.

A rede social diz que mudou as diretrizes do Grok para tentar coibir as fotos falsas sexualizadas e restringiu a geração de imagens aos usuários que pagam mensalidade. Mas, na prática, nada mudou. Vários sites especializados, como o The Verve, fizeram testes recentes que mostram que as imagens de nudez sem consentimento ainda podem ser geradas sem muito esforço. Mais na conjur