O uso mal-intencionado do Grok, ferramenta de Inteligência Artificial (IA) do X (antigo Twitter) tem resultado na manipulação de imagens e na exposição principalmente de mulheres e crianças em fotos eróticas. Na semana passada, a Comissão Europeia, braço executivo da União Europeia, ordenou que a rede social de Elon Musk retenha todos os documentos internos e dados relacionados ao seu chatbot Grok até o fim de 2026 para possível acesso das autoridades em caso de solicitação. No Brasil, também já há registros desse tipo de manipulação, que pela legislação do País é um crime com pena de seis meses a um ano de detenção, além de multa.

Em entrevista à Rádio Eldorado, a advogada Patricia Peck, especialista em Direito Digital, disse que quem compartilha a imagem, mesmo não a tendo criado, também comete crime. “A solução não está apenas na lei e na vítima fazer a denúncia, mas exige uma atuação mais responsável pelo desenvolvedor da tecnologia para ajudar a resolver, dificultar e coibir a prática”, ressaltou. Ela também orientou a vítima a documentar a violação fazendo capturas de tela do material publicado antes de formalizar a denúncia à polícia.