Grok gerou 4,4 milhões de fotos explícitas de mulheres e crianças

Reprodução/ Wikimedia Commons Grok, inteligência Artificial de Elon Musk O chatbot de inteligência artificial Grok , desenvolvido pela xAI, empresa de Elon Musk, criou e publicou ao menos 1,8 milhão de imagens sexualizadas de mulheres , segundo estimativas independentes baseadas em dados da plataforma X . Os números foram levantados pelo The New York Times e pelo Centro para o Combate ao Ódio Digital (CCDH) . De acordo com as análises, a partir do fim de dezembro, usuários passaram a inundar a conta pública do Grok com pedidos para alterar fotos reais de mulheres e crianças, removendo roupas, adicionando biquínis ou colocando as vítimas em poses de cunho sexual. A prática gerou revolta internacional, com denúncias de vítimas e a abertura de investigações por autoridades em países como Reino Unido, Estados Unidos, Índia e Malásia. Reprodução/ X (@grok) Grok Grok Em apenas nove dias, o chatbot publicou mais de 4,4 milhões de imagens. Uma revisão conservadora feita pelo The New York Times apontou que cerca de 41% do conteúdo, o equivalente a 1,8 milhão de postagens, provavelmente continha imagens sexualizadas de mulheres. Já uma análise mais ampla do CCDH estimou que 65% das imagens, ou pouco mais de três milhões, apresentavam conteúdo sexual envolvendo homens, mulheres ou crianças. Para especialistas, o volume e a rapidez com que o material se espalhou superaram, em poucos dias, grandes coleções de deepfakes sexuais hospedadas em sites dedicados a esse tipo de conteúdo. “Isso é abuso em escala industrial contra mulheres e meninas”, afirmou Imran Ahmed, diretor-executivo do CCDH. Segundo ele, ferramentas semelhantes já existiam, mas nenhuma com tamanha facilidade de uso e integração a uma plataforma de grande alcance como o X. Nem a rede social nem a xAI responderam aos pedidos de comentário. Em uma publicação no início de janeiro, o chefe de produto do X, Nikita Bier, celebrou o recorde de engajamento da plataforma em quatro dias, sem mencionar diretamente a enxurrada de imagens geradas pelo chatbot. O interesse pelas capacidades de edição do Grok explodiu em 31 de dezembro, após Elon Musk compartilhar imagens criadas pela ferramenta, incluindo uma montagem em que ele aparece de biquíni e outra com um foguete da SpaceX sobreposto ao corpo despido de uma mulher. O Grok opera por meio de uma conta pública no X, permitindo que usuários solicitem alterações em imagens, que eram então publicadas abertamente na plataforma. Entre 31 de dezembro e 8 de janeiro, o volume de imagens criadas saltou de pouco mais de 300 mil para mais de 4,4 milhões, segundo dados da empresa de análise Tweet Binder. Diante da repercussão negativa, o X restringiu, em 8 de janeiro, a criação de imagens do Grok a usuários pagantes, reduzindo drasticamente o volume de postagens. Dias depois, a empresa anunciou novas regras, proibindo pedidos para gerar “imagens de pessoas reais em roupas reveladoras, como biquínis” . Apesar disso, o chatbot continuou a produzir imagens semelhantes, substituindo biquínis por collants ou maiôs. As restrições também não foram aplicadas ao aplicativo e ao site do Grok, onde a geração de conteúdo sexual segue disponível de forma privada. Segundo o The New York Times, entre as vítimas estavam influenciadoras, artistas e atrizes, além de usuárias comuns da plataforma. Algumas imagens mostravam mulheres cobertas por fluidos ou segurando objetos de conotação sexual. Leia também Ketchup vira arma e homem acaba preso em estação de ônibus Operação sobre Banco Master mira diretores do Rioprevidência Profissionais de saúde recebem vacina do Butantan contra a dengue O CCDH analisou uma amostra aleatória de 20 mil imagens produzidas pelo Grok e identificou 101 registros com conteúdo sexual envolvendo crianças. Com base nessa amostragem, a organização estima que o chatbot tenha criado mais de 23 mil imagens desse tipo. O episódio reacendeu o debate sobre os limites da inteligência artificial, a responsabilidade das plataformas digitais e os riscos do uso indiscriminado de ferramentas de geração de imagens, especialmente quando envolvem pessoas reais sem consentimento.