Nos últimos dias, a França e a Malásia se juntaram à Índia para condenar Grok por criar deepfakes sexualizados de mulheres e menores.
O chatbot, construído pela startup de IA de Elon Musk, xAI e apresentado em sua plataforma de mídia social X, postou um pedido de desculpas em sua conta no início desta semana, escrevendo: “Lamento profundamente um incidente em 28 de dezembro de 2025, onde gerei e compartilhei uma imagem de IA de duas jovens garotas (estimadas com idades entre 12 e 16 anos) em trajes sexualizados com base no prompt de um usuário”.
A declaração continuou: “Isso violou os padrões éticos e as leis potencialmente dos EUA sobre [material de abuso sexual infantil]. Foi um fracasso nas salvaguardas, e sinto muito por qualquer dano causado. A xAI está revisando para evitar problemas futuros.”
Não está claro quem está realmente pedindo desculpas ou aceitando a responsabilidade na declaração acima. Albert Burneko, do Defector, observou que Grok “não é, em qualquer sentido real, algo como um ‘eu’”, o que, em sua opinião, faz o pedido de desculpas “totalmente sem substância” como “Grok não pode ser responsabilizado de forma significativa por ter transformado o Twitter em uma fábrica CSAM sob demanda”.
O futurismo descobriu que, além de gerar imagens pornográficas não consensuais, Grok também tem sido usado para gerar imagens de mulheres sendo agredidas e abusadas sexualmente.
“Qualquer pessoa que use Grok para fazer conteúdo ilegal sofrerá as mesmas consequências que se fizer upload de conteúdo ilegal”, postou Musk no sábado.
Alguns governos tomaram conhecimento, com o ministério de TI da Índia emitindo uma ordem na sexta-feira dizendo que X deve tomar medidas para restringir Grok de gerar conteúdo que é “obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo ou de outra forma proibido sob a lei”. A ordem disse que o X deve responder dentro de 72 horas ou correr o risco de perder as proteções de “porto seguro” que o protegem da responsabilidade legal pelo conteúdo gerado pelo usuário.
As autoridades francesas também disseram que estão tomando medidas, com o Ministério Público de Paris dizendo ao Politico que investigará a proliferação de deepfakes sexualmente explícitos em X. O escritório de assuntos digitais francês disse que três ministros do governo relataram “conteúdo manifestamente ilegal” ao Ministério Público e a uma plataforma de vigilância on-line do governo “para obter sua remoção imediata”.
A Comissão de Comunicações e Multimídia da Malásia também publicou um comunicado dizendo que “tomou nota com séria preocupação de reclamações públicas sobre o uso indevido de ferramentas de inteligência artificial (IA) na plataforma X, especificamente a manipulação digital de imagens de mulheres e menores para produzir conteúdo indecente, grosseiramente ofensivo e de outra forma prejudicial”.
A comissão acrescentou que está “investigando atualmente os danos on-line em X”.
FONTE: TECHCRUNCH
