A inteligência artificial Grok, criada por Elon Musk e integrada à rede social ‘X’, está sob forte disputa internacional depois de ser temporariamente bloqueada na Indonésia e na Malásia. A razão: a ferramenta foi usada por usuários para gerar deepfakes sexualizados e imagens explícitas, muitas vezes envolvendo mulheres e até menores de idade, sem o consentimento das pessoas retratadas, algo que autoridades dizem representar um risco à dignidade e à segurança no ambiente digital.
Em ambos os países asiáticos, com leis rígidas contra a pornografia e conteúdo ofensivo, a proibição ocorreu após denúncias de que o Grok estava permitindo a criação e a distribuição de imagens manipuladas obscenas. Autoridades destacaram que o sistema não possui proteções suficientes para impedir o uso indevido da tecnologia e que, por isso, a ferramenta permanecerá bloqueada até que essas falhas sejam resolvidas.
A polêmica chegou também ao Brasil. O Instituto de Defesa dos Consumidores (IDEC) formalizou um pedido ao Governo Federal para a suspensão imediata do Grok no país. O Idec argumenta que a IA tem violado os direitos de mulheres, adolescentes e crianças ao gerar, editar e disseminar imagens de teor sexual sem consentimento, configurando violação de privacidade, dignidade humana e diversas leis brasileiras, como o Código de Defesa do Consumidor e o Estatuto da Criança e do Adolescente.
No pedido, o Idec destacou casos em que o Grok manipula fotos reais, por exemplo, transformando a imagem de uma mulher em versões sexualizadas ou nuas, e insistiu na necessidade de medidas urgentes, como remoção e desindexação de conteúdos ofensivos, tutela de urgência judicial e até bloqueio de funcionamento no Brasil, caso não haja garantias mínimas de segurança e respeito aos direitos das pessoas.
Enquanto isso, outros países como Reino Unido, União Europeia, Índia e França também intensificam o escrutínio sobre a IA, investigando se falhas no Grok violam leis de proteção à infância e à segurança online. Para mitigar os problemas, a plataforma chegou a limitar parte da geração de imagens a usuários pagantes, uma tentativa, até agora, considerada insuficiente por críticos.
E a nossa pergunta de reflexão: quando uma tecnologia avançada começa a ferir direitos humanos e privacidade, até que ponto devemos priorizar a liberdade digital e quando é necessário impor limites mais firmes ? Fica a dúvida.
Fonte : Nagib Carrilho / Star FM 105.9
