Governo pede bloqueio de conteúdos sexualizados gerados pelo Grok

Em mais uma iniciativa para tentar impedir as ações de criminosos que utilizam a inteligência artificial para manipular e compartilhar fotos de pessoas na plataforma X (antigo Twitter), o governo federal, em articulação com outros órgãos de defesa de direitos do cidadão, apresentou uma série de recomendações para a empresa de tecnologia americana.

A série de recomendações quer impedir que a empresa X permita a geração e a circulação de conteúdos sexualizados indevidos por meio do uso do Grok, que é um assistente de inteligência artificial integrado à plataforma.

Denúncias

Segundo denúncia de usuários, o Grok estaria sendo utilizado para geração de conteúdos sintéticos de caráter sexualizado, erótico e com conotação pornográfica, a partir de imagens de pessoas reais.

Mulheres, crianças e adolescentes têm sido as principais vítimas do uso criminoso da ferramenta.

Entre as recomendações da Agência Nacional de Proteção de Dados, da Secretaria Nacional do Consumidor e do Ministério Público Federal, está a orientação de que sejam implementadas medidas destinadas a impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio que representem crianças, adolescentes e demais vítimas em contextos sexualizados ou erotizados.

Transparência

As instituições recomendam ainda que sejam implementados mecanismos transparentes, acessíveis e eficazes para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais.

O governo informou ainda que, caso as recomendações não sejam acatadas ou sejam implementadas de modo insuficiente para amenizar os riscos identificados, outras medidas poderão ser consideradas e adotadas pelas três instituições nas searas administrativas e jurídicas. 

A nossa produção está tentando contato com a plataforma X, ainda sem retorno.