Gretchen consegue na Justiça que X exclua vídeo falso feito com IA; rede terá que revelar quem divulgou

Decisão do tribunal de São Paulo ocorreu no início de junho e ainda permite recurso. Defesa do X cita artigo do Marco Civil da Internet, atualmente em debate no STF; entenda.

A Justiça de São Paulo decidiu a favor da cantora Gretchen e contra o X em um processo sobre a divulgação de um vídeo falso da artista feito com inteligência artificial.

A rede social terá que manter o conteúdo fora do ar e informar os dados do usuário que divulgou a publicação. O X ainda pode recorrer.

Segundo o processo, o vídeo falso usa a imagem de Gretchen para mostrar a cantora convidando o público para um suposto show no “Cabaré da Cinderela”, onde haveria atividades sexuais.

A gravação, que circulou em 2024, também faz referência a um momento da vida pública de Gretchen: a campanha que ela fez para a Prefeitura de Itamaracá (PE), por volta dos anos 2010.

Trata-se de um deepfake, ou seja, um vídeo criado com inteligência artificial que usa a imagem e a voz de uma pessoa real, mas altera o que ela diz. A assessoria de Gretchen informou que entrou na Justiça por conta do vídeo em abril.

A decisão judicial foi publicada no dia 3 de junho de 2025.

Durante o processo, o X citou o artigo 19 do Marco Civil da Internet. Ele afirma que uma rede social só pode ser responsabilizada por conteúdo publicado por terceiros caso descumpra uma ordem judicial para removê-lo.

Esse é o mesmo artigo que está em debate atualmente no Supremo Tribunal Federal (STF). Esta semana, inclusive, a corte formou maioria para alterar esse entendimento e permitir que plataformas sejam responsabilizadas por conteúdos ilegais mesmo antes de uma ordem judicial.

• Responsabilização das redes sociais é avanço, mas faltam detalhes, dizem especialistas

No caso de Gretchen, a juíza Camila Rodrigues Borges de Azevedo, da 19ª Vara Cível, já havia determinado que o X retirasse o vídeo do ar — o que foi feito. Por isso, a rede não foi punida com base no artigo 19.

Agora, além de manter o conteúdo fora do ar, o X terá que entregar o endereço de IP do responsável pela conta que publicou o vídeo.

O IP (sigla para “Internet Protocol”) é um número que identifica dispositivos conectados à internet e pode ajudar na localização do autor da postagem.