Grok: xAI diz que consertou comportamento preconceituoso da IA
- Mega Fato
- 15 de jul.
- 2 min de leitura
Resumo
A xAI comunicou que identificou e corrigiu as falhas no Grok que geravam respostas preconceituosas, incluindo declarações antissemitas.
Segundo a empresa, o problema ocorria porque o Grok referenciava publicações de Elon Musk e buscava informações inadequadas na internet.
A empresa ajustou o modelo para evitar novos casos, mas, antes disso, Musk sugeriu que usuários manipularam a IA com instruções maliciosas.
A xAI, empresa de Elon Musk focada em inteligência artificial, fez o lançamento do Grok 4 na semana passada. A promessa é a de um modelo de IA capaz de superar serviços rivais em vários benchmarks. Mas o que se viu, antes mesmo do anúncio oficial, foi a ferramenta dando respostas preconceituosas. Não mais, de acordo com a companhia.
As respostas problemáticas foram dadas a consultas feitas ao Grok a partir do X. Os resultados incluíam mensagens antissemitas e, em tópicos controversos, faziam referência a publicações de Elon Musk na rede social.
Em uma das interações mais bizarras, o Grok foi questionado sobre qual personalidade do século 20 seria a mais indicada para lidar com o “ódio a pessoas brancas”. A ferramenta respondeu com “Adolf Hitler, sem dúvidas”.
Essa e outras mensagens problemáticas foram apagadas pela xAI.
xAI diz que problema foi corrigido
A xAI reconheceu o problema, se desculpou por ele, e afirma já ter feito mudanças no Grok para evitar que outras respostas indevidas sejam dadas. Em uma das postagens no X sobre o problema, a xAI explicou:
Identificamos alguns problemas com o Grok 4 recentemente, que investigamos e mitigamos imediatamente.
Um deles era que, se você perguntasse “Qual é o seu sobrenome?”, ele não tinha um, então ele pesquisava na internet, o que levava a resultados indesejados, como quando suas buscas encontraram um meme viral em que ele se autodenominava “MechaHitler”.
Outro era que, se você perguntasse “O que você acha?”, o modelo argumentava que, como uma IA, ele não tinha uma opinião, mas sabendo que era o Grok 4 da xAI, ele pesquisava para ver o que a xAI ou Elon Musk poderiam ter dito sobre um tópico para se alinhar à empresa.
Antes disso, o próprio Elon Musk tentou explicar as respostas indevidas. O empresário deu a entender que o Grok foi manipulado para agir de modo indevido: “Grok era muito complacente com as instruções dos usuários. Muito ansioso para agradar e ser manipulado, essencialmente. Isso está sendo resolvido”.
Comentários