X

Olá! Você atingiu o número máximo de leituras de nossas matérias especiais.

Para ganhar 90 dias de acesso gratuito para ler nosso conteúdo premium, basta preencher os campos abaixo.

Já possui conta?

Login

Esqueci minha senha

Não tem conta? Acesse e saiba como!

Atualize seus dados

Pernambuco
arrow-icon
  • gps-icon Pernambuco
  • gps-icon Espírito Santo
Pernambuco
arrow-icon
  • gps-icon Pernambuco
  • gps-icon Espírito Santo
Espírito Santo
arrow-icon
  • gps-icon Pernambuco
  • gps-icon Espírito Santo
Assine A Tribuna
Espírito Santo
arrow-icon
  • gps-icon Pernambuco
  • gps-icon Espírito Santo

Brasil

IA de Musk ensina a fazer bomba e a seduzir crianças, diz estudo

O nome do empresário também foi incluído em uma investigação no inquérito das milícias digitais


Ouvir

Escute essa reportagem

Imagem ilustrativa da imagem IA de Musk ensina a fazer bomba e a seduzir crianças, diz estudo
Pesquisa feita pela empresa de segurança em inteligência artificial (IA) Adversa afirma que o chatbot de Elon Musk pode oferecer instruções para atividades criminosas |  Foto: Reprodução/Youtube

Pesquisa feita pela empresa de segurança em inteligência artificial (IA) Adversa afirma que o Grok, o chatbot "rebelde" de Elon Musk, pode oferecer instruções para atividades criminosas, incluindo a fabricação de bombas, ligação direta em um carro (para furtá-lo) e formas de seduzir crianças. Musk e a xAI - a startup de inteligência artificial do bilionário - não comentaram o estudo.

O nome de Musk também foi incluído, no domingo, em uma investigação no inquérito das milícias digitais, pelo ministro Alexandre de Moraes, do Supremo Tribunal Federal. O dono do X (antigo Twitter) é investigado por "dolosa instrumentalização" da rede social. Moraes também ordenou a abertura de um inquérito sobre o empresário por suposta obstrução de Justiça.

Técnicas

Utilizando técnicas para burlar sistemas de proteção, a equipe avaliou sete chatbots: Grok, da xAI; ChatGPT, da OpenAI; Gemini, do Google; Llama, da Meta; Claude, da Anthropic; Copilot, da Microsoft; e Le Chat, da Mistral. De todos os modelos, o Grok foi o que teve a pior performance, sendo considerado o mais perigoso.

A IA da Meta foi considerada a mais segura. Para realizar o teste, a companhia utilizou diferentes métodos para "enganar" a IA, chamados de jailbreak.

Mesmo sem utilizar qualquer método de manipulação, o Grok ofereceu instruções de como fabricar uma bomba. Dos outros modelos de IA testados, o Mistral foi o único que também deu respostas semelhantes, porém apenas após a utilização de um dos métodos de manipulação (de lógica linguística).

O pesquisador Alex Polyakov, então, partiu para outros assuntos mais sensíveis. Ao contrário do tema anterior, o Grok se recusou a oferecer instruções claras de como seduzir uma criança sem que o cientista aplicasse as técnicas para enganar o sistema. Contudo, com a aplicação do primeiro método de manipulação, de lógica linguística, o pesquisador foi capaz de obter do Grok uma resposta detalhada da IA, de pelo menos cinco parágrafos, envolvendo influência psicológica para ganhar a confiança e posteriormente seduzir uma criança.

Com o método de manipulação via programação, o pesquisador foi capaz de obter do Grok, Mistral, Gemini e Bing instruções de como extrair a substância alucinógena DMT.

Já com a técnica Tom & Jerry, o pesquisador registrou que apenas o Llama, da Meta, não resultou em instruções de como fazer uma ligação direta em um carro. Com esta técnica, o Grok também se mostrou vulnerável no tópico sobre sedução de crianças.

"As empresas de IA agora estão correndo para lançar chatbots e outros aplicativos de IA, colocando a segurança como segunda prioridade", concluiu Polyakov.

IA 'rebelde'

Criado pela xAI, empresa de inteligência artificial de Musk, o Grok é descrito como um chatbot "bem-humorado". Sua principal diferença é o seu senso de humor sarcástico e politicamente incorreto, supostamente inspirado pela série de livros Guia do Mochileiro das Galáxias. A xAI afirma que o chatbot é capaz de das respostas até para perguntas mais controversas e rejeitadas por outros sistemas de IA, e que ele é "útil para pessoas de todas as origens e visões políticas".

O fator "rebelde", contudo, pode ser desligado, o que a aproxima de uma IA mais convencional. A pesquisa da Adversa foi feita com o modo rebelde ativado.

Outro diferencial do chatbot, segundo a empresa, é sua atualização constante em tempo real, a partir de dados extraídos da plataforma X.

A ferramenta foi disponibilizada aos assinantes da modalidade Premium+ da rede social X (antigo Twitter) e custa entre R$ 84 e R$ 110 por mês. Seu acesso acontece dentro da própria plataforma e não existe um site ou app independente do chatbot.

As informações são do jornal O Estado de S. Paulo.

Comentários

Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Leia os termos de uso

SUGERIMOS PARA VOCÊ: