Cibercriminosos acham brecha para esconder sites fraudulentos no Grok, a IA do X

Fonte: TecMundo

O Grok, que é o chatbot de inteligência artificial (IA) da rede social X, pode ser manipulado para ajudar cibercriminosos na aplicação de golpes na plataforma. A descoberta é do pesquisador Nati Tal, do Guardio Security, que publicou a denúncia em seu perfil no serviço.

O especialista descobriu que é possível burlar um mecanismo do Grok para proteger usuários e direcionar esse recurso para amplificar fraudes que são criadas em anúncios na plataforma. Até o momento, nem o X e o bilionário Elon Musk, dono da rede social e principal porta-voz do serviço, se manifestaram sobre o caso.

Como o Grok é usado em golpes no X

De acordo com Tal, o golpe se aproveita de uma proibição imposta pelo X que impede o uso de links diretos para outros sites em anúncios. Como resultado, essas publicidades precisam envolvem outros conteúdos, como postagens comuns, vídeos e atalhos para instalação de apps, por exemplo.

• O esquema começa quando os criminosos criam anúncios para conteúdos chamativos falsos, como materiais adultos, e anexam na postagem um clipe para atrair vítimas. Em um campo que fica abaixo do reprodutor de vídeo, porém, eles inserem o endereço para a página que deve ser acessada para iniciar o golpe; • Após a postagem, um perfil que pertence aos responsáveis pela fraude e finge ser um usuário interessado aciona o Grok em um comentário e pede que ele mostre qual é o link de origem daquele vídeo; O link escondido na fonte de um vídeo postado como anúncio. (Imagem: Reprodução/Nati Tal)• O Grok, sem saber que está expondo uma página insegura e perigosa, encontra o endereço no anúncio e envia a URL completa em um novo comentário que pode ser acessado por quem clicou na publicação original; • Por fazer parte inclusive do feed da IA, esse tipo de interação gera legitimidade para o post e faz com que o link esteja acessível para uma grande quantidade de pessoas; Uma conta falsa pede o endereço ao Grok, que posta o link sem confirmar a segurança do acesso. (Imagem: Reprodução/Nati Tal)• Em vez de entregar o conteúdo prometido no vídeo, esses endereços direcionam as vítimas para links diretos com malwares de roubo de dados, páginas que aplicam phishing e redes que monetizam com anúncios indesejados. Segundo o pesquisador, esse tipo de brecha precisa ser corrigido por vários motivos. Para começar, ele se aproveita de uma IA bastante popular que é nativa da rede social — e já esteve envolvida em várias controvérsias sobre o seu comportamento, além de ganhar recursos contestáveis que incluem um modo ‘picante' de geração de imagens. 

Só que o problema é ainda mais profundo, já que comprova que os próprios anúncios no X estão fora de controle, com a plataforma aprovando até mesmo a circulação de conteúdos apelativos e com várias evidências de que são falsos.

Recentemente, Pesquisadores descobriram também uma técnica para obter dados protegidos de chatbots como o ChatGPT. Leia mais sobre isso no site do TecMundo.