“Agentes de IA não funcionam”, diz cofundador da OpenAI

Andrej Karpathy cunhou o termo “vibe coding” • Andrej Karpathy, cofundador da OpenAI, afirma que agentes de IA são superestimados e ainda carecem de inteligência e aprendizado contínuo.

• Ele criticou a busca por IAs autônomas que substituem humanos e defendeu a colaboração homem-máquina para evitar conteúdo de baixa qualidade.

• Segundo Karpathy, até mesmo o “vibe coding”, conceito cunhado por ele, também teria limitações de segurança e controle.

Apesar do otimismo do Vale do Silício, os agentes de IA — assistentes virtuais projetados para executar tarefas de forma autônoma — continuam longe de cumprir suas promessas. A avaliação é do cofundador da OpenAI e ex-chefe de IA da Tesla, Andrej Karpathy.

Em uma participação recente no Dwarkesh Podcast, Karpathy foi direto: “Eles simplesmente não funcionam”. Segundo ele, as ferramentas atuais ainda carecem de inteligência, multimodalidade e capacidade de aprendizado contínuo.

“Eles são cognitivamente deficientes e simplesmente não estão funcionando”, completou, estimando que levará “cerca de uma década” para resolver essas questões.

Agentes de IA x realidade

A declaração de Karpathy joga um balde de água fria em um dos temas mais promovidos pela indústria de tecnologia. Como observa o Business Insider, muitos investidores chegaram a apelidar 2025 de “o ano do agente”. A promessa é que esses sistemas possam, no futuro, realizar tarefas como agendar viagens, gerenciar e-mails ou até mesmo desenvolver softwares com pouca, ou nenhuma, intervenção humana.

O site lembra que o líder de crescimento da ScaleAI, Quintin Au, já havia explicado como os erros dos agentes se acumulam. Segundo o executivo, se um modelo de linguagem tem 80% de precisão em cada ação individual, a chance de um agente completar corretamente uma tarefa de cinco passos é de apenas 32%, pois a margem de erro se multiplica a cada etapa.

Entretanto, em uma publicação no X/Twitter após o podcast, Karpathy reforça que sua crítica é, principalmente, à direção que a indústria está tomando. Para ele, “a indústria vive em um futuro onde entidades totalmente autônomas colaboram em paralelo para escrever todo o código e os humanos são inúteis”.

O cofundador da OpenAI defende a colaboração entre humanos e IA. “Eu quero que [a IA] puxe a documentação da API e me mostre que usou as coisas corretamente. Quero que ela faça menos suposições e colabore comigo quando não tiver certeza de algo”, escreveu.

Um dos riscos de criar agentes que tornam humanos obsoletos, segundo Karpathy, é a proliferação de AI slop, conteúdo de baixa qualidade gerado por inteligência artificial. Esse já é um grande problema nas redes sociais.

Vibe coding também é limitado, segundo Karpathy

Fonte: Tecnoblog