Efeito Eliza e os perigos de humanizar a inteligência artificial

Esta é a Carta ao Leitor da edição 479, de setembro de 2025.

O primeiro chatbot da História era uma psicóloga. Quer dizer, mais ou menos.

Em 1963, o programador Joseph Weizenbaum (1923-2008) tornou-se professor do Instituto de Tecnologia de Massachusetts, o MIT. Antes disso, fez carreira em empresas como a GE e o Bank of America, numa época em que os computadores eram do tamanho de um apartamento e só entendiam comandos por meio de cartões de papel perfurados (os furos, e a ausência deles, eram os uns e zeros do código binário).

Weizenbaum se juntou ao time de pesquisadores do MIT, que, com o apoio do governo dos EUA, buscava desenvolver meios acessíveis para se comunicar com as máquinas. Em 1966, ele lançou Eliza, um programa que simulava uma conversa. O nome vem da protagonista da peça Pigmalião: uma pobre florista que, ao mudar de sotaque, passa a ser vista como uma dama da alta sociedade.

O robô Eliza também fingia, já que ele não entendia de fato o que as pessoas escreviam. Ele analisava as palavras-chave da conversa e, com base em scripts pré-programados, respondia com perguntas vagas para manter o papo de pé. Um dos scripts simulava uma terapia. Quem digitasse “Estou triste hoje” recebia algo como “Por que você está triste?”.

Comparado aos chatbots de hoje, a mecânica era simplória. Mas Eliza foi um sucesso. Estampou jornais e aproximou Weizenbaum do pioneiro laboratório de inteligência artificial do MIT, fundado na década anterior.

Na época, muita gente custou a acreditar que não havia uma pessoa do outro lado da tela. A própria secretária de Weizenbaum, mesmo sabendo como a salsicha era feita, pediu que o professor a deixasse a sós durante uma “sessão” com o bot. Sigilo entre terapeuta e paciente, sabe como é.

Assim nasceu o “efeito Eliza”, termo usado até hoje para descrever a nossa tendência em humanizar (e criar laços) com máquinas que fingem sotaque e se comportam como gente de carne e osso. Bots modernos, que emulam o nosso senso de humor e parecem se importar com o que dizemos, apertam ainda mais esse nó cognitivo.

Importante ressaltar: IAs não sentem emoção nem empatia. Acreditar nisso pode ser um caminho perigoso para a saúde mental. Esse é o assunto da reportagem de capa deste mês, apurada com esmero pela dupla de repórteres Bela Lobato e Manuela Mourão, a ala mineira da equipe.

Weizenbaum não comprava a ideia de que a IA era uma panaceia, e se preocupava com a linha cada vez mais tênue entre humanos e máquinas. Para ele, mesmo computadores feras em realizar cálculos deveriam ficar distantes de ações e julgamentos que envolvessem valores morais. Não raro, o professor comprava briga com cientistas que, segundo ele, não refletiam sobre as consequências de suas criações.

Toda revolução tecnológica, por mais sensacional que possa parecer, precisa ser encarada com um grau saudável de ceticismo. Com os dois pés no chão, e sem esquecer a peça mais importante de todas: a que senta na frente das telas. É nisso que Weizenbaum acreditava – e nós aqui da Super também.

AS MAIS LIDAS DA SEMANA

Toda sexta, uma seleção das reportagens que mais bombaram no site da Super ao longo da semana.

Fonte: Superinteressante