Steve Wozniak, Príncipe Harry e outras 800 personalidades pedem pausa na superinteligência artificial até garantia de segurança

Um grupo que reúne o cofundador da Apple, Steve Wozniak, o príncipe Harry, Meghan Markle e até o conservador Steve Bannon uniu forças para exigir uma moratória global no desenvolvimento de superinteligência artificial. A declaração marca um dos raros momentos em que figuras de espectros políticos e culturais opostos convergem em torno de um objetivo comum: barrar a criação de máquinas que superem a capacidade humana antes que haja consenso científico sobre sua segurança.

O que dizem os signatários?

Steve Wozniak O texto é direto: "Pedimos a proibição do desenvolvimento de superinteligência, a não ser levantada antes que haja amplo consenso científico de que será feito de forma segura e controlável, e forte apoio público". No preâmbulo, o documento alerta que, embora ferramentas de IA possam trazer prosperidade e avanços na saúde, gigantes como Google, OpenAI e Meta correm para construir sistemas que "superem significativamente todos os humanos em essencialmente todas as tarefas cognitivas" na próxima década.

As preocupações elencadas vão desde obsolescência econômica em massa e perda de liberdades civis até ameaças à segurança nacional e — no cenário mais extremo — à extinção humana. Príncipe Harry declarou em nota pessoal: "O futuro da IA deve servir à humanidade, não substituí-la. Acredito que o verdadeiro teste do progresso não será a velocidade, mas a sabedoria com que conduzimos isso. Não há segunda chance"

Quem assinou — e por quê

A lista traz mais de 850 nomes e inclui pioneiros da inteligência artificial Geoffrey Hinton e Yoshua Bengio, vencedores do Prêmio Turing (o "Nobel da computação"). Hinton, que também ganhou o Nobel de Física em 2024, vem alertando publicamente sobre os perigos da tecnologia que ele mesmo ajudou a criar.​

Mas o que chama atenção é a diversidade política e geográfica: ao lado de Wozniak e do bilionário Richard Branson estão o ex-presidente da Irlanda Mary Robinson, a ex-conselheira de segurança nacional Susan Rice, o general aposentado Mike Mullen, atores como Stephen Fry e Joseph Gordon-Levitt, além do músico will.i.am. E, em movimento inesperado, conservadores americanos como Steve Bannon e Glenn Beck também aderiram, em uma aparente tentativa de apelar ao movimento Make America Great Again do presidente Donald Trump.

Stuart Russell, professor de ciência da computação em Berkeley e signatário, escreveu: "Não é um banimento ou moratória no sentido usual. É simplesmente uma proposta para exigir medidas adequadas de segurança para uma tecnologia que, segundo seus próprios desenvolvedores, tem chances significativas de causar extinção humana. Isso é pedir demais?

O debate em torno da superinteligência

O termo "superinteligência" refere-se a sistemas de IA capazes de superar humanos em praticamente todas as tarefas cognitivas — incluindo raciocínio, aprendizado, planejamento e criatividade. O risco central, segundo os especialistas, é a perda de controle humano sobre máquinas que podem se autoaperfeiçoar de forma autônoma e imprevisível.​

Max Tegmark, presidente do Future of Life Institute e professor do MIT, afirmou que a carta representa a saída da discussão da "bolha dos nerds" para o mainstream. "O que une todas essas pessoas através do espectro político é que são todos humanos, não máquinas, e por isso se importam profundamente com um futuro onde as máquinas trabalhem para nós, e não como novos senhores digitais", declarou.

Contexto e histórico

Esta não é a primeira vez que o Future of Life Institute lidera uma iniciativa desse tipo. Em março de 2023, a organização publicou uma carta pedindo uma pausa de seis meses no desenvolvimento de modelos de IA mais poderosos que o GPT-4. Elon Musk foi o signatário mais proeminente daquela carta — mas, ironicamente, estava simultaneamente fundando sua própria startup de IA, a xAI

Nenhuma das grandes empresas de tecnologia atendeu ao apelo em 2023, e a corrida pela inteligência artificial apenas se intensificou. A Meta chegou a criar uma divisão chamada Meta Superintelligence Labs, recrutando pesquisadores de ponta para acelerar o desenvolvimento. O debate sobre até onde essa corrida deve ir — e quem deveria regulá-la — permanece em aberto.

Fonte: Hardware.com.br