Paul Romer questiona se IA generativa de fato contribuirá para o futuro da humanidade

IA – Paul Romer demonstra desconfiança em relação ao atual modelo de desenvolvimento da inteligência artificial (IA) generativa e questiona se ele, de fato, contribuirá positivamente para o futuro da humanidade.

Vencedor do Prêmio Nobel de Economia por seus estudos em parceria com William Nordhaus, o economista, empreendedor e professor do Boston College tem se posicionado de maneira crítica à tecnologia. Sua principal preocupação diz respeito à tendência de erros e “alucinações” presentes nos grandes modelos de linguagem (LLMs).

LEIA: Golpe usando sites clonados instala malware de acesso remoto

“Se você procura uma resposta para algo, não quer uma resposta ‘quase confiável’. Você quer uma resposta segura. Esses modelos não conseguem oferecer isso”, afirmou durante sua participação na palestra de encerramento do Febraban Tech 2025, nesta quinta-feira (12).

Conhecido por sua teoria do crescimento endógeno, Romer sustenta que o avanço econômico e social depende do desenvolvimento tecnológico guiado pela produção e difusão do conhecimento. Esse progresso, historicamente, se ampara no que ele chama de “sistema científico”, estruturado desde a Revolução Industrial. “As coisas ao nosso redor funcionam como funcionam porque criamos um sistema para isso”, explicou.

Esse modelo, segundo o economista, permite que a ciência evolua por meio da experimentação, da verificação e da reprodutibilidade de resultados, o que fortalece a confiança nas novas tecnologias. Para ele, a maneira como a IA generativa está sendo incorporada por empresas e usuários, sem o devido cuidado com suas limitações, merece maior atenção.

“Precisamos avaliar se o custo de uma falha é suficientemente baixo e o benefício alto o bastante antes de utilizar esses modelos”, pontuou. “Mas há muitas pessoas ganhando muito dinheiro com a venda de LLMs, e elas não vão te contar que talvez você consiga realizar um trabalho melhor sem recorrer a essas ferramentas.”

Romer citou como exemplo um episódio judicial envolvendo a empresa Anthropic, responsável pelo chatbot Claude. Em uma disputa com representantes da indústria da música, a defesa da empresa incluiu uma citação “completamente fabricada”, criada pela própria IA utilizada na elaboração dos argumentos.

“A IA é interessante, faz coisas impressionantes, mas ainda é muito fraca”, declarou. “É preciso ter cautela para não ser induzido ao erro por pessoas que buscam lucrar ao convencê-lo a utilizar uma ferramenta de forma inadequada”. E acrescentou: “experimente essas tecnologias, mas verifique se elas realmente trazem vantagens.”

Outro ponto de preocupação é a velocidade de desenvolvimento desses modelos. Embora reconheça que a IA está se tornando mais sofisticada, Romer considera que esse avanço não acompanha o ritmo de adoção observado no mercado e na sociedade. “Esses modelos precisam de dados para treinamento, mas já estamos chegando ao final dos dados disponíveis”, disse.

Ainda assim, o economista acredita que é possível reorientar o uso da inteligência artificial para beneficiar o coletivo. Para isso, reforça que seu desenvolvimento deve ser baseado nos mesmos princípios científicos que impulsionaram o progresso até aqui.

“Para que a inteligência artificial funcione de verdade, ela precisa ser desenvolvida com base na ciência, não por interesses comerciais. Torne as informações públicas, abra os sistemas com código aberto, sem fins lucrativos”, afirmou. “Sam Altman pode se tornar bilionário de outra maneira, e Elon Musk pode voltar a fabricar carros”, concluiu.

(Com informações de IT Forum)
(Fonte: Reprodução/Freepik/evgeniyjam)