Carta divulgada na Assembleia Geral da ONU alerta para riscos da IA e propõe proibições globais em determinadas circunstâncias
IA – Mais de 200 personalidades internacionais, entre elas 10 vencedores do Prêmio Nobel, pesquisadores e executivos de grandes empresas de tecnologia, assinaram uma carta aberta defendendo a criação de um marco regulatório para limitar os riscos da inteligência artificial (IA).
Dentre os signatários estão especialistas que trabalham em gigantes da IA como OpenAI, Anthropic, Google DeepMind e Microsoft. O documento foi divulgado nesta segunda-feira (22), durante a abertura da Assembleia Geral da ONU em Nova York.
LEIA: Ataque explora falha no WhatsApp que permite acesso a dispositivo das vítimas
O texto reconhece o potencial da IA para impulsionar o bem-estar humano, mas alerta para “perigos sem precedentes” caso a tecnologia continue avançando sem restrições. Os signatários ressaltam que, embora a ferramenta traga oportunidades, também pode gerar ameaças capazes de afetar profundamente a sociedade e a segurança global.
A principal proposta é a definição de “linhas vermelhas” – proibições globais contra usos considerados inaceitáveis em qualquer circunstância. Entre os exemplos citados estão a utilização da IA no controle de arsenais nucleares, o desenvolvimento de armas letais autônomas, além do uso da tecnologia em sistemas de vigilância em massa, em mecanismos de pontuação social e em ciberataques.
Segundo o grupo, governos de todo o mundo devem agir rapidamente e estabelecer esses limites até o final do próximo ano, de forma a acompanhar a velocidade com que os sistemas de IA estão sendo desenvolvidos. A carta ainda reforça que a cooperação internacional será essencial para que tais medidas sejam eficazes, já que os impactos da tecnologia ultrapassam fronteiras.
Para os signatários, o desafio não está apenas em controlar os riscos atuais, mas também em prevenir cenários futuros. O documento menciona a possibilidade de a IA superar significativamente as capacidades humanas, ampliando problemas como manipulação em larga escala, desinformação, violações sistemáticas de direitos humanos e até o surgimento de novas pandemias.
Com o apelo, os cientistas, líderes políticos e executivos esperam mobilizar autoridades a firmar acordos internacionais que mantenham o desenvolvimento da inteligência artificial em direção ao benefício coletivo, sem abrir espaço para usos considerados devastadores para a humanidade.
(Com informações de O Globo)
(Foto: Reprodução/Freepik/Rawpixel.com)
