Pesquisadores e profissionais de empresas do setor afirmam que sistemas avançados podem trazer riscos difíceis de controlar

Avanço da IA  – O avanço de sistemas cada vez mais sofisticados de inteligência artificial voltou a provocar debates sobre os limites do desenvolvimento da tecnologia. Pesquisadores e especialistas do setor passaram a defender uma desaceleração no ritmo de criação de modelos avançados após novos alertas de que a IA pode representar riscos para o futuro da humanidade, conforme noticiou a CNBC nesta quinta-feira (10).

A discussão ganhou força após uma manifestação de Jacob Coxon, ex-funcionário da Anthropic. Em uma postagem no X, na terça-feira (8), ele afirmou que a Anthropic e sua principal concorrente, a OpenAI, estariam “apostando com as nossas vidas”.

LEIA: Anthropic diz ter bloqueado uso de IA em pesquisas ligadas a armas biológicas

Segundo Coxon, profissionais envolvidos no desenvolvimento da inteligência artificial acreditam que versões mais avançadas desses sistemas podem extinguir a humanidade “até o final da década”. O pesquisador trabalhava no treinamento de novos modelos antes de deixar a empresa.

A declaração recebeu diversas manifestações de apoio de profissionais da área, que também demonstraram preocupação com os possíveis efeitos do avanço da tecnologia. Evan Hubinger, líder de alinhamento da Anthropic, afirmou, em resposta ao desabafo, que a probabilidade de a IA causar a extinção da humanidade na próxima década é superior a 10%.

Samuel Marks, pesquisador contratado pela desenvolvedora do chatbot Claude, também participou da discussão e confirmou que existe preocupação entre profissionais do setor em relação ao futuro da IA.

“Isso pode acontecer nos próximos anos. Em geral, quanto mais sênior o funcionário, maior a sua preocupação”, escreveu Marks no X.

O debate também contou com a participação de Julie Steele, integrante da equipe de segurança da OpenAI. Ela reforçou a necessidade de reduzir o ritmo de desenvolvimento da tecnologia.
“Pessoalmente, também acho que precisamos desacelerar”, apontou Steele, em comentário na rede social.

IA que pode aprimorar o próprio código

Os riscos relacionados a sistemas capazes de operar e evoluir de maneira autônoma também foram destacados por Anna Wang, profissional de alinhamento e segurança da Anthropic.

Ao citar a capacidade de uma inteligência artificial aprimorar seu próprio código de forma autônoma, Wang afirmou que não há um “plano científico viável para resolver os riscos da IA que se aprimora recursivamente”.

A discussão chegou também a autoridades. David Sacks, ex-chefe de IA da administração Trump, sugeriu que o processo de abertura de capital da Anthropic fosse suspenso enquanto as alegações fossem investigadas.

“Certamente o IPO da Anthropic deve ser pausado até que as alegações deste ‘denunciante’ possam ser investigadas”, opinou.

Quais são os riscos apontados pelos pesquisadores?

Entre os cenários considerados mais preocupantes está a possibilidade de utilizar sistemas avançados de IA para potencializar ameaças que já existem. Segundo pesquisadores entrevistados pelo Business Insider, pessoas que controlam essas tecnologias, ou as próprias IAs, poderiam atacar serviços financeiros, sistemas de transporte, abastecimento de água, comunicações e redes de eletricidade.

Outro risco seria o uso da tecnologia para desenvolver vírus mais poderosos.

Os pesquisadores também apontam para a possibilidade de bots autônomos influenciarem pessoas na internet e contribuírem para a criação de situações de caos. Sistemas desse tipo poderiam, por exemplo, promover desinformação em escala suficiente para contribuir com a transformação de um conflito em guerra ou interferir nos resultados de eleições.

Entre os demais cenários citados estão o desenvolvimento de armas biológicas, a possibilidade de IAs assumirem o controle de maneira silenciosa e a influência desses sistemas sobre decisões políticas, econômicas e científicas.

Para o pesquisador de Oxford Toby Ord, o risco de a inteligência artificial destruir a humanidade até 2100 é de 1 em 10.

Procurada pela reportagem, a Anthropic afirmou que possui uma estrutura dedicada à mitigação dos riscos relacionados à inteligência artificial e que desenvolve a tecnologia com “algumas das salvaguardas mais robustas do setor”. A OpenAI não se pronunciou.

Acumule cashback e transfira o dinheiro direto para sua conta!

A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)

Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!

A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!

Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.

Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!

Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.

Qualifique-se agora com a Fenati Academy!

Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati. (Saiba mais)

Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)

A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)

Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)

Encontre o emprego dos seus sonhos com a Bee Hunter!

Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)

A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.

A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!

(Com informações de Tecmundo)

(Foto: Reprodução/Magnific/DC Studio)