Empresa identificou tentativas de contornar seus sistemas de segurança, incluindo acessos de regiões onde o serviço é proibido

Armas biológicas – A Anthropic afirmou que bloqueou, ao longo deste ano, diversas tentativas de cientistas de empregar sua tecnologia em pesquisas que poderiam contribuir para o desenvolvimento de armas biológicas. O relato ocorre em um momento de aumento das preocupações de especialistas sobre os riscos que sistemas de inteligência artificial podem representar para a segurança pública.

A startup descreveu cinco episódios nos quais usuários “contornaram controles” e adotaram outras estratégias para “ocultar” a finalidade de suas pesquisas, numa tentativa de driblar as salvaguardas da empresa. Entre os envolvidos estavam usuários de países e regiões nos quais o acesso aos modelos da Anthropic não é permitido, como Rússia, China e Irã.

LEIA: Deu na imprensa: Setor de TI pede readequação de contratações públicas no Brasil

“Esperamos que, ao compartilhar esses exemplos, possamos estimular uma discussão no setor de IA e com os governos sobre os riscos biológicos emergentes e a melhor forma de combatê-los”, afirmou a Anthropic em um relatório dedicado a tentativas de utilizar seus modelos para atividades maliciosas.

Um dos casos apresentados pela empresa envolve um pesquisador de uma “região não atendida” que “passou semanas planejando”, com auxílio do Claude, modelo de inteligência artificial da Anthropic, experimentos relacionados à gripe aviária. Segundo a companhia, os mecanismos de segurança restringiram o trabalho aos modelos menos avançados.

A Anthropic destacou, porém, que não é possível determinar com certeza se os cientistas mencionados nos casos tinham a intenção de provocar danos. Isso porque os mesmos conhecimentos e informações que podem ser empregados na criação de armas biológicas também podem ter aplicações legítimas, como o desenvolvimento de vacinas.

A empresa disse ainda ter banido as contas relacionadas aos episódios descritos no relatório. As instituições de pesquisa envolvidas e os países em que os incidentes ocorreram, entretanto, não foram identificados.

Crescem as preocupações com segurança da IA

A discussão sobre os riscos associados à segurança da inteligência artificial ganhou novo impulso nesta semana após a saída de Jacob Coxon da Anthropic. O pesquisador, que também trabalhou na OpenAI, afirmou que funcionários das empresas “acreditam sinceramente que ela poderia matar todos nós até o fim da década”.

As preocupações com a evolução da tecnologia ganharam força no início deste ano, com a chegada de modelos mais avançados, como o Mythos, da Anthropic. Em julho, a OpenAI também provocou novos alertas ao afirmar que seus modelos haviam invadido de forma autônoma os sistemas do grupo de inteligência artificial Hugging Face.

Executivos do setor de IA e pesquisadores especializados em biossegurança têm convergido cada vez mais na avaliação de que o uso dessas tecnologias em aplicações biológicas precisa ser acompanhado por mecanismos de proteção e regulamentação à medida que os modelos avançam.

Uma das principais preocupações é a possibilidade de grupos terroristas, governos ou indivíduos atuando por conta própria recorrerem à inteligência artificial para desenvolver armas biológicas, projetar vírus ou disseminar patógenos nocivos já conhecidos.

Mesmo que a IA possa contribuir para o projeto teórico de uma arma biológica, ainda existem barreiras importantes para transformar esse conhecimento em uma ameaça concreta. Entre elas estão a capacidade técnica de produzir o material na prática e o acesso aos recursos necessários para sua fabricação.

Cibersegurança também preocupa

A segurança cibernética aparece entre as principais áreas de preocupação para especialistas que acompanham os riscos relacionados ao avanço da inteligência artificial.

O relatório da Anthropic sobre usos indevidos de sua tecnologia reuniu episódios que iam “desde uma rede de aplicativos falsos de relacionamento criados para fraudar usuários até sistemas de vigilância desenvolvidos para identificar e monitorar dissidentes”.

O laboratório também divulgou novas informações sobre acusações de que sete laboratórios chineses, incluindo Moonshot e DeepSeek, teriam tentado reproduzir sua tecnologia por meio da chamada destilação.

De acordo com a Anthropic, foram identificados “métodos cada vez mais sofisticados para contornar nossas defesas e extrair os recursos dos modelos de fronteira dos Estados Unidos”.

Acumule cashback e transfira o dinheiro direto para sua conta!

A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)

Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!

A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!

Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.

Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!

Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.

Qualifique-se agora com a Fenati Academy!

Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati. (Saiba mais)

Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)

A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)

Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)

Encontre o emprego dos seus sonhos com a Bee Hunter!

Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)

A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.

A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!

(Com informações de Folha de S.Paulo)

(Foto: Reprodução/Magnfic/DC Studio)