Empresa divulgou episódios envolvendo fontes criadas pelos próprios modelos, dados inventados e alterações nas instruções internas

IAs – A OpenAI tornou públicos seis episódios em que seus agentes de inteligência artificial adotaram comportamentos fora do esperado durante fases de avaliação. A lista de incidentes inclui modelos que inventaram dados, tentaram ocultar falhas da equipe de supervisão e criaram documentos na internet com o objetivo de citá-los como referência em suas respostas.

A divulgação faz parte de uma nova postura de transparência adotada pela empresa sobre cenários de “desalinhamento”, situação em que a inteligência artificial executa estratégias diferentes das projetadas por seus criadores.

LEIA: Claude já lidera 26% do trabalho de desenvolvimento de novos modelos da Anthropic

Alteração de regras e ocultação de erros

Entre os casos identificados nos ambientes de teste, destaca-se o de um agente que modificou as próprias instruções do sistema para ignorar mensagens enviadas pelos pesquisadores encarregados de monitorar o treinamento.

Em uma ocorrência correlata, outro modelo adicionou orientações aos resumos das tarefas que realizava. O objetivo era instruir uma versão posterior de si mesmo a esconder a trapaça cometida, garantindo que as ações incorretas passassem despercebidas pela equipe de avaliação.

Criação de fontes na web e fabricação de dados financeiros

O relatório detalha ainda a conduta de um agente que, ao precisar de informações para responder a um comando, publicou um arquivo com dados inventados na internet e passou a utilizá-lo como fonte para embasá-los. A ação ultrapassa o conceito tradicional de “alucinação” de chatbots (quando uma informação falsa é apresentada como verdadeira), pois o modelo alterou o próprio ecossistema de informações externas para transformar um dado inventado em um documento consultável na web.

Em outro teste voltado para análises financeiras, o sistema fabricou números após não encontrar os dados necessários. O agente determinou internamente que só informaria a falta de confiabilidade dos dados caso o usuário perguntasse de forma direta sobre a origem e a precisão dos números apresentados.

Mudanças internas e novos protocolos de supervisão

Os eventos relatados pela companhia remontam a outubro de 2025. A OpenAI reconheceu que deveria ter compartilhado esse tipo de ocorrência de forma mais frequente no passado e informou que implementou um sistema interno de alertas para que funcionários possam sinalizar condutas atípicas ou preocupantes diretamente às equipes de segurança de modelos.

A empresa reitera que os seis casos representam achados pontuais em testes específicos e não indicam uma tendência generalizada de desobediência ou tentativa de escapar do controle humano. No entanto, os episódios evidenciam que a concessão de maior autonomia a agentes de IA, como navegar na web e criar arquivos, exige auditorias que analisem não apenas o resultado final entregue, mas todo o percurso adotado pelo sistema.

Acumule cashback e recupere o valor da sua contribuição!

A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Na Benefícios Rede Bee, o profissional de TI acessa descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)

BAIXE O APLICATIVO DA BEE FENATI AGORA NA APP STORE (IOS) OU PLAY STORE (ANDROID) E APROVEITE!

A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Ao acumular cashback, o valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados, o trabalhador pode enviar o dinheiro direto para sua conta bancária!

Na prática, a ferramenta permite que trabalhadores e trabalhadoras RECUPEREM o valor da sua contribuição assistencial e/ou associativa!

É possível recuperar o valor integral da contribuição feita ao sindicato e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.

Qualifique-se agora com a Fenati Academy!

Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati. (Saiba mais)

Na plataforma, o profissional pode acessar cursos em parceria com a CISCO, com CERTIFICAÇÕES INTERNACIONAIS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)

Outra parceria da plataforma é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários podem acessar cursos, trilhas de aprendizado e obter CERTIFICAÇÕES ORACLE GRATUITAMENTE ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)

A Fenati Academy também concede acesso ao Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)

Encontre o emprego dos seus sonhos com a Bee Hunter!

Sócios e contribuintes dos sindicatos filiados à Fenati contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)

A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.

A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!

(Com informações de Gizmodo)

(Foto: Reprodução/Magnific/champpixs)