Falta de controles, mapeamento de riscos e confiança limita a expansão segura da inteligência artificial nas empresas

Mapeamento de riscos – A adoção da inteligência artificial (IA) nas empresas está avançando mais rapidamente que a criação de mecanismos para controlar seu uso. É o que aponta a pesquisa GRC Insights, da KPMG, realizada com 53 profissionais das áreas de governança, riscos, compliance e auditoria.

Segundo o levantamento, 52% das organizações ainda discutem ou estruturam um modelo formal de governança para IA. Apenas 23% já possuem uma estrutura implementada e em funcionamento. Os participantes representam setores como energia, saúde, tecnologia, agronegócio e serviços financeiros.

LEIA:  China investe em supercomputador com 100 mil aceleradores nacionais

Falta de inventário e controle de riscos

A ausência de mecanismos de supervisão também aparece no mapeamento das aplicações. Cerca de 59% dos entrevistados afirmam que suas empresas não possuem inventário do uso de IA. Além disso, 51% ainda não realizaram avaliações estruturadas de riscos relacionados a vieses, alucinações, segurança, compliance e dados sensíveis.

A confiança na tecnologia também é limitada: 35% não confiam na utilização de IA em decisões críticas, enquanto apenas 6% demonstram confiança ampla, desde que existam controles adequados.

“A decisão baseada em inteligência artificial depende diretamente da qualidade da origem e da forma como os dados são tratados. Por isso, governar dados para IA significa estabelecer responsabilidades claras sobre acesso, uso, segurança, privacidade e rastreabilidade, além de garantir mecanismos de monitoramento ao longo de todo o ciclo de vida dos modelos. Sem essa estrutura, a empresa pode até ampliar o uso da tecnologia, mas terá dificuldade para explicar, controlar e responder pelos resultados gerados”, afirma Eliete Martins, sócia líder de governança corporativa da KPMG no Brasil.

Controles internos ainda são manuais

A pesquisa também identificou baixa utilização da própria IA nos processos de governança. Para 57% dos participantes, os testes de controles internos e compliance continuam sendo realizados manualmente, sem agentes de inteligência artificial.

O sócio líder de governança, risco e compliance da KPMG no Brasil, Emerson Melo, destaca a importância de acompanhar a expansão tecnológica com mecanismos de supervisão.

“Quanto mais a tecnologia participa de processos relevantes e decisões críticas, maior é a necessidade de controles, transparência e supervisão. Não existe escala em IA sem confiança, e não existe confiança sem uma governança que evolua no mesmo ritmo da tecnologia. O próximo estágio não é utilizar mais IA, mas criar as condições para escalá-la sem ampliar proporcionalmente a exposição a riscos”, afirma.

ACESSE BENEFÍCIOS EXCLUSIVOS NA BEE FENATI

A Bee Fenati é uma rede social pensada para a categoria TI. Lá, o profissional de tecnologia troca experiências com colegas de profissão, se mantém atualizado sobre as novas tendências do setor de tecnologia, turbina o seu currículo com cursos e certificações, encontra vagas disponíveis no mercado e ainda ganha descontos e cashback em centenas de grandes marcas parceiras. (Saiba mais)

Abasteça com até 25% de desconto

A parceria da Bee Fenati com o Baratão Combustíveis garante até 25% de desconto na hora de abastecer utilizando os cupons exclusivos para sócios e contribuintes dos sindicatos filiados à Fenati. São mais de 3 mil postos credenciados em todo o país!

Todos os meses são disponibilizados quatro cupons, que se somam aos descontos do aplicativo. A economia média é de 20% por abastecimento, sendo possível recuperar todo o valor da contribuição ao sindicato em apenas uma compra. Para quem abastece toda semana, a parceria pode equivaler a um tanque grátis no mês! (Entenda como funciona aqui)

Recupere o valor da sua contribuição

Na Benefícios Rede Bee, o profissional de TI acessa descontos em centenas de grandes marcas, com muitas delas oferecendo cashback. A partir de R$ 20 acumulados em sua carteira digital, você pode transferir o dinheiro direto para sua conta bancária. (Saiba mais)

Capacitação profissional

Na Fenati Academy, você acessa milhares de cursos e diversas certificações internacionais gratuitas – ou com descontos exclusivos – de parceria de renome no mercado, como a Cisco e a Oracle. Você também ganha bolsa integral de acesso ao Sindplay, streaming de capacitação em TI apelidado pela mídia especializada como a “Netflix de TI”. (Saiba mais)

Encontre a vaga ideal

A Bee Hunter é uma plataforma inteligente que utiliza tecnologia e IA para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. A ferramenta cruza currículos com vagas disponíveis e indica a melhor oportunidade em emprego para você. Ela ainda sugere cursos disponíveis na Fenati Academy para te ajudar a ficar mais perto do emprego que você está buscando. (Saiba mais)

Baixe o aplicativo da Bee Fenati agora na APP STORE (IOS) OU PLAY STORE (ANDROID) e aproveite!

(Com informações de IT Forum)
(Foto: Reprodução/Pexels/Rafael Minguet Delgado)