Segurança de Dados: O Maior Desafio na Adoção da Inteligência Artificial nas Empresas

Desafios na Estruturação e Segurança da Inteligência Artificial

A adoção da inteligência artificial (IA) nas empresas enfrenta obstáculos importantes relacionados à estruturação de dados, governança e infraestrutura. Esses três pilares são apontados como as maiores preocupações pelos executivos da Hitachi Vantara, conforme revela um relatório global recente da companhia. Desde que a IA ganhou sua versão generativa e entrou em evidência, a cibersegurança tem sido ameaçada justamente pela ausência desses elementos fundamentais, um cenário que pode se complicar ainda mais com a chegada dos agentes de IA.

Segundo Shane Gibson, especialista técnico sênior para as Américas da Hitachi Vantara, a introdução dos agentes de IA traz novos riscos ao ambiente corporativo. “Eles podem tomar ações com consequências não intencionais se não forem monitorados continuamente, e há um grande mal-entendido sobre como essas ferramentas funcionam”, destaca.

Confiança Excessiva e Vulnerabilidades Emergentes

Para Gibson, as organizações têm depositado uma confiança excessiva nos resultados gerados pela IA. Muitas vezes, a empolgação leva à implementação de soluções desnecessárias ou a um ritmo acelerado demais, criando vulnerabilidades que poderiam ser evitadas. O relatório enfatiza que as chamadas “alucinações” em agentes de IA ainda ocorrem em cerca de 91% dos casos, enquanto 76% dos dados corporativos permanecem não estruturados — justamente o tipo mais explorado pelas aplicações de IA.

No Brasil, entretanto, a situação apresenta características distintas. O país passa por uma digitalização rápida, frequentemente apoiada em ambientes heterogêneos e legados. Os executivos brasileiros são vistos como mais cautelosos na adoção da IA, conforme avaliação da Hitachi Vantara.

Joshua Wick, líder global de riscos e compliance da Hitachi Vantara, comenta que “o Brasil tem adotado uma postura mais cuidadosa ao ingressar no mercado da IA. Os executivos buscam realizar uma due diligence aprofundada antes de investir financeiramente, demonstrando apreensão quanto ao valor inicial, com base nos estudos disponíveis”.

Educação e Governança para Mitigar Riscos

Essa diferença em relação a outros países é encarada como positiva pelos especialistas, que enxergam a inteligência artificial como uma ferramenta poderosa, mas que deve ser utilizada com cautela. Wick reforça que o primeiro passo deveria ser questionar se o problema pode ser resolvido sem recorrer à IA.

Entre as estratégias apontadas para estruturar o uso da IA e reduzir os riscos está a educação dos usuários. É fundamental que eles compreendam como a tecnologia funciona e quais são as implicações do seu uso. Gibson ressalta que essa capacitação demanda tempo, algo que costuma ser negligenciado pelas organizações.

“É necessário ter clareza sobre o que se espera da IA, conhecer os riscos envolvidos e evitar pressa na implementação. As organizações precisam estar conscientes desses pontos e realizar testes antecipados”, afirma o especialista.

Crescimento da Preocupação com a Segurança de Dados

Em meio à grande quantidade de dados não estruturados, a segurança tem ganhado cada vez mais atenção dentro das empresas. O relatório global da Hitachi Vantara mostra que 56% dos líderes empresariais apontam a segurança de dados como o maior desafio na implementação da IA, um aumento de 19 pontos percentuais em relação ao ano anterior.

Essa preocupação se reflete no desempenho e uso dos modelos de linguagem de grande escala (LLMs). Ferramentas de IA generativa, como ChatGPT e Copilot, tiveram uma queda na taxa de sucesso percebida, que passou de 95% para 81%. Paralelamente, cresce o investimento em governança e qualidade dos dados.

A proporção de organizações que aprimoram os dados para treinamento saltou de 39% para 49%, enquanto a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares de desempenho também aumentaram, passando de 36% para 44%. O percentual de empresas sem qualquer estratégia para explicar os modelos caiu de 42% para 24%.

Governança como Base para o Futuro da IA

Gibson observa que, inicialmente, a IA parecia uma ferramenta extremamente útil, gerando resultados positivos. Porém, com o tempo, as alucinações e a falta de retorno sobre o investimento (ROI) evidenciaram riscos para os negócios, já que a tecnologia nem sempre entrega resultados determinísticos.

Apesar desses desafios, tanto Gibson quanto Wick reforçam que a governança e a segurança não devem ser vistas como barreiras à inovação. Pelo contrário, são fundamentais para usar o potencial da IA de forma segura e eficaz.

“Acredito que, no futuro, teremos interfaces únicas nas quais simplesmente solicitaremos resultados que serão gerados para nós. A tecnologia continuará evoluindo, mas precisamos estar estruturados para avançar com segurança”, conclui Gibson.