Regras fixas perdem espaço para controles adaptáveis nos modelos

Editado por Alex Sabino (interino), espaço cobre os bastidores da economia e de negócios. Com Luana Franzão e Maria Clara Guilherme

Recurso exclusivo para assinantes

assine ou faça login

benefício do assinante

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

benefício do assinante

Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.

Salvar para ler depois

Recurso exclusivo para assinantes

assine ou faça login

Painel S.A. Receba no seu email as informações exclusivas da coluna Painel S.A.

O investimento em governança, observabilidade e cibersegurança deve triplicar até 2029, segundo estudo apresentado pela NTT Data. A empresa atribui esse crescimento à expansão do uso de IA (inteligência artificial) nas empresas, que amplia riscos de segurança e a necessidade de controle sobre os processos.

Conforme a consultoria, o mercado de cibersegurança cresce de 12% a 15% ao ano no mundo. Dentro desse segmento, a NTT Data identifica a categoria de segurança para IA como um novo impulsionador, que também amplia investimentos em segurança de nuvem e de identidade.

O estudo foi explicado na 8ª edição do evento Future Uncovered, em São Paulo, por Daniela Griecco, chefe do segmento digital e analítico, e Fernando Galdino, diretor de consultoria em cibersegurança da NTT Data Brasil.

A empresa descreve uma mudança no padrão das vulnerabilidades exploradas por atacantes: nos últimos 20 anos, o principal vetor de ataque era a obtenção de credenciais e identidades de acesso; agora, passa a ser a exploração de falhas de software, identificadas por modelos de IA de fronteira.

Na avaliação da companhia, não se trata mais de saber se uma empresa será atacada, mas quando e em qual velocidade.

A consultoria observa que empresas com maior maturidade em governança e segurança conseguem reduzir as perdas materiais em casos de violação de dados, e que o tempo entre a detecção de uma vulnerabilidade e sua exploração diminuiu, com indícios de casos medidos em segundos, dependendo do tipo de falha.

A rastreabilidade dos dados e do fluxo de informações foi apontada pelos palestrantes como central para o combate a ataques, junto da explicabilidade dos modelos (capacidade de auditar o que uma IA faz e por que chegou a determinada decisão).

Segundo a NTT Data, os guardrails de segurança precisam ser navegáveis e passíveis de alteração, já que regras fixas não acompanham a evolução dos modelos. A observabilidade dos fluxos de trabalho de IA é citada como um dos mercados que pode registrar o crescimento mais acentuado dentro do setor de segurança.

A consultoria também descreve uma mudança na lógica da governança aplicada à IA: de um modelo determinístico —baseado em regras de acesso permitido ou não— para um modelo probabilístico, associado a níveis de confiabilidade de cada resposta gerada por modelos de IA.

Nesse contexto, argumenta a empresa, a reputação da fonte de uma informação passa a ganhar peso equivalente ao da verificação do conteúdo em si.