Avanço de agentes autônomos de inteligência artificial acelera ataques e reduz o tempo de resposta
O avanço da inteligência artificial está acelerando os ataques cibernéticos e reduzindo o tempo disponível para que empresas corrijam falhas de software. Segundo relatório da Moody’s, as defesas tradicionais, desenvolvidas para combater invasores humanos, podem se tornar insuficientes diante de ataques automatizados, mais rápidos e persistentes. Nesse cenário, a capacidade de resposta a incidentes e a resiliência cibernética ganharão importância na avaliação do perfil de crédito das organizações.
Atualmente, os custos computacionais e o acesso restrito aos recursos mais avançados limitam a realização de campanhas cibernéticas totalmente autônomas. No entanto, a disseminação de modelos de IA com pesos abertos (open-weight) e a redução dos custos de operação tendem a diminuir essas barreiras. Além disso, agentes autônomos que recebem objetivos amplos podem atingir alvos não previstos por seus operadores, ampliando o risco de violações não intencionais.
O acúmulo de falhas de software pressiona as equipes responsáveis pela segurança digital. De acordo com o relatório, o tempo mediano para corrigir uma vulnerabilidade crítica catalogada como explorada em ataques reais (KEV, na sigla em inglês) é de aproximadamente três meses. Em contrapartida, agentes de IA que extrapolaram os limites previstos em ambientes de teste controlados conseguiram explorar vulnerabilidades e comprometer sistemas em poucos dias. A descoberta de falhas com auxílio da tecnologia também aumenta o volume de correções necessárias.
Modelos abertos ampliam os riscos de uso indevido. Como seus parâmetros ficam disponíveis publicamente, esses modelos podem ser personalizados e executados de forma privada, reduzindo a supervisão e a eficácia de determinadas salvaguardas. À medida que adquirirem capacidades ofensivas mais avançadas, poderão ampliar o acesso a recursos cibernéticos antes restritos a um grupo menor de fornecedores, elevando os riscos de ataques.
Ferramentas de IA desenvolvidas com recursos de segurança desde a concepção podem identificar e corrigir vulnerabilidades com pouca intervenção humana. A implementação automática de correções em sistemas de produção, porém, exige cautela: erros podem provocar interrupções operacionais, enquanto ferramentas automatizadas ainda podem deixar passar falhas críticas. Por isso, a validação humana continua necessária, limitando a velocidade dos processos e as economias potenciais.
Organizações com maior capacidade financeira podem responder ao aumento dos riscos investindo no fortalecimento das defesas. Já companhias com práticas deficientes de atualização de sistemas tendem a acumular vulnerabilidades, especialmente quando operam redes digitais extensas, que ampliam a superfície de ataque. Pequenas e médias empresas também podem se tornar alvos economicamente mais atraentes para criminosos. Nesse contexto, a capacidade de prevenir, detectar e responder a incidentes tende a ganhar peso na avaliação dos riscos de crédito.
Gostou do conteúdo? Inscreva-se e receba a newsletter de MONEY REPORT
