A rápida adoção de inteligência artificial nas empresas, especialmente de aplicações personalizadas, está criando uma nova fronteira de vulnerabilidades que exigirá atenção redobrada dos times de segurança nos próximos anos. De acordo com a consultoria Gartner, até 2028, metade de todos os esforços de resposta a incidentes de cibersegurança nas organizações estará concentrada em problemas envolvendo aplicações de IA desenvolvidas sob medida.

De acordo com a consultoria, a IA está evoluindo rapidamente, mas muitas ferramentas, especialmente as aplicações de IA personalizadas, estão sendo implantadas antes de serem totalmente testadas. Esses sistemas são complexos, dinâmicos e difíceis de proteger ao longo do tempo. A maioria das equipes de segurança ainda não possui processos claros para lidar com incidentes relacionados à IA, o que significa que os problemas podem levar mais tempo para serem resolvidos e exigir muito mais esforço.

A consultoria prevê que, até 2028, mais de 50% das empresas adotarão plataformas especializadas em segurança para IA. Essas ferramentas serão utilizadas tanto para proteger o uso de serviços de IA de terceiros quanto para resguardar as aplicações internas desenvolvidas pelas próprias organizações.

De acordo com a Gartner, essas plataformas oferecem uma forma unificada de gerenciar os novos riscos associados à adoção acelerada da IA, como injeção de prompts maliciosos e uso indevido de dados. “Centralizar a visibilidade e o controle ajuda os CISOs (diretores de segurança da informação) a aplicar políticas de uso, monitorar atividades de IA e estabelecer diretrizes consistentes”, detalha a pesquisa. A recomendação é que os líderes de segurança avaliem essas plataformas para garantir a proteção de ambos os tipos de aplicações.

Outro desafio significativo apontado pelo estudo é a chamada “dívida de dados de IA”. A Gartner estima que, até 2030, um terço de todo o trabalho de TI será gasto na correção de problemas relacionados à qualidade e segurança dos dados que alimentam os sistemas de IA. “Os dados da maioria das organizações não estão prontos para IA”, alerta a consultoria, citando a má segurança e a falta de estruturação como as principais barreiras.

Entre em contato com nossa equipe para uma análise completa de segurança no seu ambiente e sistemas. Conte com o apoio da nossa equipe e parceiros estratégicos!