Empresas correm para usar ferramentas de IA generativas, apesar das preocupações significativas com segurança

• 95% das organizações estão usando ferramentas GenAI de alguma forma
• 89% consideram as ferramentas GenAI um risco potencial à segurança
• 23% dos que usam ferramentas GenAI admitem não ter monitoramento em vigor
• As equipes de TI, e não os funcionários em geral, emergem como a força esmagadora por trás do uso

Uma nova pesquisa da Zscaler, Inc. (NASDAQ: ZS), líder em segurança em nuvem, sugere que as organizações estão sentindo a pressão para apressar o uso de ferramentas de IA generativa (GenAI), apesar de significativas preocupações com segurança. De acordo com sua última pesquisa, “All eyes on securing GenAI”, que ouviu mais de 900 tomadores de decisão de TI de todo o mundo, embora 89% das empresas considerem as ferramentas como o ChatGPT um risco potencial à segurança, 95% já as utilizam de alguma forma em seus negócios.

O dado ainda mais preocupante mostra que 23% deste grupo de usuários não estão monitorando o uso dessas ferramentas e 33% ainda não implementaram quaisquer medidas de segurança adicionais relacionadas à GenAI – embora muitos tenham isso em seus planos. O cenário parece particularmente mais crítico nas empresas com entre 500 e 999 funcionários, onde o mesmo número de organizações utiliza ferramentas GenAI (95%), mas até 94% reconhecem o risco disso.

“As ferramentas GenAI, incluindo ChatGPT e outras, são imensamente promissoras para as empresas em termos de velocidade, inovação e eficiência”, enfatiza Sanjay Kalra, vice-presidente de gerenciamento de produtos da Zscaler. “No entanto, com a atual ambiguidade em torno das suas medidas de segurança, apenas 39% das organizações percebem a sua adoção como uma oportunidade e não como uma ameaça. Isto não só põe em risco a integridade dos seus negócios e dos dados dos clientes, mas também desperdiça o potencial dessas tecnologias.”

No entanto, a pressão de implementação não vem de onde as pessoas imaginam, e os resultados sugerem que a TI tem a capacidade de recuperar o controle da situação. Apesar da consciência geral, não são os funcionários que parecem ser a força motriz por detrás do interesse e da utilização atuais – apenas 5% do universo pesquisado atribui a adoção puxada pelos funcionários. Em vez disso, 59% disseram que o uso estava sendo conduzido diretamente pelas equipes de TI.

“O fato de as equipes de TI estarem no comando deve oferecer uma sensação de tranquilidade aos líderes de negócios”, pontua Kalra. “Isso significa que a liderança tem autoridade para moderar estrategicamente o ritmo de adoção da GenAI e estabelecer um controle sobre sua segurança antes que a sua prevalência dentro da sua organização avance ainda mais. No entanto, é essencial reconhecer que a janela para alcançar essa governança diminui rapidamente."

Com 51% dos entrevistados prevendo um aumento significativo no interesse pelas ferramentas GenAI antes do final do ano, as organizações precisam agir rapidamente para preencher a lacuna entre a utilização e a segurança.

Aqui estão algumas etapas que os líderes empresariais podem seguir para garantir que o uso da GenAI em sua organização seja devidamente protegido:

• Implemente uma arquitetura holística de zero trust para autorizar apenas aplicativos e usuários de IA aprovados.
• Conduza avaliações completas de riscos de segurança para novos aplicativos de IA para compreender e responder claramente às vulnerabilidades.
• Estabeleça um sistema de registro abrangente para rastrear todas as solicitações e respostas de IA.
• Habilite medidas de prevenção contra perda de dados (DLP) baseadas em zero trust para todas as atividades de IA para proteção contra exfiltração de dados.