Pesquisa aponta que 89% dos líderes de TI temem que falhas de GenIA possam impactar estratégias de cibersegurança

Especialistas descobriram quealguns criminosos estão usando a tecnologia para automatizar tarefas rotineiras. (Foto: Freepik)

A Sophos, que desenvolve soluções de segurança que evitam ciberataques, divulgou um novo relatório, intitulado “Beyond the Hype: The Businesses Reality of AI for Cybersecurity”, em que entrevistou 400 líderes de TI sobre o uso de IA na segurança. A pesquisa constatou que, apesar de 65% terem adotado recursos de inteligência artificial generativa (GenAI), 89% dos gestores de TI estão preocupados com o fato de que as falhas nas ferramentas de cibersegurança da GenAI podem colocar suas organizações em risco.

Além disso, de acordo com a nova pesquisa do Sophos X-Ops – “Cybercriminals Still Not Getting on the AI Train (Yet)” – também divulgada recentemente, houve uma leve, mas notável, mudança na forma como os cibercriminosos usam a IA. Depois de investigar diversos fóruns clandestinos, a equipe de especialistas descobriu que, embora ainda haja ceticismo em relação à GenAI, alguns criminosos estão usando a tecnologia para automatizar tarefas rotineiras, como a criação de e-mails em massa e a análise de dados e outros estão incorporando-a em kits de ferramentas de spam e engenharia social.

“Como em muitas outras coisas na vida, o lema em relação às ferramentas de GenAI deve ser ‘confie, mas verifique’. Na verdade, não ensinamos as máquinas a pensar, simplesmente fornecemos a elas o contexto para acelerar o processamento de grandes quantidades de dados”, afirma Chester Wisniewski, diretor de CTO de campo global da Sophos. “O potencial dessas ferramentas para acelerar tarefas de segurança é incrível, mas ainda requer o contexto e a compreensão de seus supervisores humanos para que esse benefício seja posto em prática”, completa o executivo.

Com alguma forma de IA incorporada à infraestrutura de segurança cibernética de 98% das organizações pesquisadas, os líderes de TI expressaram preocupação com o possível excesso de confiança na tecnologia, sendo que 87% dos entrevistados afirmaram apreensão em relação à consequente falta de responsabilidade pela cibersegurança.

A GenAI e a redução de burnout

Organizações de diferentes tamanhos expressaram prioridades distintas para a utilização de GenAI. Enquanto as grandes empresas – aquelas com mais de mil funcionários – estão priorizando a proteção aprimorada, os entrevistados de companhias de 50 a 99 funcionários classificaram a redução do burnout como o principal benefício que eles esperam das ferramentas de GenAI. No entanto, para complicar a situação, em todos os tamanhos de companhias, 84% dos entrevistados disseram se preocupar com a pressão para reduzir o número de profissionais de segurança cibernética devido a expectativas irrealistas sobre a capacidade da IA de substituir os operadores humanos.

Outras descobertas importantes do relatório “Beyond the Hype”:

• Custos da GenAI são difíceis de quantificar: 75% dos líderes de TI concordam que os custos da GenAI em produtos de cibersegurança são difíceis de quantificar;
• Empresas estão contando com a economia da GenAI: embora 80% dos líderes de TI acreditem que a GenAI aumentará significativamente o custo das ferramentas de segurança cibernética, a maioria das organizações acredita que a tecnologia oferece um caminho para reduzir os gastos gerais com cibersegurança, com 87% dos entrevistados acreditando que a economia da GenAI compensará os custos.