blog

Aug 20, 2023

IA generativa: amigo e inimigo da segurança cibernética

Roubar dados pessoais através de um conceito de laptop para hacker de computador, rede

Roubar dados pessoais através de um conceito de laptop para hacker de computador, segurança de rede e segurança eletrônica ... [+] segurança bancária

É claro que a inteligência artificial foi além de uma mera curiosidade do futuro, já que ferramentas de IA generativas como o chatbot ChatGPT da OpenAI, o gerador de imagens DALL-E2 e os companheiros virtuais CarynAI e Replika estão sendo adotados por todos, desde pessoas solitárias envolvidas em relacionamentos amorosos virtuais para pessoas que criam fotos aspiracionais para sua foto de perfil de mídia social. Na frente de negócios, os CEOs visualizam o impacto da IA ​​generativa em suas empresas em áreas tão variadas quanto análise de dados, atendimento ao cliente, organização de viagens, marketing e escrita de código.

No mundo da segurança cibernética, a IA está criando o mesmo burburinho. A RSA Conference é a maior conferência de segurança cibernética do mundo. Realizado em São Francisco em abril, incluiu perspectivas sobre os riscos e benefícios da IA ​​por funcionários do governo da Agência de Segurança Cibernética e Infraestrutura dos EUA (CISA), Agência de Segurança Nacional (NSA) e Administração Nacional de Aeronáutica e Espaço (NASA). e outros. Na mesma conferência, o Google anunciou seu novo Google Cloud Security AI Workbench com tecnologia AI, que aproveita os avanços em modelos de linguagem grande (LLMs). Também na RSA, a SentinelOne anunciou sua plataforma de detecção de ameaças de segurança cibernética baseada em IA com resposta autônoma em toda a empresa que aproveita esses avanços, enquanto a Veracode anunciou o Veracode Fix, que usa IA generativa para recomendar correções para falhas de segurança no código.

SentinelOne Co-fundador e CEO Tomer Weingarten

Tomer Weingarten é cofundador e CEO da SentinelOne, uma empresa líder em segurança cibernética que conta com Hitachi, Samsung e Politico entre seus clientes. Ele explica que a IA generativa pode ajudar a resolver os maiores problemas da segurança cibernética atualmente: complexidade, pois a maioria das pessoas desconhece a metodologia e as ferramentas necessárias para proteger e combater ataques cibernéticos; e a escassez de talentos criada pela alta barreira de entrada causada pela altíssima proficiência necessária para trabalhar na área.

"A IA é superescalável para resolver todos esses problemas e demonstramos a capacidade de deixar de usar linguagens de consulta complexas, operações complexas e engenharia reversa para permitir que até mesmo um analista iniciante use uma IA generativa. algoritmo que pode ser executado automaticamente nos bastidores para traduzir em inglês ou outros idiomas para fornecer insights e aplicar uma ação automatizada para remediar os problemas que surgem", disse Weingarten. "É completamente transformador na forma como você faz segurança cibernética, eliminando a complexidade e permitindo que cada analista seja um superanalista. É quase como se você estivesse dando a eles superpoderes para fazer o que normalmente levaria alguns dias para fazer em segundos. . É um verdadeiro multiplicador de força."

O outro grande problema na segurança cibernética que a IA generativa aborda, de acordo com Weingarten, é o fato de que o setor de segurança cibernética foi construído com produtos discretos e isolados, cada um projetado para lidar com um aspecto específico da defesa cibernética. “A verdadeira ruptura da IA ​​na segurança cibernética vem da agregação de todos esses dados em um repositório central”, disse ele. "E então, quando você aplica seus algoritmos de IA sobre esse data lake, você pode começar a ver correlações compostas entre todos os diferentes elementos que entram na defesa da segurança cibernética hoje. Nesses problemas intensivos de dados, a IA permite que você se torne incrivelmente proficiente em encontrar um agulha num palheiro."

Brian Roche, diretor de produtos da empresa de segurança de aplicativos Veracode

Brian Roche, diretor de produtos da empresa de segurança de aplicativos Veracode, explica o lado malicioso da IA ​​na segurança cibernética. “Os hackers estão usando IA para automatizar ataques, escapar de sistemas de detecção e até mesmo criar malware que pode sofrer mutações em tempo real”, disse Roche. “Além disso, os fóruns da Dark Web já estão cheios de discussões sobre como usar plataformas generativas de IA, como o ChatGPT, para executar ataques de spearphishing e engenharia social”.