Entenda o impacto do uso de IA generativa em ataques cibernéticos

Helena Motta
4 de novembro de 2025

O avanço da IA generativa transformou profundamente a maneira como empresas operam, criam e se protegem. O que começou como uma revolução em produtividade e inovação também se tornou um novo vetor de risco no cenário de cibersegurança. Os atacantes estão agora usando IA generativa para automatizar, escalar e sofisticar ataques, tornando-os mais convincentes e difíceis de detectar . 


Segundo um relatório da Gartner de 2025, ataques direcionados a infraestruturas de IA cresceram significativamente. Se reflete assim uma tendência alarmante: 62% das organizações sofreram ataques de deepfake envolvendo engenharia social, e 29% relataram incidentes contra sua infraestrutura de IA corporativa. 


Neste artigo explicaremos como a IA generativa está sendo usada em ataques cibernéticos, quais são os impactos para as organizações e quais medidas práticas podem ser adotadas para mitigar esses riscos. 

Porque a IA Generativa muda o jogo para ciberataques 

Como já sabemos, a IA generativa é um ramo da inteligência artificial capaz de criar novos conteúdos (como textos, imagens, vídeos e áudios cada vez mais realistas) a partir de grandes volumes de dados. Embora traga benefícios inegáveis para negócios e inovação, essa tecnologia também oferece novas ferramentas aos cibercriminosos. 


Através dela é possível automatizar tarefas de ataque, reduzir custos e criar conteúdos falsos altamente convincentes, incluindo deepfakes usados em fraudes e golpes de engenharia social. O relatório da Gartner revela que 62% das organizações já enfrentaram ataques com deepfakes, enquanto 32% relataram tentativas de exploração contra sistemas de biometria de voz e 30% contra sistemas de reconhecimento facial. 


Segundo a Fortinet em artigo publicado no início de 2025, a IA está democratizando o acesso ao cibercrime ao permitir que indivíduos com pouca ou nenhuma experiência em programação criem códigos maliciosos com mínimo esforço. A tecnologia também alimenta o crescimento do ecossistema de “Cibercrime como Serviço” (CaaS), no qual criminosos vendem ou alugam ferramentas, modelos e até serviços de deepfake. 

Principais vetores de ataque que utilizam IA generativa 

Os ciberataques impulsionados por IA generativa exploram diferentes vetores, que já foram inclusive detalhados em nosso blog: 


1.  Engenharia social e  phishing aprimorado:   A Darktrace observou um aumento de 135% em novos ataques de engenharia social nos primeiros meses de 2023, coincidindo com a popularização de ferramentas como o ChatGPT. Esses ataques são mais sofisticados, personalizados e difíceis de reconhecer. 


2. Deepfakes e fraude de identidade: Vozes, rostos e vídeos falsos são usados para se passar por executivos, clientes ou parceiros de confiança, facilitando fraudes financeiras e manipulações internas. 


3. Ataques à infraestrutura de IA: Modelos de IA e LLMs (grandes modelos de linguagem) são alvos diretos de manipulação de prompts, injeção de código e exploração de APIs. O Protocolo de Contexto de Modelo (MCP), por exemplo, criado para conectar agentes de IA a dados corporativos, ampliou a superfície de ataque ao permitir acesso mais profundo a sistemas internos. 


4. Automação e escala de ataques:   A IA reduz drasticamente os custos e o tempo necessários para lançar campanhas maliciosas em grande volume. 


5. Exploração de assistentes corporativos:  A Gartner identificou que assistentes de IA corporativos já se tornaram um dos principais alvos de ataques, com 32% das empresas relatando exploração de prompts de aplicativos de IA. 


Impactos para as organizações 

Os efeitos do uso de IA generativa em ataques cibernéticos são amplos e atingem desde a reputação até a estrutura operacional das empresas. Riscos reputacionais surgem quando deepfakes ou campanhas de desinformação afetam a credibilidade de uma marca. Riscos financeiros incluem fraudes, roubo de identidade e custos elevados de remediação. Além disso, há impactos operacionais diretos: os modelos de IA são agora parte essencial das infraestruturas empresariais. Quando comprometidos, afetam fluxos de dados, decisões automatizadas e até processos críticos. 


O relatório da Gartner aponta que 67% dos líderes de segurança acreditam que os riscos emergentes da IA generativa exigem mudanças significativas nas estratégias atuais de defesa . Isso porque a adoção dessas tecnologias aumenta a superfície de ataque, exigindo que empresas protejam não apenas o uso da IA, mas também o modelo em si e os dados que o alimentam. 


De acordo com pesquisa recente da Darktrace, 89% das equipes de segurança acreditam que as ameaças aprimoradas por IA terão impacto significativo em suas organizações nos próximos dois anos, mas 60% admitem não estar preparadas para enfrentá-las. 

Por que as abordagens tradicionais de cibersegurança não são mais suficientes 

O modelo tradicional de cibersegurança, baseado em “detectar e responder”, está se mostrando insuficiente diante da automação e adaptabilidade trazidas pela IA generativa. A própria Gartner destaca que a segurança reativa (DR-based cybersecurity) não será mais suficiente. 


Os atacantes agora conseguem automatizar, aprender e adaptar suas estratégias em tempo real, o que exige das organizações defesas preditivas e antecipatórias. Além disso, os líderes de segurança precisam proteger não apenas usuários e dispositivos, mas também os modelos de IA, fluxos de dados e APIs corporativas, prevenindo que agentes maliciosos manipulem informações ou utilizem os sistemas de IA como ponto de entrada. 


A implementação de controles de tempo de execução, governança de acesso e descoberta de agentes de IA não autorizados é altamente recomendada, justamente porque a maioria das falhas de segurança nesses modelos ocorre por falhas de controle de acesso. 

Boas práticas para mitigar o impacto e se preparar 

Levando em consideração todos esses desafios que surgem para as equipes de TI, as empresas precisam evoluir de uma postura reativa para uma estratégia proativa de segurança cibernética. Entre as medidas essenciais estão: 


  • Fortalecer os controles básicos de segurança, incluindo autenticação multifator e segregação de privilégios. 
  • Proteger modelos de IA corporativos, validando entradas e saídas, monitorando o uso de APIs e garantindo higienização de prompts. 
  • Treinar colaboradores para reconhecer ataques de engenharia social e deepfakes, reduzindo o risco de vazamentos acidentais. 
  • Implementar monitoramento de comportamento anômalo, detectando acessos suspeitos, uso de voz falsificada e padrões fora da norma. 
  • Adotar IA defensiva/preditiva, focando em “pre-emptive cybersecurity”, com capacidade de antecipar ameaças antes que ocorram. 
  • Criar políticas de governança de IA, definindo claramente os usos permitidos, limites e auditorias de segurança para modelos generativos. 
  • Realizar simulações de ataque (red teaming) com IA generativa para mapear vulnerabilidades. 


Essas ações combinadas ajudam a reduzir a exposição e aumentam a resiliência das empresas frente a ameaças cada vez mais dinâmicas. 

Conclusão

A IA generativa representa uma mudança estrutural no panorama da cibersegurança. Ao mesmo tempo que acelera a inovação, também amplia e sofistica a capacidade dos atacantes. O relatório já citado da Gartner inclusive mostra que 29% das organizações já sofreram ataques à infraestrutura de IA e que os deepfakes estão entre as principais ferramentas de fraude digital. 


Proteger-se nesse novo cenário exige revisão contínua dos controles de segurança, proteção de modelos e dados, e capacitação constante das equipes. Empresas que desejam se antecipar às ameaças devem investir em monitoramento inteligente, governança de IA e estratégias preemptivas de defesa já que essas estratégias se tornaram pilares centrais de uma nova era de cibersegurança. 


À medida que a IA generativa continua evoluindo, os ataques também evoluirão. A vigilância e a adaptação contínua serão, mais do que nunca, a chave para manter as organizações seguras em um mundo movido por algoritmos. 

Pontos cegos no SaaS: o perigo silencioso das integrações e APIs sem monitoramento

Por Helena Motta • 16 de setembro de 2026
Uma aplicação SaaS pode estar homologada pela empresa, ter autenticação multifator habilitada, usuários devidamente cadastrados e um fornecedor com boas práticas de segurança. Ainda assim, pode existir um caminho para dados críticos que a equipe de segurança simplesmente não está enxergando. Esse caminho pode ter começado de maneira bastante legítima: alguém conectou uma ferramenta ao CRM para automatizar uma tarefa. Outro time autorizou um aplicativo a acessar arquivos corporativos. Uma integração via API foi criada para um projeto que terminou meses atrás. Uma conta de serviço ganhou permissões temporárias que nunca foram removidas. Nada disso parece particularmente alarmante quando observado isoladamente, o problema aparece quando essas conexões se acumulam. O SaaS tornou mais simples contratar aplicações, integrar plataformas e automatizar processos. Essa agilidade é uma das razões de sua adoção, mas também fragmentou a superfície que TI e Segurança precisam acompanhar. Hoje, proteger o ambiente não significa apenas saber quais aplicações a empresa utiliza. É necessário entender como elas se conectam, quais dados circulam entre elas e o que cada conexão está autorizada a fazer .

A industrialização do cibercrime: como o Ransomware-as-a-Service transformou hackers em empresas estruturadas

Por Helena Motta • 2 de setembro de 2026
Quando pensamos em ransomware, ainda é comum imaginar um hacker trabalhando sozinho, desenvolvendo um malware e procurando uma empresa vulnerável para atacar. Porém, essa imagem está cada vez mais distante da realidade. Hoje, muitas operações de ransomware fazem parte de um ecossistema estruturado, com desenvolvedores, operadores, afiliados, fornecedores de acesso, infraestrutura própria e modelos de divisão de receita. A Fortinet descreve essa evolução como uma industrialização do cibercrime , marcada por especialização de funções, automação e estruturas capazes de transformar acessos comprometidos em lucro de forma cada vez mais eficiente. Um dos principais responsáveis por essa transformação é o Ransomware-as-a-Service (RaaS) . Mais do que uma nova maneira de distribuir malware, o RaaS criou um modelo no qual diferentes criminosos podem participar de partes específicas de uma operação sem precisar dominar todo o processo de ataque.

Vulnerabilidade no uso de IA: o que o incidente da OpenAI revela sobre pentest e segurança corporativa

Por Helena Motta • 5 de agosto de 2026
A discussão recente sobre inteligência artificial e cibersegurança esteve concentrada por muito tempo em uma pergunta: a IA será capaz de realizar um ataque cibernético? O episódio envolvendo a OpenAI e a Hugging Face mostra que essa pergunta já não é suficiente. Em julho de 2026, a OpenAI informou que agentes de inteligência artificial utilizados em uma avaliação interna conseguiram explorar vulnerabilidades, sair de um ambiente de testes isolado, obter acesso à internet e comprometer parte da infraestrutura da Hugging Face. A própria empresa classificou o caso como um incidente cibernético sem precedentes. A própria OpenAI classificou o episódio como um  incidente cibernético sem precedentes , expressão que também ganhou destaque na cobertura da UOL/AFP sobre o caso. O caso não significa que uma IA tenha desenvolvido consciência, intenção própria ou vontade de atacar uma organização. Os agentes estavam orientados a alcançar um objetivo definido durante um teste de capacidade cibernética. O problema é que, para cumprir essa tarefa, encontraram caminhos que ultrapassaram os limites esperados pelos pesquisadores. Essa diferença é importante. O risco não está em uma máquina “decidir se rebelar”, como algumas interpretações sugerem. Está na capacidade de sistemas autônomos encontrarem meios inesperados para atingir uma meta, especialmente quando possuem acesso a ferramentas, credenciais, ambientes corporativos e recursos computacionais. Para as empresas, o incidente deixa dois alertas. O primeiro está relacionado ao avanço do pentest com inteligência artificial. O segundo envolve a governança dos agentes de IA que já começam a fazer parte das operações corporativas. O episódio também ganhou repercussão internacional por mostrar que capacidades antes observadas principalmente em avaliações controladas já podem produzir consequências em infraestruturas reais. A cobertura da BBC News Brasil sobre o incidente ajuda a contextualizar por que o caso ampliou o debate sobre autonomia, limites operacionais e governança de agentes de IA.

Gestão de vulnerabilidades: por que corrigir as falhas críticas nem sempre é a melhor prioridade

Por Helena Motta • 1 de julho de 2026
Durante muito tempo, a gestão de vulnerabilidades seguiu uma lógica relativamente simples: identificar falhas, classificá-las por criticidade e iniciar a correção a partir das mais graves. Essa abordagem ainda tem valor, mas já não responde sozinha à complexidade do cenário atual. Hoje, as empresas lidam com ambientes cada vez mais distribuídos, ativos em nuvem, sistemas legados, aplicações de terceiros, APIs, bibliotecas open sourc e e uma superfície de ataque em constante expansão. Em paralelo, atacantes passaram a explorar falhas com mais velocidade, enquanto as equipes de segurança precisam lidar com volumes cada vez maiores de alertas, correções e decisões. Esse cenário torna a gestão de vulnerabilidades menos linear. A criticidade continua sendo um indicador importante, mas não deve ser o único critério para definir prioridade. Em muitos casos, uma vulnerabilidade considerada média pode representar mais risco para o negócio do que uma falha crítica, dependendo de onde ela está, do ativo afetado e da possibilidade real de exploração.

As 6 etapas da segurança em IA generativa: como proteger sua empresa durante toda a jornada de adoção

Por Helena Motta • 16 de junho de 2026
Seja na automação de tarefas, na análise de dados, no desenvolvimento de software ou no atendimento ao cliente, a adoção das ferramentas que utilizam inteligência artificial generativa cresce em um ritmo que poucas tecnologias conseguiram alcançar. O problema é que a velocidade da adoção nem sempre vem acompanhada da mesma maturidade em segurança. Enquanto as organizações buscam ganhos de produtividade e eficiência, novas preocupações surgem. Informações confidenciais sendo inseridas em ferramentas públicas, falta de visibilidade sobre o uso da tecnologia, vulnerabilidades em aplicações baseadas em IA e desafios de governança são apenas alguns exemplos. Durante o webinar "Cibersegurança aplicada à adoção de IA pelas empresas", realizado pela Contacta em parceria com a Check Point, foi apresentado um modelo que ajuda a entender onde estão os principais riscos e como criar uma estratégia de proteção mais abrangente.  A proposta é simples: segurança em IA não deve ser tratada como um único controle ou ferramenta. Ela precisa acompanhar toda a jornada da inteligência artificial dentro da organização.

Human in the Loop: por que o fator humano continua essencial na segurança e governança de IA

Por Helena Motta • 20 de maio de 2026
A inteligência artificial deixou de ser um tema restrito à inovação ou a projetos experimentais. Hoje, ela já está presente na rotina de muitas empresas, apoiando atividades como análise de dados, automação de processos, produtividade, atendimento e segurança. Na prática, isso significa que a IA deixou de ser apenas uma ferramenta de apoio e passou a influenciar decisões operacionais e estratégicas. Em áreas de segurança, por exemplo, ela já é utilizada para correlacionar eventos, identificar comportamentos anômalos, acelerar triagens e ajudar equipes a priorizarem riscos. Esse avanço traz ganhos importantes de escala e velocidade. Mas, ao mesmo tempo, amplia uma discussão que se tornou cada vez mais relevante para áreas de TI, segurança e governança: até que ponto decisões críticas podem ser automatizadas sem supervisão humana? À medida que a IA passa a atuar em processos mais sensíveis, a questão deixa de ser apenas adoção. Ela passa a envolver controle, contexto e responsabilidade. É nesse cenário que o conceito de Human in the Loop (HITL) ganha relevância.

DNS: o ponto cego da segurança que está expondo empresas

Por Helena Motta • 28 de abril de 2026
Você tem firewall . Tem antivírus. Tem SIEM . Sente que sua empresa está protegida, mas essa sensação pode ser exatamente o maior risco que você corre hoje. Existe um protocolo que opera silenciosamente em 100% dos dispositivos da sua rede, que raramente é inspecionado em profundidade pelas soluções de segurança convencionais, e que está sendo explorado ativamente por atacantes para roubar dados, instalar malware e estabelecer canais de controle remoto. Esse protocolo é o DNS (Domain Name System) . Neste artigo, vamos mostrar por que o DNS se tornou o novo campo de batalha da cibersegurança, quais ameaças ele esconde e o que os dados reais de empresas brasileiras revelam sobre esse problema.

Threat Intelligence aplicada: como usar inteligência de ameaças para reduzir impacto operacional

Por Helena Motta • 2 de abril de 2026
O aumento gradual da superfície de ataque, impulsionado pela adoção de cloud , APIs e ambientes híbridos, mudou a forma como as organizações precisam lidar com segurança. Não basta mais reagir a incidentes: é necessário antecipar movimentos de adversários e entender como eles operam. É nesse contexto que a Threat Intelligence ganha relevância. Mais do que coletar dados sobre ataques, trata-se de transformar informações em decisões estratégicas e operacionais. Empresas que adotam essa abordagem conseguem reduzir o tempo de resposta, priorizar melhor seus investimentos e evitar impactos significativos no negócio. Segundo a Recorded Future , o uso de Threat Intelligence permite “identificar, contextualizar e antecipar ameaças antes que elas impactem a organização”, tornando a segurança mais orientada por dados reais de ataque.
Observabilidade em APIs: o que monitorar para evitar falhas e ataques

Observabilidade em APIs: o que monitorar para evitar falhas e ataques

Por Helena Motta • 17 de março de 2026
As APIs deixaram de ser meros conectores entre sistemas para se tornarem componentes centrais das operações digitais modernas . Elas permitem que aplicações, serviços em nuvem e microserviços funcionem de forma integrada, sustentando desde transações financeiras até plataformas de consumo de dados em larga escala. Com essa importância, surge também um novo nível de exposição: falhas silenciosas ou ataques direcionados podem comprometer sistemas inteiros se não houver monitoramento adequado. A observabilidade em APIs surge como uma estratégia essencial para evitar falhas operacionais e reduzir riscos de segurança . Diferente do monitoramento tradicional, que se limita a acompanhar métricas pré-definidas, a observabilidade busca entender o estado interno do sistema a partir dos dados que ele gera, permitindo diagnósticos mais precisos e respostas mais rápidas.

Maturidade em Cloud Security: por que entender onde sua empresa está virou prioridade estratégica

Por Helena Motta • 4 de março de 2026
A computação em nuvem deixou de ser apenas uma escolha tecnológica para se tornar a base operacional de muitas organizações. Aplicações críticas, bases de dados sensíveis e processos estratégicos hoje dependem de ambientes IaaS, PaaS e SaaS altamente distribuídos. Esse movimento ampliou a agilidade dos negócios, mas também expandiu significativamente a superfície de ataque. Em paralelo, relatórios recentes de grandes players como a Crowdstrike mostram que adversários estão cada vez mais focados em explorar ambientes cloud, especialmente por meio de credenciais comprometidas e falhas de configuração. Diante desse cenário, maturidade em Cloud Security passa a ser um tema estratégico. Não se trata apenas de possuir ferramentas de segurança, mas de entender o nível real de preparo da organização para prevenir, detectar e responder a ameaças em um ambiente dinâmico e descentralizado.