Glossário de segurança de IA Agente

A Especificação OpenAPI (OAS) é o padrão global para descrever formalmente APIs RESTful. Ela fornece uma interface agnóstica à linguagem que permite que tanto humanos quanto computadores descubram e compreendam as capacidades de um serviço, incluindo seus endpoints e métodos de autenticação, sem a necessidade de acesso ao código-fonte subjacente.

A proliferação desordenada de APIs é o crescimento não gerenciado e indocumentado de APIs em diversas implementações de IA, ambientes de nuvem, microsserviços e integrações de terceiros. Essa falta de supervisão centralizada cria uma enorme lacuna de visibilidade, dificultando que as equipes de segurança mantenham um inventário preciso ou saibam quais APIs estão acessando dados confidenciais.

A Salt Security é pioneira e líder em segurança de API, oferecendo uma plataforma dedicada para proteger todo o ecossistema de API e a "Camada de Ação de IA Agente". A Salt oferece descoberta panorâmica, governança proativa de postura e proteção contra ameaças baseada em intenção para ajudar as organizações a proteger suas inovações mais críticas durante todo o ciclo de vida da API.

Uma chave de API é uma sequência única de caracteres usada para identificar e autenticar uma aplicação ou utilizador que faz a chamada a uma API.

Embora comum para identificação básica, confiar em chaves de API estáticas como único método de autenticação é um risco de segurança significativo, uma vez que são frequentemente expostas em código do lado do cliente ou intercetadas em trânsito se não forem geridas corretamente.

A consciência de contexto é a capacidade de um sistema de segurança analisar inteligentemente uma solicitação, avaliando o "cenário" circundante. Isso inclui identificar o usuário ou agente, a linha de base comportamental normal e o potencial impacto nos negócios, permitindo que o sistema diferencie entre uma anomalia benigna e uma intenção maliciosa de exfiltrar dados.

Um firewall é um dispositivo de segurança de rede que monitora e filtra o tráfego de entrada e saída com base em um conjunto definido de regras de segurança. Ele atua como uma barreira entre uma rede interna confiável e ambientes externos não confiáveis, como a internet, focando principalmente em bloquear o acesso não autorizado na camada de rede com base em endereços IP e tipos de protocolo.

O Gerenciamento da Postura de Segurança de Aplicações (ASPM) é uma estrutura para orquestrar e gerenciar a segurança de aplicações ao longo de todo o seu ciclo de vida. Ele unifica descobertas de várias ferramentas de teste com dados de configuração de produção para priorizar riscos e garantir que os padrões de segurança sejam aplicados de forma consistente, desde o desenvolvimento até a produção.

Gerenciamento de Informações e Eventos de Segurança (SIEM) é uma solução de software que oferece um centro de comando centralizado para operações de segurança. Ele coleta e analisa dados de log de todo o ambiente de TI para ajudar as equipes de segurança a identificar padrões de atividade suspeita e correlacionar eventos díspares em inteligência de ameaças acionável.

Gestão de Postura de API é o processo proativo de analisar continuamente o panorama de APIs de uma organização para identificar vulnerabilidades antes que sejam exploradas. Isso inclui a detecção de configurações de segurança incorretas, permissões excessivas, credenciais expostas e desvios dos padrões de segurança corporativos ou regulatórios.

IA governança é uma estrutura estratégica de regras e controles projetada para garantir que os sistemas de IA sejam usados de forma responsável, ética e segura. Envolve o cumprimento de requisitos regulatórios, como o Regulamento de IA da UE, utilizando a camada de API como o plano de controle principal para gerenciar a integridade dos dados, a robustez do sistema e a auditabilidade das interações autônomas.

Humano no circuito (HITL) é um mecanismo de supervisão em que um sistema de IA é obrigado a pausar e obter aprovação humana antes de tomar ações de alto risco. Isso garante que, mesmo quando a IA opera na velocidade da máquina, as decisões críticas permaneçam alinhadas com a intenção humana, as políticas de segurança corporativas e as exigências de conformidade regulatória.

IA Agêntica refere-se a agentes de IA autônomos que atuam como "funcionários digitais", utilizando Grandes Modelos de Linguagem (LLMs) para raciocínio e Interfaces de Programação de Aplicações (APIs) para execução. Ao contrário de chatbots simples, a IA agêntica pode improvisar seus próprios fluxos de trabalho e usar ferramentas corporativas para atingir objetivos complexos na velocidade da máquina, exigindo um novo paradigma de segurança focado na "camada de ação" onde esses agentes interagem com os dados.

A IA Multimodal refere-se a modelos de aprendizado de máquina capazes de processar e integrar múltiplos tipos de dados de entrada simultaneamente, incluindo texto, imagens, áudio e vídeo. Isso permite que os sistemas de IA interpretem o contexto de forma mais eficaz e gerem resultados mais nuançados ao raciocinar a partir de diversas fontes de evidência.

MCP Sombra refere-se a servidores do Protocolo de Contexto de Modelo (MCP) não autorizados ou esquecidos que são implantados sem o conhecimento da equipe de segurança. Esses servidores frequentemente existem em repositórios de desenvolvedores privados ou protótipos internos, criando "mãos ocultas" que podem permitir que agentes de IA contornem a governança de segurança formal e acessem dados confidenciais.

O limiar de complexidade é o ponto de inflexão em que um sistema de IA se torna tão intrincado que o seu comportamento já não pode ser totalmente previsto ou rastreado pelos seus criadores humanos. Ultrapassar este limiar pode levar a "capacidades emergentes", tornando essencial que as equipas de segurança implementem auditoria comportamental contínua e análise de intenção para manter o controlo.

O OWASP Top 10 é uma estrutura globalmente reconhecida que identifica os riscos de segurança mais críticos para aplicações web. O "OWASP API Security Top 10" destaca especificamente as falhas mais comuns encontradas em arquiteturas baseadas em API, como Autorização Quebrada em Nível de Objeto (BOLA) e Má Configuração de Segurança, que respondem pela vasta maioria das tentativas de ataque a APIs modernas.

O Protocolo A2A (Agente-para-Agente) é um padrão aberto projetado para a interoperabilidade entre diferentes agentes autônomos. Ele permite que agentes especializados se descubram, deleguem tarefas e colaborem em fluxos de trabalho complexos, utilizando uma estrutura padronizada de comunicação e segurança, muitas vezes aproveitando OAuth e assinaturas digitais para a integridade das mensagens.

O Protocolo de Contexto de Modelo (MCP) é um padrão da indústria emergente que oferece uma forma universal para agentes de IA se conectarem a ferramentas, dados e contexto. Ele funciona como as "mãos" do agente, permitindo que um Modelo de Linguagem Grande (LLM) acesse sistemas empresariais e execute chamadas de API para realizar tarefas específicas para atingir objetivos atribuídos.

A orquestração de IA é a gestão coordenada de múltiplos modelos de IA, agentes autônomos e fontes de dados empresariais para automatizar fluxos de trabalho sofisticados. Ela gerencia o sequenciamento, o tratamento de falhas e o uso de recursos dos sistemas de IA, garantindo que o raciocínio se traduza em execução autorizada e em conformidade em toda a empresa.

No contexto da cibersegurança, a postura de API é o estado proativo de endurecimento do ambiente de API de uma organização. Foca-se na fase de "Governança" da segurança, garantindo que os ativos digitais são configurados de acordo com padrões estabelecidos, que as permissões são limitadas ao mínimo privilégio necessário e que qualquer "desvio" da linha de base de segurança é corrigido.

Postura de segurança refere-se à força e prontidão gerais do estado de segurança coletivo de uma organização. Abrange a configuração da infraestrutura digital, a eficácia dos controles de defesa e a capacidade de detectar, responder e recuperar-se de ameaças em toda a superfície de ataque da empresa.

Recheio de credenciais é um ataque cibernético automatizado no qual agentes de ameaça utilizam grandes listas de nomes de usuário e senhas roubados para tentar fazer login em serviços não relacionados. Este método explora a prática comum de reutilização de senhas, empregando bots para testar milhares de credenciais por minuto e realizar aquisições fraudulentas de contas em múltiplas plataformas.

Segurança de API é um domínio dedicado da cibersegurança focado em descobrir, governar e proteger todo o ecossistema de API de uma organização. Vai além dos controles básicos de gateway para lidar com ataques complexos de "lógica de negócios", identificando quando um usuário autenticado ou agente de IA usa chamadas de API legítimas para realizar ações não autorizadas ou maliciosas.

Segurança MCP envolve proteger o ponto de conexão entre modelos de IA e ferramentas empresariais, fornecido pelo Protocolo de Contexto do Modelo. É necessária segurança especializada aqui para prevenir o "salto de linha", onde a injeção de prompt é usada para enganar um agente a invocar ferramentas não autorizadas, e para garantir que os agentes não possam abusar da sua conectividade para exfiltrar dados sensíveis.

A superfície de ataque é a soma total de todos os pontos de entrada, vulnerabilidades e ativos que um usuário não autorizado poderia explorar para acessar ou exfiltrar dados. Em ambientes corporativos modernos, a proliferação de serviços em nuvem, APIs e agentes de IA autônomos expandiu significativamente essa superfície, muitas vezes além do alcance das ferramentas tradicionais de segurança de perímetro.

Tomada de conta (ATO) é um tipo de roubo de identidade em que um utilizador não autorizado obtém controlo total sobre a conta de um utilizador legítimo. Isto é tipicamente alcançado através de métodos automatizados como o credential stuffing ou explorando falhas de autenticação de API, permitindo ao atacante roubar dados sensíveis ou realizar transações fraudulentas como a vítima.

Uma API sombra é um endpoint não documentado ou não gerenciado que opera fora do conhecimento e da supervisão da equipe de segurança. Frequentemente criadas por desenvolvedores para testes rápidos ou por integrações de terceiros, as APIs sombra criam uma "porta dos fundos" para atacantes porque carecem do monitoramento e das proteções aplicadas às APIs gerenciadas.

Uma Interface de Programação de Aplicações (API) é um conjunto padronizado de regras que permite que diferentes aplicações de software se comuniquem e partilhem dados. As APIs servem como os blocos de construção da arquitetura digital moderna, atuando como os principais condutos que ligam as experiências de utilizador de front-end a serviços e dados de back-end.

Uma Rede de Entrega de Conteúdo (CDN) é uma rede geograficamente distribuída de servidores proxy projetada para armazenar em cache e entregar conteúdo web mais perto dos usuários finais. Ao reduzir a distância física que os dados precisam percorrer, as CDNs melhoram o desempenho e a disponibilidade de sites, ao mesmo tempo que fornecem uma primeira linha de defesa contra ameaças volumétricas, como ataques DDoS.

Um endpoint de API é um local específico, geralmente um URL único, onde uma API recebe solicitações de recursos ou serviços. Ele representa a "porta" digital que um aplicativo deve "bater" para acessar uma função específica, como recuperar um perfil de usuário, processar um pagamento ou conectar um agente de IA a um banco de dados.

Um fluxo de trabalho agêntico é uma série de etapas ou tarefas que um agente de IA improvisa autonomamente para atingir um determinado objetivo. Ao contrário dos fluxos de trabalho de software tradicionais, que seguem caminhos estáticos e predefinidos, os fluxos de trabalho agênticos são dinâmicos e operam na velocidade da máquina, muitas vezes tornando-os invisíveis para ferramentas de monitoramento de segurança legadas que esperam padrões de tráfego previsíveis.

Um gateway de API é um ponto de mediação que se posiciona entre um cliente e uma coleção de serviços de backend. Atua como um controlador de tráfego, executando tarefas operacionais essenciais como roteamento de requisições, aplicação de limites de taxa e tratamento de autenticação básica para garantir que as requisições estejam em conformidade com os esquemas definidos antes de chegarem à infraestrutura interna.

Um sistema multiagente (MAS) é um ambiente onde múltiplos agentes de IA autônomos colaboram e interagem para resolver problemas complexos. Ao atribuir tarefas especializadas a diferentes agentes, como um para recuperação de dados e outro para análise, as arquiteturas MAS oferecem maior resiliência e especialização do que os modelos de agente único.

Uma vulnerabilidade de API é uma falha no design, implementação ou configuração de uma API que pode ser explorada por um adversário. Muitas vulnerabilidades de API têm origem em "lógica falha", onde a API funciona corretamente de acordo com seu código, mas permite acesso não autorizado a dados devido a uma autorização ou tratamento de recursos falhos.