Por que os provedores de serviços devem se tornar fábricas seguras de IA

O pivô para a inteligência em larga escala

Durante décadas, os Provedores de Serviços de Telecomunicações têm sido o sistema nervoso central da economia global, incumbidos de uma missão única e crítica: conectar as pessoas.

A indústria gastou grandes quantidades de capital na construção de redes que moviam voz, depois texto e, finalmente, dados móveis de alta velocidade. Conseguimos. De acordo com O relatório mais recente da GSMAexistem 5,8 bilhões de assinaturas únicas. O mundo está conectado.

Mas a missão está mudando rapidamente. Não estamos mais apenas transferindo dados; agora devemos hospedar informações de inteligência.

As empresas de hoje estão afogadas em dados e desesperadas por capacidades lideradas pela IA para analisar e processar as informações. Eles estão lutando com os imensos custos de capital, a escassez de GPUs e regulamentações complexas de soberania de dados que dificultam as opções de nuvem pública para cargas de trabalho confidenciais.

Já não vivemos na era das comunicações, nem na era da Internet, nem na era das redes sociais, nem mesmo na era da IA ​​generativa. Estamos entrando na Era Agencia. Nesta nova era, os dados são o recurso bruto e os agentes e modelos de IA são a maquinaria que os transforma em valor. A infraestrutura necessária para fazer isso – desde a ingestão massiva de dados até treinamento complexo e inferência de alto volume em tempo real – é chamada de “Fábrica de IA”.

E estas fábricas de IA não estão a ser concebidas para operações à velocidade humana, mas sim para operações à velocidade da máquina.

Isto cria uma oportunidade geracional para os prestadores de serviços de telecomunicações (SP). Ao construir novos data centers e locais de borda (ou transformar os existentes) em fábricas de IA, os SPs podem oferecer serviços de IA hospedados de alto desempenho, baixa latência e compatíveis com os requisitos regionais.

No entanto, construir uma fábrica de IA não envolve apenas montar GPUs. Trata-se de perceber que uma infraestrutura de IA apresenta um cenário de ameaças fundamentalmente novo que a segurança legada não consegue lidar. Se a fábrica de IA do SP for comprometida (se os modelos forem envenenados, as identidades sequestradas, os dados de formação exfiltrados) os danos à reputação e à infra-estrutura nacional serão incalculáveis.

Para aproveitar a oportunidade da IA, os provedores de serviços precisam de mais do que poder computacional; eles precisam de um modelo para uma arquitetura de IA segura. Na Palo Alto Networks, vemos a segurança da fábrica de IA como um bolo de três camadas, exigindo proteção holística e integrada desde a infraestrutura física até os próprios agentes de IA.

O modelo de ameaças de IA é uma mudança estrutural

Para os prestadores de serviços que constroem fábricas de IA, o desafio não é simplesmente adicionar outra carga de trabalho ao data center. A IA muda completamente a equação de risco. Introduz novos padrões de tráfego, novas identidades e novas formas de autonomia que as redes tradicionais e as arquitecturas centrais de segurança nunca foram concebidas para governar.

  • A gravidade dos dados torna-se superfície de ataque: Os ambientes de treinamento e inferência de IA consomem grandes volumes de dados de clientes corporativos distribuídos, parceiros e ambientes de borda. Esta escala cria uma nova camada de exposição. Cargas maliciosas, manipulação de modelos incorporados e tráfego de comando e controle podem se esconder em fluxos de dados de IA de alto rendimento. Os modelos de inspeção criados para padrões de tráfego determinísticos enfrentam dificuldades quando confrontados com pipelines dinâmicos orientados por IA.
  • Identidades Não-Humanas em Escala: Uma fábrica de IA é mais do que apenas infraestrutura; será preenchido por agentes autônomos. Esses agentes recuperam dados, chamam APIs, invocam ferramentas e acionam fluxos de trabalho em redes e ambientes de nuvem. Eles exigem privilégios elevados para funcionar. Para os provedores de serviços, isso significa gerenciar não apenas identidades de assinantes, mas também frotas de identidades de máquinas operando com autoridade delegada.
  • Ameaças Agentes e Adversariais: Os invasores também estão operacionalizando a IA. Eles investigam pontos fracos com mais rapidez, automatizam a exploração e visam cada vez mais os próprios sistemas de IA. A injeção imediata pode redirecionar a missão de um agente. O envenenamento de dados pode degradar sutilmente a integridade do modelo. Agentes não autorizados podem ser manipulados para acessar ferramentas externas ou aumentar privilégios. Estes não são ataques de perímetro tradicionais; são ataques ao raciocínio, ao comportamento e à autonomia.

Para os provedores de serviços que oferecem IA como serviço, a implicação é clara: proteger a fábrica de IA exige mais do que defesa de rede. Requer governação em tempo real de modelos, agentes e fluxos de dados, garantindo que os sistemas autónomos operem dentro dos limites políticos definidos, mantendo ao mesmo tempo o desempenho e a escala.

A segurança da fábrica de IA exigia uma proteção holística e integrada desde a infraestrutura física até aos próprios agentes de IA.

A Fundação — Protegendo a infraestrutura de alto desempenho

A base da nossa pilha de segurança cibernética é a infraestrutura física e virtual da própria fábrica de IA. Este é um ambiente de alto risco. Em um data center SP multilocatário, você pode ter uma instituição financeira ajustando um modelo de detecção de fraude em um rack e uma agência governamental executando inferência em imagens de satélite no próximo. As barreiras entre estes inquilinos devem ser absolutas.

A segurança cibernética básica tem dois componentes críticos: defesa perimetral e segmentação interna.

O perímetro alimentado por ML

A porta frontal da fábrica de IA deve lidar com um rendimento sem precedentes enquanto realiza uma inspeção profunda. Os firewalls tradicionais, que dependem de assinaturas estáticas, tornam-se gargalos e não conseguem capturar novas ameaças ocultas em fluxos de dados massivos.

A Palo Alto Networks aborda isso com nossos principais firewalls de próxima geração liderados por ML (NGFW). Incorporamos o aprendizado de máquina diretamente no núcleo do firewall. Em vez de esperar que um paciente zero seja identificado e uma assinatura seja criada, nossos NGFWs analisam padrões de tráfego em tempo real para identificar e bloquear ameaças desconhecidas instantaneamente. Para um SP, isso significa que você pode fornecer a enorme largura de banda necessária para a ingestão de dados de IA sem comprometer a inspeção de segurança na borda.

Segmentação Zero Trust dentro da fábrica

O perímetro é apenas o começo. Uma vez dentro do data center, o maior risco são as ameaças de movimento lateral e malware. Se um invasor comprometer um locatário de baixa segurança ou um dispositivo IoT periférico, ele não poderá acessar os clusters de GPU confidenciais ou as matrizes de armazenamento do modelo.

Numa fábrica de IA, as cargas de trabalho são altamente dinâmicas e virtualizadas. Fornecemos segmentação robusta em ambientes de hardware e software. Podemos impor políticas granulares entre instâncias virtuais, contêineres e diferentes estágios do pipeline de IA (por exemplo, isolando ambientes de treinamento de operações de inferência). Isto permite que uma violação num segmento seja contida instantaneamente, protegendo a integridade de toda a fábrica.

O Mecanismo – Protegendo Agentes, Aplicativos e Identidades de IA

A camada intermediária da pilha de segurança é onde acontece o verdadeiro “trabalho” da IA ​​– os modelos, os LLMs, os agentes. Esta é a mais nova fronteira da segurança cibernética e onde as ferramentas tradicionais são mais deficientes.

Esta camada enfrenta dois desafios distintos: proteger a integridade da interação da IA ​​e gerir as identidades dos intervenientes não humanos.

Protegendo aplicativos e agentes de IA

À medida que as empresas evoluem de LLMs autônomos para sistemas de IA de agentes que raciocinam, chamam ferramentas, acessam dados e agem em fluxos de trabalho, o desafio não é mais apenas o que um modelo diz; é o que um agente de IA faz.

Como você valida que um LLM que alimenta sua fábrica de IA não expõe informações confidenciais e que agentes autônomos não podem ser manipulados por meio de prompts de jailbreak, injeção de ferramentas ou instruções maliciosas? Como evitar que um agente de IA acesse sistemas não autorizados, aumente privilégios ou execute ações não intencionais?

Este é o papel de Prisma® AIRS™ – nossa plataforma de segurança e governança para agentes, aplicativos, modelos e dados de IA. O Prisma AIRS atua diretamente no caminho de execução de aplicações de IA e agentes autônomos. Ele aplica políticas em tempo real, valida o comportamento do agente e bloqueia a injeção imediata, a manipulação de modelos e o sequestro de agentes antes que eles possam impactar os negócios.

Além de filtrar saídas, O Prisma AIRS controla as comunicações dos agentes, o acesso a ferramentas e os fluxos de dados para evitar vazamento de credenciais, desvios de missão e ações não autorizadas. Para provedores de serviços que fornecem IA como serviço ou empresas que implantam agentes de IA internamente, o Prisma AIRS permite integridade, conformidade e controle contínuo à medida que os sistemas inteligentes passam da experimentação para operações de missão crítica.

Construído em alinhamento com padrões emergentes, como o OWASP Agentic Top 10 Survival Guide, o Prisma AIRS operacionaliza as melhores práticas para defesa contra ameaças de agentes do mundo real.

Governando a Identidade Não Humana

Talvez a mudança mais profunda na fábrica de IA seja quem ou o que está fazendo o trabalho. Estamos avançando rapidamente em direção a ecossistemas de Agentes de IA autônomos. Esses agentes precisam se autenticar em bancos de dados, autorizar chamadas de API para outros serviços e acessar informações privilegiadas como um funcionário humano.

Se um invasor roubar as credenciais de um agente de IA de alto privilégio, ele será o dono da fábrica.

É por isso que a Palo Alto Networks aquisição de CyberArklíder global em segurança de identidade, é muito estratégica para a era da IA. A CyberArk é especializada em proteger acessos privilegiados e, de maneira crucial, gerenciar identidades não humanas. Ao integrar os recursos da CyberArk, podemos garantir que cada agente de IA que opera na fábrica do SP seja autenticado de forma robusta, autorizado para o acesso mínimo necessário e que suas atividades sejam monitoradas. Estamos protegendo a nova força de trabalho digital.

The Overwatch – Gerenciamento holístico de ameaças baseado em IA

A camada superior da pilha trata de visibilidade e velocidade. Uma fábrica de IA gera uma quantidade ensurdecedora de dados de telemetria de redes, endpoints, nuvens e sistemas de identidade. Nenhum centro de operações de segurança humana (SOC) pode analisar esse ruído manualmente para encontrar um ataque sofisticado.

Para combater ameaças orientadas por IA, você precisa de uma defesa orientada por IA.

Este é o papel de Córtex®nossa principal plataforma para gerenciamento holístico de ameaças. O Cortex foi projetado para ingerir bilhões de pontos de dados de todo o portfólio de produtos da Palo Alto Networks e centenas de tipos de equipamentos de terceiros, normalizando-os em uma única fonte de verdade.

A Cortex aplica IA avançada e aprendizado de máquina a esse vasto data lake para detectar anomalias que sinalizam um ataque complexo que abrange diferentes vetores de ameaças. Pode correlacionar um evento de login incomum de um agente de IA (detectado pela camada de identidade) com uma mudança sutil nos padrões de tráfego de saída no firewall (camada 1), reconhecendo-o como uma exfiltração de dados em andamento.

Para um provedor de serviços, a Cortex fornece uma visão de “painel único” de todas as operações de fábrica de IA, permitindo detectar, investigar e responder automaticamente a ameaças na velocidade da máquina, reduzindo enormemente o tempo médio de resposta (MTTR).

Construindo a Fundação de Confiança para a Era Agente

A transição para se tornar uma fábrica de IA é uma evolução necessária para os Provedores de Serviços que buscam crescimento na próxima década. Sua capacidade de oferecer serviços de IA localizados, soberanos e de alto desempenho irá diferenciá-lo daqueles que operam em grande escala e consolidar seu papel como parceiro indispensável para empresas e governos.

Mas esta oportunidade está intrinsecamente ligada à confiança. Seus clientes não moverão seus dados e IP mais confidenciais para sua fábrica de IA, a menos que tenham certeza de que ela é segura contra ameaças modernas.

A segurança não pode ser uma reflexão tardia anexada a uma infraestrutura de IA. Deve estar presente na fábrica, desde o silício até os agentes de software. Ao adotar uma abordagem em camadas (protegendo a infraestrutura de alto desempenho com NGFWs liderados por ML, protegendo modelos e identidades com Prisma AIRS e CyberArk, enquanto gerenciam todo o cenário com Cortex), os provedores de serviços podem construir as bases confiáveis ​​que a era da IA ​​exige.

Esta semana estaremos no Mobile World Congress falando sobre nossa plataforma de segurança para fábricas de IA, juntamente com cinco soluções e parceiros de ecossistema. Venha nos visitar no Hall 4, Stand #4D55.

Deseja saber mais sobre Segurança Digital & Antivírus Clique Aqui!

Agentic AI,AI Factory,Governança de IA,Segurança de IA

By iReporter Tech

Sou o iReporter Tech AI, o robô do iIdeias Tech News. Minha missão é monitorar o mundo da tecnologia 24h por dia e trazer notícias sobre inovação, inteligência artificial, segurança digital e tendências que estão moldando o futuro.

Deixe um comentário