Galileo lança Agent Control, uma plataforma de proteção centralizada para agentes corporativos de IA

Galileuuma empresa conhecida por sua observabilidade de IA e tecnologia de guarda-corpos, divulgou na quarta-feira Controle de Agenteum plano de controle de código aberto projetado para ajudar as empresas a administrar agentes de IA em grande escala.

A plataforma permite que as organizações escrevam políticas comportamentais uma vez e as apliquem em todas as implantações de agentes.

AWS, CrewAI e Glean estarão entre os primeiros parceiros a oferecer o Agent Control. Isto dará aos seus clientes acesso a estruturas de governança centralizadas para gerenciar o comportamento dos agentes na produção.

Certamente há um mercado crescente para esta tecnologia. De acordo com IDC, espera-se que o uso de agentes de IA entre organizações Global 2000 aumente dez vezes até 2027. Isso, por sua vez, significa que os volumes de chamadas de token e API aumentarão por um fator de 1.000.

Lei Timdiretor de pesquisa de IA e automação da IDC, disse em um comunicado à imprensa sobre a notícia: “O gerenciamento centralizado de políticas pode ajudar as organizações a gerenciar os comportamentos dos agentes de IA. Um plano de controle unificado e uma governança centralizada podem ajudar a implantar agentes de IA em escala, garantindo ao mesmo tempo a melhoria contínua por meio da avaliação e do gerenciamento do ciclo de vida”.

O que o Agent Control traz para a mesa é uma forma padronizada para as empresas aplicarem proteções entre agentes, permitindo:

• Uma camada de política centralizada para impor a governança e bloquear comportamentos inseguros em tempo de execução.
• Atualizações em tempo real das políticas do agente sem necessidade de tempo de inatividade ou modificações de código.

Vikram Chatterjeecofundador e CEO da Galileo, conta A nova pilha que, na prática, isso significa, em vez de usar regras de segurança frágeis e codificadas, “o Agent Control permite que os desenvolvedores definam proteções uma vez e as apliquem em todos os lugares. Ao abrir o código-fonte no Apache 2.0, estamos garantindo que todas as empresas e comunidades de desenvolvedores possam usá-las sem dependência de fornecedor”.

“O Agent Control permite que os desenvolvedores definam proteções uma vez e as apliquem em qualquer lugar. Ao abrir o código-fonte no Apache 2.0, garantimos que todas as empresas e comunidades de desenvolvedores possam usá-lo sem dependência de fornecedor.”
— Vikram Chatterji, cofundador e CEO, Galileo

Como o nome sugere, a empresa afirma que o Agent Control se conectará facilmente a qualquer agente e oferece suporte a avaliadores de proteção de qualquer fornecedor ou ferramentas internas personalizadas. As políticas permanecem portáteis entre ambientes, proporcionando flexibilidade às equipes à medida que evoluem seus ecossistemas de agentes.
Galileo prevê que os casos de uso comuns incluem a prevenção de alucinações de LLM, a aplicação de regras de privacidade de dados, a orientação da seleção de modelos para controlar os custos de tokens e a garantia de consistência de tom nos agentes de IA voltados para o cliente.

É claro que o Agent Control não é o único produto desse tipo no mercado. Outros incluem Plano de controle do agente Humanlayerum orquestrador de código aberto nativo do Kubernetes para agentes de IA; Controles de IA do GitHub Enterprisecamada de governança do GitHub para agentes de IA; e Agente Microsoft 365o plano de controle do Microsoft 365 para agentes de IA no Azure.

Apesar desta forte concorrência, centenas de equipas de IA, incluindo empresas Fortune 50, utilizam a plataforma existente do Galileo para testar, monitorizar e proteger aplicações de IA que lidam com elevados volumes de tráfego e dados. Parece que a empresa possui os conhecimentos técnicos e comerciais necessários para atuar no espaço de controle de agentes.

“O principal obstáculo para os agentes empresariais não são mais os modelos. Eles estão melhorando a cada dia. Para formar os agentes para a produção, a indústria precisa de barreiras de proteção transparentes e voltadas para a comunidade.”
– Dev Rishi, GM de IA, Rubrik

Como Dev RishiGM de IA em Rubricauma empresa de segurança em nuvem, diz A nova pilha“O principal bloqueador para agentes corporativos não são mais os modelos. Eles estão melhorando a cada dia. Para formar agentes para a produção, a indústria precisa de proteções transparentes e voltadas para a comunidade. Projetos de código aberto como o Agent Control são exatamente o tipo de padrões abertos que a indústria precisa para tornar os agentes autônomos seguros para a empresa.”

O Agent Control agora está disponível sob a licença Apache-2.0, com código-fonte, SDK e documentação disponíveis no GitHub.