Gloo construiu uma plataforma de IA baseada na fé que já tem interesse secular

Os modelos de IA ficaram muito melhores em evitar alucinações, e os laboratórios de fronteira tendem a colocar barreiras rígidas em torno de seus serviços para evitar conteúdo prejudicial. Mas para as organizações religiosas, isso nem sempre é suficiente. Eles querem modelos que se alinhem diretamente com seus valores.

Este é o público-alvo do Brilho. Na quinta-feira, a empresa anunciou Estúdio Gloo AI. A empresa chama isso de “uma plataforma de desenvolvimento de IA de nível de produção para desenvolvedores religiosos e orientados para missões”, que incorpora alinhamento de valores e governança diretamente na camada de infraestrutura.

Em vez de depender de prompts padrão do sistema e políticas de conteúdo ad hoc, o Gloo AI Studio aplica um equipamento configurável em torno de cada chamada de modelo. E como é independente de modelo, pode fazer isso para modelos da OpenAI, Anthropic e Google, bem como para modelos de código aberto.

Isso sempre fez parte da missão e do roteiro da Gloo, disse Steele Billings, presidente da Gloo AI, em entrevista ao A nova pilha.

“Construímos o Gloo AI Studio para que a governança e o alinhamento de valores sejam fundamentais, não opcionais”, diz ele. Tal como muitas empresas, igrejas, organizações sem fins lucrativos e universidades religiosas querem utilizar a IA e oferecer serviços baseados em grandes modelos linguísticos, mas esses modelos têm de estar alinhados com os seus valores.

Até certo ponto, isso também é verdade para qualquer empresa secular, e na nossa conversa, Billings deu a entender que Gloo também estava a trabalhar com algumas grandes empresas que, tal como organizações religiosas, procuram tecnologias para garantir que os seus chatbots, por exemplo, permaneçam no caminho certo.

Estúdio de IA

Para desenvolvedores, usar o Gloo Studio não é tão diferente de usar o Google AI Studio ou uma plataforma semelhante. Afinal, em sua essência, o Gloo AI Studio é um gateway de IA multimodelo com componentes principais semelhantes aos que você encontraria em outras startups de IA ou em um hiperescalador.

O que é diferente, claro, é que o Gloo coloca suas próprias proteções em torno desses modelos (e permite que seus usuários os modifiquem conforme necessário). Mas chamar esses modelos no Gloo não é diferente de usar qualquer outra plataforma.

O desafio do Gloo é adicionar o arnês de alinhamento e, ao mesmo tempo, manter a sobrecarga ao mínimo. “Nosso trabalho é causar o menor aumento possível na latência e, ao mesmo tempo, fornecer coisas como o aterramento e o aproveitamento que levam aos resultados alinhados aos valores que estamos medindo”, diz Billings.

A plataforma também oferece suporte ao roteamento de modelos, selecionando dinamicamente o modelo apropriado por solicitação, mantendo controles de política consistentes.

As organizações com as quais Gloo trabalha também desejam trazer seus próprios dados para esses modelos, é claro. Gloo AI Studio usa geração aumentada de recuperação (RAG) para isso como tecnologia principal, permitindo que uma igreja, por exemplo, carregue textos doutrinários, ou uma universidade carregue um currículo e artigos. Gloo gerencia o enriquecimento de dados, incorporações de vetores, aterramento e sincronização ao vivo com fontes de conteúdo externas.

Escolha do modelo no Gloo AI Studio (crédito: Gloo).

Os desenvolvedores podem gerenciar tudo isso através da API do Gloo, mas também existe a própria interface do Studio. É aí que os desenvolvedores podem gerenciar suas chaves de API e encontrar receitas iniciais. Há também um playground para comparação de modelos lado a lado. O playground permite que os desenvolvedores alternem entre perspectivas denominacionais (atualmente católica, evangélica e protestante tradicional) e vejam como o mesmo prompt oferecerá respostas diferentes.

Nick Skytland, vice-presidente da Gloo Developers e AI Research, disse que a equipe normalmente pode aproveitar um novo modelo de fronteira poucas horas após seu lançamento, trazer seus próprios dados e avaliá-los em relação aos benchmarks de florescimento humano da Gloo.

“Cada desenvolvedor com quem conversamos deseja ingerir seus dados, fundamentar o modelo em seus dados e, em seguida, construir agentes para serem implantados usando a infraestrutura”, diz Skytland. “Esse é literalmente o roteiro de todas as pessoas com quem conversamos.”

Alinhamento como infraestrutura

O foco do Gloo aqui é trazer alinhamento à infraestrutura. Para fazer isso, a empresa criou uma “constituição”, um conjunto de princípios que é aplicado a todas as chamadas de API. Essa constituição, semelhante ao que a Anthropic está fazendo com seus modelos, estabelece uma base para segurança, precisão e conformidade. Cada organização pode então adicionar sua própria camada para direcionar os resultados para seus valores ou doutrinas específicas. A partir daí, a camada de dados pode adicionar outro grau de personalização.

Como informamos no ano passado, Gloo desenvolveu o benchmark FAI (Flourishing AI) para avaliar o desempenho dos modelos de fronteira com base em critérios de florescimento humano, em vez das métricas usuais de velocidade e custo. Gloo afirma que suas variantes de modelos alinhados a valores mostram uma melhoria de 13 a 22 por cento nas pontuações FAI em comparação com modelos prontos para uso.

Um exemplo de alinhamento do Gloo AI Studio (crédito: Gloo).

O que os desenvolvedores estão construindo

Como observou Billings, as escrituras acabam sendo um caso de teste interessante para a precisão da IA. “Se você estiver usando um LLM para citar as escrituras e estiver usando sua natureza probabilística, você será vítima dessas alucinações”, diz Billings. “Acreditamos que deve ser seguro, acreditamos que deve ser preciso e acreditamos que deve estar em conformidade. E no mundo baseado na fé, conformidade significa alinhar-se com a doutrina e a teologia – e essa é uma área na qual passamos muito tempo.”

Billings observa que um assistente devocional baseado em textos bíblicos específicos por meio do mecanismo de dados, por exemplo, tem muito menos probabilidade de ter alucinações. Outros casos de uso vão desde ferramentas de estudo teológico em universidades cristãs até moderação de conteúdo para aplicativos comunitários religiosos.

Mas não são apenas as organizações religiosas que estão interessadas. Billings disse que uma das maiores organizações do país – ele se recusou a nomeá-la, mas observou que elas estão na indústria alimentícia – está conversando com Gloo e seu interesse não tem nada a ver com religião.

“Eles estão nos escolhendo simplesmente porque realmente adotamos uma abordagem confiável e alinhada aos valores da IA”, diz ele. “As pessoas pagam-lhes por determinado produto alimentar e, portanto, a tecnologia que implementam e adotam é apenas em busca de ajudá-los a cumprir sua missão. E isso é algo que ouvimos muito das organizações que atendemos.

“Eles não entram no negócio de tecnologia por diversão ou mesmo em nome da inovação. Eles entram nele apenas com o propósito de avançar em sua missão. Eles adotam uma abordagem realmente disciplinada.”

Há aqui uma oportunidade para Gloo ir muito além de suas raízes religiosas, e uma oportunidade da qual a equipe parece estar bem ciente. Os valores da IA ​​são importantes em todos os setores, e a empresa aposta que o alinhamento se tornará uma expectativa padrão da infraestrutura, e não uma preocupação de nicho.

Antes de ingressar no The New Stack como editor sênior de IA, Frederic foi editor corporativo do TechCrunch, onde cobriu tudo, desde a ascensão da nuvem e os primeiros dias do Kubernetes até o advento da computação quântica….

Leia mais de Frédéric Lardinois