Desenvolvimento de IA generativa
Aplicações de IA generativa integradas à forma como suas equipes trabalham
Construímos assistentes de conhecimento, ferramentas de redação e copilotos que respondem a partir dos seus próprios documentos e rodam onde suas regras de dados exigem.
Quer primeiro uma explicação simples sobre IA generativa? Nossa visão geral mostra para que ela serve. Esta página trata do que construímos para você e como.
O que construímos
Assistentes de conhecimento com RAG
Respostas a partir das suas políticas, manuais, tickets e wikis, com um link para a fonte de cada afirmação. O acesso segue as permissões que você já tem.
Geração de conteúdo e documentos
Propostas, relatórios, contratos e textos de produto redigidos a partir dos seus modelos e dados, e encaminhados para revisão humana antes que algo seja enviado.
Copilotos dentro de aplicativos existentes
Um painel de assistente no seu CRM, helpdesk ou ferramenta interna que redige, resume e pesquisa informações, para que ninguém precise trocar de aplicativo.
Compreensão de documentos
Classificação, extração e resumos de documentos recebidos, com índices de confiança e uma fila de revisão para tudo o que for incerto.
Fine-tuning e hospedagem open-weight
Quando um modelo via API custa caro demais, ou os dados não podem sair do seu ambiente, fazemos fine-tuning e hospedamos modelos open-weight com vLLM ou Ollama na sua infraestrutura.
Avaliação e controle de custos
Conjuntos de teste para a qualidade das respostas, traces do OpenTelemetry para latência e custo, além de roteamento e cache para manter a fatura previsível.
Como um assistente de conhecimento é montado
A maior parte da qualidade das respostas vem da recuperação. O modelo importa menos do que se imagina.
Ingestão
Conectar as fontes, dividir os documentos de forma sensata e manter metadados como responsável, data e direitos de acesso.
Recuperação
Busca híbrida sobre um índice vetorial como o NebulaDB, filtrada pelo que o usuário tem permissão para ver.
Resposta
O modelo responde apenas com o que foi recuperado e cita a fonte. Se nada relevante voltar, ele diz isso.
Medição
Um conjunto de teste com perguntas reais e respostas acordadas, avaliado a cada mudança, além do feedback de quem usa.
Dados, qualidade e custo
Onde roda
API de modelos, Amazon Bedrock ou Azure AI Foundry, ou modelos open-weight nos seus próprios servidores. Você decide por caso de uso.
Chaves e segredos
As chaves de API ficam no seu cofre de segredos e chegam à aplicação pelo WSL Vault, não por arquivos de configuração.
Qualidade que você pode verificar
As respostas citam suas fontes, e os resultados do conjunto de teste ficam no seu repositório para qualquer pessoa executar de novo.
Custo previsível
Acompanhamento de custo por requisição, cache e roteamento de requisições simples para modelos menores. Nosso artigo sobre observabilidade e controle de custos de LLM mostra o método.
Ler o artigo: Custo previsível
Perguntas sobre projetos de IA generativa
Já usamos ChatGPT ou Copilot. Por que construir algo?
Assistentes genéricos não conhecem seus documentos, permissões nem processos. Uma aplicação construída sob medida responde a partir das suas fontes, respeita os direitos de acesso, registra o que fez e fica dentro das ferramentas que suas equipes já usam.
Para onde vão nossos documentos?
Para onde suas regras de dados permitirem. Escolhemos provedores e configurações compatíveis com elas, ou hospedamos um modelo open-weight para que os documentos nunca saiam do seu ambiente.
Vocês podem adicionar IA generativa ao nosso produto atual?
Sim. Construímos o recurso dentro da sua base de código, atrás da sua autenticação, com testes e documentação, para que seus engenheiros possam mantê-lo.
Como vocês sabem que as respostas estão certas?
Antes da construção, combinamos com você um conjunto de teste com perguntas reais e respostas corretas, e avaliamos cada mudança com base nele. Respostas que não podem ser fundamentadas em uma fonte são recusadas.
Escolha um caso de uso e definiremos o escopo
Redação, respostas sobre seu conhecimento ou um copiloto em um aplicativo existente. Diga-nos qual e quais documentos estão envolvidos.