Simplificando acesso as informações com IA Generativa
A Scouting oferece serviços de finanças extraordinárias para PMEs em atividades relacionadas aos mercados nacionais e internacionais. Para isso, conta com uma equipe de profissionais, oriundos do mundo da consultoria financeira e de gestão, com experiência internacional, e presta serviços personalizados a bancos cooperativos de crédito e seus clientes.
Desafio
Um problema comum para muitas empresas que gerenciam grandes quantidades de dados é a capacidade de acessar informações de maneira simples e direta. Esse obstáculo pode surgir de uma série de fatores, incluindo a integração de sistemas heterogêneos, a falta de ferramentas analíticas adequadas e dificuldades em garantir a qualidade e confiabilidade dos dados.
As empresas frequentemente utilizam múltiplos softwares para gerenciar dados. Isso torna o processo inflexível, exige o conhecimento de diferentes ferramentas e limita a acessibilidade dos dados em si.
As necessidades da Scouting era ter um agregador de informações que ajudasse os agentes a extrair e reelaborar os dados de forma simples. Uma ferramenta que permitisse obter respostas rápidas a perguntas específicas, apoiando a complexa análise ponto a ponto da grande quantidade de dados disponíveis.
QueryBot: Usando a linguagem natural para analisar informações empresariais
A proposta da Claranet para atender às necessidades do Scouting foi implementar um QueryBot com inteligência artificial. Essa ferramenta poderosa oferece uma nova maneira de interagir com serviços empresariais por meio de linguagem natural.
O chatbot, antes de responder, buscará as informações necessárias entrando em contato com os serviços e as processará para fornecer uma resposta com base no texto inserido pelo usuário.
Esta tecnologia oferece vantagens significativas adicionais. Primeiramente, não há necessidade de aprender novas habilidades para utilizá-la, o que a torna acessível a todos. A curva de aprendizado é baixa, permitindo que qualquer tipo de usuário a adote facilmente. Além disso, graças à capacidade de especificar a saída dos resultados para uma necessidade específica, as operações manuais são minimizadas, tornando o processo mais eficiente e direcionado.
IA Generativa e Tecnologias Habilitadoras
Inteligência Artificial Generativa, Engenharia de Prompt e RAG
Mas como o QueryBot funciona e quais são as tecnologias habilitadoras?
O QueryBot usa Inteligência Artificial Generativa (GenIA) para entender as instruções do usuário e responder às suas perguntas, aproveitando técnicas e modelos que podem gerar respostas textuais.
Embora a IA generativa vise imitar os humanos, ela requer instruções precisas para produzir resultados relevantes e de alta qualidade. Prompt engineering é o processo de orientar as soluções de IA generativa para produzir os resultados desejados. Os formatos, frases, palavras e símbolos mais apropriados são identificados para orientar a IA a interagir com os usuários da maneira mais significativa possível.
Nesse ponto, era necessário fornecer ao QueryBot uma base de conhecimento sólida relacionada ao domínio e à base de conhecimento do Scouting. Por meio da RAG, foi possível estender os recursos do LLM para fornecer ao QueryBot informações organizacionais e otimização de respostas.
Infraestrutura
Para garantir eficiência e escalabilidade, gerenciamos CI/CD por meio do Github Actions, que automatiza o processo de construção e implantação na AWS. Os contêineres são armazenados no Amazon Elastic Container Registry (ECR), enquanto as instâncias do querybot são executadas no Amazon Elastic Container Service (ECS). Além disso, integramos o Bedrock para usar modelos de linguagem de grande porte (LLMs), aprimorando a compreensão e a capacidade de resposta do sistema.
Resultados
Com apoio da Claranet, a Scouting está testando uma nova maneira de acessar e analisar uma a vasta quantidade de dados disponíveis. Nosso QueryBot está tentando abordar uma nova maneira de simplificar as operações de leitura e agregação de informações, permitindo que os operadores da Scouting "Interajam" naturalmente para obter o que precisam. Estamos coletando feedback e avaliando o desempenho para garantir que oferecemos uma solução eficaz e confiável.