Como a Globant está Resolvendo os Desafios da IA Empresarial com a Ajuda do Software da NVIDIA

O desenvolvimento de aplicativos empresariais que aproveitam a IA generativa requer uma visão e definição abrangentes em vários domínios: IA, tecnologia e negócios. É crucial desvincular a tomada de decisões em cada área, mantendo ao mesmo tempo uma perspectiva unificada sobre a solução.

O objetivo é conectar, personalizar e gerar inteligência para o seu negócio, enquanto simultaneamente integra-se ao seu conjunto de tecnologia implementado com segurança, privacidade, custo e escalabilidade na arquitetura.

Alcançar esta arquitetura de produção de ponta a ponta apresenta um desafio significativo devido à necessidade de mesclar essas perspectivas. É um desafio para o qual selecionamos a plataforma de software NVIDIA AI Enterprise para a plataforma Glob.AI OS da Globant.

A NVIDIA AI Enterprise fornece um “sistema operacional” para IA, oferecendo, entre outras características, vários frameworks de aplicação e bibliotecas para gerenciar modelos de linguagem grande (LLMs) de vários provedores (até mesmo seu próprio modelo) e permitir a implantação escalável de modelos em produção. Dentro deste sistema operacional, os dados podem ser preparados, os modelos treinados e então implantados com inferência otimizada.

Arquitetura de Referência do NVIDIA AI Enterprise 5.0. Crédito: NVIDIA

Sobre o sistema operacional, é necessário o desenvolvimento de aplicativos de IA que atendam a diversos requisitos comerciais. Aplicativos de IA generativa construídos com os novos microserviços de inferência NIM da NVIDIA incluídos no NVIDIA AI Enterprise podem ser implantados em qualquer lugar – provedores de nuvem, data centers de colocalização, data centers privados locais ou fabricantes de servidores OEM certificados.

É aqui que entra em cena o Glob.AI OS, oferecendo uma abordagem centrada nos negócios para o desenvolvimento de soluções. Ele conecta modelos de base existentes alimentados por NIM do catálogo de API da NVIDIA com uma camada de assistentes projetada para abordar casos de uso específicos. Essa camada de assistentes é acessível por meio de várias interfaces, facilitando a adoção de qualquer modelo de base disponível.

O catálogo de API incluirá modelos da comunidade, bem como modelos da NVIDIA como: Code Llama-70B, fuyu-8B, gemma-7B, llama-2-70B, mixtral-8x7b, mistral-7b, Nemotron-3 22B Persona, NeVA–22B, e muito mais.

O Glob.AI OS fornece abstrações de mercado únicas para a criação de assistentes por pessoas próximas ao negócio. Esses assistentes podem interagir com bancos de dados existentes, documentos, API e analisar grandes volumes de informações. Assim, o Glob.AI OS é impulsionado pela plataforma NVIDIA AI Enterprise e acelera a criação de aplicativos de IA.

A arquitetura necessária para um aplicativo de IA pronto para empresas atualmente está muito subestimada. O Glob.AI OS conceitua as seguintes camadas:

Essa infraestrutura precisa ser implantada em vários ambientes, cada camada deve evoluir, e aspectos não funcionais como observabilidade e segurança devem ser considerados.

E quando falamos sobre aplicativos de IA funcionais, estamos falando de soluções para todos os tipos de indústrias, incluindo varejo, finanças, saúde e tecnologia. Isso inclui, por exemplo, a plataforma de testes MagnifAI da Globant que permite automatizar tarefas de teste visual usando modelos específicos da NVIDIA, ou tarefas como gerar casos de teste usando a camada de assistentes fornecida pelo Glob.AI OS.

Sobre preocupações de segurança e privacidade, o Glob.AI OS aprimora vários desses aspectos, como modelos integrados de controle de acesso e integração com as Regras de Guardrails da NVIDIA NeMo, incluídas na plataforma NVIDIA AI Enterprise, e controle de entrada e saída nas camadas de integração de modelo fundamentais.

Com esta nova integração, você pode enfrentar os desafios de criar soluções de IA usando NVIDIA AI Enterprise e Glob.AI OS de forma coesa, levando em consideração todos os detalhes.

O caminho para aproveitar todo o potencial da IA empresarial é complexo, exigindo uma síntese reflexiva de IA, tecnologia e estratégia empresarial. A colaboração da Globant com a NVIDIA representa uma abordagem formidável para este desafio. NVIDIA AI Enterprise serve como um robusto “sistema operacional” de IA, fornecendo os frameworks e bibliotecas necessários para gerenciar e implantar LLMs de forma eficaz. Por outro lado, o Glob.AI OS se baseia nesta base com uma plataforma de desenvolvimento orientada para negócios que se integra perfeitamente aos modelos da NVIDIA NGC, oferecendo uma série de assistentes especializados adaptados às várias necessidades comerciais.

A integração do NVIDIA AI Enterprise e do Glob.AI OS apresenta às organizações um conjunto abrangente e matizado de ferramentas para criar soluções de IA empresarial de ponta a ponta. Aproveitando essa tecnologia, as empresas podem navegar com confiança nas complexidades da implementação de IA, garantindo melhor que seu investimento se traduza em vantagens estratégicas tangíveis em um cenário digital em rápida evolução.