Ícone do site Modeling reality, generating software

Como a Globant está Resolvendo os Desafios da IA Empresarial com a Ajuda do Software da NVIDIA

The Challenge of Enterprise AI

How Globant is Solving the Challenges of Enterprise AI with Help from NVIDIA Software

O desenvolvimento de aplicativos empresariais que aproveitam a IA generativa requer uma visão e definição abrangentes em vários domínios: IA, tecnologia e negócios. É crucial desvincular a tomada de decisões em cada área, mantendo ao mesmo tempo uma perspectiva unificada sobre a solução.

O objetivo é conectar, personalizar e gerar inteligência para o seu negócio, enquanto simultaneamente integra-se ao seu conjunto de tecnologia implementado com segurança, privacidade, custo e escalabilidade na arquitetura.

Alcançar esta arquitetura de produção de ponta a ponta apresenta um desafio significativo devido à necessidade de mesclar essas perspectivas. É um desafio para o qual selecionamos a plataforma de software NVIDIA AI Enterprise para a plataforma Globant Enterprise AI da Globant.

A NVIDIA AI Enterprise fornece um “sistema operacional” para IA, oferecendo, entre outras características, vários frameworks de aplicação e bibliotecas para gerenciar modelos de linguagem grande (LLMs) de vários provedores (até mesmo seu próprio modelo) e permitir a implantação escalável de modelos em produção. Dentro deste sistema operacional, os dados podem ser preparados, os modelos treinados e então implantados com inferência otimizada.

Arquitetura de Referência do NVIDIA AI Enterprise 5.0. Crédito: NVIDIA

 

Sobre o sistema operacional, é necessário o desenvolvimento de aplicativos de IA que atendam a diversos requisitos comerciais. Aplicativos de IA generativa construídos com os novos microserviços de inferência NIM da NVIDIA incluídos no NVIDIA AI Enterprise podem ser implantados em qualquer lugar – provedores de nuvem, data centers de colocalização, data centers privados locais ou fabricantes de servidores OEM certificados.

É aqui que entra em cena o Globant Enterprise AI, oferecendo uma abordagem centrada nos negócios para o desenvolvimento de soluções. Ele conecta modelos de base existentes alimentados por NIM do catálogo de API da NVIDIA com uma camada de assistentes projetada para abordar casos de uso específicos. Essa camada de assistentes é acessível por meio de várias interfaces, facilitando a adoção de qualquer modelo de base disponível.

O catálogo de API incluirá modelos da comunidade, bem como modelos da NVIDIA como: Code Llama-70B, fuyu-8B, gemma-7B, llama-2-70B, mixtral-8x7b, mistral-7b, Nemotron-3 22B Persona, NeVA–22B, e muito mais.

O Globant Enterprise AI fornece abstrações de mercado únicas para a criação de assistentes por pessoas próximas ao negócio. Esses assistentes podem interagir com bancos de dados existentes, documentos, API e analisar grandes volumes de informações. Assim, o Globant Enterprise AI é impulsionado pela plataforma NVIDIA AI Enterprise e acelera a criação de aplicativos de IA.

A arquitetura necessária para um aplicativo de IA pronto para empresas atualmente está muito subestimada. O Globant Enterprise AI conceitua as seguintes camadas:

 

 

Essa infraestrutura precisa ser implantada em vários ambientes, cada camada deve evoluir, e aspectos não funcionais como observabilidade e segurança devem ser considerados.

E quando falamos sobre aplicativos de IA funcionais, estamos falando de soluções para todos os tipos de indústrias, incluindo varejo, finanças, saúde e tecnologia. Isso inclui, por exemplo, a plataforma de testes MagnifAI da Globant que permite automatizar tarefas de teste visual usando modelos específicos da NVIDIA, ou tarefas como gerar casos de teste usando a camada de assistentes fornecida pelo Globant Enterprise AI.

Sobre preocupações de segurança e privacidade, o Globant Enterprise AI aprimora vários desses aspectos, como modelos integrados de controle de acesso e integração com as Regras de Guardrails da NVIDIA NeMo, incluídas na plataforma NVIDIA AI Enterprise, e controle de entrada e saída nas camadas de integração de modelo fundamentais.

Com esta nova integração, você pode enfrentar os desafios de criar soluções de IA usando NVIDIA AI Enterprise e Globant Enterprise AI de forma coesa, levando em consideração todos os detalhes.

O caminho para aproveitar todo o potencial da IA empresarial é complexo, exigindo uma síntese reflexiva de IA, tecnologia e estratégia empresarial. A colaboração da Globant com a NVIDIA representa uma abordagem formidável para este desafio. NVIDIA AI Enterprise serve como um robusto “sistema operacional” de IA, fornecendo os frameworks e bibliotecas necessários para gerenciar e implantar LLMs de forma eficaz. Por outro lado, o Globant Enterprise AI se baseia nesta base com uma plataforma de desenvolvimento orientada para negócios que se integra perfeitamente aos modelos da NVIDIA NGC, oferecendo uma série de assistentes especializados adaptados às várias necessidades comerciais.

A integração do NVIDIA AI Enterprise e do Globant Enterprise AI apresenta às organizações um conjunto abrangente e matizado de ferramentas para criar soluções de IA empresarial de ponta a ponta. Aproveitando essa tecnologia, as empresas podem navegar com confiança nas complexidades da implementação de IA, garantindo melhor que seu investimento se traduza em vantagens estratégicas tangíveis em um cenário digital em rápida evolução.

Você também pode estar interessado em ler:

37 palestras para entender o que está acontecendo com o software e a Inteligência Artificial

Globant no GX30

10 Perguntas para Nicolás Jodal

Sair da versão mobile