Por redação AIoT Brasil

A Nvidia e a AWS anunciaram a expansão de sua parceira para fornecer infraestrutura, software e serviços para impulsionar as inovações de inteligência artificial (IA) generativa dos clientes. Segundo um comunicado divulgado pelas companhias, as empresas reunirão o melhor das tecnologias Nvidia e AWS – desde os mais novos sistemas de vários nós da Nvidia com GPUs, CPUs e software de IA de última geração até a virtualização e a segurança  do AWS Nitro System, a interconexão Elastic Fabric Adapter (EFA) e a escalabilidade do UltraCluster – voltados para o treinamento de  modelos de base e criação de aplicações de IA generativas.

Como parte da colaboração ampliada para turbinar a IA generativa em todos os setores, as companhias  planejam:

• A AWS será o primeiro provedor de nuvem a trazer os Nvidia GH200 Grace Hopper Superchips com a nova tecnologia NVLink de vários nós para a nuvem. A plataforma de vários nós Nvidia GH200 NVL32 conecta 32 Grace Hopper Superchips com as tecnologias Nvidia NVLink e NVSwitch em uma única instância.

A plataforma estará disponível nas instâncias do Amazon Elastic Compute Cloud (Amazon EC2) conectadas com a reda da Amazon (EFA), com suporte de virtualização avançada (AWS Nitro System) e clustering de hiperescala (Amazon EC2 UltraClusters), permitindo que os clientes conjuntos escalem para milhares de GH200 Superchips.

• A Nvidia e a AWS colaborarão para hospedar o Nvidi DGX Cloud – o treinamento de IA como serviço da Nvidia- na AWS. Será o primeiro DGX Cloud com o GH200 NVL32, oferecendo aos desenvolvedores a maior memória compartilhada em uma única instância. O DGX Cloud on AWS acelerará o treinamento de IA generativa de ponta e modelos de linguagem grandes que podem atingir mais de 1 trilhão de parâmetros.

• Pelo acordo, a empresa também construirão o supercomputador de IA mais rápido do mundo alimentado por GPU – um sistema em escala com GH200 NVL32 e interconexão Amazon EFA, hospedado pela AWS para a própria equipe de pesquisa e desenvolvimento da Nvidia. Esse supercomputador inédito – com 16.384 superchips Nvidia GH200 e capaz de processar 65 exaflops de IA – será usado pela Nvidiapara impulsionar sua próxima onda de inovação de IA generativa.

• A AWS apresentará três novas instâncias adicionais do Amazon EC2: As instâncias P5e, equipadas com GPUs Nvidai H200 Tensor Core, para cargas de trabalho de IA generativa e HPC em grande escala e de ponta, e as instâncias G6 e G6e, equipadas com GPUs Nvidia L4 e GPUs Nvidia L40S, respectivamente, para um amplo conjunto de aplicações, como cargas de trabalho de ajuste fino de IA, inferência, gráficos e vídeo. As instâncias G6e são particularmente adequadas para o desenvolvimento de fluxos de trabalho 3D, digital twins e outras aplicações usando o Nvidia Omniverse, uma plataforma para conectar e criar aplicações 3D generativas habilitadas para IA.

“A AWS e a Nvidia colaboram há mais de 13 anos, começando com a primeira instância de nuvem de GPU do mundo. Hoje, oferecemos a mais ampla gama de soluções de GPU NVIDIA para cargas de trabalho, incluindo gráficos, jogos, computação de alto desempenho, aprendizado de máquina e, agora IA generativa”, afirma Adam Selipsky, CEO da AWS.

“A IA generativa está transformando as cargas de trabalho do cloud e colocando a computação acelerada na base da geração de conteúdo diversificado”, afirma Jensen Huang, fundador e CEO da Nvidia. “Impulsionadas por uma missão comum de fornecer IA geradora de última geração e econômica para todos os clientes, a Nvidia e a AWS estão colaborando em toda a pilha de computação, abrangendo infraestrutura de IA, bibliotecas de aceleração, modelos básicos e serviços de IA geradora.”