Desembalando o servidor de IA supremo: Dell PowerEdge XE9680

Tabela de Conteúdos

1. Introdução
2. Visão Geral do PowerEdge XC9680
3. Especificações do XC9680
4. Slots e Conexões
   • 4.1 Slots de NVMe Gen4
   • 4.2 Slots PCIe Gen5
   • 4.3 Placas PSB e Conexões
   • 4.4 Arquitetura de Comutação PCIe Gen5
   • 4.5 Placas de GPU SXM
5. Resfriamento
   • 5.1 Ventoinhas Internas
   • 5.2 Ventoinhas do Módulo 4U
6. Processadores e Memória
   • 6.1 Processadores Intel Xeon Scalable
   • 6.2 Memória DDR5 DIMMs
7. Unidade de Distribuição de Energia (PDU)
   • 7.1 Fontes de Alimentação (PSU)
   • 7.2 Slots opcionais
   • 7.3 Outras Portas e Conexões
8. Boss N1 e Unidade de Resfriamento
   • 8.1 Unidade de armazenamento N1 M.2 NVMe
   • 8.2 Unidade do Módulo 4U
9. Placa Base da NVIDIA
   • 9.1 Placa Base da NVIDIA HDX A3 H100 SXM
   • 9.2 Heatsinks das GPUs e dos Switches NV
   • 9.3 Comunicação entre GPUs
10. Cargas de Trabalho
    • 10.1 Processamento de Linguagem Natural
    • 10.2 Detecção de Objetos
11. Comparação entre A100 e H100
12. Resultados do ml perf Benchmark
13. Conclusão
14. Recursos adicionais

🖥️ Visão Geral do PowerEdge XC9680

O PowerEdge XC9680 é uma plataforma totalmente refrigerada a ar de 6U e 2 soquetes, projetada para oferecer excelente desempenho em aplicações de inteligência artificial e machine learning. Com suporte para GPUs HDX H100 SXM de 8 vias ou GPUs NVIDIA HDX A3 E100 SXM, o XC9680 é capaz de lidar com cargas de trabalho intensivas, possibilitando o treinamento eficiente de modelos de IA complexos.

💻 Especificações do XC9680

O XC9680 apresenta uma impressionante variedade de recursos e opções de expansão. Com suporte para até 8 unidades NVMe Gen4 e 10 slots PCIe Gen5 X16, oferece uma capacidade de armazenamento e largura de banda excepcionais. Além disso, conta com 2 processadores Intel Xeon Scalable e até 32 DIMMs DDR5, proporcionando um desempenho poderoso e escalável.

🔌 Slots e Conexões

O XC9680 possui uma arquitetura de slots e conexões que permite uma comunicação eficiente entre os componentes. Os slots de NVMe Gen4 fornecem suporte para até 8 unidades de armazenamento U.2, enquanto os slots PCIe Gen5 X16 oferecem grande flexibilidade para a expansão do sistema. Os slots são agrupados em seções, cada uma conectada a uma placa PSB (Placa de Comutação PCIe) correspondente. Essas placas possibilitam a conexão direta dos slots às GPUs SXM e aos dispositivos de armazenamento.

❄️ Resfriamento

O sistema de resfriamento do XC9680 é projetado para manter uma temperatura ideal, garantindo o desempenho máximo dos componentes. O servidor possui ventoinhas internas na parte superior, responsáveis por resfriar as unidades de armazenamento e os processadores. Além disso, o módulo 4U conta com 10 ventoinhas dedicadas ao resfriamento das GPUs, garantindo que elas permaneçam na temperatura adequada.

🧠 Processadores e Memória

Os processadores Intel Xeon Scalable, juntamente com as memórias DDR5 DIMMs, são responsáveis pelo poder de processamento e capacidade de armazenamento de dados do XC9680. O servidor suporta até 2 processadores e pode ser configurado com até 32 DIMMs, oferecendo flexibilidade de escolha de acordo com as necessidades específicas de cada carga de trabalho.

🔌 Unidade de Distribuição de Energia (PDU)

A unidade de distribuição de energia (PDU) do XC9680 é composta por seis fontes de alimentação (PSU) de 2800 watts, que fornecem energia para o servidor. As fontes de alimentação são do tipo 240V AC PSU e garantem um suprimento confiável e estável. Além disso, o sistema possui slots opcionais para recursos adicionais, como alarme e slots OCP, oferecendo maior flexibilidade e possibilidade de expansão. Os recursos de gerenciamento de segurança Dell, como o iDRAC, estão presentes no servidor, bem como as portas USB e VGA para conexões externas.

💾 Boss N1 e Unidade de Resfriamento

O XC9680 possui uma unidade de armazenamento Boss N1 M.2 NVMe, que possibilita a configuração de um RAID 1 para maior segurança e flexibilidade. Outro componente importante é o módulo de resfriamento localizado na parte inferior do servidor. Esse módulo é responsável pelo resfriamento das GPUs e permite a remoção fácil dos GPUs em um suporte específico.

🎮 Placa Base da NVIDIA

A placa base HDX A3 H100 SXM da NVIDIA é o coração do PowerEdge XC9680 quando se trata de processamento gráfico. Com oito GPUs de alto desempenho e capacidade de memória de 80 GB cada, a placa base permite o treinamento de modelos complexos de IA em um único nó. Além disso, a comunicação entre as GPUs é potencializada pelos switches NV integrados à placa, que oferecem uma largura de banda de 900 gigabytes por segundo.

📊 Cargas de Trabalho

O PowerEdge XC9680 é capaz de lidar com uma variedade de cargas de trabalho intensivas em recursos, incluindo processamento de linguagem natural e detecção de objetos. No processamento de linguagem natural, o XC9680 é especialmente adequado para trabalhos como o modelo BERT, que envolve compreensão e análise de documentos e textos. Na detecção de objetos, o servidor é capaz de realizar análises em tempo real de vídeos de dashcam, identificando e classificando elementos como carros, sinais de trânsito e pedestres.

⚖️ Comparação entre A100 e H100

O XC9680 está disponível em duas versões: com as GPUs A100 e H100. A escolha entre as versões depende das necessidades específicas de cada carga de trabalho. As GPUs A100 são adequadas para tarefas de treinamento com base em transformadores, enquanto as GPUs H100 são ideais para cargas de trabalho específicas. Ambas as versões foram submetidas ao ml perf Benchmark para avaliação de desempenho.

📈 Resultados do ml perf Benchmark

Os resultados do ml perf Benchmark para o XC9680 com as GPUs A100 e H100 serão em breve publicados, oferecendo uma referência sólida para o desempenho do servidor em diferentes cargas de trabalho de IA. A publicação desses resultados é apenas uma evidência adicional do compromisso da Dell com a transparência e a qualidade de seus produtos.

🏁 Conclusão

O PowerEdge XC9680 é uma solução de servidor potente e flexível, projetada para atender às demandas de cargas de trabalho intensivas em recursos. Com recursos avançados de processamento, armazenamento e resfriamento, o XC9680 é uma escolha ideal para implementações de IA e machine learning de alto desempenho.

ℹ️ Recursos adicionais

Para obter mais informações sobre o PowerEdge XC9680 e todas as suas capacidades, visite dell.com.

Destaques

• Plataforma de servidor PowerEdge XC9680 totalmente refrigerada a ar
• Suporte para GPUs HDX H100 SXM ou GPUs NVIDIA HDX A3 E100 SXM
• Slots de NVMe Gen4 para até 8 unidades de armazenamento U.2
• Slots PCIe Gen5 X16 para expansão do sistema
• Placas PSB para conexões diretas entre GPUs, dispositivos de armazenamento e switches
• Arquitetura de comutação PCIe Gen5 para comunicação eficiente entre os componentes
• Sistema de resfriamento com ventoinhas dedicadas para GPUs, processadores e unidades de armazenamento
• Possibilidade de configurar até 2 processadores Intel Xeon Scalable e 32 DIMMs DDR5
• Unidade de distribuição de energia (PDU) com 6 fontes de alimentação de 2800 watts
• Boss N1 M.2 NVMe para armazenamento adicional e configuração RAID 1
• Placa base HDX A3 H100 SXM da NVIDIA para processamento gráfico avançado
• Suporte a cargas de trabalho de processamento de linguagem natural e detecção de objetos
• Comparação entre as GPUs A100 e H100 para escolha da versão mais adequada
• Resultados do ml perf Benchmark para avaliação de desempenho
• Solução de servidor Dell confiável e transparente

Perguntas Freqüentes

P: Quais são as principais diferenças entre as GPUs A100 e H100?

R: As GPUs A100 são mais adequadas para cargas de trabalho de treinamento com base em transformadores, enquanto as GPUs H100 são ideais para cargas de trabalho específicas.

P: Posso usar o XC9680 para processamento de linguagem natural?

R: Sim, o XC9680 é capaz de lidar com cargas de trabalho de processamento de linguagem natural, como o modelo BERT.

P: O XC9680 suporta a detecção de objetos em tempo real?

R: Sim, o servidor é capaz de realizar análises em tempo real de vídeos de dashcam, identificando e classificando elementos como carros, sinais de trânsito e pedestres.

P: Onde posso encontrar mais informações sobre o PowerEdge XC9680?

R: Para obter mais informações sobre o PowerEdge XC9680 e todas as suas capacidades, visite dell.com.