AV1000 Sıvı Soğutmalı Dayanıklı GPU Server

Küresel Dönüşüm, Esnek Bilgisayar,
Ağ ve Depolama Taleplerini Hızla Artırıyor.

Geleceğin iş yükleri, anında yanıt verebilirliği ve çok çeşitli performans gereksinimlerini desteklemek için sorunsuz bir şekilde ölçeklenebilen altyapılar gerektirmektedir. Veri üretimi ve tüketiminin katlanarak artması, bulut ölçeğinde bilgi işlem ve 5G ağlarının hızla genişlemesi ve yüksek performanslı bilgi işlem (HPC) ve yapay zekanın (AI) yeni kullanımlara yönelmesi, günümüzün veri merkezlerinin ve ağlarının şimdi gelişmesini gerektirecek veya son derece rekabetçi bir ortamda geride kalmasını yol açacaktır.
7Starlake’in 3. Nesil Intel Dual Xeon Ice Lake Ölçeklenebilir İşlemciler (40 Çekirdek, 2,3 GHz, 270W) ile 2 x NVIDIA QUADRO RTX6000, 8 x DDR4-3200MHz 2TB bellek ve 48TB’a kadar 2 x NVMe SSD içeren AV1000 AI Inference Rugged Sunucusu, çoklu buluttan akıllı uca ve geriye doğru veri merkezli çağ için kesintisiz performans temeli sağlamaktadır. Intel Xeon Scalable platformu, veri merkezi çevikliği ve ölçeklenebilirliğinde evrimsel bir sıçramanın temelini oluşturmaktadır. Tasarımıyla ezber bozan bu yenilikçi işlemci, bilgi işlem, depolama, bellek, ağ ve güvenlik alanlarında platform yakınsaması ve yeteneklerinde yeni bir seviye belirlemektedir.

AV1000, makine öğrenimi ve derin öğrenmeyi uygulamak için yeni yapay zeka çıkarımında yeni bir tutarlı, yaygın ve çığır açan performans düzeyi sağlamaktadır. NVIDIA QUADRO RTX6000’e ek olarak AV1000, hızlı depolama erişimi için bir M.2 NVMe yuvası sunmaktadır. Çarpıcı çıkarım performansını, güçlü CPU’yu ve genişletme özelliğini bir araya getiren AV1000, dayanıklılık gerektiren çok yönlü Edge AI uygulamaları için mükemmel bir platformdur.
Yenilikçi sıvı soğutmalı tasarımıyla AV1000, maksimum 10KW ısıyı dağıtmak için 10 borulu (her boru 5mm x 5mm x \pi x 500mm) en gelişmiş “Namlu Matkabı” ile üretilmiştir.

İletimli Sıvı Soğutma
Plakası ( C.L.C.P.)

Çoğu sıvı soğutma çözümü Doğrudan Çipe (D2C) entegre pompa ve soğuk plaka sistemi kapalı döngü tasarımı kullanmaktadır. Kullanıcılar potansiyel sıvı sızıntısı riski konusunda endişelenebilirler ancak 7Starlake sistem güvenilirliğine büyük önem vermektedir. Kararlılık ve güç arayışında, deneyimli 7Starlake ekibi termal tasarımı başarıyla optimize ederek benzeri görülmemiş bir model olan AV1000’i ortaya çıkarmıştır. Normal D2C tasarımı yerine 7Starlake, bilgisayar sistemine İletim Sıvı Soğuk Plakasını (CLCP) entegre eden benzersiz bir ısı değiştiricisi geliştirmiştir.

Yapay Zeka ve Makine Öğrenimi İş Yükleri için
NVMe’den Nasıl Yararlanılır?

Yukarıda bahsedilen yaklaşımlardan toplanan büyük miktarda veri daha ileri amaçlar için talep edilebilmektedir. Sürücüsüz araç eğitimi, gelecekteki iyileştirmeler için sıralanan verileri kullanabilir ve yol güvenliğini ve daha fazla gelişmeyi aşamalı olarak artırabilir ve bu en fazla veriyi kaplar. Enstrümante edilmiş bir araç günde 30 TB’ın üzerinde veri tüketebilirken, 10 araçlık bir filo 78 PB ham veri üretebilmektedir. Normalde bir kameranın veri hızı yaklaşık 120MB/s iken radarınki 220 MB/s’ye yakındır. Özetle, bir araç 6 kamera ve 6 radar kombinasyonuna sahipse, tüm araç RAW verileri kabaca 2.040 KB/s olacaktır, bu da 8 saatlik bir test sürüşü süresince yaklaşık 58 TB’a denk gelir.
Model eğitimi için kullanılan modern veri kümelerinin her biri terabaytlara kadar çıkabilir. Eğitimin kendisi RAM’den çalışsa bile, bellek çok yüksek bant genişliğini desteklemesi gereken kalıcı depolamadan beslenmelidir. Buna ek olarak, GPU’ların boşta kalmasını önlemek için eski eğitim verilerinin sayfalanması ve yeni verilerin getirilmesi hızlı bir şekilde yapılmalıdır. Bu da düşük gecikme süresi gerektirir. Bu şekilde hem yüksek bant genişliğine hem de düşük gecikme süresine izin veren tek protokol NVMe’dir.
Neyse ki GPU sunucuları muazzam bir ağ bağlantısına sahiptirler. Bu sunucular 4-8 x 100Gb bağlantı noktası üzerinden 48GB/s’ye kadar bant genişliği sağlayabilirler ve bu zorluğu çözmenin yollarından birinde önemli bir rol oynamaktadırlar.
NVMesh, yonga seti, çekirdek sayısı ve gücün değişen veri iş yükü ve performans gereksinimlerine uyacak şekilde özelleştirilmesini sağlamaktadırlar. Ultrastar Serv24-4N ile birlikte NVMesh, GPU optimizasyonlu sunucuların performans ve pratiklikten ödün vermeden ölçeklenebilir, yüksek performansa erişmesini sağlamaktadır. NVMe flash depolama havuzlarını yerel flash gibi kullanır. Bu teknik, hem GPU’ların hem de ilgili NVMe flaşın verimli kullanılmasını sağlamaktadır. Sonuç olarak daha yüksek ROI, daha kolay iş akışı yönetimi ve daha hızlı sonuç alma süresi elde edilmektedir.

NVIDIA QUADRO
RTX6000

İşletmeler her zamankinden daha büyük, daha karmaşık iş yüklerinin üstesinden geldikçe görselleştirme, işleme, veri bilimi ve simülasyona olan talep artmaya devam etmektedir. Ancak görsel bilgi işlem altyapılarını büyütmek isteyen işletmeler, artan bütçe kısıtlamaları ve dağıtım gereksinimleriyle karşı karşıya kalmaktadır.
Veri merkezindeki NVIDIA® Quadro® RTX™ GPU’ların gücüyle görsel bilgi işlem zorluklarınızın üstesinden gelebilirsiniz. NVIDIA Turing mimarisi ve NVIDIA RTX platformu üzerine inşa edilen NVIDIA Quadro RTX 6000 pasif soğutmalı grafik kartı, gerçek zamanlı Ray Tracing, yapay zeka ve gelişmiş grafik özellikleri için RT Çekirdekleri ve çok hassas Tensör Çekirdekleri içerir. Kurumsal veri merkezleri için tasarlanan NVIDIA Quadro RTX ile grafik yoğun karma iş yüklerinin, karmaşık tasarımların, fotogerçekçi render işlemlerinin, artırılmış ve sanal ortamların üstesinden gelebilirsiniz.

AV1000 48TB
NVMe’yi nasıl destekler?

PCIe Gen 4, PCIe Gen 2 ve Gen 1’i geride bırakan PCIe Gen 3’ün bir üst versiyonudur. PCIe Gen 4’ün sağladığı bant genişliği PCIe Gen 3’e kıyasla iki kat daha fazladır ve önceki PCIe nesilleriyle geriye dönük olarak uyumludur. PCIe Gen 4’ün, pazar talebine göre sunucu ve solid-state cihazlarının sayısının arttığı yüksek hızlı sunucular, oyun, grafik ve veri merkezlerinin gereksinimlerini büyük ölçüde karşılaması beklenmektedir. PCIe Gen 4, PCIe Gen 3’e göre yeni bir evrimdir. PCIe Gen 4, PCIe Gen 3 tarafından sağlanan 8G/Ts’ye kıyasla 16 G/Ts veri hızı sağlar.
Mimarisi önceki tüm PCIe nesilleri ile tamamen uyumludur.