AWS ve NVIDIA, büyük makine öğrenimi modellerini eğitmek ve üretken yapay zeka uygulamaları oluşturmak için yeni nesil altyapı üzerinde iş birliği yapıyor
EC2 UltraClusters’ta kullanılan yeni Amazon EC2 P5 bulut sunucuları, üretici yapay zeka eğitimini ve geniş ölçekte çıkarımı hızlandırmak için NVIDIA Hopper GPU’lardan yararlanmak üzere optimize edilmiştir
Amazon Web Services (AWS) ve bir Amazon şirketi olan NVIDIA (NASDAQ: NVDA) (NASDAQ: AMZN), giderek karmaşıklaşan ana dil modellerini (LLM’ler) eğitmek ve üretken yapay zeka uygulamaları geliştirmek için optimize edilmiş, dünyanın en ölçeklenebilir, isteğe bağlı yapay zeka uygulamalarıdır. . istihbarat (AI) altyapısını oluşturmaya odaklanan çok yönlü bir iş birliğini duyurdu.
Bu işbirliği, NVIDIA H100 Tensor Core GPU’ları ve AWS’nin en büyük derin öğrenme modelleri tarafından desteklenen yeni nesil Amazon Elastic Compute Cloud (Amazon EC2) P5 bulut sunucularını oluşturmak ve eğitmek için 20 adede kadar exaFLOP işlem performansı sunacak. bağlanabilirliği ve ölçeklenebilirliği. P5 bulut sunucuları, AWS’nin ikinci nesil 3.200 Gb/sn düşük gecikmeli, yüksek bant genişliğine sahip ağ aktarım hızlarının ikinci neslidir ve müşterilerin EC2 UltraClusters’ta 20.000 H100 GPU’ya kadar ölçeklendirme yapmasına ve böylece yapay zeka için isteğe bağlı üstün PC sınıfı performansa erişmesine olanak tanır. Elastic Fabric Adapter (EFA), ağ bağlantısından yararlanan ilk GPU tabanlı bulut sunucusu olacak. Bu teknolojiyi kullanmaya hevesli şirketler arasında, ürün geliştirmelerini hızlandırmak ve müşterilerine yeni empatik yapay zeka tabanlı deneyimler getirmek isteyen dünyaca ünlü şirketlerden biri olan Pinterest de bulunuyor.
AWS CEO’su Adam Selipsky “AWS ve NVIDIA, AI/ML (yapay zeka/makine öğrenimi), grafik, oyun ve HPC (yüksek performanslı bilgi işlem) dahil olmak üzere çeşitli uygulamalar için isteğe bağlı, büyük ölçekli, uygun maliyetli, GPU tabanlı çözümler sunuyor. . Bugün birçok müşterinin makine öğrenimi eğitimi iş yüklerini 10.000’den fazla GPU’ya ölçeklendirdiği göz önüne alındığında, AWS, 12 yılı aşkın bir süredir her nesilde ölçeklenebilirlik sınırlarını zorlayan GPU tabanlı bulut sunucuları sunma konusunda benzersiz bir deneyime sahiptir. İkinci nesil EFA “Müşterilerin P5 bulut sunucularını 20.000’den fazla NVIDIA H100 GPU’ya ölçeklendirmelerini sağlayarak, yeni başlayanlardan büyük şirketlere kadar müşterilere inanılmaz isteğe bağlı bilgi işlem yetenekleri sağlayabilecek.”
NVIDIA’nın kurucusu ve CEO’su Jensen Huang “Hızlandırılmış bilgi işlem ve yapay zeka tam zamanında geldi. Hızlandırılmış bilgi işlem, işletmelerin daha az kaynakla daha fazlasını yapmaya çalışırken maliyetleri ve gücü düşürmenin yanı sıra artımlı işlevlerin hızlandırılmasını sağlıyor. Üretken yapay zeka, şirketleri ürünlerini ve iş modellerini yeniden tasarlamaya teşvik etti.” AWS, uzun süredir analitik iş ortağımız ve NVIDIA GPU’ları sunan ilk bulut hizmeti sağlayıcısıdır. Müşterilerimizin önlerindeki muazzam fırsatları yakalamaları için hızlandırılmış bilgi işlem ve üretken yapay zekadan yararlanmasına yardımcı olmak için uzmanlığımızı, ölçeğimizi ve erişimimizi birleştirmeye kararlıyız. Heyecanlıyız” dedi.
Yeni Süper Bilgi İşlem Kümeleri ve Sunucu Tasarımları
NVIDIA GPU’lar tarafından desteklenen yeni P5 bulut sunucuları, soru yanıtlama, kod oluşturma, işleme, ses tanıma ve daha fazlası dahil olmak üzere en ciddi ve bilgi işlem ağırlıklı üretim yapay zeka uygulamalarının arkasındaki giderek daha karmaşık LLM’leri ve görüntü işlemeyi destekler. Eğitim modelleri için ideal olarak kullanılabilir. Yeni sunucu tasarımları, AWS altyapısında enerji verimliliğine odaklanarak NVIDIA ve AWS mühendislik ekiplerinin termal, elektrik ve mekanik uzmanlığını kullanarak ölçeklenebilir ve verimli yapay zekayı hedefliyor ve yapay zekayı uygun ölçekte sunmak için GPU’lardan yararlanan sunucuların oluşturulmasını sağlıyor. GPU’lar, belirli yapay zeka iş yükleri için genellikle CPU’lardan 20 kat daha fazla enerji verimlidir ve H100, LLM’ler için CPU’lardan 300 kata kadar daha verimlidir.
Kaynak: (BYZHA) – Beyaz Haber Ajansı
