IBM ve Together AI, açık kaynaklı yapay zeka modelleri için 240 milyon dolarlık anlaşma imzaladı

Yapay zeka odaklı bulut platformu Together AI'ın, 800 milyon dolar yatırım alarak değerlemesini 8,3 milyar dolara çıkardığını sizlere aktarmıştık. IBM ve Together AI, açık kaynaklı yapay zeka modellerinin çıkarım süreçlerini ölçeklendirmek üzere çok yıllı bir anlaşmaya imza attı. 240 milyon dolar değerindeki anlaşma kapsamında IBM, IBM Cloud üzerinde Nvidia HGX B300 sistemlerinden oluşan büyük ölçekli bir altyapı kuracak.

Together AI, söz konusu kümeyi açık kaynaklı modeller için çıkarım hizmetleri sunmak amacıyla kullanacak. Altyapının 2027’nin ilk çeyreğinde kullanıma sunulması bekleniyor. Bu sistem aynı zamanda IBM Cloud üzerinde Nvidia HGX B300 ve Spectrum-X Ethernet teknolojileri kullanılarak doğrudan çıkarım iş yükleri için oluşturulan ilk büyük ölçekli özel küme olacak.

Nvidia’nın Blackwell Ultra sistemleri kullanılacak

Kurulacak altyapının merkezinde, her biri sekiz Blackwell Ultra hızlandırıcı barındıran Nvidia HGX B300 sistemleri yer alacak. Bu sistemlere Nvidia Spectrum-X Ethernet ağ teknolojisi eşlik edecek. Nvidia’ya göre yeni altyapı, önceki nesil sistemlere kıyasla 30 kata kadar daha yüksek “AI factory” çıktısı sağlayabilecek.

HGX B300 sistemlerinde hızlandırıcılar arasındaki veri trafiğini yönetmek için ConnectX-8 SuperNIC bileşenleri kullanılıyor. BlueField-3 veri işleme birimi ise sistem ile harici altyapılar arasındaki veri akışını koordine ediyor.

Together AI’ın platformu; yapay zeka modellerinin çıkarım, eğitim ve ince ayar süreçlerinin yanı sıra yapay zeka ajanlarına yönelik iş akışlarını da destekliyor. Şirket, çıkarım hizmetlerinin aylık yaklaşık 400 trilyon token işlediğini belirtiyor. Yeni kapasitenin özellikle üretim ortamlarında açık kaynaklı modeller çalıştıran kurumsal müşterilere daha yüksek performans ve daha düşük token maliyeti sunması hedefleniyor.

Anlaşma, Together AI’ın kurumsal pazardaki büyümesini desteklerken IBM’in hızla genişleyen yapay zeka altyapısı pazarındaki konumunu güçlendirmeyi amaçlıyor. IBM açısından iş birliği, şirketin Nvidia ile GPU tabanlı veri analitiği, hibrit bulut altyapısı ve kurumsal yapay zeka çözümleri alanlarında yürüttüğü çalışmaların da bir devamı niteliğinde.

Together AI CEO’su Vipul Ved Prakash, şirketlerin kapalı modellere özgü maliyetlere katlanmadan gelişmiş modellerin performansından yararlanmak istediğine dikkat çekiyor. Prakash’a göre bu hedefe ulaşmak, hızlı ve güvenilir biçimde ölçeklenebilen bir altyapının kurulmasına bağlı.