AWS, yapay zekayı kurum içine taşıyan "AI Factories" çözümünü tanıttı

Amazon Web Services (AWS), yapay zekayı tamamen kurumların kendi veri merkezlerine taşıyan yeni ürünü AI Factories’i duyurdu. Model şu mantıkla çalışıyor: Kurum veri merkezini ve elektriği sağlıyor, AWS ise Nvidia ve kendi Trainium çipleriyle donatılmış yapay zeka altyapısını yerinde kurup uçtan uca yönetiyor. Böylece özellikle kamu kurumları, savunma, finans ve regülasyon baskısı yüksek sektörler, verilerini AWS’in genel bulutuna taşımadan büyük ölçekli yapay zeka projeleri çalıştırabiliyor.

AI Factories, Nvidia’nın Blackwell GPU ailesiyle birlikte Amazon’un Trainium2 ve Trainium3 hızlandırıcılarını destekliyor. Bu donanım katmanının üzerine AWS’in yıllardır bulutta sunduğu ağ, depolama, güvenlik ve yönetim araçları ekleniyor. Kurumlar, bu altyapı üzerinde Amazon EC2, Bedrock ve SageMaker gibi servisleri kullanarak hazır temel modellerden yararlanabiliyor ya da kendi modellerini eğitip özelleştirebiliyor. Yani teknik olarak buluttaki AWS deneyimi, fiziksel olarak şirketin kendi veri merkezine taşınmış oluyor.

Amazon’un öne çıkardığı başlıkların başında veri egemenliği geliyor. Bu kurulumlar tamamen müşteriye özel olduğu için donanım, ağ ve depolama katmanı AWS’in diğer müşterilerinden izole çalışıyor. Nitro Sistem mimarisi sayesinde, teoride AWS çalışanlarının bile bu iş yüklerine erişemediği vurgulanıyor. Bu da hem ulusal güvenlik tarafında çalışan kurumlar hem de yerel veri saklama zorunlulukları olan şirketler için kritik bir argüman.

Teknik tarafta ise ölçek dikkat çekiyor. AWS, AI Factories ile binlerce GPU’ya kadar genişleyebilen, petabit seviyesinde bant genişliğine sahip bir ağ yapısından bahsediyor. Yüksek hızlı dosya sistemleri ve S3 tabanlı depolama katmanı, devasa modellerin eğitiminde gereken saniyede yüzlerce GB veri aktarımı seviyesine çıkabiliyor. Bu sayede kurumların kendi başına yıllar sürecek donanım yatırımları ve optimizasyon süreçleri, AWS tarafından “hazır kurulum” paketi şeklinde sunulmuş oluyor.

Bu hamle, Microsoft’un Nvidia iş birliğiyle tanıttığı AI Factory yaklaşımıyla aynı döneme denk geliyor ve büyük bulut sağlayıcıların yeniden hibrit modellere, yani şirket içi kurulumlara döndüğünü gösteriyor.