Londra merkezli yapay zeka çip girişimi Fractile, yapay zeka modellerinin artan işlem yükünü daha hızlı ve düşük maliyetle yönetebilecek yeni nesil inference donanımları geliştirmek amacıyla 220 milyon dolar yatırım aldı. Şirketin Seri B yatırım turuna Accel, Factorial Funds ve Peter Thiel'ın Founders Fund'ı liderlik etti. Tura ayrıca Conviction, Gigascale, O1A, Felicis, Buckley Ventures ve 8VC de katıldı.
2022 yılında Oxford Üniversitesi Robotics Institute araştırmacısı Walter Goodwin tarafından kurulan Fractile, özellikle büyük yapay zeka modellerinin inference süreçlerini hızlandırmaya odaklanıyor. Yapay zekada inference, eğitilmiş bir modelin gerçek kullanım sırasında kullanıcı sorgularına yanıt üretmesi anlamına geliyor. ChatGPT benzeri sistemlerin soru yanıtlaması, görsel üretim araçlarının yeni görseller oluşturması veya ses modellerinin konuşmayı yazıya çevirmesi bu sürecin parçası olarak değerlendiriliyor. Üretken yapay zekanın yaygınlaşmasıyla birlikte inference tarafındaki işlem yükü ve enerji ihtiyacı da hızla artıyor.
Şirketin geliştirdiği mimari, geleneksel GPU sistemlerinden farklı olarak bellek ve işlem birimlerini fiziksel olarak birbirine daha yakın konumlandırıyor. Fractile, bu yaklaşım sayesinde frontier model olarak adlandırılan gelişmiş yapay zeka modellerini mevcut çözümlere kıyasla çok daha hızlı ve düşük maliyetle çalıştırmayı hedefliyor. Şirket, sistemlerinin bazı senaryolarda yapay zeka modellerini 25 kata kadar daha hızlı ve maliyet açısından 10 kata kadar daha verimli çalıştırabileceğini öne sürüyor.
Artan token tüketimi de şirketin odaklandığı temel problemlerden biri olarak öne çıkıyor. Özellikle daha uzun bağlam pencerelerine ve agent tabanlı yapılara sahip yapay zeka modelleri, çok daha fazla token işlemek zorunda kalıyor. Bu durum ise veri merkezi altyapılarında hem gecikme hem de enerji tüketimi açısından ciddi baskı yaratıyor.
Fractile, aldığı yeni yatırımı ilk çiplerini ticarileştirmek ve operasyonlarını genişletmek için kullanmayı planlıyor. Şirketin halihazırda İngiltere, ABD ve Tayvan'da ekiplerini büyüttüğü belirtiliyor.
İlk Yorumu yazmak ister misiniz?
Yorum Yazmak için Giriş Yap