Meta'dan kod üretimine odaklanan yapay zeka modeli: Code Llama

Meta ve Microsoft'un bir araya gelerek oluşturduğu ticari kullanım için yeni yapay zeka modeli Llama 2'den sizlere bahsetmiştik. Meta, Llama 2 üzerine inşa edilen yeni yapay zeka aracı Code Llama'yı duyurdu. Code Llama, yeni kod üretimi gerçekleştirirken, insanlar tarafından üretilen kodlardaki hataların düzeltilmesini de sağlıyor. 

Code Llama, Llama 2 ile aynı topluluk lisanslarına sahip. Bununla beraber araştırma ve ticari kullanımlar için ücretsiz olarak sunuluyor. Meta'nın paylaştıklarına göre Code Llama, komutlardan kod satırları oluşturabiliyor. Ayrıca belirli bir kod satırı işaret edildiğinde kodu tamamlayabiliyor veya koddan hata ayıklayabiliyor. 

Şirket, Code Llama modelinin yanı sıra Code Llama-Python adında Python'a özel bir sürüm yayınladı. Şirketin yayınladığı bir başka sürüm olan Code Llama-Instrct ise doğal dildeki talimatları anlayabiliyor. Meta, her bir özel sürümün birbiri yerine kullanılamayacağı uyarısında da bulundu. Bu bağlamda doğal dil işleme için Code Llama ya da Code Llama-Python kullanmanız önerilmiyor. 

Meta paylaştığı blog gönderisinde geliştiricilerin halihazırda koddan hata ayıklama ya da yeni bir yazılım üretme konusunda geniş dil modellerinden (LLM) destek aldığını hatırlattı. Şirket, hedeflerinin geliştirici iş akışını daha verimli hale getirmek olduğunu vurguladı. 

Meta'nın iddialarına göre Code Llama, yapılan testlerde herkese açık geniş dil modellerinden daha iyi performans gösteriyor. Ancak şirket, bu testlerin ve karşılaştırmaların hangi geniş dil modelleriyle yapıldığına dair açık bir bilgi paylaşmıyor. Buna ek olarak Meta, Code Llama'nın HumanEval kod testinde yüzde 53,7 puan aldığını belirtiyor. Şirketin aktardıklarına göre Code Llama, bir metin komutuna dayalı olarak doğru bir şekilde kod yazabiliyor.

Meta 3 farklı büyüklükte Code Llama yayınlayacak. Code Llama modellerinin her birinin boyutu 7 milyar parametre ile 34 milyar parametre arasında değişmekte. Modeller, kodla ilgili verilerle birlikte 500 milyar kod token'ı ile eğitildi. Code Llama'nın en küçük boyuttaki 7 milyar parametreye sahip versiyonu tek bir GPU'ya sığabiliyor. Ayrıca Code Llama, Python, C++, Java, PHP, Typescript (Javascript), C# ve Bash gibi günümüzde kullanılan pek çok programlama dilini destekliyor. 

Yapay zeka destekli kod üretiminin bir süredir teknoloji şirketlerinin odağında olduğunu belirtelim. GitHub, GPT-4 destekli Copilot'ı Mart ayında yayına aldı. GitHub Copilot'a rakip bir ürün geliştiren Replit ise Nisan ayında 97.4 milyon dolar yatırım aldı. Yine Nisan ayında Amazon, Bedrock ile yapay zeka yarışına adım atarken, CodeWhisperer ürününü de tanıttı. Son olarak Google da kod yazımı aracı AlphaCode, Codey ve yapay zeka destekli tarayıcı tabanlı geliştirici platformu Google Project IDX ile gündeme geldi.