OpenAI, yeni ve uygun fiyatlı üretimsel metin özelliklerini tanıttı

OpenAI bugün paylaştığı bir blog gönderisiyle GPT-3.5-turbo ve GPT-4'ün yeni versiyonlarını yayınladığını duyurdu. Bu yeni güncelleme, işlev çağırma olarak tercüme edebileceğimiz function calling özelliğini de kapsıyor. 

İşlev çağırma özelliği ile geliştiriciler bundan böyle GPT-4 ve GPT-3.5-turbo'ya programlama işlevleri tanımlayabilecek. Bu kapsamda yapay zeka modeli, bu işlevleri çağırmak için argümanlar içeren bir JSON nesnesi çıktısını akıllıca seçebilecek. 

Şirketin verdiği kullanım örnekleri arasında, harici araçları çağırarak soruları yanıtlayan ChatGPT eklentilerine benzer sohbet botları oluşturma, doğal dili API çağrılarına veya veritabanı sorgularına dönüştürme ve metinden yapılandırılmış veri ayıklama yer alıyor. 

Paylaşılan bilgilere göre şirket, işlev çağırma özelliği eklemenin yanı sıra GPT-3.5-turbo'nun bağlam penceresini de genişletti. Bilmeyenler için bağlam penceresi, modelin herhangi bir ek metin oluşturmadan önce dikkate aldığı metni temsil ediyor. Bağlam pencerelerinin tokenlar aracılığıyla ölçümlendiğini hatırlatalım. Aynı şekilde bağlam pencerelerini ham metin parçalarıyla da ölçmek mümkün. 

Yeni GPT-3.5-turbo önceki versiyonuna kıyasla 4 kat daha fazla yani 16 bin tokenlık bağlam uzunluğu sunuyor. İşin mali boyutuna bakıldığında ise 1000 girdi token'ı başına 0.003 dolar, 1000 çıktı token'ı başına 0.004 dolar olarak ücretlendiriliyor. Şirket modelin tek seferde girdi olarak 20 sayfalık metni alabildiğini belirtiyor.

Bu noktada karşılaştırmak gerekirse; OpenAI rakibi Anthropic'in ChatGPT benzeri uygulaması Claude'un, üretimsel yapay zekanın bilgi işleme sınırını 9 bin tokendan 100 bin token'a kadar çıkardığını sizlere aktarmıştık. Bu da yaklaşık 75 bin kelimeye denk gelmekte. 

Daha iyi anlaşılması açısından Claude, Mary Shelley'nin yaklaşık 74 bin 800 kelimelik Frankenstein eserini ya da yaklaşık 69 bin kelimelik Mark Twain'in Tom Sawyer'ın Maceraları kitabını okuyabilir. OpenAI'ın sınırlı sayıda kullanıcıya açarak test ettiği genişletilmiş GPT-4 versiyonu ise 32 bin tokenlık bağlam penceresine sahip. 

Bu gelişmelerin yanı sıra OpenAI, bağlam penceresini genişletmediği orijinal GPT-3.5-turbo'nun ücretini yüzde 25 oranında düşürdüğünü açıkladı. Böylece geliştiriciler, 1000 girdi tokenı başına 0.0015 dolar, 1000 çıktı tokenı başına 0.002 dolar ödeyecek. Bu da dolar başına yaklaşık 700 sayfaya denk gelmekte. 

OpenAI'ın rağbet gören metin gömme modelleri arasında yer alan text-embedding-ada-002'nin de ücretinde düşüş gerçekleştirildi. Text-embedding-ada-002, 1000 token başına 0.0001 dolar ücretlendirme ile geliştiricilerin ilgisine sunuluyor. Önceki fiyat politikasıyla karşılaştırdığımızda ücretlendirmede yüzde 75 düşüş yaşandığını söyleyebiliriz.