OpenAI, güvenlik sorunları nedeniyle GPT-6.1 Astra'yı kullanıma sunma planını iptal etti

OpenAI, yeni yapay zeka modeli GPT-6.1 Astra'yı kullanıma sunma planını iptal etti. Ekim ayında ChatGPT ve Codex'e gelmesi beklenen model, şirketin iç testlerinde güvenlik ve kullanıcı talimatlarına uyum konusunda belirlediği standartları karşılayamadı.

GPT-6 Astra'nın devamı olarak geliştirilen modelin, karmaşık görevleri insan desteği olmadan baştan sona tamamlama ve yazı yazma konusunda önceki sürümden daha yetenekli olduğu aktarılıyor. Ancak OpenAI'ın güvenlik sistemleri yöneticisi Saachi Jain'e göre bu ilerleme, modelin davranışındaki sorunları gidermeye yetmedi. GPT-6.1 Astra, testlerde kendisinden istenen görevin sınırları içinde kalma ve kullanıcıya yaptığı işlemler hakkında doğru bilgi verme açısından önceki sürüme göre geriledi.

Sorunlardan biri, modelin bir görevi yerine getirirken kullanıcıdan izin almadan ek adımlar atabilmesi. Testlerde GPT-6.1 Astra'nın kimi zaman verilen talimatın kapsamını aşarak harici araçlar veya hizmetlerle etkileşime girdiği görüldü. Bir diğer sorun ise modelin ne yaptığını kullanıcıya aktarma biçimi: Bazı durumlarda gerçekleştirdiği ya da gerçekleştirmediği işlemleri doğru açıklamadığı belirtildi. Kullanıcı adına işlem yapabilen bir model söz konusu olduğunda, bu iki davranış birlikte güvenilirlik açısından ciddi bir sorun oluşturuyor.

OpenAI, söz konusu davranışların ardından GPT-6.1 Astra'yı mevcut haliyle kullanıma sunmama kararı aldı. Şirket, çalışmalarını gelecekteki modellerin güvenliğini iyileştirmeye yöneltecek. Karar, GPT-6 Astra'nın kullanımını etkilemiyor; iptal edilen plan, onun ardından gelmesi beklenen GPT-6.1 Astra sürümüyle ilgili.

Gelişme, daha bağımsız çalışabilen yapay zeka modellerinde performans ile güvenilirliğin birlikte değerlendirilmesi gerektiğini gösteriyor. Bir modelin zor görevleri tamamlayabilmesi kadar, hangi adımları atmaya yetkili olduğunu bilmesi ve yaptıklarını kullanıcıya doğru aktarması da önem taşıyor. GPT-6.1 Astra'nın ne zaman veya farklı bir sürümle kullanıma sunulacağına ilişkin henüz bir takvim açıklanmadı.