OpenAI'ın GPT-4'un yerini alacak yeni bir yapay zeka modeli üzerinde çalıştığını sizlere aktarmıştık. Şirket, bununla beraber, modelin ve gelecekteki teknolojilerin yarattığı riskleri nasıl ele alması gerektiğini araştırmak üzere yeni bir Güvenlik ve Emniyet Komitesi oluşturduğunu açıklamıştı. Şirketin dün paylaştığı blog gönderisinde komitenin Bret Taylor, Adam D’Angelo, Nicole Seligman ve Sam Altman tarafından yönetileceği duyuruldu.
OpenAI'ın yeni güvenlik ekibinin diğer üyeleri arasında hazırlık başkanı Aleksander Madry, güvenlik başkanı Lilian Weng, uyum bilimi başkanı John Schulman, güvenlik başkanı Matt Knight ve baş bilim insanı Jakub Pachocki yer alıyor. Bu arada geçen yılki başarısız yönetim kurulu darbesi sırasında John Schulman'ın Altman'ın yanında yer aldığını hatırlatalım.
Yeni ekip, ilk olarak OpenAI'ın süreçlerini ve güvenlik önlemlerini değerlendirecek. Komite bu önlemlerin ve süreçlerin daha da geliştirilmesini sağlayacak. Bu sürecin ardından komite, ilgili bulgularını OpenAI'ın güvenlik ekibinin üç liderinin de yer aldığı yönetim kuruluna sunacak. Yönetim kurulu daha sonra güvenlik ekibinin tavsiyelerinin nasıl uygulanacağına karar verecek.
OpenAI'da güvenlik kaygıları ve istifalar
Hatırlarsanız OpenAI'ın kurucu ortaklarından biri olan baş bilim insanı Ilya Sutskever, yapay zeka hakkındaki endişelerini sıkça dile getirmekteydi. Sutskever, daha güçlü yapay zekayı yönlendirmek ve kontrol etmek için şirket içinde Superalignment ekibini kurmuştu. Sam Altman'ın OpenAI'dan kısa süreli ayrılığında kilit rol oynayan Ilya Sutskever, geçtiğimiz günlerde şirketten resmi olarak ayrıldığını açıkladı. Sutskever'in ayrılığını takiben, Superalignment ekibini yöneten Jan Leike de OpenAI'dan istifa etti. Leike, X'te yayınladığı bir gönderide OpenAI'da güvenliğin parlak ürünler karşısında arka planda kaldığını ifade etmişti. Geçtiğimiz hafta OpenAI'ın politikalarını araştırma rolü üstlenen Gretchen Krueger da benzer güvenlik kaygılarını gerekçe göstererek istifa etti. Jan Leike ise istifa etmekle kalmadı ve OpenAI'ın rakibi Anthropic'e katıldı. Bu noktada Anthropic'in eski OpenAI çalışanları tarafından kurulduğunu hatırlatalım. Leike, Anthropic'te ölçeklenebilir gözetim, zayıftan kuvvetliye genelleme ve otomatik hizalama araştırmaları üzerinde çalışacak.
Yapay zeka ve güvenlikten bahsetmişken OpenAI'ın geçtiğimiz haftalarda Scarlett Johansson ile yaşadığı çekişme ile gündeme geldiğini hatırlatalım. Scarlett Johansson, ChatGPT 4.o ile yıldızı parlayan Sky sesinin, kendi sesine benzediğini belirterek, OpenAI'dan açıklama talep etti. OpenAI, sesin Johansson'ı taklit etmediğini savunsa da kullanımını durdurdu.
Scarlett Johansson paylaştığı bir açıklama ile geçtiğimiz Eylül ayında, mevcut ChatGPT 4.o sistemini seslendirmesi için Sam Altman'dan bir teklif aldığını açıkladı. Kişisel nedenlerden ötürü teklifi reddeden Johansson, ChatGPT 4.o demosunun yayınlanmasından iki gün önce Sam Altman'ın menajeriyle yeniden iletişime geçtiğini belirtti.
Bu tartışmalar gündemdeyken, yeni Güvenlik ekibi, OpenAI'ın imaj tazeleme çalışması olarak düşünülebilir. Ancak iki yönetim kurulu üyesi Adam D’Angelo ve Nicole Seligman yanı sıra CEO Sam Altman'ın yeni güvenlik kurulunda yer alması, şirketin eski çalışanlarının gündeme getirdiği endişeleri perçinlemeye devam ediyor.
İlk Yorumu yazmak ister misiniz?
Yorum Yazmak için Giriş Yap