Konuya yakın kaynakların Reuters'a aktardıklarına göre; OpenAI CEO'su Sam Altman'ın şirketten kovulmasından önce, şirkette çalışan araştırmacılardan bazıları yönetim kuruluna bir mektup yazarak insanlığı tehdit edebilecek güçlü bir yapay zeka keşfi konusunda onları uyardı.
İnsanlığı tehdit edebilecek güçlü bir yapay zeka
Paylaşılan bilgilere göre; söz konusu mektup ve yapay zeka algoritması Sam Altman'ın şirketten kovulmasında etkin rol oynadı. Aktarılanlara göre; Sam Altman'ın kovulmasına yol açan daha uzun bir şikayet listesi mevcut. Mektup ise listedeki yalnızca tek bir faktör. Şikayet listesinde yer alanlar arasında, sonuçları anlamadan önce ilerlemelerin ticarileştirilmesine dair endişeler de bulunuyor.
Mektup henüz kamuya açık bir şekilde paylaşılmazken, mektubu kaleme alan çalışanlar da konu hakkında sessizliğini korumayı tercih ediyor. Aynı şekilde OpenAI da mektup hakkındaki soruları yanıtsız bırakmakta.
Q* Projesi
Öte yandan OpenAI, çalışanlarına gönderdiği bir iç yazışmada Q* adlı bir projeyi ve hafta sonu yaşanan olaylardan önce yönetim kuruluna bir mektup gönderildiğini kabul etti. Kurumda uzun süredir yöneticilik yapan ve Sam Altman'ın yerine geçici CEO olarak atanan Mira Murati tarafından gönderilen bu yazışma, bir OpenAI sözcüsünün belirttiklerine göre; medya tarafından sunulan belli hikayeler hakkında yorum yapmadan çalışanları bu hikayelere dair uyarmak için gönderildi.
Kaynaklardan biri, Q* projesinin OpenAI'ın yapay genel zeka (AGI) arayışında bir atılım olabileceğine inandığını ifade etti. Bu noktada OpenAI'ın yapay genel zeka tanımını hatırlatmakta fayda var. Şirket, yapay genel zekayı, ekonomik açıdan değerli görevlerin çoğunda insanları gölgede bırakan otonom sistemler olarak tanımlıyor.
Şirketteki kaynakların paylaştığına göre; bu yeni model, geniş bilgi işlem kaynakları sayesinde belirli matematik problemlerini çözebiliyor. Söz konusu model şu an için yalnızca ilkokul öğrencileri düzeyinde matematik yetisine sahip. Ancak bu tür testlerde başarılı olması, araştırmacıları Q*'nun gelecekteki başarısı konusunda umutlandırıyor. Bununla beraber Q* projesinin yetenekleri ve kapsamı henüz resmi kurum ve kaynaklar tarafından doğrulanmadı.
Geniş dil modelleri ile üretimsel yapay zeka, söz konusu metin yazımı, dil çevirisi veya içerik üretimi olduğunda geniş kapsamlı yetenekler sağlayabiliyor. Ancak konu, kesin sonuçlara ulaşılması gereken matematik olduğunda işler değişiyor. Yapay zekanın matematik yeteneğini ileri taşıması beraberinde insan zekasına benzeyen muhakeme yeteneklerinin de gelişmesi anlamını taşıyor. Böylece yapay genel zeka öğrenme ve kavrama yeteneklerini geliştirirken, genellemelerde de bulunabilir.
Yapay zeka bilim insanları ekibi
Paylaşılan bilgilere göre; araştırmacılar söz konusu yapay zekanın yeteneklerine ve potansiyel tehlikelere dikkat çekti. Ancak araştırmacılar, güvenlik odağındaki endişelerini net olarak belirtmedi. Bununla beraber mektupta, "yapay zeka bilim insanları" ekibinin çalışmalarından da bahsedildi. "Code Gen" ve "Math Gen" ekiplerinin bir araya getirilmesiyle oluşturulan bu ekip, mevcut yapay zeka modellerinin muhakemelerini geliştirmeye odaklanıyor. Ekip, yapay zekanın nihayetinde bilimsel çalışmalar yapmak için nasıl optimize edileceğini de araştırıyor.
Bu arada OpenAI'ın başarısının temel taşı Ilya Sutskever'in de yapay genel zeka kavramını sık sık gündeme getirdiğini hatırlatalım. Sam Altman'ın kovulmasında ve şirkete geri dönmesinde kilit rol oynayan Sutskever, özellikle 10 yıl içinde insanlardan daha üstün bir yapay zeka ortaya çıkacağına inanıyor.
Sutskever, Jan Leike ile beraber kaleme aldığı blog gönderisinde süper zeki bir yapay zekayı kontrol etmek ya da önlemek üzere bir çözümümüzün olmadığına dikkat çekiyordu:
"Şu anda, potansiyel olarak süper zeki bir yapay zekayı yönlendirmek veya kontrol etmek ve onun yoldan çıkmasını önlemek için bir çözümümüz yok."
İlk Yorumu yazmak ister misiniz?
Yorum Yazmak için Giriş Yap