Son dönemde yapay zeka teknolojilerinin ne kadar geliştiği aşikar. Ancak bu teknoloji, böylesine hızlı bir şekilde gelişir ve talep görürken bazı şeyleri de göz ardı etmemek gerekiyor. Yapay zeka teknolojisinin doğru bir şekilde kullanılması ve gerektiği şekilde denetlenmesi oldukça önemli; zira bu teknoloji, özellikle insan hayatına dokunan alanlarda, hatalı ya da yanlış kararlar alabiliyor ve bu durum, insanların hayatını ciddi şekilde etkileyebiliyor.
Yapay zekanın yayılmasında etkisi büyük olan OpenAI'ın yöneticileri Sam Altman, Greg Brockman, Ilya Sutskever da farklı düşünmüyor olacak ki bir blog gönderisine göre bu teknolojinin uluslararası bir kurum tarafından denetlenmesi gerektiğini savunuyorlar.
Altman, Brockman ve Sutskever, şu anda gördüğümüz tabloya bakılırsa, önümüzdeki on yıl içinde yapay zeka sistemlerinin çoğunun alanda uzman beceri düzeyini aşacağının ve günümüzün en büyük şirketlerinden biri kadar üretken faaliyet yürüteceğinin düşünülebileceğini söylüyor. Yöneticilere göre hem potansiyel artıları hem de eksileri açısından süper zeka, insanlığın geçmişte mücadele etmek zorunda kaldığı diğer teknolojilerden daha güçlü olacak. Bu nedenle günümüzün yapay zeka teknolojisinin risklerini de azaltmak gerekiyor.
Bu kapsamda OpenAI yöneticilerinin önerdiği bazı yollar mevcut.
İlk olarak, süper zekanın gelişiminin hem güvenliği korumak hem de bu sistemlerin toplumla sorunsuz bir şekilde bütünleşmesine yardımcı olacak şekilde gerçekleşmesini sağlamak için önde gelen geliştirme çabaları arasında bir dereceye kadar koordinasyona ihtiyaç bulunuyor.
Bunun hayata geçirilebileceği konusunda pek çok yol olduğunu söyleyen ekip, dünyanın dört bir yanındaki büyük hükümetlerin, mevcut pek çok çabanın parçası olduğu bir proje oluşturabileceğini ya da sınırdaki yapay zeka kapasitesindeki büyüme oranının yılda belirli bir oranla sınırlandırılması konusunda toplu olarak anlaşılabileceğini söylüyor. Ayrıca bireysel şirketlerin sorumlu davranma konusunda son derece yüksek bir standarda tabi tutulması gerektiği de belirtiliyor.
Sistemleri düzenleyecek ve denetleyecek bir kurum ihtiyacı
OpenAI ekibi, ikinci olarak, süper zeka çabaları için IAEA gibi bir kuruma ihtiyaç duymamızın muhtemel olduğunu belirtiyor. Bunun için istenen, belirli bir yetenek eşiğinin üzerindeki herhangi bir çabanın, sistemleri denetleyebilecek, denetimler gerektirebilecek, güvenlik standartlarına uygunluğu test edebilecek, dağıtım derecelerine ve güvenlik seviyelerine kısıtlamalar getirebilecek vb. uluslararası bir otorite.
Altman, Brockman ve Sutskever'a göre ilk adım olarak, şirketlerin gönüllü olarak böyle bir ajansın bir gün gerektirebileceği unsurları uygulaması ve ikinci adım olarak da tek tek ülkelerin bunu uygulaması gerekebilir. Böyle bir ajansın, bir yapay zekanın ne söylemesine izin verilmesi gerektiğini tanımlamak gibi tek tek ülkelere bırakılması gereken konulara değil, varoluşsal riski azaltmaya odaklanması ise önemli.
OpenAI, üçüncü olarak, bir süper zekayı güvenli hale getirmek için teknik kapasiteye ihtiyaç olduğunu ve bunun çalışmalarının devam ettiğini söylüyor.
Kapsam dışı olabilecek durumlar
OpenAI'a göre, şirketlerin ve açık kaynaklı projelerin, burada tanımlanan türden bir düzenleme olmaksızın, önemli bir yetenek eşiğinin altında modeller geliştirmelerine izin vermek ise önemli. Şirket, bugünün sistemlerinin dünyada muazzam bir değer yaratacağını ve riskleri olsa da, bu risklerin seviyesi diğer internet teknolojileri ile orantılı olduğunu söylüyor. Buna karşın, endişe duyulan sistemlerin henüz yaratılmamış tüm teknolojilerin ötesinde bir güce sahip olacağı da belirtiliyor.
En güçlü sistemlerin yönetişiminin yanı sıra bunların konuşlandırılmasına ilişkin kararların da güçlü bir kamu denetimine sahip olması ve dünyanın dört bir yanındaki insanların yapay zeka sistemleri için sınırlara ve varsayılanlara demokratik olarak karar vermesi gerektiği de paylaşılanlar arasında. Ancak bunun nasıl yapılacağı şu an için belirsiz.
Neden önemli?
Aslında OpenAI'ın yapmak istediği oldukça önemli. Yapay zeka teknolojilerinin etik ve sorumlu bir şekilde kullanılması, doğru şekilde denetlenmesi ve kontrol edilmesi gerekiyor. Bu sayede, yapay zeka teknolojileri insanların hayatını kolaylaştıracak ve geliştirecek bir araç olarak kullanılabiliyor. Ancak, bu teknoloji denetlenmediği takdirde, insan hayatı ve toplum üzerinde olumsuz etkiler yaratabilecek riskler taşıyabilir. Bu yüzden OpenAI yöneticileri tarafından kaleme alınan bu metin, aslında gelecek konusunda önemli bir yol haritası çiziyor.
İlk Yorumu yazmak ister misiniz?
Yorum Yazmak için Giriş Yap