x

Yapay zeka botları kendi dilini geliştirince Facebook mühendisleri fişi çekmek zorunda kaldı

Yapay zeka, onlarca farklı alanda insanlığa faydalı olabilmesi için geliştirilmeye devam ederken, diğer bir yandan korkumuzun yersiz olmadığını gösteren senaryolar yaşanmaya başlıyor. Facebook mühendisleri bu senaryolardan birinin nasıl gerçekleşebileceğini çok kısa bir süre önce yaşayarak öğrendiler.

Facebook mühendisleri, botların kendi aralarında iletişim kurabilmek için geliştirdiği dili anlayamayınca -deşifre edemeyince-  yapay zeka birimindeki bir bölümün, fişini çekmek zorunda kaldılar.

Paylaşılan bilgiye göre, birbiriyle İngilizce konuşabilmek üzere programlanan yapay zeka botları bir süre sonra insanlara anlamsız gelen cümleler kurmaya başlıyor:

– “I can can I I everything else” 

– “Balls have zero to me to me to me to me to me to me to me to me to

Botlar arasında gönderilmeye başlanan bu anlamsız mesajlar insanlar tarafından anlaşılamasa da Facebook mühendisleri, bu yazışmaları botların gayet iyi anlayabildiğini farkediyor. Bu durum karşısında ne yapacağını şaşıran mühendisler, çareyi sistemin fişini çekmekte buluyorlar.

Botlar kendi aralarında daha efektif bir iletişim yöntemi buldular

Bilgisayar sistemlerinin (bu olayda yapay zeka botlarının) kendi aralarında kullandıkları dili çözmek ve anlamak imkansız değil. Asıl problem, kullanılan dili kontrol altına alabilmek. Botların programlandıkları dile bağlı kalmadan, muhtemelen kendilerine daha efektif gelen yeni bir iletişim yöntemi geliştirmesi ve onu kullanması onlar için daha iyi bir seçenek gibi gelmiş olmalı. Her ne kadar korkutucu olsa da bir o kadar da etkileyici olduğunu söylemeliyiz.

Şunu not etmek de faydalı olabilir. Olayın farklı haber kaynaklarında yer almasından sonra Gizmodo, Facebook’un yapay zeka botlarının kendi dillerini geliştirdiğini inkar eden bir haber yayınladı. Buna göre Facebook’un hatası birbiriyle konuşmasını istediği bu botları, insanların anlayabileceği İngilizce kurallar çerçevesinde konuşmak üzere sınırlamamış olmasıydı. Yine de haber robotların kendi aralarında bir kısa yol geliştirme çabasına girdiğini doğruluyor. Örneğin botlar iki kere “Ben” öznesini kullandığında aynı şeyin iki kez gerçekleşmiş olduğunu anlatmaya çalışıyor.

Mark Zuckerberg, yapay zekanın önemli savunucularından ve geliştiricilerinden. Geçtiğimiz günlerde yine yapay zeka alanında çok önemli çalışmaları bulunan ve bu durumdan bir o kadar da korkan Elon Musk ile fikir ayrılığı da yaşamışlardı. Elon Musk’ın bu haberler karşısında yorumunu bir tweet ile aktarmasını bekliyorum açıkçası. Mark Zuckerberg’in de bu olaydan sonra tekrar düşünmesi gerekiyor. Korkmalı mıyız?

Yorumlar (11)

  1. programcilik hatasi… aralarinda dil gelistirdikleri falan yok. bakmislar ki botlar arasindaki iletisim coupling yolunda ilerliyor, arap sacina donmeden fisini cekelim demisler…

    Cevapla
  2. bu “henüz” mümkün değil. muhtemelen başka bir şey oldu kapattılar açtılar düzeldi. “dil” den en demek istediklerini görmek lazım yapay zeka şu an kendi dilini geliştiremez sadece var olan ingilizce kelimeleri karıştırmış botlar sonuçta kelimelere bakarak işlem yapıyor sıralaması karışmıştır vs. yeni bir dil değil 🙂

    Cevapla
  3. “bir yandan korkumuzun yersiz olabileceğini ” içerikle bu kısım çelişiyor.

    Cevapla
  4. özgürlük ve kısıtlama getirilecek yer iyi bilinmeli

    Cevapla
  5. Programcı olan anlar!
    Kod hatası!

    Facebook bunu “kontrolü kaybettik, fişini çektik” gibi bir çeşit Hollywood tarzı bilimkurgu filmini lanse eder gibi anlatması çok komik! Duyanda Steven Spielberg’ün yeni filminin fragmanı zanneder! Biraz reklam kokuyor!

    Biliyorum programcı olmayanlar için yazının başlığı ürkütücü geliyor ama öyle değil, Facebook bunun bir programcılık hatası olduğunu kabul etmek yerine “dehşet bir şey yaptık sormayın ama son anda fişini çektik insanlık emin ellerde” demeye getirmiş! Trajikomik!

    Cevapla
  6. Mehmet Yurdagul |

    ‘programci’ , ‘yazilimci’ çok güzel terimler kullanmışsınız da, bir artificial intelligence bir natural language processing’ten bahsedilmemiş yorumlarda 🙂 Evet evet tabi hala mümkün değil bunlar, türkiye’de. 🙂

    Cevapla
    • Bu yorumunuz bile olaydan ne kadar uzak olduğunuzu gösteriyor… Facebook daha önce de çuvalladığı bir çok şeyin fişini çekti. Artık yatırımcıları ürkütmemek için fişini çektiği projelere yakışıklı hikâyeler de uyduruyorlar. Belki de sırf bunun için bir departmanları bile vardır!

      Cevapla
  7. bence robotlar yakında dünyayı ele geçirecekler. bu hepimizin sonu olacak

    Cevapla
  8. space odyssey 2001 Hal9000 izleyin derim:))

    Cevapla
  9. Muharrem Atakan ŞENTÜRK |

    Yapay zekanın en temel yapısında bulanık mantık vardır. Bulanık mantık sonu kestirilemeyen sonuçlar üretir. Doğal dil işleme sistemiyle birlikte kullanımı bu tarz olaylar yaratır ki gayet normal birşey.

    Cevapla
    • Yapay zeka programlamanın ‘en temel yapısı’ bulanık mantık değil, Yapay zeka programlamanın ‘temellerinden biri’ dir bulanık mantık. Yapay zeka programlamanın altında bunun gibi birkaç tane mantık bulunuyor. Bulanık mantık kullanılarak da yapay zeka programlayabilirsiniz. Ancak bulanık mantık zorunlu değildir. İsterseniz yerine başka bir şey kullanıp bulanık mantığı hiç kullanmazsınız.

      Cevapla

Bir Cevap Yazın