Microsoft ve OpenAI paylaştıkları yeni bir araştırma ile hackerların siber saldırıları geliştirmek ve iyileştirmek için ChatGPT de dahil olmak üzere geniş/büyük dil modellerini (LLM) kullandıklarını açıkladı. Araştırmada Microsoft ve OpenAI, Rus, Kuzey Kore, İran ve Çin destekli hacker gruplarının, ChatGPT gibi araçları kullanarak hedef aldıkları kurum ve kişiler hakkında araştırma yaptıkları, kod bloklarını geliştirdiklerini ve sosyal mühendislik teknikleri inşa ettikleri belirtiliyor.
Hacker grupları LLM'lerden nasıl faydalanıyor?
Örneğin, Rus askeri istihbaratıyla bağlantılı Strontium grubu, uydu iletişim protokollerini, radar görüntüleme teknolojilerini ve belirli teknik parametreleri anlamak için LLM'leri kullanıyor. Microsoft'un paylaştığı bilgilere göre; bu grup teknik işlemleri potansiyel olarak otomatikleştirmek veya optimize etmek üzere temel komut dosyası görevlerine yardımcı olmak için LLM'leri kullanıyor. Bu görevler arasında dosya manipülasyonu, veri seçimi ve çoklu işlem yer almakta.
Bu arada Strontium grubunun APT28 ya da Fancy Bear olarak da bilindiğini ve Rusya-Ukrayna savaşında aktif bir rol üstlendiğini belirtelim. Aynı şekilde bu grup, 2016'da Hillary Clinton'ın başkanlık kampanyasını hedef almıştı.
Thallium olarak bilinen Kuzey Koreli bir hacker grubu ise kamuya açık olarak bildirilen güvenlik açıklarını ve hedef kuruluşları araştırmak, temel komut dosyası görevlerine yardımcı olmak ve kimlik avı kampanyaları için içerik hazırlamak için LLM'leri kullanıyor. Paylaşılan bilgilere göre; Curium olarak bilinen İranlı hacker grubu da kimlik avı e-postaları üretmek ve antivirüs uygulamaları tarafından tespit edilmekten kaçınmak için kod oluşturmak üzere LLM'leri kullanıyor. Çin devletine bağlı hackerlar ise LLM'leri araştırma, komut dosyası oluşturma, çeviri yapma ve mevcut araçlarını iyileştirmek için kullanıyor.
Bunlara ek olarak ABD Ulusal Güvenlik Ajansı'ndan (NSA) üst düzey bir yetkilinin de geçen ay hackerların kimlik avı e-postalarının daha inandırıcı görünmesini sağlamak için yapay zeka kullandıkları konusunda uyarıda bulunduğunu belirtelim.
Security Copilot
Bu arada Microsoft ve OpenAI'ın henüz LLM'leri kullanan herhangi bir önemli saldırı tespit etmediğini ekleyelim. Öte yandan her iki şirket de bu hack gruplarıyla ilişkili tüm hesapları ve varlıkları kapatıyor.
Ayrıca Microsoft, yapay zeka kullanan hackerlar ile mücadele etmek için yine yapay zekadan faydalanıyor. Microsoft, bu mücadeleye destek olması için yapay zeka asistanı Security Copilot'ı geliştiriyor. Security Copilot, siber güvenlik uzmanlarının ihlalleri tespit etmesi için tasarlandı. Güvenlik uzmanları Security Copilot kullanarak her gün siber güvenlik araçları aracılığıyla üretilen büyük miktarda sinyal ve veriyi daha iyi anlayabilecek.
İlk Yorumu yazmak ister misiniz?
Yorum Yazmak için Giriş Yap