McKinsey & Company'nin yeni üretimsel yapay zeka aracı: Lilli

Haziran ayında 30 bin çalışanından neredeyse yarısının üretimsel yapay zeka araçlarını kullandığını açıklayan McKinsey & Company, şimdi de kurum içinde kullandığı kendi üretimsel yapay zeka aracı Lilli ile karşımıza çıkıyor. 

McKinsey'nin müşteri teknolojilerine odaklanan ClienTech ekibi tarafından üretilen Lilli, yapay zeka destekli yeni bir sohbet uygulaması. Uygulama, 100 bin doküman ve mülakat dökümüne dayanan bilgiler sunuyor. Bu bilgiler arasında iç görüler, veriler ve planlar yer alırken, araç, danışmanlık projeleri için kurumdaki en uygun uzmanları öneriyor. 

Lilli'nin öne çıkan verileri

Lilli, ismini McKinsey'nin 1945 yılında profesyonel hizmetler rolü için işe aldığı ilk kadın olan Lillian Dombrowski'den alıyor. Haziran ayından bu yana Beta sürümünde olan Lilli, bu son bahar aylarında McKinsey çatısı altında yer alan tüm çalışanlara sunulacak.

McKinsey'nin kıdemli ortaklarından Erik Roth'un paylaştıklarına göre; ürün, beta sürümü boyunca bir MVP (minimum viable product) olarak yaklaşık 7 bin çalışana hizmet verdi. Böylece haftalarca sürebilecek araştırma ve planlamaların saatler içinde tamamlanmasını sağladı. Lilli, yalnızca son 2 haftada 50 bin soruyu yanıtladı. Lilli'den yararlananların yüzde 60'ı ise haftada birkaç kez ürünü kullanıyor. 

Lilli'nin öne çıkan özellikleri 

ChatGPT ve Claude 2 benzeri bir arayüze sahip olan araç, kullanıcıların kayıtlı komutlarını içeren genişletilebilir bir sol kenar çubuğuna sahip. Kullanıcılar bu komutları kopyalayıp yapıştırabilirken, istediği gibi de değiştirebiliyor. 

Arayüzde “GenAI Chat” (üretimsel yapay zeka sohbeti) ve “Client Capabilities” (müşteri kabiliyetleri) başlıklarına sahip iki sekme yer alıyor. GenAI Chat sekmesi, görece daha genelleştirilmiş geniş dil modellerinin verilerine dayanıyor. Lilli, üretimsel yapay zeka destekli sohbet özelliği ve doğal dil işleme yetenekleri için şu anda piyasada mevcut olan geniş dil modellerinden faydalanıyor. Bu modeller arasında Microsoft Azure OpenAI'ın modeli ve McKinsey'nin iş ortağı Cohere'in modeli de mevcut.

“Client Capabilities” ise McKinsey'nin 100 binden fazla dokümanını, transkriptini ve sunumunu temel alan yanıtlar veriyor. Bu noktada uygulamanın McKinsey tarafından geliştirilmesi, kurumu, kullanıcı ile geniş dil modellerinin kullandığı veriler arasında güvenli bir katman olarak konumlandırıyor. 

Arayüzdeki bu iki sekmeli yaklaşım, kullanıcıların, kamuya açık bilgileri, McKinsey kaynaklarıyla kıyaslamasını sağlıyor. Buna ek olarak Lilli, verdiği yanıtların dayanak noktalarını gösteren ayrı bir Kaynaklar kısmı sunuyor. Kaynaklar kısmında bağlantıların yanı sıra konuların bahsedildiği sayfaların sayfa numaralarına dahi yer veriliyor. 

Lilli'ye dair gelecek planları

McKinsey danışmanlarının, bir müşteriyle gerçekleştirilen çalışmaların neredeyse her aşamasında Lilli'yi kullanması planlanıyor. Bu aşamalara, müşterinin sektörü ve rakipleri hakkında ilk araştırmayı gerçekleştirmek veya müşterinin belirli projeleri nasıl uygulayabileceğine dair planlar hazırlamak da dahil. 

Şimdilik Lilli kullanıcıların sorularını diğer geniş dil modellerine kıyasla daha yavaş yanıtlıyor. Ancak şirket, yapılan çalışmalar kapsamında Lilli'nin daha hızlı yanıtlar vereceğini belirtiyor. Bununla beraber, şirket, müşteri bilgilerinin ve dokümanlarının, özel analizler için güvenli bir şekilde McKinsey sunucularına yüklenmesi amacıyla çalışmalarını sürdürüyor. 

Şirket, ilerleyen dönemde, Lilli'yi, McKinsey müşterileri veya diğer firmalar tarafından kullanılmak üzere tamamen dışa dönük bir ürüne dönüştürmeyi düşünmekte.