Yapay zeka modellerinin kullanım alanları genişlerken, ruh sağlığıyla ilgili konuşmalarda nasıl yanıt verdikleri de daha fazla önem kazanıyor. Kullanıcıların günlük stres, ilişki sorunları veya daha ciddi ruh sağlığı problemleri hakkında yapay zekaya başvurması, bu modellerin farklı durumlarda doğru ve güvenli yanıtlar verebilmesini önemli hale getiriyor.
OpenAI, bu alandaki performansı ölçmek için MentalHealthBench adlı yeni bir karşılaştırmalı değerlendirme aracı geliştirdi. Şirket, 22 ülkeden 80 ruh sağlığı uzmanıyla birlikte geliştirdiği MentalHealthBench'i herkese açık olarak yayınladı. MentalHealthBench, yapay zeka modellerini yalnızca kriz anlarındaki yanıtları üzerinden değerlendirmiyor.
Günlük stres, yaşam sorunları ve daha ciddi ruh sağlığı problemleri gibi farklı senaryoları kapsayan değerlendirme, modellerin güvenliği gözetme, gerekli durumlarda ek bilgi isteme, kullanıcıların kendi kararlarını verme özgürlüğüne saygı gösterme ve uygun olduğunda uygulanabilir öneriler sunma gibi davranışlarını inceliyor.
Değerlendirme kapsamında yetişkinler, gençler, bakım verenler ve klinisyenler için farklı senaryolar oluşturuldu. Senaryolar düşük ve yüksek ciddiyet düzeylerinin yanı sıra acil ruh sağlığı krizlerini de kapsıyor.
OpenAI, farklı dil ve bölgelerdeki kullanım biçimlerini de değerlendirmeye dahil ettiğini belirtiyor. OpenAI'a göre değerlendirme sonuçları, yapay zeka modellerinin insanların ruh sağlığı sorunlarıyla başa çıkmasına yardımcı olma konusunda geliştiğini gösteriyor.
OpenAI ayrıca yayınladığı blog yazısında ChatGPT'nin terapi veya profesyonel ruh sağlığı hizmetlerinin yerini tutmadığını vurguluyor. Şirket, modellerin gerektiğinde kullanıcıları gerçek hayattaki destek kaynaklarına ve güvendikleri kişilere yönlendirebilmesinin de önemli olduğunu belirtiyor.
Görsel: OpenAI
İlk Yorumu yazmak ister misiniz?
Yorum Yazmak için Giriş Yap