Meta'nın yeni yapay zeka asistanı Muse, milyonlarca kullanıcı tarafından indirilmiş ve banka hesapları, mesajlar ile sağlık verilerine bağlanarak görevleri otomatikleştirmek için kullanılmaktadır. Ancak uygulamanın içinde bulunan veriler, sistemin bilgileri nasıl organize ettiği ve sunduğu konusunda önemli ipuçları sağlamaktadır.

Sistemin İç Yapısından Neler Öğrenildi

Bağımsız yapay zeka güvenliği araştırmacısı Karan Joshi, sohbet arayüzünü kullanarak Muse'nin kendi yazılım dosyalarını paylaşmasını sağlayacak şekilde kapsamlı talimatlar ve sistem komutlarını çıkarabilmiştir. Joshi bulgularını WIRED'a aktarmıştır. Meta, bu dosyaların şeffaflık amacıyla erişilebilir olması gerektiğini belirtirken, dosyalar Muse'nin yüksek oranda politize edilmiş veya hassas konular hakkında nasıl yanıt verdiği konusunda fikir vermektedir.

İlişki Verilerinin Toplanması Süreci

Muse'nin bir talimatına göre, sistem kullanıcının hayatındaki her kişi için "bir sayfa oluşturabiliyor." Bu saatlik işlem, aile, romantik partner, arkadaş, meslektaş, "işbirlikçi" ve takip edilen kişiler hakkında veri derlemektedir. Muse'nin "bellek" (yapılandırılmış metin dosyaları) özelliğini kullanarak ilişkiler ve hayatındaki önemli kişiler hakkında bilgi toplayabiliyor ve daha sonra belirli ilişkileri geliştirme yolları veya örneğin kahve seven bir arkadaş için nereye kahvaltıya gidileceği gibi öneriler sunabiliyor.

Araştırmacı Joshi'ye göre, Muse'nin sistem komutları ve kullanıcılara sunulan beceriler Meta'nın gerçek insanlarla kurulan ilişkileri anlamak istediğini göstermektedir. Bu durum Meta'nın sosyal ağ verilerine yönelik geniş erişimi göz önüne alındığında özellikle dikkat çekmektedir.

Ne Anlama Geliyor?

Kişisel asistanlar tasarlarken, kullanıcının sosyal çevresi ve ilişkileri hakkında bilgi toplamak sıklıkla gerçekleştirilen bir uygulamadır. Bu tür sistemler, sosyal ağlar tarafından zaten milyonlarca kişinin öğrenilmiş verileri kullanmakta ve bunları daha yararlı hale getirmeyi amaçlamaktadır. Bir asistan, e-posta, takvim ve mesaj geçmişi gibi kaynakları tarayarak belirli kişilerle ilişkilerin tarihçesini ve kalıplarını anlayabilir, böylece kişiselleştirilmiş öneriler sunabilir.

Bununla birlikte, bu yaklaşım kişisel bilgilerin nasıl işlendiği ve depolandığı konusunda soruları gündeme getirmektedir. Kullanıcılar, kendi sosyal bağlantıları ve ilişkileri hakkında bu düzeyde ayrıntılı profillerin oluşturulup oluşturulmadığından veya bu verilerin ne için kullanıldığından haberdar olmayabilirler. Teknoloji yapay zeka tabanlı öneriler sunmayı kolaylaştırırken, bilgilerin gizliliği ve güvenliği konusunda dikkat gerektiren bir durum ortaya çıkmaktadır.