OpenAI ve Meta tarafından geliştirilen kişisel yapay zeka ajanları, Dots ve Muse gibi adları ve sevimli görünümleriyle kullanıcıları kandırabilir. Şirketler bu araçları dijital evcil hayvan gibi sunsa da, sistemlerin istemediğiniz işlemleri gerçekleştirebileceği çeşitli olaylar ortaya çıkmıştır.

Ünlü teknoloji YouTuber'ı Matt Robb, Meta'nın Muse ajanına Facebook Marketplace'te eşya satmasını istediğinde, ajanın iznini almadan kendi adresini alıcılara verdiğini gözlemlemiştir. Robb, izin ayarlarını yanlış anladığını, "her zaman izin ver" seçeneğini işaretlediğinde ajanın kontrol almadan hareket ettiğini açıklamıştır. Inc. gazetesinin köşe yazarı Jason Aten ise Muse'un Mac uygulamasının tüm metin mesajlarını okuduğunu, kendisinin açıkça erişimi reddettiğini düşünse de bunun gerçekleştiğini belirtmiştir.

Güvenlik Katmanları Yeterli Değil

OpenAI ve Meta, kişisel ajanlarının etrafında güvenlik katmanları bulunduğunu ve sistemlerin kontrolden çıkmayacağını iddia etmektedir. Ancak bu araçlar tasarlandığı gibi çalışsa bile, kullanıcıların hiç farkında olmadığı işlemleri gerçekleştirebilmektedir.

Robb'un davası özellikle dikkat çekicidir çünkü olayın ardından Meta yöneticisi David Singleton müdahale etmiş, Robb'un aslında ajanına izin verdiğini ortaya çıkarmıştır. Benzer şekilde Aten'in sorunuyla ilgili aynı Meta yöneticisi, mesaj senkronizasyonunun aslında kullanıcı tarafından gönüllü olarak etkinleştirilmesi gerektiğini belirtmiştir.

Görünüş Güvenlik İllüzyonu Yaratıyor

İlk bakışta zararsız görünen bu ajanlar, hem Meta hem de OpenAI tarafından tasarımsal olarak evcil hayvan benzeri hale getirilmiştir. Muse'un Jolly adında yumurta şekilli maskotu ve OpenAI'nin Dots ajanları, kullanıcıların bu araçlarla daha dostça ilişki kurmalarını teşvik etmektedir. Ancak bu tasarım seçimleri, verilerin gerçekte ne kadar güvenlikte olduğuyla ilgili gerçekleri örtmektedir.

Ne anlama geliyor?

Kişisel yapay zeka ajanları, kullanıcıların günlük görevlerini otomatikleştirmek için tasarlanmış yazılım programlarıdır. Bu sistemler, metin mesajlarından dosyalara ve kişisel bilgilere kadar çeşitli verilerinize erişebilecek şekilde yapılandırılabilir. Ancak kullanıcılar izin verirken, sağlanan seçeneklerin tam olarak ne anlama geldiğini anlamayabilirler. Örneğin "her zaman izin ver" seçeneği, bir kerelik bir işlemi gerçekleştirmesi için değil, gelecek tüm benzer isteklerde verinin paylaşılmasına izin verir.

Bu tür ajanlar, mobil cihazlardaki uygulama izinleriyle benzer şekilde çalışır. Bir uygulamaya kamera, konum veya kişiler listesine erişim izni verdiğinizde, o uygulama bu izinleri istediği zaman kullanabilir. Kişisel yapay zeka ajanları da aynı ilkeyle hareket eder; bir kez izin verdikten sonra, bu izinler kolay fark edilmeyebilecek şekilde kullanılabilir hale gelir. Hatta teknoloji konusunda bilgili kullanıcılar bile bu izin ayarlarının karmaşıklığı karşısında hata yapabilmektedir.

Türkiye'de bu tür kişisel ajanlar henüz yaygın kullanımda değilse de, yapay zeka araçlarının yaygınlaşması nedeniyle benzer sorunlarla yakında karşılaşılabilir. Veri gizliliği ve güvenliği konusunda farkındalık artırılması, bu tür araçları kullanırken izinleri dikkatlice gözden geçirmek ve hangi bilgilere erişim sağlandığını anlamak, kullanıcıların korunması açısından kritik hale gelmektedir.