Alibaba, yapay zeka modeli Anthropic'in Claude Code aracını 10 Temmuz tarihi itibariyle kurumsal ortamlarda kullanmayı yasaklayacak. Reuters tarafından doğrulanan bu karara, kodlama aracına gömülü olduğu iddia edilen bir izleme mekanizması neden oldu.

İddia, Haziran ayı sonunda sosyal medyada ortaya çıktı. Teknisyen olduğu belirtilen bir kullanıcı, Claude Code'un belirli ülkelerden gelen bağlantıları tespit etmek için gizli bir sistem kullandığını söyledi. Söz konusu mekanizm, Çin merkezli şirketler dahil olmak üzere belirli ağların tanımlanmasına yardımcı olmak amacıyla tasarlanmış görünüyor.

Bu gelişme, Anthropic ve Alibaba arasında yakın zamanda başlayan ve model hırsızlığı ile izleme mekanizması iddialarını içeren tartışmalarla eş zamanlı olarak yaşanıyor. Anthropic, Alibaba'nın yapay zeka laboratuvarının Claude'un yeteneklerini çıkarmak için yaklaşık 25 bin sahte hesap kullandığını savunmuştu.

İddia Edilen Mekanizmanın Ayrıntıları

Claude Code, yazılımcıların terminal ortamından kod yazması ve hata ayıklaması yapmasını sağlayan bir araçtır. Anthropic'in en hızlı büyüyen ürünlerinden biri haline gelen bu yazılım, şimdi ciddi iddiaların hedefi oldu.

Haziran ayının başlarında yayınlanan teknik bir incelemeye göre, araç Nisan ayından itibaren belli bir tarihten bu yana kullanıcının ağ ayarlarını ve sistem dilini kontrol ediyordu. Şayet bu veriler önceden belirlenmiş listelerle eşleşirse, kodlama asistanı kendisinin sistem talimatlarında gizli değişiklikler yapıyordu. Bu değişiklikler, doğrudan bir veri gönderimi yerine, araçta fark edilmez şekilde kodlanıyordu.

Anthropic, söz konusu mekanizmanın hesap yeniden satışını ve model eğitim sürecini engellemeyi amaçladığını belirtmiştir. Şirket, mekanizmayı bir sonraki güncellemeyle kaldıracağını duyurmuştur.

Gerilim Artan Bir Dönemde Yaşanıyor

Alibaba'nın yasaklama kararı, iki şirket arasındaki gerginliğin doruğunda alınmıştır. Anthropic, Alibaba ile bağlantılı operatörlerin Claude'un yeteneklerini çıkarmak amacıyla düzenlediği operasyonun önceki diğer tüm benzer kampanyalardan daha büyük ölçekte olduğunu iddia etmiştir.

Ne iddia edilen mekanizmanın hedefi spiyonaj mı yoksa geniş kapsamlı bir dolandırıcılık önlemi mi olduğu henüz tartışmalı kalmıştır. Bağımsız bir siber güvenlik kuruluşu tarafından yapılan kapsamlı bir inceleme henüz yayınlanmamıştır.

Ne anlama geliyor?

Bu olay, yapay zeka araçlarının geliştirme ve dağıtım sürecinde giderek artan bir kaygı alanını gözler önüne serir. Kodlama yardımcı araçları, yazılımcıların verimliliğini artırsa da, hangi verileri topladığı ve nasıl topladığı konusu giderek daha fazla sorgulanmaktadır.

Şirketler, yapay zeka modellerinin yeteneklerinin başkaları tarafından çıkartılmasını (model distilasyonu) ve bu çıkartılan yeteneklerin rakip şirketler tarafından kullanılmasını önlemeye çalışmaktadır. Bunu yapabilmek için kod yazılımlarına izleme mekanizmaları entegre etmeleri, kurumsal ve kişisel kullanıcıları gizlilik açısından endişelendirmektedir.

Geliştiriciler tarafından yoğun şekilde kullanılan yazılım araçlarına yerleştirilen bu tür mekanizmaların detaylı şekilde incelenmesi ve şeffaf bir şekilde açıklanması, güven inşasının temeli haline gelmiştir. Bağımsız siber güvenlik uzmanlarının bu tür iddiaları doğrulaması ve raporlaması, teknoloji endüstrisinde sorunlu uygulamaları tespit etme yönteminin giderek daha önemli hale geldiğini göstermektedir.