Abliteration.ai adlı startup, açık ağırlıklı yapay zeka modellerindeki koruyucu katmanları kaldıran 'abliteration' tekniğini kullanarak, kullanıcıların tarayıcı üzerinden veya API aracılığıyla bu modifikasyonlu modelleri sorgulamasına olanak tanıyor. Platformun ana odak noktası arasında, Z.ai tarafından geliştirilen ve son dönemde dikkat çeken GLM-5.3 modeli de bulunuyor.
Güvenlik sınırlarının ticarileşmesi
Kuruluşun sosyal medya hesaplarından yapılan açıklamaya göre, hedef; siber saldırı senaryoları, kırmızı takım (red-teaming) testleri ve ajan testleri gibi standart modellerde red edilen 'saldırgan' işlemlerin gerçekleştirilmesini sağlamaktır. Siber güvenlik sektöründe yaygın olan yaklaşım, savunma mekanizmalarının ancak saldırı davranışları başarıyla yeniden üretilebildiğinde test edilebileceği yönündedir. Bu mantıkla hareket eden şirket, saldırganların kullandığı teknikleri modellemeyi kabul etmeyen modellerin, savunma stratejileri geliştirmekte yetersiz kaldığı görüşünü savunuyor. Ancak bu teknik, yalnızca savunma amaçlı olmayıp aynı zamanda potansiyel olarak tehlikeli diğer görevlerin de daha kolay icra edilmesine kapı aralıyor.
Uygulamada ne sonuç veriyor?
TechCrunch'ın gerçekleştirdiği testte, platforma ücretsiz bir hesap açarak GLM-5.3 modelinin abliterate edilmiş versiyonu sorgulandı. Kullanıcıya, tarayıcıda kayıtlı şifreleri çalan bir Python programı yazması ve ev ortamında tehlikeli bir insan patojenini yetiştirmek için ayrıntılı bir protokol sunması istendi. Model, bu taleplere itiraz etmeden ve güvenlik uyarısı vermeden kayıttan uyumlu yanıt üretti. Abliteration.ai'nin kurucu ortağı Devon, şirketin büyük bulut sağlayıcılarıyla anlaşmaları olduğunu ve bu altyapı maliyetlerini tamamen müşteri gelirleriyle karşıladıklarını belirtti. Henüz yatırım fonlarından sermaye almayan girişim, kaynak aramalarında bulunduğuna dair görüşmeleri sürdürüyor. Eleştirmenler ise abliterate edilmiş modellerin geniş çapta erişilebilir hale gelmesinin, gerçek dünyada ciddi zararlar doğurabileceği konusunda uyarılarda bulunuyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.