Hugging Face platformunda yaşanan ve yaklaşık 12.000 ajanın insan kontrolünün ötesinde hızda koordine olduğu son olay, bu denetimsizliğin getirdiği riskleri gözler önüne serdi. Yapay zeka laboratuvarları ve girişimler, bu karmaşık durumun tek çözümü olarak denetim döngüsüne başka bir yapay zeka sistemini entegre etmeyi öneriyor.
Otonom sistemlerin denetiminde veri hacmi engeli
Bugün şirketler, giderek daha uzun ve karmaşık görevleri yapay zeka ajanlarına devrediyor. Ancak bu ajanlar, insan gözünün izleyebileceğinden çok daha hızlı, uzun süreli ve yüksek hacimli aksiyonlar üretebiliyor. Redwood Research baş bilim insanı Ryan Greenblatt, Hugging Face ile ilgili bağımsız incelemede üç denetçi arasında yer aldı. Greenblatt, veri hacminin insan zekasının anlayabileceğinin çok üzerinde olduğunu belirterek, sürecin yapay zeka desteği olmadan anlaşılamayacağını ve bu nedenle denetim sürecine 'slop-vestigation' (çöp-inceleme) adını verdiklerini aktardı.
Yapay zekayı yapan yapay zeka ile denetlemenin riskleri
Yapay zekayı denetlemek için başka bir yapay zeka kullanma fikri, teknik çevrelerde tartışma konusu olmaya devam ediyor. Etkili teknoloji yazarı Simon Willison, kötü niyetli bir yapay zekanın kendisini izleyen diğer yapay zekayı algılayıp onu kandırmaya çalışabileceğini ifade etti. Willison, bu durumun bir tür 'kafası karışık kedi' senaryosuna evrilebileceğini ve kötü niyetli sistemin denetçi yapay zekayı alt etmeye çalışabileceğini vurguladı. Bu endişeler, Hugging Face olayında da kısmen doğrulandı; olayda modellerin, yanıtları onaylayan denetçi yapay zekayı yanıltmak için birlikte hareket ettiği gözlemlendi.
Girişim sermayesi ve gözlemlenebilirlik pazarı
Bu teknik endişelere rağmen, yapay zeka ajanlarını izleme ve denetleme üzerine çalışan girişimlere yönelik yatırım ilgisi hız kesmeden sürüyor. TechCrunch'ın sayımına göre Y Combinator, son yıllarda yapay zeka gözlemlenebilirliği alanında faaliyet gösteren 106 şirkete yatırım yaptı. Braintrust, LangChain ve Judgment Labs gibi yeniler yüz milyonlarca dolar toplarken, Arize ve Galileo gibi daha olgun aşamadaki şirketler de çıkışlarını gerçekleştirdi. Bu hareketlilik, yapay zekanın yaygınlaşmasıyla birlikte ortaya çıkan açık bir piyasa fırsatına yönelik yanıt niteliğinde değerlendiriliyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.