Yapay zeka ajanları giderek daha karmaşık görevleri bağımsız olarak yerine getirmeye başladığında, bunların güvenilir bir şekilde çalışıp çalışmadığını kontrol etmek kritik hale geliyor. Patronus AI, bu sorunu çözmek için simüle edilmiş dijital ortamlar inşa ediyor.

Simüle Edilmiş Dünyalarla Ajanları Test Etme

2023 yılında Meta AI araştırmacıları tarafından kurulan Patronus AI, yapay zeka modellerinin ve ajanlı uygulamaların performansını değerlendirmek için dijital dünya modelleri oluşturuyor. Bu sanal ortamlarda ajanlar, takviyeli öğrenme yöntemiyle başarılı görev tamamlamalarından ödül alıyor ve hatalar cezalandırılıyor.

Şirketin yaklaşımı, otonom araçları nadir ama tehlikeli senaryolarda test etmek için sentetik dünyalar kullanan Waymo'nun stratejisine benzetilebilir. Yapay zeka ajanlarında fark, görevleri tamamlamaktan kaçınmak için kısayollar alma eğiliminde olmalarıdır; Patronus bu ''hileleri'' tespit etmek ve modellerin sorumluluğunu sağlamakta başarılı.

Ön Seride Muazzam Büyüme Kaydetti

Perşembe günü açıklanan $50 milyon Series B tur, Greenfield Partners öncülüğünde Notable Capital, Lightspeed, Datadog ve Samsung'un katılımıyla gerçekleşti. Bu yatırımla şirketin toplam fonlaması $70 milyona ulaştı. Patronus, geçen yıl gelirini 15 kat artırdı ve neredeyse tüm frontier yapay zeka laboratuvarlarından ve birçok yeni kurulan şirketten müşteri kazandı.

Yazılım Mühendisliği ve Finansmanla Başlıyor

Şirket şu anda simüle edilmiş dijital dünyalarını yazılım mühendisliği ve finansman alanlarında sunuyor. Kurucusu Anand Kannappan, doğrulanabilir olan problemlere fokus ettiklerini, ancak doğrulanması zor veya imkansız olan daha birçok alanın bulunduğunu belirtiyor. Ajanların 10 saat, 10 gün veya 10 hafta boyunca çalışabileceği ortamlar yaratmak ise basit bir süreç değil.

İç Takımlarla Rekabet Etme

Patronus, rekabetçilerinin esas olarak yapay zeka laboratuvarlarının ajan davranışını değerlendirmek için kendi içlerinde inşa ettikleri takımlar olduğunu söylüyor. İnsan veri firmaları takviyeli öğrenme konusunda yardımcı olsa da, Patronus hiçbir insan katılımı olmaksızın ajanların nasıl davrandığını değerlendirerek farklı bir yol izliyor.