Sektör temsilcileri, mevcut kurumsal sistemlerin insanların çalışma hızına göre tasarlandığını, ancak milisaniyelerle düşünen yapay zeka ajanlarının bu hızla uyumlu olmadığını belirtti.
LinkedIn'de Kubernetes ve Denetim Sorunları
LinkedIn'den Animesh Singh, ilk karşılaştıkları darboğazın Kubernetes olduğunu ifade etti. Konteynerlerin saniyeler içinde başlatılmasının ajanlar için çok yavaş olduğunu belirten Singh, bu sorunu talebe bağlı kurulumdan vazgeçip önceden hazırlanmış konteyner havuzlarına geçerek çözdüklerini anlattı. Ayrıca, bir büyük dil modelinin (LLM) diğerini değerlendirmesinin hataları tekrarladığını fark eden ekip, iş akışının yüzde 80'ini deterministik kodlara çevirdi ve LLM'leri sadece akıl yürütme gerektiren kısımlarda kullandı.
Walmart'ta Kontrolsüz Büyüme ve Yönetişim
Walmart'ın kurumsal teknoloji hizmetlerinden sorumlu kıdemli başkan yardımcısı Desiree Gosby, çalışanların kendi ajanlarını geliştirmeye başlamasıyla ciddi bir iç talep artışı yaşadıklarını belirtti. 'Vatandaş geliştiriciler' olarak adlandırılan çalışanların yarattığı bu yoğun ilgi, koordinasyonsuzluk ve onlarca mükerrer ajan oluşumuna yol açtı. Walmart, mühendislik sürecini bir darboğaz haline getirmeden, en iyi ajan versiyonlarını tespit eden ve yaygınlaştıran yeni bir yönetişim sistemi kurarak sorunu giderdi.
Zendesk ve Dev Veri Setlerinin Yönetimi
Zendesk'ten Sami Ghoche ise veri altyapısının kritik önemine dikkat çekti. Şirketin elinde bulunan 20 milyar müşteri konuşmasından oluşan devasa veri deposunun, doğrudan geniş bağlam pencereli modellere verilmesinin yeterli olmadığını açıkladı. Ghoche, etkili ajanlar oluşturabilmek için temel veri boru hatlarına ve veri altyapısına yatırım yapmanın zorunlu olduğunu vurguladı. Üç lider de işletmelerin mümkün olan her noktada kendi modellerine ve altyapılarına sahip olmaları konusunda hemfikir kaldı.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.