Avustralyalı startup Springboards, popüler dil modellerinin açık uçlu sorulara verdiği benzer ve tahmin edilebilir yanıtları kırmak amacıyla Flint isimli yeni bir büyük dil modeli geliştirdi. Geleneksel botların aksine Flint, daha çeşitli ve yaratıcı cevaplar üretmek üzere eğitildi.

Yapay Zekadaki Ortak Düşünce Sorunu

Güncel dil modellerinin, özellikle rastgele sayı üretme veya yaratıcı öneriler sunma gibi konularda şaşırtıcı derecede tahmin edilebilir olduğu belirtiliyor. MIT Technology Review'da yer alan detaylara göre, ChatGPT ve Claude gibi yaygın modellerin benzer sorulara genellikle aynı yanıtları verdiği, buna karşın Flint'in daha farklı ve beklenmedik sonuçlar ortaya koyduğu ifade ediliyor.

Tekdüzelik Nedir ve Neden Oluşur?

Kasım ayında yayınlanan ve NeurIPS konferansında en iyi makale ödülünü kazanan bir araştırma, farklı şirketlerin geliştirdiği modellerin bile benzer verilere dayalı eğitim süreçleri nedeniyle ortak bir yanıt kalıbına hapsolduğunu ortaya koydu. Araştırmacılar, 25 farklı modelden gelen binlerce yanıtın çok küçük bir varyasyon gösterdiğini, örneğin zamanla ilgili metaforlar istendiğinde çoğunluğunun benzer benzetmelere başvurduğunu saptadı.

Farklılaştırma Stratejisi ve Uygulamaları

Springboards CEO'su Pip Bingemann, ana akım modellerin halüsinasyonlarla (yanlış bilgi üretimi) mücadele ettiğini ancak kendi modellerinde bu durumun farklı yanıtlar üretmek adına bir avantaj olarak kullanıldığını vurguluyor. Flint'in, otomobil markası önerilerinden reklam sloganlarına kadar geniş bir yelpazede, standart modellerin tercih etmediği veya göz ardı ettiği alternatif bilgileri sunabildiği belirtiliyor.

Ne anlama geliyor?

Büyük dil modelleri, veri setlerindeki en yüksek olasılıklı kelime dizilerini seçmek üzerine kurulu bir mekanizmayla çalışır. Bu durum, sistemin istatistiksel olarak en güvenli ve en sık tekrarlanan yanıtı vermesine yol açar. Sonuç olarak, farklı sistemler benzer eğitim yöntemleri kullandığında, kullanıcıya sunulan içerikler birbirinin kopyası haline gelir.

Bu teknolojik yaklaşım, istatistiksel olasılıkların dışındaki düşük frekanslı verilerin de yüzeye çıkmasını sağlar. Kullanıcı açısından bu durum, standart bir arama sonucunun ötesinde, daha özgün öneriler ve yaratıcı alternatifler almak anlamına gelir. Özellikle fikir geliştirme ve planlama süreçlerinde, tek tip yanıtlar yerine çeşitliliğin ön plana çıkması sağlanmış olur.