Yapay zeka alanında çalışan iki bilim insanı, Nathan Lambert ve Tom Zick, kapalı kapılar ardında yürütülen araştırmaların yerine açık bilim yöntemini tercih etmek için Trillium Labs adlı bir kar amacı gütmeyen kuruluş kurmuştur. Kuruluşun amacı, özyinelemeli öz iyileştirme ve ajan sistemleri gibi potansiyel olarak sorunlu alanlar dahil olmak üzere çeşitli yapay zeka araştırmalarını daha şeffaf bir şekilde yürütmek ve deneylerin ayrıntılarını yayınlayarak dış araştırmacıların bunları inceleyip tekrarlamasını sağlamaktır.

Kapalı Laboratuvarlar ve Açık Bilim Arasındaki Tartışma

Büyük yapay zeka şirketleri genel olarak, modelleri laboratuvarlarda kilitli tutmanın onları çok kaotik veya düzensiz hale gelmekten koruyacağını düşünmektedir. Ancak Lambert, bu yaklaşımın bilim topluluğunun fikirleri gözden geçirme ve yeni yaklaşımlar geliştirme yeteneğini azalttığını savunmaktadır. Modellerin nasıl inşa edilip ayarlandığını dış uzmanların görebilmesinin riskleri azaltmada önemli olabileceğine inanmaktadır. Lambert'in WIRED'a verdiği ifadeye göre, geçmiş binlerce yıl boyunca insanlık zararları azaltmak ve daha iyi geleceğin inşasında bilimsel yöntemi kullanmıştır; ancak mevcut kapalı yapay zeka geliştirme yolu bizi bir adım geriye götürmektedir.

Açık Erişim ve Sınırlı Erişim Modelleri

OpenAI ve Anthropic gibi şirketlerin geliştirdiği en güçlü modellere yalnızca uygulama veya uygulama programlama arayüzü aracılığıyla erişilebilmektedir. Bu erişim genellikle modelin nasıl inşa edildiği ve nasıl davrandığı hakkında şeffaflık kaybına neden olmaktadır. Buna karşılık, özellikle Çin'deki şirketler, kullanıcının kendi donanımında indirip çalıştırabileceği nispeten güçlü modeller sunmaktadır. Çinli şirket Xiaomi, modellerinden birini içeren büyük bir eğitim çalışmasının canlı ayrıntılarını yakın zamanda yayınlamıştır. Stanford'daki araştırmacılar da açık ortamda bir yapay zeka modelini ön eğitimi vermektedir. Sektör, özellikle ön plan modellerinin artık ne kadar güçlü olduğu nedeniyle, hangi stratejinin en iyi olduğu konusunda bir çatışmanın içindedir.

Ne Anlama Geliyor?

Yapay zeka modellerinin eğitimi ve dağıtılması konusundaki bu temel ayrışma, teknoloji dünyasında uzun süredir devam eden bir tartışmayı yansıtmaktadır. Kapalı sistemde, bir şirket modeli geliştirip sıkı kontrol altında tutarak, kullanıcılar yalnızca belirli özelliklere erişim sağlarlar. Açık sistemde ise, modelin kod ve yapısı herkesin incelemesine açılır, bu da bağımsız araştırmacıların potansiyel sorunları keşfetmesini ve iyileştirme önerileri sunmasını sağlar.

Bu yaklaşım farklılığı, risk yönetimi felsefesiyle doğrudan ilintilidir. Kapalı model destekçileri, güçlü bir teknoloji ne kadar çok kişiye açılırsa o kadar fazla tehlike taşıyabileceğini düşünür. Açık model savunucuları ise, çok fazla insan gözü ve beyin tarafından incelenen bir sistemin gizlenen bir sistemden daha güvenli olabileceğini iddia etmektedir. Çünkü hataların, önyargıların veya kötüye kullanım ihtimalinin daha hızlı tespit edilmesi mümkün hale gelir.

Türkiye'deki yapay zeka araştırma topluluğu açısından bu tartışma, ülkenin kendi yapay zeka yeteneklerini geliştirme sürecinde de önemli çıkarımlar taşımaktadır. Ülkedeki araştırma kurumları ve girişimler, hangi yapay zeka modellerini kullanacakları, bu modelleri ne ölçüde kendi ihtiyaçlarına göre uyarlayabilecekleri ve açık kaynak alternatifleriyle kapalı ticari çözümler arasında nasıl denge kuracakları konusunda kararlar almak durumundadır.