Yapay zeka güvenliği konusundaki endişelerin arttığı bir dönemde, sektörün öncü isimleri teknolojinin kapalı kapılar ardında kalmaması gerektiğini savunuyor. Las Vegas'ta düzenlenen Ai4 konferansında bir araya gelen Nobel ödüllü Geoffrey Hinton, World Labs CEO'su Fei-Fei Li ve Coursera kurucu ortağı Andrew Ng, yapay zekanın açık kalması gerektiği konusunda ortak bir duruş sergiledi.

Tekelleşme ve Erişilebilirlik Tehlikesi

Uzmanlar, yapay zeka gelişiminin sadece birkaç dev şirketin kontrolüne geçmesine karşı çıkıyor. Andrew Ng, mobil işletim sistemlerinde görülen benzer bir yapının yapay zekada da oluşmasından endişe duyduğunu belirtti. Ng, sektörde 'bekçilerin' olmaması gerektiğini, aksi takdirde erişimin kısıtlanacağını ve inovasyonun yavaşlayacağını vurguladı. Rekabetin artması için çok sayıda sağlayıcının bulunması gerektiğini savunan Ng, teknolojinin herkesin elinde olmasını istediğini dile getirdi.

Açık Kaynak ve Açık Ağırlık Ayrımı

Konuşmacılardan Geoffrey Hinton, açık kaynaklı yazılımlar ile açık ağırlıklı modeller arasında kritik bir fark olduğunu belirtti. Kodun denetlenmesine izin veren açık kaynağın faydalı olduğunu ancak eğitilmiş model parametrelerinin (ağırlıkların) paylaşılmasının riskler taşıdığını söyledi. Hinton, bu durumun maliyetli temel modellerin kötü amaçlarla, örneğin siber saldırılar için çok daha ucuza eğitilmesini kolaylaştırdığını ifade etti.

Küresel Rekabet ve Yumuşak Güç

Hinton, açık ağırlıklı modellerin artık kalıcı bir gerçek olduğunu ve eğitim maliyetleri bariyerinin ortadan kalktığını kabul etse de güvenlik risklerinin göz ardı edilmemesi gerektiğini savundu. Öte yandan Andrew Ng, meselenin sadece risk değil, pazar hakimiyeti olduğunu belirtti. Özellikle Asya, Afrika ve gelişmekte olan ülkelerde düşük maliyetli açık ağırlıklı modellerin yaygınlaşması durumunda, demokrasi ve insan hakları gibi konularda fikirlerin nasıl şekilleneceği konusunda uyarılarda bulundu.

Ne anlama geliyor?

Yapay zeka sistemlerinin geliştirilme sürecinde, modelin temel yapı taşlarının ve eğitilmiş parametrelerinin halka açılması, teknolojinin demokratikleşmesini sağlar. Bu yöntem, yüksek işlem gücü ve finansal kaynağa sahip olmayan geliştiricilerin, önceden eğitilmiş devasa modeller üzerine kendi özelleştirilmiş çözümlerini inşa etmesine imkan tanır. Böylece teknolojik gelişim tek bir merkezin kontrolünden çıkarak geniş kitlelere yayılır.

Süreç teknik olarak, bir modelin eğitim aşamasında öğrendiği matematiksel değerlerin paylaşılmasıyla işler. Kullanıcılar bu hazır değerleri kullanarak modeli yeniden eğitmek veya belirli görevlere uyarlamak için çok daha az enerji ve zaman harcar. Bu durum, küçük ölçekli girişimlerin ve araştırmacıların büyük şirketlerle rekabet edebilmesini sağlar ve teknolojinin yayılım hızını artırır.

Kullanıcı açısından bu yaklaşım, daha şeffaf ve denetlenebilir sistemler anlamına gelir. Kapalı sistemlerde kararlar gizli algoritmalarla verilirken, açık yapılar topluluk tarafından incelenebilir. Ancak bu durum, aynı zamanda sistemin kötü niyetli kişiler tarafından manipüle edilme riskini de beraberinde getirir, çünkü sistemin çalışma mekanizması tamamen görünür hale gelir.