Anthropic, yapay zekanın toplu yıkıma ve sosyal istikrarsızlığa yol açabileceği konusunda uyarılar verirken, aynı zamanda en güçlü AI model geliştiricilerinden biri haline geldi. Şirket, ABD ordusu gibi müşterilerle iş yapıyor ve yakın zamanda 1 trilyon dolar civarında değerlendirildi.

İçerideki Mantık: Güvenlik İçin Liderlik Gerekli

Anthropic'in liderliği, bu görünürdeki çelişkiyi bir stratejik zorunluluk olarak görüyor. Şirketin iç belgeleri ve çalışanlarla yapılan görüşmelere göre, Anthropic'in iki temel inancı vardır: yapay zeka kaçınılmaz bir şekilde insanlığı dönüştürecek ve şirketin bu dönüşümün güvenli olmasını sağlayacak güçte kalması gereklidir. Dario Amodei CEO, bu yaklaşımı "rekabetçi olmak, hatta bazı durumlarda endüstriyi liderlik etmek ancak işleri güvenli bir şekilde yönetmek" olarak tanımlamıştır.

2021'den Beri OpenAI'dan Ayrılan Kurucu Grup

Anthropic, 2021 yılında OpenAI'dan ayrılan bir grup tarafından kurulmuştur. Kurucu ortaklar, OpenAI liderliğinin dönüştürücü AI'ı dünyaya güvenli bir şekilde getirme kabiliyetine inanmadıklarını söylemişlerdir. Eski çalışanlara göre, Anthropic'in iç tartışmalarında OpenAI, Meta ve xAI gibi şirketler, Anthropic'in kendisine karşı sorumluluk bilinci kazandıran uyarıcı örnekler olarak bahsedilir.

Misyon Odaklı Yapısı ve İç Kültür Tartışmaları

Anthropic, kamu yararı yapısı ile yönetilir ve uzun vadeli insanlık yararını kâr üstünde tutmaya yetkilendirilir. Eski çalışanlar, şirketin bu misyona olan bağlılığının yoğun olduğunu ve finansal başarıyla güçlü AI modellerinin inşasının bu hedefi gerçekleştirme aracı olarak görüldüğünü belirtmiştir. Bununla birlikte, UCLA araştırmacısı Shazeda Ahmed, AI güvenlik kuruluşlarının düşünce çeşitliliğinin eksikliğiyle mücadele etme eğiliminde olduğunu ve ideolojik körlükleri incelemeyebileceklerini ifade etmiştir.

Palantir Anlaşması ve Askeri Uygulamalar

2024 sonbaharında Anthropic, Palantir ile ortaklık kurarak ABD istihbarat ve savunma ajanslarına AI hizmetleri sunmaya başladığını duyurdu. Bazı eski çalışanlar anlaşma hakkında iç sorgulamalar yapıldığını ancak bu tartışmaların şirket politikalarında değişikliğe yol açmadığını belirtmiştir. Daha sonra Pentagon'un Claude modelini İsrail-İran savaşında hedef belirleme gibi görevlerde kullandığı bildirilmiştir.