WSJ: ABD ordusu Venezuela baskınında Anthropic'in yapay zeka modeli Claude'u kullandı

Venezuela savunma bakanlığına göre, ABD'nin Venezuela'ya düzenlediği baskın, başkent Caracas'ta bombalama ve 83 kişinin öldürülmesini içeriyordu. Anthropic'in kullanım şartları, Claude'un şiddet amaçlı, silah geliştirme veya gözetleme amacıyla kullanılmasını yasaklıyor.

Anthropic, ABD savunma bakanlığı tarafından gizli bir operasyonda kullanıldığı bilinen ilk yapay zeka geliştiricisiydi. PDF'leri işlemekten otonom dronları pilot etmeye kadar çeşitli yeteneklere sahip olan aracın nasıl konuşlandırıldığı belirsizdi.

Anthropic sözcüsü, Claude'un operasyonda kullanılıp kullanılmadığı konusunda yorum yapmayı reddetti, ancak yapay zeka aracının herhangi bir kullanımının kullanım politikalarına uymak için gerekli olduğunu söyledi. ABD Savunma Bakanlığı iddialar hakkında yorum yapmadı.

WSJ, Claude'un ABD Savunma Bakanlığı ve federal kolluk kuvvetleri ile çalışan bir yüklenici olan Palantir Technologies ile Anthropic'in ortaklığı aracılığıyla kullanıldığını söyleyen isimsiz kaynaklara atıfta bulundu. Palantir iddialar hakkında yorum yapmayı reddetti.

ABD ve diğer ordular, cephaneliklerinin bir parçası olarak yapay zekayı giderek daha fazla kullanıyor. İsrail ordusu, Gazze'de otonom yeteneklere sahip insansız hava araçları kullandı ve Gazze'deki hedefleme bankasını doldurmak için yapay zekayı yoğun bir şekilde kullandı. ABD ordusu, son yıllarda Irak ve Suriye'deki saldırılar için yapay zeka hedeflemesini kullandı.

Eleştirmenler, yapay zekanın silah teknolojilerinde ve otonom silah sistemlerinin konuşlandırılmasında kullanılmasına karşı uyarıda bulunarak, bilgisayarların kimin öldürülmesi gerektiğine ve kimin öldürülmemesi gerektiğine karar vermesinin yol açabileceği hedefleme hatalarına dikkat çekti.

Anthropic CEO'su Dario Amodei, yapay zekanın konuşlandırılmasından kaynaklanan zararları önlemek için düzenlemeler çağrısında bulundu. Amodei ayrıca, ABD'de otonom ölümcül operasyonlarda ve gözetimde yapay zekanın kullanımına ilişkin endişelerini dile getirdi.

Bu daha temkinli duruş, görünüşe göre ABD savunma bakanlığını rahatsız etti; savaş bakanı Pete Hegseth, Ocak ayında bakanlığın "savaşmanıza izin vermeyecek yapay zeka modellerini kullanmayacağını" söyledi.

Pentagon, Ocak ayında Elon Musk'a ait xAI ile çalışacağını duyurdu. Savunma bakanlığı ayrıca araştırmayı desteklemek için Google'ın Gemini ve OpenAI sistemlerinin özel bir sürümünü kullanıyor.