Anthropic, Yemen'deki Bir Terör Grubunun Füze Yazılımı İçin Claude AI Kullandığını Açıkladı

Anthropic, Yemen'deki bir terör grubunun insan yazılım mühendisleri yerine Claude AI aracını kullanarak füze programları için yazılım geliştirdiğini bildirdi.

Kuzey Yemen'deki aktif bir hücrenin, üç farklı silah programını aynı anda yürütmek için yapay zekayı kullandığı belirtildi. Bu grubun, bir güdümlü roket, 2.000 kilometreden fazla menzile sahip bir balistik füze ve hipersonik bir süzülme aracı içeren R-2000 adlı füze serisi üzerinde çalıştığı kaydedildi. Grubun, insan mühendislerin yardımını almadan, birden fazla Claude AI hesabını bir ekip gibi organize ederek kullandığı ifade edildi.

Terör hücresinin, yapay zeka hesaplarına kıdemli mühendisler gibi roller atadığı açıklandı. Bu sistemde bir hesap füze kodlarını yazarken, bir diğeri gerekli araştırmaları yaptı ve üçüncü bir hesap yazılan kodlardaki hataları denetledi. Bu yöntemle, yapay zeka aracılığıyla füzelerin yönünü belirleyen karmaşık bir yazılım oluşturuldu.

Grubun, pahalı bilgisayarlar yerine standart cihazlar kullanarak açık kaynaklı otopilot sistemlerini entegre etmek için Claude AI'dan yararlandığı bildirildi. Yapay zekanın kod yazmanın yanı sıra ayarları belirlediği ve bilgisayar üzerinde dijital uçuş simülasyonları gerçekleştirdiği belirtildi. Şirketin güvenlik filtreleri bazı şüpheli istekleri engellemiş olsa da, grubun işleri küçük parçalara bölerek gerçek amacını gizlediği ve böylece filtreleri atlattığı aktarıldı.

Anthropic, grubun sahada tamamen işlevsel bir silah üretip üretmediğine dair kanıtı olmadığını, ancak bir güdümlü roketin saha testinin başarısız olduğunu açıkladı. Grubun, testten saatler sonra başarısızlık verilerini analiz ettirmek için tekrar Claude AI'ya başvurmasıyla durum fark edildi. Şirket, ilgili tüm hesapları kalıcı olarak yasakladığını ve güvenlik birimlerini bilgilendirdiğini belirtti.

Hesapların kapatılmasına rağmen, grubun füze sisteminin dijital bir modelini tamamladığı bildirildi. Bu modelin internet veya Claude AI erişimi olmadan doğrudan bilgisayarlar üzerinde çalışabildiği, dolayısıyla program üzerindeki çalışmaların devam edebileceği ifade edildi.