ABD merkezli yapay zeka şirketi Anthropic, bilim insanlarının biyolojik silah geliştirilmesine yardımcı olabilecek araştırmalarda şirketin Claude modellerini kullandığını açıkladı.
Şirketin yayımladığı tehdit istihbaratı raporuna göre, biyoloji alanında çalışan araştırmacıların Claude'u kullandığı 5 vaka ciddi güvenlik endişelerine yol açtı.
Askeri bir araştırma enstitüsünde yürütülmesi planlanan çalışmalardan birinde, chikungunya virüsünün daha bulaşıcı hale getirilmesi ve bağışıklık sisteminden daha iyi kaçabilmesini sağlamaya yönelik işlev kazandırma araştırması yürütüldüğü belirtildi.
Bir başka vakada ise bir bilim insanının, yüksek risk taşıyan kuş gribi virüsü ile virüsün memelilere uyum sağlama mekanizmalarını araştırırken Claude'dan yararlandığı aktarıldı. Diğer çalışmalarda çiçek hastalığıyla bağlantılı virüsler ve tehlikeli toksinlerin yeniden tasarlanmasına yönelik araştırmaların yer aldığı bildirildi.
Güvenlik önlemlerini aşmaya çalıştılar
Anthropic, bazı araştırmacıların şirketin güvenlik kısıtlamalarını aşmak için çeşitli yöntemlere başvurduğunu bildirdi.
Şirketin raporuna göre bu yöntemler arasında kimlikleri gizlemeye, internet trafiğini farklı ülkeler üzerinden yönlendirmeye ve güvenlik kontrollerini atlatmaya yönelik hizmetlerin kullanılması da yer aldı.
Anthropic, ilgili hesapların yasaklandığını ve güvenlik önlemlerini aşmak için kullanılan hizmetlerin kapatıldığını açıkladı.
Şirket, araştırmacıların kesin olarak biyolojik silah üretmeye çalıştığını söylemekten kaçındı. Ancak gelişmiş yapay zeka sistemlerine erişen kötü niyetli aktörlerin faaliyetlerini meşru görünen bilimsel araştırmaların arkasına gizleyebileceği uyarısında bulundu.
Yapay zekanın biyoloji alanındaki kapasitesi tartışılıyor
Anthropic, eski yapay zeka modellerinin gelişmiş kullanıcıların tehlikeli biyolojik araştırmalarına anlamlı katkı sağlayamayacak kadar sınırlı olduğunu ancak günümüzdeki sistemler için aynı güvenceyi veremediğini belirtti.
Söz konusu değerlendirme, ABD'deki araştırmacıların yapay zeka kullanarak eksiksiz viral genomlar tasarlamasından ve doğada daha önce bulunmayan 16 işlevsel virüsü üretmesinden birkaç hafta sonra yayımlandı.
Söz konusu virüslerin insanları değil bakterileri enfekte ettiği belirtilirken, araştırmacılar çalışmanın yapay zekanın biyoloji alanındaki kapasitesinin hızlı şekilde geliştiğini gösterdiğine dikkat çekti.
Anthropic'in raporunda Claude'un siber saldırılar, gözetim, propaganda ve dolandırıcılık faaliyetlerinin yanı sıra füze, silahlı insansız hava aracı ve bomba gibi konvansiyonel silahlarla ilgili çalışmalarda kullanıldığı yönündeki tespitlere de yer verildi.
Anthropic araştırmacısından dikkat çeken uyarı
Tehdit değerlendirmesinin yayımlanmasından birkaç gün önce Anthropic araştırmacısı Evan Hubinger, yapay zekanın önümüzdeki 10 yıl içerisinde tüm insanların ölümüne yol açma ihtimalinin yüzde 10'dan fazla olduğuna inandığını açıkladı.
Hubinger ayrıca şirketin süper zekayı güvenli şekilde kontrol etmeye yönelik henüz net bir plana sahip olmadığını ifade etti.
Bu açıklama, bir başka Anthropic araştırmacısı Jacob Coxon'ın şirketten istifa etmesinin ardından geldi. Coxon, Anthropic ve OpenAI'ı yapay zekanın oluşturabileceği riskleri göz ardı etmekle ve kendini geliştiren süper zekaya ulaşmak için yarışmakla suçladı.
Coxon, yeterince gelişmiş bir yapay zekanın kritik altyapılara yönelik siber saldırılar gerçekleştirebileceği veya insanlığın yok oluşuna yol açabilecek biyolojik silahların geliştirilmesine yardımcı olabileceği uyarısında bulundu.