Wall Street Journal'ın haberine göre Coxon, yaklaşık 3 yıl boyunca OpenAI ve Anthropic'te yapay zeka modellerinin ön eğitim süreçlerinde görev aldı.
Bu yılın başında, model güvenliğine daha fazla önem verdiğini düşündüğü Anthropic'e geçen Coxon, burada da endişelerinin giderilmediğini belirterek sektörden çekilme kararı aldı.
İstifasının ardından açıklama yapan Coxon, her iki şirketin de sorumlu davranmadığını öne sürerek, "Kendini geliştirebilen bir süper zekaya doğru son sürat ilerliyor ve hayatlarımızla kumar oynuyorlar" ifadelerini kullandı.
"Önümüzdeki yıl kontrolden çıkmış olabilir"
Yapay zeka sektöründeki rekabetin güvenlik çalışmalarının önüne geçtiğini savunan Coxon, bazı uç risk senaryolarının kısa süre içerisinde gerçekleşebileceğini ileri sürdü.
Coxon, "En uç senaryolardan bazılarına doğru ilerliyoruz. Önümüzdeki yılın sonuna kadar işler çoktan kontrolden çıkmış olabilir" değerlendirmesinde bulundu.
"On yılın sonuna kadar hepimizi öldürebilir"
Coxon, X hesabından yaptığı açıklamada ise yapay zeka sistemlerini geliştiren bazı araştırmacı ve yöneticilerin bu teknolojinin insanlık için varoluşsal bir tehlike oluşturabileceğine gerçekten inandığını öne sürdü.
"Yapay zekayı geliştiren insanlar, bunun on yılın sonuna kadar hepimizi öldürebileceğine samimi biçimde inanıyor" diyen Coxon, bu görüşlerin yalnızca bir pazarlama söylemi olmadığını savundu.
Coxon ayrıca yöneticilerin kamuoyu önünde daha ölçülü açıklamalar yaptığını, ancak özel görüşmelerde çok daha ciddi kaygıların dile getirildiğini iddia etti.
OpenAI ve Anthropic için dikkat çeken iddialar
Coxon'a göre OpenAI'de birçok kişi yapay zekanın medeniyet açısından taşıdığı risklerin boyutunu tam olarak kavramış değil. Anthropic'te ise risklerin bilindiğini, ancak rakiplerin gerisinde kalma korkusunun geliştirme çalışmalarının devam etmesine neden olduğunu öne sürdü.
