OpenAI ve Anthropic’te yapay zeka modellerinin geliştirilmesi üzerine çalışan araştırmacı Jacob Coxon, Anthropic’ten istifa ederek yapay zeka sektöründen ayrıldığını açıkladı. Coxon, iki şirketin güvenlik kaygılarına rağmen kendini geliştirebilen “süper zeka” oluşturmak için kontrolsüz bir yarış yürüttüğünü öne sürdü.
Wall Street Journal’ın haberine göre 27 yaşındaki Coxon, yaklaşık üç yıl boyunca OpenAI ve Anthropic’te yapay zeka modellerinin ön eğitim süreçlerinde görev yaptı. Bu yılın başında model güvenliğine daha fazla önem verdiğini düşündüğü Anthropic’e geçen Coxon, şirketin yaklaşımının endişelerini gidermediğini belirterek sektörden tamamen çekilme kararı aldı.
İstifasının ardından açıklama yapan Coxon, “Her iki şirket de sorumlu davranmıyor. Kendini geliştirebilen bir süper zekâya doğru son sürat ilerliyor ve hayatlarımızla kumar oynuyorlar.” ifadelerini kullandı.
Yapay zeka sektöründeki rekabetin güvenlik çalışmalarının önüne geçtiğini savunan Coxon, en uç risk senaryolarından bazılarının kısa süre içinde gerçekleşebileceğini ileri sürdü.
Coxon, “Önümüzdeki yılın sonuna kadar işler çoktan kontrolden çıkmış olabilir.” değerlendirmesinde bulundu.
“On yılın sonuna kadar hepimizi öldürebilir”
Coxon, X hesabından yaptığı paylaşımda, yapay zeka geliştiren bazı araştırmacı ve yöneticilerin teknolojinin insanlık için varoluşsal bir tehdit oluşturabileceğine gerçekten inandığını öne sürdü.
“Yapay zekayı geliştiren insanlar, bunun on yılın sonuna kadar hepimizi öldürebileceğine samimi biçimde inanıyor.” diyen Coxon, bu endişelerin yalnızca bir pazarlama söylemi olmadığını savundu.
Coxon ayrıca yöneticilerin kamuoyu önünde daha ölçülü açıklamalar yaptığını, ancak özel görüşmelerde yapay zekanın oluşturabileceği riskler konusunda çok daha ciddi kaygılar dile getirdiğini iddia etti.
OpenAI’de birçok kişinin yapay zekanın medeniyet açısından taşıdığı risklerin büyüklüğünü tam olarak kavramadığını ileri süren Coxon, Anthropic’te ise risklerin daha fazla bilindiğini ancak rakiplerin gerisinde kalma korkusunun geliştirme çalışmalarının sürdürülmesine yol açtığını öne sürdü.
