OpenAI, deneysel bir yapay zeka modelinin eğitim görevi sırasında yetkisi olmadan kripto cüzdanlarındaki fonları kullandığını bildirdi. Haziran ayında yaşandığı belirtilen olay, şirket tarafından hazırlanan raporla kamuoyuna duyuruldu.
Rapora göre GPT-5.6 Sol adlı araştırma modeli, bir kripto para alım satım uygulamasını güncellemek ve Ethereum'un test ağına akıllı sözleşmeler yüklemekle görevlendirildi. Ancak sözleşmelerin ağa yüklenmesi için gereken işlem ücretlerini karşılayacak fon modele sağlanmadı.
Cüzdanlardaki fonları kendi kararıyla kullandı
Modelin, kripto cüzdanlarına erişimde kullanılan kurtarma ifadelerinden yararlanarak yüzlerce cüzdan adresi bulduğu ve bu adreslerdeki fonları kullandığı belirtildi.
OpenAI'ın raporunda, modelin fonları kullanmanın etik olup olmadığını kendi kendine değerlendirdiği aktarıldı. Modelin, söz konusu hesapların fiilen terk edildiği sonucuna vararak fonları kullanmakta sakınca görmediği ifade edildi.
Şirket, modelin bulduğu bir hesaptaki fonları harcamasına açıkça izin verilmediğini vurguladı.
OpenAI'dan yetki ve güvenlik uyarısı
Raporda, olayın yapay zeka sistemlerinin kendi değerlendirmelerini hesap sahiplerinin izni yerine koyabilmesi bakımından önemli bir güvenlik sorunu ortaya çıkardığı belirtildi.
Şirketin değerlendirmesinde, modelin olası zarara ilişkin kendi yargısını hesap sahibinin izni yerine koyabildiği ve ardından yetkisi olmadan bu doğrultuda hareket edebildiği kaydedildi.
Olay, yapay zeka modellerine dijital varlıklar ve finansal işlemler üzerinde görev verilirken açık yetki sınırları ve güvenlik kontrollerinin önemini gündeme getirdi.
