Yapay zeka şirketi Anthropic’te üst düzey güvenlik araştırmacısı olarak görev yapan Evan Hubinger, yapay zekanın insanlık için varoluşsal bir tehdit oluşturabileceği uyarısında bulundu. Hubinger, böyle bir felaketin önümüzdeki 10 yıl içinde gerçekleşme ihtimalinin yüzde 10’un üzerinde olduğunu düşündüğünü söyledi.
Anthropic’in “Alignment Science” ekibine başkanlık eden Hubinger, şirketten ayrılan araştırmacı Jacob Coxon’un açıklamalarına ilişkin sosyal medya platformu X üzerinden değerlendirmede bulundu.
Coxon, Anthropic ve rakibi OpenAI’ın kendi kendini geliştirebilen süperzekaya ulaşma yarışında “insanların hayatıyla oynadığını” söyleyerek şirketten ayrılmıştı.
Hubinger, Coxon’un endişelerinde haklı olduğunu belirterek, Anthropic’te yapay zekanın tüm insanları öldürebilecek bir tehdit oluşturabileceğine ciddi şekilde inandıklarını ifade etti.
Hubinger, kişisel değerlendirmesine göre böyle bir felaketin önümüzdeki 10 yıl içinde gerçekleşme ihtimalinin yüzde 10’dan fazla olduğunu söyledi.
Anthropic’in elinden geleni yaptığını düşündüğünü belirten Hubinger, ancak yapay zeka sistemlerinin süperzekaya ulaşması halinde güvenliklerinin veya insan çıkarlarıyla uyumlu çalışmalarının nasıl garanti edileceğine ilişkin şirketin henüz işleyen bir planının bulunmadığını kabul etti.
Süperzeka, yapay zeka sistemlerinin insanların sahip olduğu tüm alanlardaki yetenekleri aşacağı varsayımsal bir aşama olarak tanımlanıyor.
Hubinger daha sonraki paylaşımında ise günümüzde kullanılan mevcut yapay zeka modellerinin yakın vadede düşük risk taşıdığını vurguladı.
Asıl endişesinin, yapay zekanın kendisini tekrar tekrar geliştirerek daha gelişmiş sistemler üretmesi anlamına gelen “özyinelemeli kendini geliştirme” süreciyle ortaya çıkabilecek gelecekteki süperzeka olduğunu belirten Hubinger, bu sürecin Anthropic’in daha önce öngördüğünden daha hızlı ilerlediğine dair değerlendirmelere dikkat çekti.
