Anthropic araştırmacısı istifa etti: Yapay zeka riski
Anthropic araştırmacısı Jacob Coxon, yapay zeka şirketlerinin kontrolsüz rekabetinin insanlık için varoluşsal tehdit oluşturabileceği uyarısıyla istifa etti.
Yeni yapay zeka modellerinin eğitimi üzerine çalışan 27 yaşındaki İngiliz araştırmacı Jacob Coxon, Anthropic’teki görevinden ayrıldığını açıkladı. Coxon, kararının arkasında geliştirilmekte olan sistemlerin insan denetiminden çıkabileceğine ilişkin kaygılarının bulunduğunu belirtti.
Yapay zeka sektörünün kendi kendini geliştirebilen modeller üretme konusunda “kontrolsüz bir yarışa” sürüklendiğini savunan Coxon, bu sürecin insanlık açısından varoluşsal bir tehdit yaratabileceği uyarısında bulundu. Araştırmacıya göre şirketler arasındaki rekabet, güvenlik çalışmalarının geri plana itilmesi riskini artırıyor.
Coxon, gelecek yılın sonuna kadar durumun kontrol edilemez bir noktaya ulaşabileceğini ve en olumsuz senaryoların bir bölümünün gerçekleşebileceğini ifade etti. Şirketlerin hem birbirleriyle hem de Çin’deki rakipleriyle yarıştığı ortamda, güvenlikten taviz verilmesinin kaçınılmaz hale gelebileceğini söyledi.
Anthropic, araştırmacının istifasıyla ilgili henüz resmi bir açıklama yapmadı.
