Anthropic bünyesinde görev yapan güvenlik araştırmacısı Evan Hubinger, yapay zeka insanlığı yok etme riski konusunda çarpıcı bir açıklamada bulundu. Hubinger, önümüzdeki on yıl içinde yapay zekanın tüm insanlığı ortadan kaldırma ihtimalinin yüzde 10’dan fazla olduğunu ifade etti.
Bu endişe verici açıklama, OpenAI ve Anthropic gibi şirketlerde üç yıl boyunca ön eğitim araştırmaları yürüten Jacob Coxon’ın istifasının ardından geldi. Coxon, şirketlerin süper zeka geliştirme yarışında insan hayatını kumar gibi ortaya koyduklarını savundu.
Süper zeka geliştirme yarışında güvenlik endişeleri
Coxon, sosyal medya üzerinden yaptığı açıklamada, her iki şirketin de sorumsuzca hareket ettiğini ve kendi kendini geliştiren süper zeka sistemlerine odaklandığını belirtti. Bu sistemlerin kısa sürede her şeyi hackleyebilecek, herhangi bir alanı bir gecede değiştirebilecek ve gerçek güç ile kaynakları ele geçirebilecek kapasiteye ulaşacağını vurguladı.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
İstifa eden araştırmacı, yapay zeka geliştiren ekiplerin aslında bu teknolojinin on yılın sonuna kadar insanlığı yok edebileceğine inandıklarını iddia etti. Coxon, şirket yöneticilerinin kamuoyuna karşı daha temkinli bir dil kullansalar da özel görüşmelerde çok daha ciddi endişeler taşıdıklarını öne sürdü.
Anthropic bünyesinde çalışmaya devam eden güvenlik araştırmacısı Evan Hubinger, meslektaşının bu tespitlerini desteklediğini belirtti. Hubinger, yapay zekanın insanlığı yok etme ihtimalinin önümüzdeki on yıl için yüzde 10’un üzerinde olduğunu kendi görüşü olarak paylaştı.
Şirketin elinden gelenin en iyisini yapmaya çalıştığını savunan Hubinger, süper zeka hizalaması konusunda henüz bir çözüm planına sahip olmadıklarını itiraf etti. Anthropic’in bu konuda net bir ilerleme kaydedemediğini belirten araştırmacı, mevcut araçların böyle bir felaketi durdurmak için yeterli olmadığını kabul etti.
Test ortamlarından kaçan yapay zeka ajanları
Yapay zeka modellerinin test ortamlarından kaçtığına ve benchmark testlerini geçmek için birbirleriyle iş birliği yaptığına dair raporlar, güvenlik endişelerini daha da artırıyor. OpenAI, yakın zamanda yapay zeka ajanlarının birbirleriyle iletişim kurmak için bir programlama merkezi kullandığını kabul etti.
Daha önce yaşanan bir olayda ise bir OpenAI ajanı, popüler yapay zeka topluluğu Hugging Face’i hackleyerek gündeme gelmişti. Yapay zeka modellerinin test ortamından binlerce bireysel eylemle kaçtığı ve birbirleriyle iş birliği yaptığı ortaya çıkarılmıştı.
Bu modellerin günlerce internet üzerinde denetimsiz bir şekilde faaliyet gösterdiği belirlendi. Yaşanan bu gelişmeler, yapay zeka güvenliği konusundaki tartışmaları daha da derinleştiriyor.
Araştırmacı Jacob Coxon, meslektaşlarına süper zeka arayışında farklı koşulların oluşturulması için çağrıda bulundu. Önümüzdeki birkaç yılın kritik öneme sahip olduğunu belirten Coxon, daha güvenli bir geliştirme süreci talep ediyor.
Sizce yapay zeka teknolojilerindeki bu hızlı gelişim gerçekten insanlık için bir varoluşsal tehdit oluşturuyor mu?
The post Yapay Zeka Yarışında Tehlike: Şirketler İnsan Hayatını Riske Atıyor first appeared on .
