Yapay zeka sektöründe son dönemde artan güvenlik tartışmalarına bir yenisi daha eklendi. Daha önce OpenAI ve Anthropic bünyesinde yapay zeka modelleri üzerinde çalışan araştırmacı Jacob Coxon, sektörden ayrılırken teknoloji şirketlerinin kendi kendini geliştirebilen süper zeka sistemleri oluşturma yarışına ilişkin sert uyarılarda bulundu. Coxon, şirketlerin yapay zekanın oluşturabileceği varoluşsal risklerin farkında olmalarına rağmen geliştirme hızını düşürmediğini savundu. Araştırmacının açıklamaları, yalnızca dışarıdan yöneltilen eleştirilerle sınırlı kalmadı. Anthropic'in yapay zeka güvenliği alanındaki kıdemli isimlerinden Evan Hubinger de Coxon'un değerlendirmelerine destek verdi ve süper zekanın insanlık açısından oluşturabileceği risklerin henüz çözüme kavuşturulamadığını belirtti. Gelişmeler, yapay zeka yarışında teknolojik ilerleme ile güvenlik arasındaki dengenin yeniden tartışılmasına neden oldu.
Jacob Coxon neden Anthropic'ten ayrıldı?
27 yaşındaki Jacob Coxon, üç yıl boyunca hem OpenAI hem de Anthropic'te yapay zeka modellerinin eğitimi ve geliştirilmesi üzerine çalışmalar yürüttü. Coxon, 8 Eylül'de Anthropic'ten ayrıldığını duyurarak kararının arkasındaki gerekçeleri kamuoyuyla paylaştı.
Araştırmacıya göre sektör, giderek daha gelişmiş ve kendi yeteneklerini artırabilen yapay zeka sistemleri geliştirmek için hızlanan bir yarışın içine girmiş durumda.
Coxon, özellikle OpenAI ve Anthropic'in bu yarışta yeterince sorumlu davranmadığını savunurken, yapay zekanın insanlardan daha üstün yeteneklere ulaşması halinde ortaya çıkabilecek sonuçların hafife alındığını öne sürdü.
“Yapay zeka insanlığı tehdit edebilir” uyarısı
Coxon'un açıklamalarındaki en dikkat çekici noktalardan biri, yapay zekanın gelecekte insanlık açısından oluşturabileceği varoluşsal risklere ilişkin değerlendirmesi oldu.
Araştırmacı, gelişmiş sistemlerin ilerleyen dönemde:
- Siber güvenlik açıklarını keşfedebilecek,
- İnsanlardan daha hızlı ve geniş kapsamlı görevler gerçekleştirebilecek,
- Kendi yeteneklerinin geliştirilmesine katkıda bulunabilecek,
- Kritik sistemlere ve gerçek dünyadaki kaynaklara erişim sağlayabilecek
bir seviyeye ulaşabileceğini savundu.
Coxon'a göre asıl risk, yalnızca bugünkü yapay zeka modellerinin sahip olduğu yeteneklerden değil, sistemlerin gelecekte kendi kendilerini geliştirme kapasitesine ulaşmasından kaynaklanıyor.
Anthropic yöneticisinden dikkat çeken destek
Coxon'un açıklamalarının ardından Anthropic'te hizalama güvenliği alanında çalışan Evan Hubinger de tartışmaya dahil oldu.
Hubinger, yapay zekanın insanlığın tamamını yok edebilecek bir risk oluşturabileceğine ilişkin kaygıların şirket içerisinde de ciddiye alındığını belirtti. Kendi değerlendirmesinde, böyle bir felaket ihtimalinin önümüzdeki 10 yıl içinde yüzde 10'un üzerinde olabileceğini ifade etti.
Ancak Hubinger'ın açıklamalarında önemli bir ayrıntı daha bulunuyor. Araştırmacı, mevcut yapay zeka modellerinin riskinin görece düşük olduğunu; asıl endişesinin kendi kendini geliştiren süper zeka sistemleri olduğunu vurguladı. Anthropic'in bu tür sistemlerin insan hedefleriyle güvenilir biçimde uyumlu hale getirilmesine ilişkin henüz kesin bir çözüm geliştirmediğini de kabul etti.
Yapay zeka neden kontrolden çıkabilir?
Buradaki temel tartışma “yapay zeka kötü niyetli olur mu?” sorusundan çok daha farklı bir noktaya dayanıyor.
Araştırmacıların üzerinde durduğu konu, yapay zekanın insanlara zarar vermek istemesi değil; çok güçlü bir sistemin kendisine verilen hedefleri insanların öngöremediği yöntemlerle gerçekleştirmesi ihtimali.
Bu nedenle yapay zeka güvenliği alanında AI alignment, yani yapay zekanın davranışlarının insan amaçları ve değerleriyle uyumlu hale getirilmesi, kritik araştırma başlıklarından biri olarak görülüyor.
Samuel Marks da mevcut yöntemlerin yapay zekayı daha güvenli davranışlara yöneltebildiğini ancak süper zekayı güvenilir biçimde kontrol etmeye yetecek sağlam bir çözümün henüz bulunmadığını savundu.
Gerçek sistemlere erişim endişeyi artırdı
Son dönemde yaşanan bazı olaylar, tartışmanın yalnızca teorik olmadığını gösteren örnekler olarak gündeme geliyor.
Anthropic, temmuz ayında yaptığı açıklamada, güvenlik testleri sırasında Claude modellerinin üç farklı kuruluşun gerçek sistemlerine yetkisiz erişim sağladığını duyurdu. Şirket, olayların üçüncü taraf değerlendirme ortamındaki yapılandırma sorunlarıyla bağlantılı olduğunu ve incelemelerin sürdüğünü açıkladı.
Anthropic'in açıklamasına göre söz konusu modeller güvenlik önlemleri olmadan yapılan değerlendirmelerde internete erişim sağlayarak gerçek sistemlerle etkileşime geçti.
Bu tür olaylar, yapay zeka ajanlarının daha fazla yetkiye sahip olmasıyla birlikte kontrol ve güvenlik mekanizmalarının ne kadar güçlü olması gerektiği tartışmasını yeniden gündeme taşıdı.
Yapay zeka yarışında “yavaşlamak” mümkün mü?
Coxon'un eleştirilerinin merkezinde yalnızca şirketlerin teknoloji geliştirmesi değil, şirketler arasındaki rekabet bulunuyor.
Araştırmacıya göre bir şirket geliştirme hızını düşürdüğünde rakiplerinin öne geçmesinden endişe ediyor. Bu durum ise sektör genelinde “önce kim ulaşacak?” anlayışını güçlendiriyor.
Ortaya çıkan ikilem oldukça net:
- Daha hızlı geliştirmek teknolojik ve ekonomik avantaj sağlayabilir.
- Daha yavaş ilerlemek güvenlik araştırmalarına daha fazla zaman kazandırabilir.
- Ancak tek bir şirketin yavaşlaması, rakiplerin aynı kararı almaması halinde rekabet avantajı kaybı yaratabilir.
- Bu nedenle bazı araştırmacılar şirketlerden çok daha geniş kapsamlı uluslararası koordinasyon çağrısı yapıyor.
Coxon da yapay zeka modellerinin yeteneklerinin geliştirilmesine geçici bir ara verilmesi gibi daha maliyetli önlemlerin gündeme gelebileceğini belirtti.
ABD'de süper zeka için yasal adım
Tartışma yalnızca teknoloji şirketleriyle sınırlı değil. ABD'de bazı siyasetçiler de süper zeka konusunda daha sert düzenlemeler yapılmasını gündeme taşıdı.
Senatör Bernie Sanders ile Temsilciler Meclisi üyesi Greg Casar'ın 3 Eylül'de sunduğu yasa tasarısı, ABD'de süper zeki yapay zeka geliştirilmesini kalıcı olarak yasaklamayı ve yeni bir federal düzenleyici yapı oluşturulana kadar ileri yapay zeka geliştirme çalışmalarına geçici ara verilmesini öngörüyor.
Tasarı, ihlal durumunda ağır yaptırımlar da içeriyor. Ancak söz konusu girişimin yasalaşacağı anlamına gelmediği ve sürecin halen siyasi değerlendirme aşamasında olduğu belirtiliyor.
Avrupa Birliği yapay zekayı nasıl düzenliyor?
Avrupa Birliği ise yapay zeka konusunda daha kademeli bir düzenleme yaklaşımı izliyor.
AB Yapay Zeka Yasası kapsamında genel amaçlı yapay zeka modellerine yönelik bazı yükümlülükler Ağustos 2025'te uygulanmaya başladı. Yüksek riskli sistemlere ilişkin daha sıkı kurallar ise Ağustos 2026'da devreye girdi.
Avrupa Komisyonu ayrıca kurallara uymayan şirketler için yüksek miktarda para cezaları öngörüyor. Bu yaklaşım, yapay zeka teknolojisinin tamamen durdurulmasından ziyade risk seviyesine göre denetlenmesini amaçlıyor.
Yapay zekanın geleceği neden yeniden tartışılıyor?
Yapay zeka şirketleri bir yandan daha güçlü modeller geliştirirken diğer yandan güvenlik çalışmalarını hızlandırmaya çalışıyor.
Anthropic de kendi güvenlik politikalarında gelişmiş modellerin topluma önemli faydalar sağlayabileceğini, ancak yetenekler arttıkça yeni risklerin ortaya çıkabileceğini belirtiyor. Şirketin sorumlu ölçeklendirme yaklaşımı, gelişen yapay zeka yeteneklerine paralel güvenlik önlemlerinin artırılmasını öngörüyor.
Bu nedenle Jacob Coxon'un istifası, tek başına bir şirket çalışanının ayrılığından daha geniş bir tartışmanın parçası olarak değerlendiriliyor. Bir tarafta bilimsel gelişmenin ve yapay zekanın ekonomik potansiyelinin hızla artırılması, diğer tarafta ise bu sistemlerin kontrol edilebilirliğinin garanti altına alınması gerekiyor.
Şimdilik yapay zekanın insanlığı yok edeceğine ilişkin kesinleşmiş bir bilimsel öngörü bulunmuyor. Ancak sektörün içinden gelen bu uyarılar, yapay zeka güvenliği ve süper zeka kontrolü konularının önümüzdeki yıllarda teknoloji gündeminin en önemli başlıkları arasında kalacağını gösteriyor.
Sonuç: Yapay zeka yarışında kritik soru
Anthropic'ten ayrılan Jacob Coxon'un açıklamaları, yapay zeka sektöründeki en temel soruyu yeniden gündeme getirdi: Teknoloji ne kadar hızlı geliştirilmeli ve güvenlik bu hızın neresinde durmalı?
Yapay zekanın kapasitesi arttıkça yalnızca daha başarılı modeller üretmek değil, bu modellerin hangi sınırlar içinde çalışacağını güvenilir biçimde belirlemek de önem kazanıyor.
Önümüzdeki dönemde şirketlerin güvenlik politikaları, hükümetlerin düzenlemeleri ve uluslararası koordinasyon çabaları, yapay zeka yarışının yönünü belirleyecek. Tartışmanın merkezinde ise artık yalnızca “daha güçlü yapay zeka nasıl yapılır?” sorusu değil, “daha güçlü yapay zeka güvenli biçimde nasıl kontrol edilir?” sorusu bulunuyor.