Yapay zeka alanındaki gelişmelerle ilgili önemli bir gelişme yaşandı. OpenAI ve Anthropic'te görevli iki araştırmacı, şirketlerin yapay zeka stratejileri hakkında kamuya yönelik ciddi uyarılarda bulunarak istifa ettiklerini açıkladı. Anthropic'in güvenlik önlemleri araştırma ekibinin lideri Mrinank Sharma, istifasını sosyal medya platformu X üzerinden duyurdu ve "Dünya tehlike altında" ifadesini kullandı.
'Birçok Kriz Aynı Anda İlerliyor'
Sharma, yalnızca yapay zeka ya da biyolojik silahların değil, birçok krizin aynı anda geliştiğini belirterek insanlığın dünya üzerindeki etkisinin arttıkça bilgelik düzeyinin de yükselmesi gerektiğini vurguladı. Şirket içindeki deneyimlerinden yola çıkarak değerlerin karar alma süreçlerinde nasıl zorlu bir rol oynadığını dile getirdi.
Yapay Zeka Kullanımının Yaygınlığı
Anthropic, dünya genelinde tanınan bir yapay zeka şirketi olarak biliniyor. Şirketin geliştirdiği Claude adlı sohbet robotu, özellikle yazılımcılar ve iş dünyası tarafından yaygın olarak kullanılmakta. Sharma'nın ekibi, yapay zeka destekli biyoterörizm risklerine karşı savunma mekanizmaları üzerinde çalışmalar yapmış ve kullanıcıların sohbet botlarına karşı duygusal bağlılıklarının artması gibi önemli konuları araştırmıştı.
'İstifa ve Ciddi Endişeler'
İngiltere merkezli The Times'dan alınan bilgilere göre, OpenAI'de iki yıl görev yapan araştırmacı Zoë Hitzig de, istifasını New York Times'da yayınladığı bir yazıyla duyurdu. Hitzig, ChatGPT'ye reklam entegrasyonu ile ilgili ciddi endişeleri olduğunu belirtti ve bu entegrasyonun, kullanıcıların güvenliğini tehdit edebileceği uyarısında bulundu.
Mahremiyetin Tehlikesi
Hitzig, kullanıcıların sağlık korkuları, ilişki problemleri ve inançları gibi en mahrem düşüncelerini sohbet botlarıyla paylaştıklarını ifade ederek, bu verileri kullanarak oluşturulacak reklam modelinin kullanıcıları manipüle etme potansiyeli taşıdığını dile getirdi. Bu riskleri önlemek için yeterli araçların olmadığını savundu.
'Süper Zeka Hedefi ve Varoluşsal Tehdit'
Yapay zeka risklerine karşı mücadele eden ControlAI isimli kampanyanın kurucusu ve CEO'su Andrea Moretti, bu tür istifaların artabileceğini belirterek birçok şirketin "süper zeka" geliştirme hedefine odaklandığını ve bu teknolojinin insanlık için varoluşsal bir risk oluşturabileceği hakkında bazı yapay zeka yöneticilerinin uyarılarda bulunduğunu aktardı.
OpenAI teknik ekibinden Hieu Pham da X üzerinden, yapay zekanın oluşturduğu potansiyel tehditlere dair hissettiği derin endişeleri dile getirerek, "Yapay zeka aşırı iyi hale geldiğinde insanlığa ne kalacak?" sorusunu gündeme getirdi. Bu durumun bir 'ne zaman' sorusu haline geldiğini vurguladı.
Öte yandan, Anthropic, daha önce OpenAI'den ayrılan araştırmacılar tarafından kurulmuştu ve şirketin CEO'su Dario Amodei, yapay zekanın beyaz yakalı işlerin yarısını ortadan kaldırma riski konusunda endişelerini dile getirmişti.
