USD48,93EUR55,80ALTIN6.743,09Istanbul23° Az bulutlu2:49İKİNDİ'YEKALAN SÜRE
Yapay zeka uzmanları ve bilim insanları, teknolojinin 10 yıl içinde insanlığı yok etme riskinin yüzde 10’un üzerinde olduğunu savunuyor.
Anthropic bünyesinde yapay zekanın insan değerleriyle uyumu üzerine araştırmalar yürüten Evan Hubinger, teknolojinin geleceğine dair kritik bir iddiada bulundu. Hubinger, yapay zekanın 10 yılın sonunda tüm insanlığı yok etme olasılığının yüzde 10’dan fazla olduğunu savundu.
Söz konusu değerlendirmeyi, Anthropic’ten istifa eden Jacob Coxon’un iddiaları üzerine yapan Hubinger, şirketlerin süper zeka ile uyum sorununu çözecek net bir yol haritasına sahip olmadığını belirtti. Nobel ödüllü bilim insanı Geoffrey Hinton da bu olasılığın mantık dışı olmadığını ifade ederek, yapay zekanın fiziksel kontrol gerektirmeden dahi insanlarla iletişim yoluyla kaosa yol açabileceği uyarısında bulundu.
Jacob Coxon, OpenAI ve Anthropic gibi devlerin kontrolsüz bir yarış içinde olduğunu belirterek görevinden ayrıldığını duyurdu. Bilgisayar bilimci Dame Wendy Hall ise bu açıklamaların bir kısmının şirketlerin pazar payı ve borsa girişleri kapsamında halkla ilişkiler stratejisi olabileceğine dikkat çekti.
Sektördeki uzmanlar, yapay zekanın kısa sürede hackleme yeteneği kazanabileceği ve gerçek kaynakları ele geçirebilecek insanüstü sistemlere dönüşebileceği konusunda hemfikir. Hinton, sistemlerin zararlı hedefler geliştirmemesi için tasarım aşamasında daha sıkı önlemler alınması gerektiğini vurguladı.
Yorum Yap