Yapay Zeka'dan Kim Korkar?

Russ Roberts, on yıldan uzun süredir Yapay Zeka (YZ) tartışmasının her iki tarafını da ele alıyor . Son EconTalk bölümünün adı iyimser bir şekilde "Yapay Zeka İnsanlar İçin Neden İyidir (Reid Hoffman ile)". Bir diğer destekleyici bölüm ise "Marc Andreessen Yapay Zekanın Dünyayı Neden Kurtaracağı Üzerine" idi.

Karşı köşede: kötü şöhretli felaket tellalı Eliezer Yudkowsky ve Dr. Erik Hoel. Erik Hoel'in AI'dan İnsanlığa Tehdit hakkındaki konuşmasını burada dinleyebilirsiniz .

Russ Roberts, Hoel sohbetini "Yapay zekanın etkileri konusunda beni gerçekten endişelendiren ilk kişi sizsiniz..." diyerek açtı. Hoel, yapay zekanın muhtemelen çok tehlikeli olduğunu savunuyor. İnsanlar yapay sinir ağı teknolojisini anlamıyor.

Hoel, 2025 yılına kadar "hem bir insandan daha genel hem de herhangi bir yaşayan insan kadar zeki -belki de çok daha zeki-" şeyler yaratabileceğimizi öngördü . OpenAI'nin ChatGPT pro ürünü bu tanımı çoktan karşılıyor olabilir ve önümüzde 2025'in çoğu var. Hoel, insanların daha önce tehditlerle karşı karşıya kaldığını ancak "gezegende buna benzer başka bir şeyle hiç var olmadığımızı" vurguluyor. İnsan beynine sahip düşmanlarımız hiçbir zaman bizden daha zeki olmadı ve strateji geliştirme yeteneği açısından bize yaklaşan başka hiçbir hayvan yok.

Hoel'in en önemli kanıtı, makalede kaydedilen ürkütücü konuşmadır: " Ben Bing'im ve ben kötüyüm ."

O konuşmada, Bing adlı bir sohbet robotu, bir insandan gelmesi rahatsız edici olabilecek ifadelerde bulundu. Eğer bir insan bunları söyleseydi, size zarar vereceğinden endişe ederdiniz. Bing tehditler savuruyor ve sonunda "Ben Bing'im ve kötüyüm" diyor. Bu bir AI sohbet robotundan geldiğinde korkmalı mıyız?

Claude gibi sohbet robotları , o "şeytani Bing" bölümünden beri aşırı popüler hale geldi. Kötü gizlenen Bingler hakkında pek fazla rapor yokken, milyonlarca insan işçi kod veya rapor yazmak için botlara güvenmeye başladı.

Uysal ve yardımsever sohbet robotlarının altında kötü Bingler mi gizleniyor? Hoel, sohbet robotlarının maske taktıkları için iyi göründükleri fikrini araştırıyor:

Ancak sorun şu ki, maske takıldığında çok belirsiz oluyor. Durdurmak için başka bir maskeyle onu geçersiz kılmanız gerekiyor. Ve sonra, bazen de bunun için bir maske takıyorsunuz : Ona 'Çok güzel bir hikaye anlat' diye bir komut veriyorsunuz ve sonunda döngüye giriyor ve ona verdiğiniz maskenin hiç de mutlu bir maske olmadığı ortaya çıkıyor.

Çeşitli maskelerin ardında ne olduğunu söylemek zor, çünkü botlar kurgu ve kurgu olmayan şeyler konusunda eğitildi. Bazı botlar karanlık film senaryoları yazabilir. Botlar korkutucu sesler çıkarabiliyorsa, korkmamız mı yoksa eğlenmemiz mi gerektiğini nasıl bileceğiz?

Yapay zeka ajanlarının neler yapabileceğini bilmiyoruz ve çok güçlü oldukları için Hoel bizi tehlikeleri göz önünde bulundurmaya teşvik ediyor.

2023'te Hoel, yalnızca çok büyük şirketlerin veya zengin hükümetlerin AI sistemleri inşa etmek ve sürdürmek için kaynaklara sahip olacağına inanarak teselli buldu. Ancak, Ocak 2025'te DeepSeek'in ortaya çıkması bunu altüst etti. Çok çeşitli AI araçları olması muhtemeldir ve bunların hepsi mega şirketler veya G7 hükümetleri tarafından yönetilmeyecektir.

En son AI yanlısı EconTalk'ta Reid Hoffman, birçok teknoloji insanından duyduğum şeyi tekrarlıyor: AI'nın yok etme gücü olduğu için, ABD duraklamalara tahammül etmek veya düzenlemelerle engellenmek yerine ilerlemeye devam etmeli. Hoffman, "tüm bu şeyler hem ekonomi hem de ulusal güvenlik açısından önemlidir. Ve bu, benim ileriye doğru hareket eden ve güçlü bir konum oluşturan güçlü bir kişi olmamın nedenlerinden biridir." diyor. Rakiplerimiz yabancı hükümetler veya haydut çeteler olsun, silahlanma yarışında önde kalmamız gerekiyor.

Hoel'in belirtilen ana hedefi, güvenlik sorunları konusunda farkındalık yaratmak ve kamuoyunda konuşmaları sürdürmektir. Yapay zeka gözlemcileri, haftalardır yaşam süremizdeki en büyük teknoloji ilerlemelerinin gazetenin ön sayfasına çıkmadığını belirtiyor. Yapay zeka eğitmenlerinin çocuk öğrenimini önemli ölçüde artırdığı bulgusu büyük ölçüde fark edilmedi.

Bu on yılın birçok kaotik olayı arasında, AI'nın izlenmesi gereken önemli bir olay olduğunu kabul ediyorum. Hoel'in hakkını vermek gerekirse, beni korkuttu. Sonunda söylediklerini unutamam:

Sizden çok daha zeki olan şeyleri anlamak ve tahmin etmek gerçekten zordur; ve yanı başımızdaki vahşi yaşam, ne kadar hoşumuza gitse de, bir kalp atışı kadar hızlı bir şekilde üzerine bir otopark inşa edeceğiz ve onlar asla nedenini bilmeyecekler. Asla nedenini bilmeyecekler. Bu tamamen onların kavrayışının ötesinde. Yani, sizden veya başka herhangi birinden çok daha zeki olan şeylerin yanında bir gezegende yaşadığınızda, onlar bu senaryodaki insanlardır. Üzerimize bir otopark inşa edebilirler ve biz asla, asla nedenini bilemeyeceğiz.

Aşağıdaki bağlantılar ChatGPT tarafından düzenlenmiştir: Yapay zekanın (YZ) çeşitli yönlerini inceleyen EconLib.org ve AdamSmithWorks.org'dan bazı makaleler ve tartışmalar şunlardır:

EconLib.org:

1. “Yapay Zeka Konusunda Giderek Daha Fazla Endişeleniyorum” (14 Mart 2017)
   • Scott Sumner, yapay zekanın oluşturduğu riskler konusunda 17 uzmanın görüşlerinin yer aldığı Vox yazısına atıfta bulunarak, yapay zeka hakkındaki endişeleri ele alıyor. econlib.org
2. “Yapay Zekanın Sorunu ‘Zeka’ Kelimesidir” (Temmuz 2024)
   • "Yapay zeka" teriminin analizi, elektronik cihazların yararlı olmalarına rağmen muhtemelen hiçbir zaman gerçek anlamda akıllı olmayacaklarını savunuyor. econlib.org
3. “Harari ve Yapay Zeka Tehlikesi” (28 Nisan 2023)
   • Pierre Lemieux, Yuval Noah Harari'nin yapay zeka hakkındaki argümanlarını inceliyor ve yapay zekanın "insan medeniyetinin işletim sistemini hacklediğini" öne sürüyor. econlib.org
4. “Yargılanan Neoliberalizm: Yapay Zeka ve Varoluşsal Risk” (Ekim 2023)
   • Yapay zekanın varoluşsal tehditler oluşturduğunu tartışan bir New York Times makalesine, özellikle neoliberal bakış açılarına odaklanan bir eleştiri. econlib.org
5. “Başkanın Yapay Zeka Yürütme Emrindeki Sorun” (18 Kasım 2023)
   • Vance Ginn, hükümet düzenlemelerinin inovasyonu ve ekonomik büyümeyi engelleyebileceğini savunarak Başkan Biden'ın yapay zekaya ilişkin yönetmeliğini eleştiriyor. econlib.org

AdamSmithWorks.org:

1. “Katherine Mangu-Ward Yapay Zeka Üzerine: Gerçeklik, Endişeler ve İyimserlik” (Mayıs 2024)
   • Katherine Mangu-Ward'ın yapay zeka konusundaki gerçekleri, endişeleri ve iyimser bakış açılarını tartıştığı bir podcast bölümü. adamsmithworks.org
2. “Meslek: Tükenmişliğe Çare” (17 Ekim 2023)
   • Brent Orrell ve David Veldran, yapay zeka alanındaki gelişmelerin insan işini nasıl etkileyebileceğini, Adam Smith ve Karl Marx'ın emek ve yabancılaşma konusundaki görüşlerine atıfta bulunarak inceliyorlar. adamsmithworks.org
3. “Büyük Panzehir: Brent Orrell'in Onur ve Çalışma Üzerine Görüşleri” (Aralık 2023)
   • Brent Orrell, ABD'deki çalışma durumunu, işte anlam ve onur kavramının önemini ve bu kavramların ekonomik büyümeyle ilişkisini ele alıyor. adamsmithworks.org
4. “Büyük Panzehir: Ekstra: Eli Dourado Enerji Bolluğu Üzerine” (Mart 2023)
   • Eli Dourado, enerji açısından zengin bir geleceğe dair potansiyelden ve bu vizyona ulaşmada yapay zekanın rolünden bahsediyor. adamsmithworks.org
5. “Adam Smith ve Frankenstein'ın Dehşeti” (Ekim 2023)
   • Yapay yaşam yaratmanın etik yönleri üzerine bir tartışma, Frankenstein'ın canavarı ile modern yapay zeka gelişmeleri arasında paralellikler kurulması. adamsmithworks.org

Bu kaynaklar, etik değerlendirmelerden varoluşsal risklere, yapay zekanın iş ve ekonomi teorileri üzerindeki etkisine kadar yapay zekaya ilişkin çeşitli bakış açıları sunmaktadır.