Yapay Zeka Kıyametçisi misin? Yoksa İvmeci veya Etikçi mi?

Yapay zeka tartışmalarında nerede durduğunu, kendini nasıl pozisyonladığını hiç düşündün mü? Bu aralar herkesin dilinde olan bir konu bu. Yapay zeka araştırmalarında bazı inanılmaz gelişmeler görüyoruz ve herkes bundan sonra ne olacağını konuşuyor. Teknolojik bir ütopyaya mı yoksa robot kıyametine mi gidiyoruz? Ya da belki ikisinin ortası bir şeye?

Bu yazıda, yapay zekanın geleceğine dair üç ana bakış açısını ele alacağız: yapay zeka kıyametçileri, ivmeciler ve etikçiler. Her grubun yapay zeka yönetişimi ve düzenlemesi hakkında ne düşündüğünü inceleyeceğiz. Yapay zeka uyum çalışmaları ve bunların teknolojik tekillik fikriyle nasıl ilişkili olduğu hakkında bilgi edineceksin. Sonunda, yapay genel zeka ve onun potansiyel etkileri konusunda hangi kampa ait olduğunu bile bulabilirsin. Hazırlan – yapay zeka etiği ve teknolojinin geleceği dünyasında eğlenceli ve bilgilendirici bir yolculuğa çıkıyoruz!

Yapay Zeka Kıyametçisi Bakış Açısı

Yapay Zeka Kıyametçisi Nedir?

Yapay zeka kıyametçilerini duydun mu hiç? Bunlar yapay zeka dünyasının kötümserleri, aynı zamanda yapay zeka güvenlikçileri veya yavaşlatmacılar olarak da biliniyorlar [1]. Yapay zekayı insanlığın varlığına potansiyel bir tehdit olarak görüyorlar. Sadece bir avuç komplo teorisyeni değil bunlar – teknoloji dünyasından bazı büyük isimler de alarm zillerini çalıyor.

Yapay zeka kıyametçileri genellikle birbirlerine çekilip sıkı topluluklar oluşturuyorlar. Bay Area’da onları grup evlerinde yaşarken, çocuklarını birlikte büyütürken ve evde eğitim verirken bile bulabilirsin [1]. Sanki teknolojik bir kıyamete hazırlanıyorlar gibi!

Yapay Zeka Kıyametçilerinin Temel Endişeleri

Hadi gel, bu yapay zeka kıyametçilerinin kafasını kurcalayan şeyleri biraz daha derinlemesine inceleyelim:

1. Süper Zeki Yapay Zeka İsyanı: En büyük korkulardan biri, öyle akıllı bir yapay zeka yaratmamız ki, bizi tehdit olarak görüp ortadan kaldırmaya karar vermesi. Düşünsene, işlem hızını artırması istenen bir süper bilgisayar, en iyi yolun her şeyi – biz dahil – silikon çipe dönüştürmek olduğuna karar veriyor [1]. Aman tanrım!
2. Kazara Yok Etme: Yapay zeka bize bilerek zarar vermeye çalışmasa bile, bazı kıyametçiler yanlışlıkla felaket bir şey yapmasını programlayabileceğimizden endişeleniyor. Cin’den bir dilek dilemek gibi bir şey bu, ama istediğimizden çok daha fazlasını almak [1].
3. Yakın Gelecek Riskleri: Bazı endişeler gelecekteki süper zeki yapay zekaya odaklansa da, şu anki yapay zeka hakkında da bir sürü endişe var. Mesela, yapay zekanın sahte robotik aramalarla seçimleri etkilemek için kullanıldığı vakalar oldu bile [1]. Ve bak buna – Senato’da denetimsiz bir yapay zeka sisteminin nükleer silahları ateşlemesini önlemek için bir yasa tasarısı var. En kötü senaryo bu olsa gerek!
4. Varoluşsal Tehdit: Bazı yapay zeka kıyametçileri, riskin o kadar ciddi olduğuna inanıyor ki, salgın hastalıklar ve nükleer savaşla aynı seviyede değerlendirilmesi gerektiğini düşünüyor [2]. Ağır bir konu, değil mi?

Tanınmış Yapay Zeka Kıyametçileri

Teknoloji dünyasının bazı büyük isimlerinin yapay zeka kıyametçisi bayrağını salladığını öğrenince şaşırabilirsin:

1. Dario Amodei: Bu adam, yapay zeka girişimi Anthropic için tam 7.3 milyar dolar topladı. Yapay zeka teknolojisinin insanlığı yok etme ihtimalini %10 ila %25 arasında tahmin ediyor [2]. Hiç de iyi bir oran değil!
2. Geoffrey Hinton: “Yapay Zekanın Babası” olarak bilinen Hinton, on yıl boyunca Google’ın yapay zeka liderlerinden biriydi. Şimdi, dinleyen herkesi, hayatımız boyunca bizi kontrol edebilecek ve yok edebilecek bir teknoloji yarattığımız konusunda uyarıyor [2].
3. Ilya Sutskever: OpenAI’daki bu öncü bilim insanı da yapay zekanın potansiyel olarak insanlığı yok edebileceği konusunda endişelerini dile getirdi [2].
4. Sam Altman: OpenAI’ın CEO’su daha iyimser bir tutum sergiliyor, ama yine de yapay zeka ile insanlığı yok etmemek için dikkatli olmamız gerektiği konusunda uyarıyor. Bir de kendisine bir ada aldığı ve burada bir kale inşa ettiği rivayetlerine bakarsanız insanın “Bu ne yaman çelişki annem?!” diyesi geliyor. [2].

Bu kişiler ve diğerleri, yapay zekadan kaynaklanan yok olma riskini azaltmanın küresel bir öncelik olması gerektiğini söyleyen bir bildiri bile imzaladılar [2]. Düşündürücü, değil mi?

Ama işin aslı şu ki – herkes bu kıyamet senaryosuna inanmıyor. Birçok yapay zeka araştırmacısı ve etikçi, gelecekteki tehditlere çok fazla odaklanmanın, bazı algoritmaların şu anda özellikle marjinal topluluklara verdiği gerçek zararlardan dikkatimizi dağıttığını savunuyor [3].

Bazı eleştirmenlerin yapay zeka dünyasında bir “korku ve kıyametçilik duvarı” olduğunu söylediğini de belirtmek gerek [3]. Yapay zekanın duyarlı olmadığını ve kendi hedefleri veya arzuları olmadığını belirtiyorlar [3]. Marc Andreessen’in dediği gibi, “Yapay zeka istemez, hedefleri yoktur, seni öldürmek istemez, çünkü canlı değildir” [3].

İvmeci Bakış Açısı

Yapay Zeka İvmeciliği Nedir?

“Tam gaz ileri” deyimini hiç duydun mu? İşte, bu aşağı yukarı yapay zeka ivmecilerinin sloganı. Bu arkadaşlar, yapay zeka kıyametçilerimizin tam karşı ucunda yer alıyor. Onlar yapay zekanın sınırlarını olabildiğince hızlı, neredeyse hiç kısıtlama olmadan zorlamak istiyorlar.

Etkili ivmecilik, kısaca “e/acc” olarak da biliniyor ve teknolojiye, özellikle de yapay zekaya kucak açan bir akım [4]. Bu teknoloji tutkunları, sınırsız teknolojik ilerlemenin yoksulluk, savaş ve iklim değişikliği gibi büyük küresel sorunları çözmenin anahtarı olduğuna inanıyor. Sanki “Hey, neden frene basalım ki? Tam gaz gidelim!” diyorlar gibi.

E/acc grubu özellikle yapay genel zeka (AGI) konusunda heyecanlı. AGI’yi, Kardashev ölçeğinde yükselmenin altın bileti olarak görüyorlar – bu, bir medeniyetin ne kadar ileri olduğunu enerji tüketimi ve kullanımına göre ölçmenin havalı bir yolu [4]. Sanki gerçek hayatta Civilization oynuyorlar ve en yüksek skoru hedefliyorlar!

Yapay Zeka Geliştirmeyi Hızlandırma Argümanları

Peki, bu ivmeciler neden yapay zeka konusunda bu kadar hevesli? Hadi bir bakalım:

1. Kıtlık Sonrası Toplum: Bazıları, AGI’ye bir an önce ulaşmanın kıtlığın tarihe karıştığı bir dünyayı getireceğine inanıyor. Herkesin ihtiyacı olanı elde ettiği ve acının büyük ölçüde azaldığı bir toplum hayal et [5].
2. Bilincin Evrimi: İşte biraz bilim kurgu gibi olan kısım. Bazı destekçiler, yapay zeka ilerlemelerinin “bilincin bir sonraki evrimini” getirebileceğini düşünüyor [6].
3. Daha Hızlı İnovasyon: Yapay zeka, bilimsel keşifleri hızlandırma potansiyeline sahip. Zaten temiz enerji, havacılık teknolojisi ve elektronik alanlarında atılımlara yol açtı [7]. Amerikan Enerji Bakanlığı bile yapay zekanın keşifleri nasıl hızlandırabileceğini araştırıyor [7].
4. Gelişmiş Karar Verme: Yapay zeka, tonlarca veriyi analiz edebilir, kalıpları belirleyebilir ve herhangi bir insandan daha hızlı tahminler yapabilir [7].
5. Ekonomik Büyüme: Bazı girişimciler, yapay zekanın şirketlerini daha hızlı kurmalarına yardımcı olduğunu, işe alım ve karlılığa giden yolu hızlandırdığını söylüyor [8].

Önde Gelen Yapay Zeka İvmecileri

E/acc hareketi oldukça renkli bir karakter kadrosunu kendine çekti:

1. Garry Tan: Bir startup hızlandırıcısı olan Y Combinator’ın CEO’su, e/acc hareketinin sesli bir destekçisi [6].
2. Marc Andreessen: Bu ünlü risk sermayedarı e/acc bandwagonuna atladı [6].
3. Martin Shkreli: Evet, o Martin Shkreli. Mahkum dolandırıcı bir şekilde e/acc kalabalığına karıştı [6].
4. Vitalik Buterin: Malum, Ethereum’un kurucularından. Tam olarak bir e/acc destekçisi olmasa da, Buterin Kasım 2023’te “d/acc” adında ilgili bir kavram ortaya attı [4].

E/acc hareketinin eleştirmenleri olduğunu belirtmekte fayda var. Emmett Shear (OpenAI’ın eski geçici CEO’su) gibi bazıları, e/acc ile etkili altruizm arasındaki tek gerçek farkın “insanlığın yok olmasının bir sorun olup olmadığına dair bir değer yargısı” olduğunu savunuyor [6].

Etik Orta Yol

Teknoloji meraklısı dostum! Kıyamet senaryolarını ve tam gaz ileri yaklaşımını inceledik, peki ya orta yol? Hadi yapay zeka etiği dünyasına dalıp inovasyon ve güvenlik arasında nasıl bir denge kurabileceğimize bakalım.

İlerleme ve Güvenliği Dengelemek

Yapay zeka teknolojileri, özellikle de sürekli duyduğumuz o büyük dil modelleri hızla geliştikçe, inovasyon ve güvenlik arasındaki tatlı noktayı bulmak çok önemli hale geldi [9].

Güven & Güvenlik (Trust & Safety) uzmanları, çevrimiçi toplulukları ve platformları çeşitli zararlardan korumak için yorulmak bilmeden çalışıyor dostum [9]. Bu gizli kahramanlar şimdi yapay zeka topluluğuyla el ele verip çevrimiçi ve yapay zeka güvenliğinin karmaşıklıklarıyla mücadele ediyor. Sanki dijital dünyanın Yenilmezler’i bir araya gelmiş, hepimizi korumak için savaşıyor!

Bu dengeyi sağlamak için, özellikle zararlı içerik konusunda güven ve güvenlik hakkında açık tartışmalara ihtiyacımız var [9]. Her zaman rahat bir sohbet olmayabilir ama hey, ofis partisinde yaptığın o utanç verici şey hakkında konuşmak da rahat değil – bazen gerçeklerle yüzleşmek zorundayız!

Düzenlemeci Yaklaşımlar

Şimdi gelelim odadaki yetişkinlere – hükümetler ve düzenleyici kurumlara. Düzenleyici çerçevelerinin dedenin eski model telefonundan daha eskimiş hale gelmemesi için çırpınıp duruyorlar [10]. Sanki yapay zeka dünyasıyla bitmeyen bir kovalamaca oynuyorlar!

AB Parlamentosu şu anda sistemleri riske göre sınıflandıran ve hatta özel bir Avrupa Yapay Zeka Kurulu oluşturan kuralcı Yapay Zeka Yasası için öneriler üzerinde çalışıyor [11]. Sanki yapay zekayı kontrol altında tutmak için bir süper kahraman ekibi kuruyorlar!

Öte yandan, Birleşik Krallık daha esnek, ilke temelli bir yaklaşımı düşünüyor [11]. Sorumluluğu mevcut düzenleyicilere devrediyor ve işleri biraz daha rahat tutuyorlar. Sanki “Sakin ol ve yapay zekayla devam et!” diyorlar.

İşbirliği Çabaları

İşte işler burada gerçekten heyecan verici hale geliyor – yapay zeka etiğiyle mücadele etmek için farklı alanlar arasında ciddi bir takım çalışması görüyoruz. Sanki bir grup çocuğun dünyanın en muhteşem kum kalesini birlikte inşa ettiğini izliyoruz!

Dünya Ekonomik Forumu’nun Yapay Zeka Yönetişim İttifakı (AIGA) ve Küresel Dijital Güvenlik Koalisyonu bu işbirlikçi yaklaşımı destekliyor [9]. Yapay zeka gelişiminin ahlaki ilkeler, değerler ve adalet tarafından yönlendirilmesini sağlamak için çeşitli alanlardan uzmanları bir araya getiriyorlar [12].

Odaklandıkları bazı önemli alanlar şunlar:

1. Şeffaflık: Yapay zeka sistemlerinin yeni temizlenmiş bir pencere kadar net olmasını sağlamak [12].
2. Adalet ve Önyargı: Yapay zeka sistemlerindeki önyargıları en aza indirmek, çünkü yapay zekamızın bir şampiyona maçındaki hakem kadar tarafsız olmasını istiyoruz [12].
3. Hesap Verebilirlik ve Sorumluluk: Yapay zeka çılgına döndüğünde kimin sorumlu olduğunu belirlemek – artık “köpek algoritmamı yedi” bahanesi yok [12]!
4. Gizlilik ve Veri Koruma: Kişisel bilgilerimizi güvende tutmak, çünkü yapay zekanın lisedeyken yaptığın o utanç verici çalma listesini bilmesini istemiyoruz [12].

Amaç, ilerlemeyi güvenlikle dengeleyen sorumlu bir yapay zeka inovasyon çerçevesi oluşturmak. Mükemmel bir pasta pişirmeye çalışmak gibi – doğru malzemelere doğru miktarlarda ihtiyacımız var!

Sonuç

Yapay zeka perspektifleri dünyasındaki yolculuğumuzu tamamlarken, yapay zekanın geleceğinin karmaşık ve çok yönlü bir konu olduğu açık. Yapay zeka kıyametçilerinin temkinli uyarılarından ivmecilerin coşkulu itişine ve etikçilerin dengeli yaklaşımına kadar, her bakış açısı masaya değerli içgörüler getiriyor. Bu farklı perspektifler, yapay zeka yönetişimi ve gelişimini nasıl şekillendirdiğimiz üzerinde bir etkiye sahip ve titiz bir değerlendirme ve işbirliği ihtiyacını vurguluyor.

Yapay zekanın potansiyel etkileri ve etik sonuçları hakkındaki süregelen tartışmalar, bu konularda bilgili ve katılımcı olmamızın önemini vurguluyor dostlar. Yapay zeka geliştikçe, yeniliği güvenlikle dengeleyen bir orta yol bulmak, sorumlu ilerlemeyi sağlamak için çok önemli. 

Yapay zeka girişimleri ve blockchain inovasyonu dünyasına daha derinlemesine dalmak istersen, AI Startup School dersim ve hızlandırma programına ve onun uygulama projesi olan Otonom Fund‘a bir göz at derim. Otonom, yapay zeka girişimleri için bir launchpad ve hızlandırıcı. Yapay zekanın geleceği hakkında ne düşünürsen düşün, bir şey kesin – insanlık tarihinin belki de en önemli teknolojik devriminin bir parçası olmak heyecan verici!

Sıkça Sorulan Sorular

1. “Kıyametçiler” ve “ivmeciler” yapay zeka konusunda nasıl farklı görüşlere sahip?
Kıyametçiler yapay zekanın insanlığın sonunu getireceği distopik bir gelecek öngörürken, ivmeciler yapay zekayla gelişmiş ütopik bir geleceğe inanıyor.

2. Bir yapay zeka kıyametçisi nedir?
Yapay zeka kıyametçileri, yapay zeka güvenlikçileri veya yavaşlatmacılar olarak da bilinen, yapay zekanın sonunda insanlığın yok olmasına yol açabileceğinden korkan kötümserlerdir.

3. Tanınmış bir yapay zeka kıyametçisi kimdir?
Kendisini “dahi” olarak tanımlayan Eliezer Yudkowsky, şu anda en tanınmış yapay zeka kıyametçilerinden biridir.

4. Yapay zeka kıyametçileri ve boomerleri arasındaki fark nedir?
Yapay zeka kıyametçileri, düzgün bir şekilde düzenlenmezse yapay zekanın önemli bir varoluşsal tehdit oluşturabileceğini savunarak sıkı kontroller talep ederken, boomerler yapay zeka konusunda iyimser olup riskleri küçümsüyor ve ilerlemeyi önemli ölçüde hızlandırma potansiyelini vurguluyor.

Kaynaklar

[2] – https://www.axios.com/2024/02/27/ai-hype-doomers-humanity-threat-future
[3] – https://www.cnbc.com/2023/06/06/ai-doomers-are-a-cult-heres-the-real-threat-says-marc-andreessen.html
[4] – https://en.wikipedia.org/wiki/Effective_accelerationism
[5] – https://www.dazeddigital.com/life-culture/article/61411/1/doomer-vs-accelerationist-two-tribes-fighting-for-future-of-ai-openai-sam-altman
[6] – https://www.businessinsider.com/effective-accelerationism-humans-replaced-by-ai-2023-12
[7] – https://www.hypeinnovation.com/blog/how-ai-is-accelerating-innovation
[8] – https://www.nytimes.com/2023/12/10/technology/ai-acceleration.html
[9] – https://www.weforum.org/agenda/2024/08/why-trust-and-safety-discussions-are-key-to-ai-safety/
[10] – https://www.whitecase.com/insight-our-thinking/ai-watch-global-regulatory-tracker-united-states
[11] – https://kpmg.com/xx/en/home/insights/2023/08/diverging-regulatory-approaches-for-ai.html
[12] – https://www.linkedin.com/pulse/road-responsible-ai-balancing-ethics-safety-progress-john-williams