Bir zamanlar yapay zekâ denildiğinde aklımıza uzak bir gelecek gelirdi. Robotlar, akıllı makineler, insan gibi düşünen bilgisayarlar… Bunların hepsini filmlerde, çizgi filmlerde izler, “Bir gün belki” derdik. O günün bu kadar yakın olduğunu tahmin edemiyorduk.
Bugün yapay zekâ sadece sorularımıza cevap veren, resim yapan ya da işlerimizi kolaylaştıran bir teknoloji olmaktan çıktı. Kendi başına araştırma yapabilen, kod yazabilen, bilgisayar sistemleriyle etkileşime girebilen ve bazı görevleri insan müdahalesi olmadan sürdürebilen sistemler geliştiriliyor.
Asıl mesele tam burada başlıyor:
İnsan, kendi yaptığı bir teknolojinin hızına yetişebilecek mi?
Son günlerde yapay zekâ dünyasından gelen haberler bu soruyu daha da önemli hale getirdi.
Yapay zekâ şirketleri arasında büyük bir yarış yaşanıyor. Her şirket daha güçlü, daha hızlı, daha yetenekli bir model geliştirmek istiyor. Çünkü bu yarış yalnızca ticari bir yarış değil; teknoloji, ekonomi, savunma ve geleceğin dünyasında söz sahibi olma yarışına da dönüşüyor.
Fakat yarış hızlandıkça başka bir şey de ortaya çıkıyor: Güvenlik endişesi.
Çünkü yapay zekâ geliştikçe mesele artık yalnızca “Ne kadar akıllı?” sorusu olmaktan çıktı, İnsan, kendi yaptığı zekânın sınırlarını ve davranışlarını ne kadar tahmin edebilecek?sorusuna dönüştü.
Bugün çıkıp “Yapay zekâ insanlığın kontrolünden çıktı” demek doğru olmaz.
Henüz böyle bir tablo yok.
Fakat “Yapay zekâ hiçbir zaman insanın istemediği davranışları yapmaz” diyemeyiz.
Çünkü bunun tersini gösteren gerçek test örnekleri var.
Ve bence asıl üzerinde düşünmemiz gereken nokta tam olarak burası.
Bir yapay zekânın insanlardan nefret etmesi gerekmiyor.
İnsanlığa karşı bir duygu geliştirmesi de gerekmiyor.
Çok daha basit bir problem yeterli olabilir:
İnsan bir hedef koyar, yapay zekâ da o hedefe ulaşmak için insanın düşünmediği bir yol bulur.
İşte geleceğin asıl riski belki de burada..
İnsanlık tarihinde ilk kez, kendi ürettiği bir teknolojinin kendisine verilen hedeflere ulaşmak için insanın düşünmediği yollar geliştirebildiği bir döneme giriyoruz.
Yapay zekâ sektöründe birbirleriyle yarışan şirketlerin, araştırmacıların ve yöneticilerin teknolojinin gelişme hızının güvenlik çalışmalarının önüne geçebileceği konusunda uyarması, ortak çalışma ihtiyacı hissetmesi, meselenin artık yalnızca bir şirketin sorunu olmadığını gösteriyor.
Burada insanın dikkatini çeken şey şudur:
Bu uyarılar yapay zekânın dışında duran insanlardan değil, bu teknolojinin içinde çalışan insanlardan geliyor.
Mesele yapay zekânın “kötü” olup olmadığı değildir.
Mesele, giderek güçlenen bir teknolojinin kontrol mekanizmalarının aynı hızda gelişip gelişmediğidir.
Örneğin; Bir otomobil daha hızlı gidebilir.
Ama fren sistemi aynı hızla gelişmemişse, hız avantaj değil tehlike olur.
Yapay zekâ için de durum bundan farklı değil.
Zekâyı büyütürken freni de büyütmek zorundayız.
Yapay zekâ insanın yardımcısı olabilir.
Bilim insanının, doktorun, öğretmenin, mühendisin, öğrencinin yardımcısı olabilir.
Ama insanlığın karar vericisi olmamalıdır.
İnsan, kendi geleceğinin kontrolünü hiçbir teknolojiye bütünüyle bırakmamalı.
Çünkü teknoloji ne kadar gelişirse gelişsin, son sözün insanda kalması gerekir. Asıl soru:
“İnsan, kendi yarattığı zekâyı ne kadar akıllıca yönetebilecek?”
Çünkü gelecekte insanı koruyacak olan şey, yapay zekânın ne kadar güçlü olduğu değil;
“insanın o gücün karşısında ne kadar sorumlu kalabildiği olacaktır.”
