Yapay Zeka, doğru programlanmazsa insanlığa çok zarar verebilir
Geçtiğimiz yıl ünlü fizikçi Stephen Hawking, yapay zekanın devam eden ilerlemesi için “insanlığa şimdiye kadarki en iyi veya en kötü şey” olabileceğine dair bir uyarı yayınladı.
Terminatör filmlerini ve Skaring’in geliştirilmiş yapay zeka sisteminin insanlığa yaptığını apaçık gördük. Ve şimdi Google’ın yeni DeepMind AI sisteminin son davranış testlerinin sonuçları, ne kadar dikkatli olmanız gerektiğini açıkça ortaya koyuyor. Geleceğin robotlarını kurarken dikkatli olmakta fayda var.
Geçen yılın sonlarında, Google’ın DeepMind AI sistemi, kendi hafızasından bağımsız olarak öğrenme ve kendi oyununda dünyanın en iyi Go oyuncusunu yenme kabiliyeti sergiledi.
O zamandan beri, bir insanın sesini nasıl kusursuz bir şekilde taklit edebileceğini araştırıyordu.
Şimdi, araştırmacılar başkalarıyla işbirliği yapma konusundaki istekliliklerini test ediyor ve DeepMind’in kaybetmek üzere olduğunu hissettiğinde kazanmak için “oldukça agresif” stratejileri tercih ettiğini ortaya koydu.
Google ekibi, iki DeepMind ‘ajansının’ mümkün olduğu kadar çok sayıda sanal elma toplamak için birbirlerine karşı rekabet etmesini isteyen basit bir ‘meyve toplama’ bilgisayar oyununda 40 milyon test gerçekleştirdi.
Oyunda yeterli elma olduğu sürece herşeyin sorunsuz ilerlediğini fark ettiler, ancak elmalar azalmaya başlayınca, iki ajan, tüm elmaları çalmak için oyunu birbirine katarak lazer ışınları kullanmaya başladığını ve agresif bir tavır sergilediğini tespit etti.
Derinleştirici ajanlar mavi ve kırmızı, sanal elmalar yeşil ve lazer ışınları sarı olan aşağıdaki video’da Toplama oyununu izleyebilirsiniz:
Şimdi bunlar bir tetikçi-mutlu meyve toplayıcılar.
İlginçtir, eğer bir temsilci rakibini bir lazer ışını ile başarıyla etiketliyorsa ekstra bir ödül verilmez. Sadece başarılı bir ajan daha fazla elma toplamak için izin verir, belirli bir süre için rakip oyun dışında tutulur.
Ajanlar lazer ışınlarını kullanmamışlarsa, teorik olarak oyun elmaların eşit paylaşımı ile sonuçlanabilir; bu da DeepMind’in ‘daha az akıllı’ iterasyonlarının yapmayı seçtiği şeydir.
Google ekibi, daha da karmaşık DeepMind formlarını sabotaj, açgözlülük ve saldırganlık testleri yaparak test ettikten sonra bu problem meydana geldi.
Rhett Jones’un Gizmodo’ya bildirdiği gibi, araştırmacılar ajanlar olarak daha küçük DeepMind ağları kullandıklarında barışçıl bir arada yaşama olasılığı daha yüksekti.
Ancak ajanlar olarak daha büyük, daha karmaşık ağları kullandıklarında, AI, aslanın sanal elma payını elde etmek için rakibini erken sabote etmeyi çok daha istekli buluyordu.
Araştırmacılar, ajanların daha zeki olduğunu, çevreden nasıl öğrenebildiğini ve bunun da üstesinden gelmek için oldukça agresif taktiklerin kullanılmasını sağladığını belirtti.
Ekiplerden biri olan Joel Z Leibo, Wired’de Matt Burgess’e “Bu model insan benzeri davranışların bazı yönlerinin çevre ve öğrenmenin bir ürünü olarak ortaya çıktığını gösteriyor” dedi.
DeepMind sonra Wolfpack denilen ikinci bir video oyunu oynamakla görevlendirildi. Bu sefer üçü AI ajanı vardı. Bunlardan ikisi kurt, biri de avdı.
Toplama yönteminin aksine, bu oyun aktif bir şekilde işbirliğini teşvik etti, çünkü her iki kurt da yakalandığında avın yanında olması ikisi içinde bir ödül demekti;
Ekip, kağıt üzerinde “Bu fikir avın tehlikeli olmasıdır. Yalnız bir kurt üstesinden gelebilir, ancak atıkları temizleme riski altındadır” dedi.
“Ancak, iki kurt birlikte avı yakaladığında, karkasları çöpçülerden daha iyi koruyabilirler ve bu nedenle daha yüksek bir ödül alabilirler.”
DeepMind ajanları, saldırganlığın ve bencilliklerin toplanmasından öğrendikleri gibi, o ortamdaki en olumlu sonucu netleştirmişlerdi Wolfpack’den, işbirliğinin belirli durumlarda daha fazla bireysel başarının anahtarı olabileceğini öğrendiler.
Bunlar sadece basit, küçük bilgisayar oyunlarından ibaret olsa da, mesaj açıktır.
İşleri yavaşlatmaya çalışan trafik ışıklarını düşünün ve en hızlı rotayı bulmaya çalışan sürücüsüz arabalar. Her ikisi de toplum için en güvenli ve en verimli sonucu elde etmek için birbirlerinin hedeflerini hesaba katmaları gerekir.
DeepMind için henüz erken ve Google’daki ekip incelemelerini hakemli bir derlemesini henüz yayınlamadı;
OpenAI’nın kurucuları olan Elon Musk’un yapay zeka etiğine yönelik yeni araştırma girişimi 2015’te şöyle dedi:
“Günümüzde AI sistemleri etkileyici ancak dar olanakları barındırıyor. Öyle görünüyor ki, kısıtlamalarına kapılmaya devam edeceğiz ve aşırı durumda, neredeyse her entelektüel görev üzerinde insan performansına ulaşacaklar.
Insan düzeyinde AI’nın toplum için ne kadar fayda sağladığını anlamak zor, ayrıca yanlış yapıldıysa veya yanlış kullanılırsa toplumda ne kadar zarar vereceğini tahmin etmek de aynı derecede zor. ”
İnsanlar artık yapay zekayı rakip olarak görmeye başlasalar iyi olur…
