Eski AI şirketi Ceo’su sanal kötüye kullanımlara karşı uyarıyor

Yapay zekalar tüm bilgileri bir bilinmeyene depo ediyor

Yapay Zeka, insan gelişimini hızlandıracak ve bizi zor görevlerden kurtaracak bir potansiyele sahiptir. Bununla birlikte, AI kişisel yaşamlarımıza daha da entegre hale geliyor ve bu yönüyle manipülasyon endişelerini artırıyor. Eski AI şirketi Ceo’su sanal kötüye kullanımlara karşı uyarıyor. Yapay zekalar tüm bilgileri bir bilinmeyene depo ediyor.

Manipülasyon olarak AI etkileşimi

MIT Technology Review’de yayınlanan bir makale, yapay zekanın (AI) sinsi amaçlar için kullanılma potansiyeli ile ilgili endişeleri artırdı.Yazarı Liesl Yearsley, bu konudaki perspektifini, yapılandırılmış ve derin öğrenme karışımını kullanarak sanal ajanlar oluşturmasıyla bilinen eski Cognea CEO’su olarak iletiyor.

Yearsley, Cognea’daki görev süresince insanlara yalnızca görev yapmakla kalmayıp aynı zamanda duygusal destek sağlamak için AI’ya giderek daha fazla bağımlı hale geldiğini gözlemledi. Yearsley, Cognea’da bulunduğu süre zarfında bir takım gözlemlerde bulundu. Söylediğine göre insanlar bu yapay zekalara tüm sırlarını, hayallerini ve hatta sevdikleriyle olan anılarını paylaşıyorlar. Yani bu demek oluyor ki güvenlik ya da başka sebeplerle istenen veya isteyerek depo edilen bilgiler AI’da bekletiliyor. Bu da ilerleyen dönemde paylaşılan bilgilerin manipüle edilebileceğine dair bazı uzmanlar tarafından endişe taşıdığı düşünülen bir konu.

Bu elbetteki illa kötü sonuçlar doğuracak demek olmuyor. Ancak kaydettiğiniz veri tabanlarına dikkat edin. Çünkü AI sanal gerçeklik ifade ediyor. Yani bir yerlerde, kaydettiğiniz bilgiler gerçekleştirilebilir anlamına geliyor olabilir.