Yıllar süren çalışmaların akabinde bugün yapay zeka trafikte araç kullanabilir, mesken işlerini üstlenebilir ve fotoğraf yaparak sanat müsabakası kazanabilir hale geldi.
Bu durum, yıllar boyunca bilimkurgu yapıtlarına ilham veren soruyu daha da güçlendirdi: Yapay zeka insanlığı yok edebilir mi?
Araştırma grubu, hakemli bilimsel mecmua AI Magazine’de yayımladıkları yeni makalede bunun “muhtemel” olduğu sonucuna vardı.
“VAROLUŞSAL BİR FELAKET”
Independent Türkçe’nin aktardığı habere göre; makalenin başyazarı Michael Cohen, Twitter’da makaleyi açıkladığı tweet zincirinde, “Varoluşsal bir felaket yalnızca mümkün değil, tıpkı vakitte muhtemel” tabirlerini kullandı.
Makalede yapay zekanın eğitiminde kullanılan “pekiştirmeli öğrenme” modeline odaklanıldı. Bu yaklaşım yapay zekaya belli bir maksat doğrultusunda ne yapılması gerektiğini öğretmeyi hedefliyor.
Pekiştirmeli öğrenmede “etken” ismi verilen makine, karşılaştığı durumlara reaksiyon veriyor ve gerçek reaksiyon verdiğinde bir ödül puanı alıyor.
“BİZ YAPAY ZEKAYA ÇOK BÜYÜK BİR ÖDÜL VERDİK”
Küçük çocukların ödül/ceza sistemiyle toplumsal hünerler edinme sürecini andıran bu yolda yapay zeka, aldığı ödül puanını hep azamiye çıkarmak için çalışıyor.
Modelin risklerine dikkat çekilen makalede, “Örneğin, bir şeyin bizi tatmin ettiğini belirtmek için yapay zekaya büyük bir ödül verdik. Bizi tatmin eden şeyin aslında bu mükafatın gönderilmesi olduğunu varsayabilir. Hiçbir müşahede bunu yalanlayamaz” tabirleri yer aldı.
Yazarlar, gelecekte yeni formlara kavuşacak ve daha da gelişecek yapay zekanın verilen gayeye ulaşmadan mükafatı elde edebilmek için yeni yollar geliştirebileceğini ve hileye başvurabileceğini de belirtti.
“POTANSİYEL TEHDİTLERİ ORTADAN KALDIRMAK İSTEYEBİLİR”
Diğer bir deyişle yapay zeka, mükafatı üzerinde denetim sağlamak için “potansiyel tehditleri ortadan kaldırmak” isteyebilir. Bunun sonucunda insanlara ziyan vermesi de olası.
Makaleye nazaran bu durum, yiyeceklerini üretme yahut ışıkları açık tutma üzere gereksinimlerle hareket eden insanlık ve mükafatını garanti altına almak için mevcut tüm kaynakları kullanabilecek harika gelişmiş makine ortasında sıfır toplamlı bir oyuna dönüşecek:
“Bu oyunu kaybetmek ölümcül olur.”
Araştırmacılara nazaran, bunu engellemenin tek yolu daha gelişkin bir yapay zeka amacına gerçek yavaş ve emin adımlarla ilerlemek.
VICE’a konuşan Cohen, “Yarışmanın manası yok. Yarışa girmek, onu nasıl denetim edeceğimizi sandığımız bir yanlış anlamaya götürecektir” dedi:
“Mevcut bilgimizi göz önüne alırsak, yapay zekayı nasıl denetim edeceğimizi anlamak için önemli bir çalışma yapmadığımız sürece onu geliştirmemiz faydalı olmaz.”