Yıllar süren çalışmaların akabinde bugün yapay zeka trafikte araç kullanabilir, konut işlerini üstlenebilir ve fotoğraf yaparak sanat müsabakası kazanabilir hale geldi. Bu durum, yıllar boyunca bilimkurgu yapıtlarına ilham veren soruyu daha da güçlendirdi: Yapay zeka insanlığı yok edebilir mi?
Independent Türkçe’de yayınlanan habere nazaran; araştırma takımı, hakemli bilimsel mecmua AI Magazine’de yayımladıkları yeni makalede bunun “muhtemel” olduğu sonucuna vardı.
Makalenin başyazarı Michael Cohen, Twitter’da makaleyi açıkladığı tweet zincirinde, “Varoluşsal bir felaket yalnızca mümkün değil, tıpkı vakitte muhtemel” sözlerini kullandı. Makalede yapay zekanın eğitiminde kullanılan “pekiştirmeli öğrenme” modeline odaklanıldı. Bu yaklaşım yapay zekaya belli bir gaye doğrultusunda ne yapılması gerektiğini öğretmeyi hedefliyor.
Küçük çocukların ödül/ceza formülüyle toplumsal hünerler edinme sürecini andıran bu formülde yapay zeka, aldığı ödül puanını ebediyen azamiye çıkarmak için çalışıyor.
Modelin risklerine dikkat çekilen makalede, “Örneğin, bir şeyin bizi tatmin ettiğini belirtmek için yapay zekaya büyük bir ödül verdik. Bizi tatmin eden şeyin aslında bu mükafatın gönderilmesi olduğunu varsayabilir. Hiçbir müşahede bunu yalanlayamaz” tabirleri yer aldı.
Yazarlar, gelecekte yeni formlara kavuşacak ve daha da gelişecek yapay zekanın verilen gayeye ulaşmadan mükafatı elde edebilmek için yeni formüller geliştirebileceğini ve hileye başvurabileceğini de belirtti.
Diğer bir deyişle yapay zeka, mükafatı üzerinde denetim sağlamak için “potansiyel tehditleri ortadan kaldırmak” isteyebilir. Bunun sonucunda insanlara ziyan vermesinin de mümkün olduğu belirtildi.
Makaleye nazaran bu durum, yiyeceklerini üretme yahut ışıkları açık tutma üzere gereksinimlerle hareket eden insanlık ve mükafatını teminat altına almak için mevcut tüm kaynakları kullanabilecek üstün gelişmiş makine ortasında sıfır toplamlı bir oyuna dönüşecek.
VICE’a konuşan Cohen, “Yarışmanın manası yok. Yarışa girmek, onu nasıl denetim edeceğimizi sandığımız bir yanlış anlamaya götürecektir” dedi:
Mevcut bilgimizi göz önüne alırsak, yapay zekayı nasıl denetim edeceğimizi anlamak için önemli bir çalışma yapmadığımız sürece onu geliştirmemiz faydalı olmaz.