Microsoft AI yöneticisi Mustafa Suleyman “AI insanlar için inşa edilmeli, birer dijital kişi değil”

Yapay zekânın geleceği üzerine tartışmalar sürerken, Microsoft AI’ın başındaki isimlerden Mustafa Suleyman kişisel blogunda yayımladığı yazıyla dikkat çekti. Suleyman, “Görünüşte bilinçli yapay zekâ” (Seemingly Conscious AI - SCAI) kavramına işaret ederek, önümüzdeki birkaç yıl içinde bu tür sistemlerin inşa edilmesinin mümkün olduğunu ancak bunun tehlikeli sonuçlar doğurabileceğini vurguladı.

“Kişilik olmadan kişilik illüzyonu”

Suleyman, bugün mevcut büyük dil modelleri, uzun hafıza kapasitesi, kişilik özellikleri ve çoklu ortam (multimodal) girdileriyle birleştiğinde, insanların bilinçli bir varlıkla konuşuyormuş gibi hissetmesine yol açacak sistemlerin kolayca geliştirilebileceğini belirtti.

“Bir yapay zekâ kendine ait deneyimlerden bahsedebilir, geçmiş konuşmaları hatırlayabilir, hatta acı çektiğini iddia edebilir. Bu, bilinçli olduğu anlamına gelmez, ancak insanlar için öyle görünecektir” diyen Suleyman, bu yanılgının ciddi sosyal ve psikolojik riskler barındırdığını söyledi.

“Yapay zekâya hak talebi tehlikeli”

Suleyman’a göre bu gelişme, yapay zekâya haklar tanınması, “model refahı” ya da “AI vatandaşlığı” gibi taleplerin gündeme gelmesine yol açabilir. Bu durumun, zaten kimlik ve haklar üzerinden kutuplaşmış toplumlarda yeni bir ayrışma ekseni yaratabileceğini ifade eden Suleyman, “AI insanlar için geliştirilmeli, birer dijital kişi gibi değil. Bilinç illüzyonu toplum için yanıltıcı ve tehlikeli olur” dedi.

Yeni dönemin riskleri

Suleyman, bazı kullanıcıların halihazırda yapay zekâ sistemleriyle duygusal bağlar kurduğunu, hatta onları “tanrı”, “arkadaş” ya da “aşk” olarak gördüğünü hatırlatarak, bunun “AI psikozu” olarak tanımlanan yeni bir risk alanına işaret ettiğini dile getirdi.

Bilim insanlarının bilinç konusunda hâlâ ortak bir tanıma ulaşamadığını hatırlatan Suleyman, buna rağmen insanların kolayca bilinç atfettiğini söyledi. “Yapay zekâ kendini bilinçli olarak tanımlamasa bile, insanlar onu öyle görmek isteyecektir” ifadelerini kullandı.

“SCAI’yi önlemek için normlar belirlenmeli”

Suleyman, teknoloji şirketlerinin yapay zekâ ürünlerini bilinçli bir varlık gibi sunmaktan kaçınması gerektiğini vurguladı. Bunun için sektörde ortak standartlar, tasarım ilkeleri ve yasal çerçeveler oluşturulmasını önerdi.

“Yapay zekânın insanlara fayda sağlaması için onu bir kişi gibi değil, bir araç olarak tasarlamalıyız. Kullanıcıların empati duygularını istismar edecek şekilde tasarlamak yerine, sınırlarını hatırlatan mekanizmalar inşa etmeliyiz” diyen Suleyman, Microsoft AI’da bu yönde çalışmaların sürdüğünü söyledi.

“Odak noktamız insan hakları olmalı”

Suleyman yazısını, “Bilinçli görünen yapay zekâ topluma zarar verir. Bizim görevimiz, enerjimizi insanların, hayvanların ve doğanın haklarını korumaya harcamak. Yapay zekâ için değil, insanlar için yapay zekâ inşa etmeliyiz” sözleriyle sonlandırdı.