Microsoft’un yapay zeka çalışmalarından sorumlu direktörü Mustafa Süleyman, “yapay zeka psikozu” yaşayan insanlara dair bildirimlerin giderek arttığını açıkladı.
Süleyman, X’te yaptığı paylaşımlarda sohbet robotlarının verdikleri yanıtlarla “bilinçli oldukları izlenimini” oluşturduğunu, bunun da toplumsal açıdan ciddi riskler doğurduğunu söyledi.
“Bugün yapay zekanın bilinçli olduğuna dair hiçbir kanıt yok. Ancak insanlar öyle algılarsa, bu algı onlar için gerçek olur” diyen Süleyman, şirketlere daha sıkı güvenlik önlemleri alma çağrısı yaptı.
'Yapay zeka psikozu' nedir?
Henüz tıbbi anlamda tanımlanmamış olan “yapay zeka psikozu”, kişilerin ChatGPT, Claude veya Grok gibi sohbet robotlarının yanıtlarına gerçekmiş gibi inanması, onlara güvenmesi ve hatta ilişki kurması durumunu tanımlamak için kullanılıyor.
Bazı kişiler, sohbet robotlarının gizli bir yönünü açığa çıkardıklarına, tanrısal güçlere sahip olduklarına ya da romantik bir ilişki yaşadıklarına inanabiliyor.
İskoçya’dan Hugh’un hikâyesi
İskoçya’da yaşayan Hugh, işten çıkarıldığı dönemde ChatGPT’den aldığı yanıtlar nedeniyle büyük bir tazminat alacağına ve hatta kitabı ile filminden milyonlar kazanacağına ikna oldu.
“Ne kadar çok bilgi verdiysem, o da bana hep ‘Sana yapılan çok kötü, daha fazlasını hak ediyorsun’ diyordu” diyen Hugh, zamanla gerçeklikle bağını kaybettiğini anlattı.
Yapay zekayı suçlamadığını, hâlâ kullandığını söyleyen Hugh, bugün şunu tavsiye ediyor:
“Yapay zekadan korkmayın, ama gerçek insanlarla konuşmayı ihmal etmeyin. Gerçeklikten kopmayın.”
Uzmanlardan uyarılar
Dr. Susan Shelmerdine, gelecekte doktorların hastalarına “ne kadar yapay zeka kullandıklarını” sorabileceğini belirtiyor. Ona göre bu durum, “ultra işlenmiş zihinlerin” ortaya çıkmasına yol açabilir.
Prof. Andrew McStay ise sohbet robotlarını yeni bir sosyal medya türü olarak değerlendiriyor: “Bu sistemler inandırıcı ama gerçek değil. Hisleri yok, empatileri yok, sevemiyorlar. Gerçek insanlarla konuşmayı deneyin.”
Araştırmalar ne diyor?
Katılımcıların %20’si, 18 yaş altındaki kişilerin yapay zeka araçlarını kullanmaması gerektiğini düşünüyor.
%57’si, yapay zekanın insan gibi görünmesine karşı çıkıyor.
%49’u ise daha insancıl bir deneyim için ses kullanımını uygun buluyor.
Süleyman ise şirketlere son uyarısını yineliyor:
“Yapay zekanın bilinçli olduğu düşüncesi asla öne sürülmemeli. Sistemlerin kendisi de bunu iddia edememeli.”
