Mattel ve OpenAI arasında işbirliği doğuyor! Bu çocukları olumsuz etkiler mi?
Çocuk refahı uzmanlarına nazaran oyuncak devi Mattel’in eserlerine ChatGPT ekleme planları, “çocuklara gerçek manada ziyan verme” riski taşıyabilir. Barbie’nin üreticisi geçen hafta OpenAI’la işbirliği yaptığını duyurarak gelecekteki oyuncakların tanınan yapay zeka sohbet botunu içereceğini ima etmişti.
Independent Türkçe’nin aktardığı duyuruda teknolojinin nasıl kullanılacağına dair spesifik detaylar yer almasa da Mattel paydaşlığın, “yapay zekayla çalışan eserleri ve tecrübeleri destekleyeceğini” ve “yapay zekanın büyüsünü yaşa uygun oyun tecrübeleriyle buluşturacağını” belirtmişti.
Çocuk refahı savunucuları buna karşılık Mattel’e deneysel teknolojiyi çocuk oyuncaklarına yerleştirmemesi davetinde bulundu.
Savunuculuk örgütü Public Citizen’ın eş başkanı Robert Weissman yaptığı açıklamada, “Çocuklar gerçeklik ve oyun ortasında tam bir ayrım yapabilecek bilişsel kapasiteye sahip değil” dedi.
Oyuncaklara insan gibisi konuşmalar yapabilen, insanlarınki üzere sesler eklemek çocuklara gerçek manada ziyanlar verme riski taşıyor.
Weissman’ın bahsettiği potansiyel ziyanlar ortasında toplumsal gelişimin baltalanması ve çocukların akran ilgileri kurma hünerlerine mahzur olunması yer alıyor.
Weissman “Mattel, yapay zeka teknolojisini çocuk oyuncaklarına dahil etmeyeceğini derhal duyurmalı” dedi.
Mattel, yapay zeka içeren oyuncaklar satarak çocuklarımız üzerinde pervasız bir toplumsal deney yapmak için ebeveynlerin kendisine duyduğu inancı kullanmamalı.
The Independent yanıt hakkı için OpenAI ve Mattel’le temasa geçti.
Mattel ve OpenAI’ın işbirliği, ChatGPT üzere üretken yapay zeka sistemlerinin, kullanıcıların ruh sıhhati üzerindeki tesirine ait telaşların arttığı bir devirde geldi.
Sohbet botlarının yanlış bilgi yaydığı, komplo teorilerini doğruladığı ve hatta teze nazaran kullanıcıları kendilerini öldürmeye teşvik ettiği biliniyor.
Psikiyatristler de yapay zekayla etkileşimlerin yol açtığı, sohbet psikozu ismi verilen bir olguya karşı uyarıyor.
Danimarka’daki Aarhus Üniversitesi’nde psikiyatri alanında öğretim üyesi olan Soren Dinesen Ostergaard, Schizophrenia Bulletin için kaleme aldığı başyazıda “ChatGPT üzere üretken yapay zeka sohbet botlarıyla yapılan yazışmalar o kadar gerçekçi ki, kişi öbür uçta gerçek bir insan olduğu izlenimine kolaylıkla kapılıyor” diye yazıyor.
Bana nazaran bu bilişsel çelişkinin, psikoz eğilimi yüksek bireylerde sanrıları körüklemesi olası görünüyor.
OpenAI’ın işvereni Sam Altman bu hafta yaptığı açıklamada, şirketinin hassas kullanıcıları korumak ismine komplo teorileri içeren konuşmaları kesmek ya da intihar üzere mevzular gündeme geldiğinde insanları profesyonel hizmetlere yönlendirmek üzere yollarla, güvenlik tedbirleri alma istikametinde uğraş gösterdiğini söylemişti.
Hard Fork podcast’ine konuşan Altman, “Önceki kuşak teknoloji şirketlerinin gereğince süratli reaksiyon vermeme üzere yanılgılarına düşmek istemiyoruz” demişti.
Öte yandan ruhsal durumu gereğince kırılgan olan ve psikotik bir kırılmanın eşiğine gelen kullanıcılara nasıl bir ikaz göndereceğimizi şimdi bulamadık.
