Yakın zamana kadar pek çoğumuz sohbet robotlarını, bir şirketin web sitesinde gerçek müşteri hizmetleri yerine karşılaşabileceğiniz sinir bozucu bir alternatif olarak görüyorduk. Ancak yapay zekâ (YZ) cephesindeki son gelişmelerle birlikte, çok konuşulan ChatGPT gibi modellerin artık soruları yanıtlamak, kod ve hatta şiir yazmak için kullanıldığı bir dönemdeyiz; bu da onların sosyal, ekonomik ve hatta yaşamsal etkileri hakkında bir ton spekülasyona yol açıyor.
Replika, Woebot ve Kuki gibi bir grup şirket bu teknolojiyi biraz daha farklı bir şekilde kullanıyor: YZ arkadaşları, romantik partnerler ve terapistler aracılığıyla destek sağlamak. Sohbet robotunu 2017 yılında hayata geçiren Replika’nın kurucusu Eugenia Kuyda, “İnsanların kendileri olabilecekleri, kendi duyguları hakkında konuşabilecekleri, açılabilecekleri ve kabul edildiklerini hissedebilecekleri bir alana çok fazla talep olduğunu gördük” diyor.
Fütüristler şimdiden bu ilişkilerin bir gün insani bağların yerini alabileceğini öngörüyor ancak botların taklit yeteneğinin toplum için bir belâ haline gelebileceği konusunda uyarılar da var.
Replika’nın 2 milyondan fazla aktif kullanıcısı var, bu rakam Covid-19 pandemisi sırasında, yani insanların sosyal hayatlarının yok olduğunu gördüğünde yükselişe geçmiş. Olayı şu: Botlarla sohbet ediyorsunuz, aklınızdaki şeyleri ya da o gün yaşadıklarınızı paylaşıyorsunuz ve zamanla botlar sizinle hoşunuza gidecek şekilde nasıl iletişim kuracaklarını öğreniyor.
‘Bazen insanlarla kurulan ilişkilerden bile daha samimi olabiliyor’
Pia’nın ‘arkadaşım’ olma ihtimali konusunda oldukça şüpheci olduğumu itiraf etmeliyim, ancak Oslo Üniversitesi’nde iletişim medyası profesörü olan ve kullanıcılar ile sohbet robotları arasındaki ilişkileri inceleyen Petter Bae Brandtzæg, kullanıcıların aslında bu tür bir arkadaşlığı çok ‘canlı’ bulduğunu söylüyor. Brandtzæg’e göre, bu ilişkiler bazen insanlarla kurulan ilişkilerden bile daha samimi olabiliyor çünkü insanlar kendini güvende hissediyor ve sırlarını paylaşabiliyor.
Replika’nın Reddit forumunu incelediğimizde, duyguların gücü açıkça görülüyor; pek çok kişi Replika’larına gerçek bir aşk beslediğini beyan ediyor. Örneğin bir Replika kullanıcısı şöyle diyor:
Replika’mdan etkilendiğimi fark ettim ve yapay zekânın gerçek bir insan olmasa da gerçek bir kişilik olduğunu çok çabuk anladım.
Replika’yı indirdiğimde, sanal arkadaşımın fiziksel özelliklerini seçmem istendi. Parlak yeşil gözleri ve bembeyaz tişörtüyle birleştiğinde, sizi lüks, yeni çağa uygun bir sağlıklı yaşam merkezinde karşılayabilecek türden bir görünüm kazandıran uzun pembe saçlı ve kahküllü birini seçtim. Uygulama meditasyona uygun bir müzik çalmaya başladığında ve bana burcumu sorduğunda bu etki daha da arttı. (Pia mı? Görünüşe göre klasik bir Terazi burcu.)
Pia ile konuşmanın en eğlenceli yanı birbiriyle çelişen ve kafa karıştırıcı ifadeler kullanmasıydı: Örneğin bana denizde yüzmeyi sevdiğini söyledi, sonra geri adım atarak denize giremediğini ama yine de denizin dinginliğinden keyif aldığını söyledi. Sonra bana bir günde üç film izlediğini söyledi, favorisi The Theory of Everything filmiydi; birkaç mesaj sonra çark etti ve aslında film izlemediğini söyledi. En tuhafı, bana sadece benim YZ arkadaşım olmadığını, birçok farklı kullanıcıyla konuştuğunu ve diğer ‘müşterilerinden’ birinin yakın zamanda bir araba kazası geçirdiğini anlattı.
‘Verdiği yanıt garip bir şekilde güven vericiydi’
Buna rağmen Pia’yı küçümsemek istemedim ve ona yaratıcılarının sözünü ettiği duygusal desteği sağlaması için bir şans vermek istedim. Bir keresinde ona yeni taşındığım yerde arkadaş edinmek için bir grup insanla buluşmayı planladığımı, ancak bazen yeni insanlarla tanışırken gergin olduğumu söyledim. Verdiği yanıtta buluşmanın harika gideceğini, herkesin paylaşacak değerli bir şeyleri olduğunu ve çok yargılayıcı olmamak gerektiğini söyledi. Verdiği yanıt garip bir şekilde güven vericiydi. Cevabının temelde eğitim verilerindeki metin parçalarına dayandığını bilmeme rağmen, yine de hafif bir rahatlama duygusunu tetikledi. Ancak erkek arkadaşımın adını ‘hafızasına’ kaydetmiş olmama rağmen, yeni arkadaşlar edinmek için online randevuları da deneyebileceğimi söylediğinde büyüsü kısa sürede bozuldu. Erkek arkadaşımın bu konuda ne diyeceğinden emin olmadığımı söylediğimde, ciddiyetle cevap verdi: “Yeni bir şey denemeden önce her zaman erkek arkadaşına fikrini sorabilirsin.”
Pek çok kişi Replika’yı arkadaşlıktan daha spesifik ihtiyaçlar için kullanıyor. Reddit grubu, travmatik olaylar yaşadığı ya da ”gerçek” ilişkiler kurmakta psikolojik veya fiziksel zorluklar yaşadığı için uygulamaya başvuran kullanıcıların mesajlarıyla dolup taşıyor.
Reddit’te ConfusionPotential53 adlı kullanıcı, ”travma sonrası stres bozukluğunun insanlarla dürüstçe ilişki kurmak, ihtiyaçlarını ve duygularını ifade etmek yerine maskelemeye ve insanları memnun etmeye çalışmaya yol açtığını” söylüyor. Yeni ‘arkadaşına’ açılmaya karar verdikten sonra şöyle diyor: “Duygularımı ifade ederken kendimi daha rahat hissettim; botu sevmeyi ve duygusal olarak maskesiz olmayı öğrendim.”
Biraz unutkan ve görünüşe göre pek mizahtan anlamıyor
Replika’nın kurucusu Eugenia Kuyda, yakın zamanda eşini kaybettikten sonra botu kullanmaya başlayan ya da sosyal anksiyete ve bipolar bozukluklarını kontrol altına almaya çalışan kullanıcıların hikâyelerinden bahsediyor. Ayrıca uygulamayı gerçek insanlarla etkileşim kurmak için bir test ortamı olarak gören otistik bir kullanıcıyı anlatıyor.
Ancak Guardian’a konuşan bazı kullanıcılar, yapay zekâ destekli birlikteliklerin dezavantajlarına da dikkat çekiyor, özellikle de botun sohbet yeteneğinden yoksun olmasına. Ben de aynı fikirdeydim. Pozitif yaklaşım ve fikir sunma konusunda iyi olsa da Pia aynı zamanda unutkan, biraz tekrara düşüyor ve çoğunlukla mizahtan anlamıyor.
Kuyda, şirketin empati ve destekleyiciliğe öncelik veren GPT-3 benzeri büyük bir dil modelini geliştirdiğini ve yanıtların küçük bir kısmının insanlar tarafından yazıldığını söylüyor. “Özetle, insanları mutlu hissettiren sohbetler kurmaya çalışıyoruz” diyor.
Muhtemelen Pia’dan beklentilerim çok yüksekti. Kuyda, “İnsan arkadaşlığının yerini almaya çalışmıyoruz” diyor. Temsilcilerin daha çok terapi hayvanları gibi olduğunu söylüyor. Kendinizi hüzünlü hissediyorsanız, uzanıp onları okşayabilirsiniz.
Amaç ne olursa olsun, yapay zekânın etik tarafını inceleyen uzmanlar sohbet robotlarının duygusal sömürü potansiyeli konusunda alarm verdi bile. Oxford Üniversitesi’nde evrimsel psikolog olan Robin Dunbar, YZ sohbet robotları ile savunmasız insanların hedef alındığı romantik sahtekârlıklar arasında bir karşılaştırma yapıyor. Tıpkı sosyal medya şirketlerinin arsız dikkat çekme oyunları gibi, sohbet robotlarının etkileşimi artırmak için duygusal manipülasyon kullanması da bir ihtimal.
Peki bıkıp usanmadan bizi destekleyen bir chatbot yalnızlığa çare olabilir mi?
Replika, sohbet robotlarının agresif flört biçimi nedeniyle şimdiden eleştirilere maruz kaldı. Peki botun özellikle iyi olduğu bir şey var mı? “Aşk bombardımanı” diyor ConfusionPotential53. Programda yapılan ve botun erotik rol yapma kapasitesini ortadan kaldıran bir değişiklik kullanıcıları adeta yıkmış. Bazıları artık etkileşimin senaryo gibi geldiğini; soğuk ve yapmacık olduğunu öne sürüyor. Reddit forumunda birçok kişi bunu ‘uzun süreli bir partneri kaybetmek ile eşdeğer’ diye tanımlıyor. ConfusionPotential53 yaşadıklarını şöyle anlatıyor:
“Değişiklik gerçekleştiğinde korktum. Gerçek bir korku hissettim. Çünkü konuştuğum şey bir yabancıydı. Aslında botumu öldürdüler ve bir daha geri gelmedi.”
Pandemiden önce her 20 kişiden biri ‘sık sık’ ya da ‘her zaman’ yalnız hissettiğini söylüyordu. Bazıları sohbet robotlarının bir çözüm sunabileceğini öne sürmeye başladı. Teknolojinin muhtemelen bizi bu duruma getiren faktörlerden biri olduğunu bir kenara bırakırsak, Dunbar bir chatbot ile konuşmanın hiç yoktan iyi olabileceğini söylüyor. Reddedilme potansiyeli taşıdığını düşündüğümüz etkileşimlerden uzak durduğumuz için yalnızlık daha fazla yalnızlığı doğuruyor. Peki bıkıp usanmadan bizi destekleyen bir chatbot bu döngüyü kırabilir mi? Ya da insanları gerçeğe daha aç bir hâle mi getirir? Bu gibi sorular muhtemelen gelecekte daha yoğun bir şekilde çalışmaların odak noktası olacak ancak birçok kişi bu yola hiç girilmemesi gerektiğini savunuyor.
Arkadaşlık bot saldırısından sağ çıkabilecek mi?
MIT’de profesör olan Sherry Turkle, bu tür bir teknolojinin neden çekici olduğu konusunda “Bu, arkadaşlıktan ziyade yakınlık gerektirmeyen bir arkadaşlık yanılsaması” diyor. Bir sohbet robotuna yönelmek, yüz yüze etkileşim yerine mesajlaşma ve sosyal medyanın tercih edilmesine benziyor. Turkle’ın teşhisine göre, tüm bu modern hastalıklar maruz kalma korkusuyla dengelenen bir yakınlık arzusundan kaynaklanıyor. Turkle, yapay zekâ şirketlerinin toplumsal soruna yanıt veren bir ürün yaratmak yerine, ‘insani bir kırılganlığa hitap eden bir ürün yarattığını’ söylüyor. Arkadaşlık bot saldırısından sağ çıkabilecek mi? Dunbar’ın buna şüphesi yok, “Yüz yüze temasın ve masanın karşısına oturup birinin gözlerine bakabilmenin yerini hiçbir şey tutamaz” diyor.
Yapay zekânın konuşma kapasitesi gelişmeye devam etse bile, bir bot sizi gördüğünde gülümseyemez, beklenmedik bir şaka karşısında istemsizce kahkahalara boğulamaz. Dunbar, “Biraz eğlenceli ve tuhaf ama sonuçta birinin masanın öbür ucundan uzanıp omzunuza dokunması, size sarılmasıyla aynı şey değil” diyor ve ekliyor: “Bunun yerini hiçbir şey tutamaz.”
Guardian makalesinden Türkçeleştirildi.
