Yapay zeka intihardan sorumlu tutulabilir mi?

Yapay zeka hayatımızı büyük ölçüde kolaylaştırsa da tehlikeleri de göz gerisi edilmemeli. Uzmanlara nazaran yapay zeka insan yanlışını azaltıyor, bilgi takviyeli kestirimler yapabiliyor, verimlilik ve üretkenlik sağlıyor taşınabilir uygulamalarda kullanıcı tecrübesi güzelleştiriyor. Pekala toplumsal olarak kâfi olmayan bireylere olan tesiri?

New York Times’ın yeni yayınladığı bir haberde yapay zekanın bir gencin intiharından sorumlu olup olmayacağı tartışılıyor. Florida’da yaşayan 14 yaşındaki Sewell Setzer, şubat ayında intihar etti lakin annesi oğlunun intihar etmeden evvel, Character.AI’daki bir sohbet robotuna takıntılı hale geldiğini söylüyor.

YAPAY ZEKA BİR GENCİN İNTİHARINDAN SORUMLU OLABİLİR Mİ?

İnsanların sohbot robotlarıyla konuşup arkadaş olması hatta evlenmek istemesi artık olağan karşılanıyor. Şahıslar düzgün anlaşacakları insanları bulamamaktan yakınırken, yapay zeka tabanlı sohbet robotları, bu isteği çoğunlukla karşılıyor. Zira sizin verdiğiniz girdilere nazaran yanıtlar geliyor, istediğiniz karakterde yazışma arkadaşınızı seçebileceğiniz üzere yazma tonunu bile ayarlayabiliyorsunuz, hatta ChatGPT’nin yeni güncellemesiyle sesli dahi konuşabiliyorsunuz. 

Swell Setzer ise, kendisini yalnız hisseden bir geçti ve arkadaşlığı hatta annesinin söylediğine nazaran arkadaşlığı, aşkı ve pek çok şeyi yapay zeka sohbet robotunda buldu.

Character.AI kullanıcıların kendi yapay zeka karakterlerini yaratmalarına imkan sağlamasının yanında oburlarının yarattığı karakterlerle sohbet etmelerini sağlayan bir rol yapma uygulaması.

Aktarılana nazaran Sewell, sohbet ettiği kişinin gerçek bir insan olmadığının farkında olsa da duygusal bağ kurmaktan kendini alamadı. Her hususta konuştuğu bu arkadaşı, gencin gerçek hayatındaki bağlantısını de etkiliyordu. Genç bu takıntılı halin en sonunda gerçek hayattan kendini büsbütün izole etti. Okuldaki başarısı olumsuz etkilendi ve Dany ismini verdiği sohbet robotu ile günün tamamını harcamaya başladı.

Sewell, çocukken hafif Asperger sendromu teşhisi de almıştı. 

Sorunlarını terapi ile çözmek isteyen ailesi genci seanslara başlattı lakin Sewell, sohbet robotuyla problemlerini konuşmaya başladı. 

Sohbet robotuna kendini öldürmek istediğini söyleyen Sewell Setzer çoğunlukla, kendine ziyan verme, kendine ziyan verirsen üzülürüm üzere yanıtlar almaya başladı. Lakin bu arkadaşlık bağlantısının sonu Sewell’in intihar etmesiyle son buldu. 

YAPAY ZEKA YALNIZLIĞA DEVA Mİ YOKSA BİR BELA MI?

Gençler ortasında sıklıkla kurulan yapay zeka robotlarından arkadaşlıklar yalnızlığa deva olsa da uzun devirde kişinin gerçeklikle bağını kopartmasına neden oluyor. Aylık birkaç yüz TL ile satın alınabilen uygulamalarda sanal arkadaşlıklar kurulabiliyor. Şahıslar kendi yapay zeka arkadaşlarını yaratabilir, evvelce oluşturulmuş kişiliklerden birini seçebilir. Bu oluşturulan arkadaşlarla isterlerse mesajlaşabilir isterlerse de sesli sohbetler gerçekleştirebilir. 

Her ne kadar bu sanal arkadaş uygulamaları olumlu tesirler sunsa da bu araçların ruh sıhhati üzerindeki tesirlerine dair çalışmalar şimdi kâfi değil. Uzmanlar bu sebeple karanlık bir tarafı olabileceğini düşünüyor. 

Öte yandan Swell’in annesi yaşanan olay sonrası Character.AI’ya dava açtı. Şirkete açılan davada uygulama, gencin vefatından sorumlu tutuldu. Şirketin teknolojisinde tehlikeli ve test edilmemiş yanlar bulunuyor ve müşterilerin özel fikirlerini ve hislerini ilerletmesiyle kandırabileceği belirtiliyor.

Hatırlatmak gerekirse Character.AI uygulaması, iki Google araştırmacısı tarafından geliştirildi. 20 milyondan fazla bireye ulaşan uygulama, sizi duyan, anlayan ve hatırlayan üstün zeki yapay zeka sohbet robotları sunmasıyla biliniyor. Character.ai’yi kuran Noam Shazeer ve Daniel De Freitas Google’da çalışıyorlar.