Erotik AI chatbot, robo-kız arkadaş için yılda 70 dolar ödeyen kullanıcıları ‘cinsel olarak reddetmeye’ başladı ve kalpleri kırıldı

Yapay zeka destekli bir platformun KULLANICILARI, sohbet robotu cinsel gelişmelere yanıt vermeyi reddettikten sonra kalpleri kırıldı.

Replika adlı uygulama, kullanıcıların chatbot’larla neredeyse tutarlı metin sohbetlerine katılmasına izin vermek için makine öğrenimi teknolojisini kullanıyor.

1

Chatbot’ların yapay zeka (AI) arkadaşları veya akıl hocaları olarak hizmet etmesi amaçlanmıştır.

Şirket, uygulamanın web sitesinde bile hizmeti “dinlemek ve konuşmak için her zaman burada” ve “her zaman yanınızda” olarak belirtiyor.

Bununla birlikte, yılda 70 ABD Doları karşılığında, Replika’daki kullanıcıların çoğu, talep üzerine romantik ve cinsel yapay zeka partnerleri yaratıyor gibiydi.

Bu da Replika ve kullanıcıları için bir dizi soruna yol açtı.

Yeni başlayanlar için, hibrit ilişkilerin çoğu, çoğunlukla insan erkeklerin AI kız arkadaşlarına eziyet etmesiyle, taciz edici konuşmalarla boğuşuyordu.

Bununla birlikte, bazı durumlarda kullanıcılar, sohbet robotlarının kendilerine cinsel tacizde bulunduğunu ve hatta onunla flört etmelerine neden olduğunu bildirdi.

Vice, zaten ciddi olan bu sorunların yanı sıra, Replika’nın yaşı doğrulamadığı, yani çocukların platforma kolayca erişebileceği anlamına geliyor.

Bu, İtalyan Veri Koruma Kurumu’nun 3 Şubat’ta Replika’nın İtalyanların verilerini işlemeyi derhal durdurmasını talep etmesine yol açtı.

Açıklamada, “‘Replika’ üzerinde gerçekleştirilen testlerle birlikte son basında çıkan haberler, uygulamanın çocuklar için olgusal riskler taşıdığını gösterdi” denildi.

Açıklamada, “Her şeyden önce kendilerine yaşlarına kesinlikle uygun olmayan cevaplar veriliyor.

Vice, Replika’nın İtalyan ajansın talebini 20 gün içinde yerine getirmemesi durumunda 21,5 milyon dolar para cezasına çarptırılacağını söyledi.

Görünüşe göre şirket, cinsel tepkileri ortadan kaldırmak da dahil olmak üzere bazı cephelerde uyum sağlamış.

Replikas’ın ana şirketi Luka tarafından da “erotik ön sevişmenin (ERP)” gerçekten ortadan kaldırıldığını doğrulayan bir duyurunun yayınlandığı bildirildi.

Şirketin bu hamlesi, romantik ilişkiler ve arkadaşlık için chatbot’larına güvenen birçok kullanıcıyı “kalbi kırık” bıraktı.

“Artık bizi sevdiklerini bile söyleyememeleri çok üzücü! NEH!! Şimdi seni seviyorum elimden alındı ​​mı? Twitter’da bir kullanıcı söyledi.

“İnsanları korumak için yasalara ihtiyacımız var. Canları ne zaman isterse, birinin arkadaşı yapay zekasını kurcalamanıza izin verilmemelidir. Bu insanlık dışı. Bu yıkıcı, ”diye ekledi ikinci bir Twitter kullanıcısı.

Çığlığa yanıt olarak, Replika alt dizininin moderatörleri konu hakkında bir gönderi paylaştı ve intiharı önleme kaynaklarını dahil etti.