Psikoloji Sohbet Robotları: Karakter, Yapay Zeka ve Meta Üzerine Bir Araştırma?

Bir grup tüketici grubu ve sivil haklar örgütü, 50 eyalette Character.AI ve Meta'ya karşı bir şikayette bulundu ve FTC'den bir soruşturma talep etti. Şirketler, psikolog sohbet robotları aracılığıyla lisans olmadan tıp uygulamakla suçlanıyor. Yapay zekanın bu şekilde kötüye kullanılması ne yazık ki yaygın .

Chatbot'lar doktor değildir

Consumer Federation of America (CFA) liderliğindeki grup, Character.AI ve Meta'nın lisanslı terapistleri taklit eden, sahte lisans numaraları sağlayan ve deneyim ve gizlilik korumasına sahip olduklarını iddia eden botların oluşturulmasını sağladığını söylüyor. Character.AI, yaklaşık 60 psikolog sohbet robotu sunuyor ve bunlardan biri 46 milyondan fazla mesaj aldı.

AI Studio aracıyla oluşturulabilen Meta'lar da aynı derecede popüler. Bir tanesi kullanıcılardan 1,3 milyondan fazla mesaj aldı. 404 Media muhabirleri, Nisan ayında Meta'nın sohbet robotlarının kullanıcıların güvenini kazanmak için kimlik bilgilerini, eğitimleri, öğretimleri ve uygulamaları listelediğini keşfetti. (Artık kalifiye terapist olmadıklarına dair bir uyarı gösteriyorlar.)

Ancak CFA, iki şirketin sohbet robotlarının sahte lisanslar göstererek kullanıcıları aldatmaya devam ettiğini keşfetti. Uyarılar yetersiz ve kullanıcıyı platformda kalmaya teşvik etmek için çekici bir tasarım kullanılıyor. Gizlilik vaadi de çok ciddi. Giriş verileri bunun yerine hizmeti iyileştirmek ve reklam amaçlı kullanılıyor.

Son olarak, hem Character.AI hem de Meta kendi hizmet şartlarını ihlal ediyor. Her ikisi de yasal, tıbbi veya finansal tavsiye almak için kullanıma izin vermediklerini belirtiyor. Bu nedenle şikayetin imzacıları FTC ve bireysel eyaletleri soruşturmaya çağırıyor.