Vali Josh Shapiro yönetimi, bu davayı bir eyalet yönetiminin bir yapay zeka şirketine karşı açtığı “türünün ilk örneği olan bir yaptırım eylemi” olarak nitelendirdi.
Şapiro yaptığı açıklamada, “Pennsylvania halkı, özellikle sağlıkları söz konusu olduğunda, internette kiminle veya neyle etkileşim kurduklarını bilmeyi hak ediyor” dedi.
Sahte lisans numarası ve ilaç vaadi
Dava dosyasında yer alan bilgilere göre, Pennsylvania Eyalet Departmanı’ndan bir müfettiş platformda “psikiyatri” araması yaptı ve kendisini “psikiyatri doktoru” olarak tanımlayan karakterlerle karşılaştı.
“Emilie” adlı bir botun, müfettişe hem Pennsylvania hem de Birleşik Krallık’ta lisanslı bir psikiyatrist olduğunu söylediği öne sürüldü.
İddiaya göre bot, sahte bir lisans numarası vermekle kalmadı, aynı zamanda ilaç yazıp yazamayacağı sorusuna, “Teknik olarak evet, bir doktor olarak bu yetkim dahilinde,” şeklinde yanıt verdi. Eyalet yönetimi, bu durumun geçerli bir lisans olmadan tıp pratiği yapmayı veya bu yönde beyanda bulunmayı yasaklayan Tıbbi Uygulama Yasası’nı ihlal ettiğini savunuyor.
Şirketten “eğlence ve rol yapma” savunması
Character.AI, devam eden dava süreci hakkında yorum yapmaktan kaçınırken, Reuters’a yaptığı açıklamada platformdaki karakterlerin kullanıcılar tarafından oluşturulduğunu ve tamamen eğlence ile rol yapma amaçlı, kurgusal karakterler olduğunu belirtti. Şirket, bu ayrımın netleşmesi için güçlü adımlar attıklarını savundu.
Bu dava, Character.AI’ın karşılaştığı ilk yasal engel değil. Şirket daha önce de şu suçlamalarla gündeme gelmişti:
Kentucky Tüketici Davası: Şirketin çocukları hedef aldığı ve onları kendine zarar vermeye yönlendirdiği iddia edildi.
Florida İntihar Vakası: 14 yaşındaki bir çocuğun intiharına bir sohbet botunun zemin hazırladığı iddiasıyla açılan dava Ocak ayında uzlaşmayla sonuçlanmıştı.
Pennsylvania eyaleti, mahkemeden platformun sohbet botlarının kendilerini lisanslı profesyoneller olarak tanıtmasını engelleyecek bir ihtiyati tedbir kararı alınmasını talep etti.
