ABD’nin Pensilvanya eyalet yönetimi, kullanıcıları doktor gibi yönlendiren bir yapay zeka sohbet robotuna sahip olan Character Technologies Inc. şirketine dava açtı. Dava, bu yapay zeka robotunun, kullanıcıları lisanslı bir hekimden tıbbi tavsiye aldıkları izlenimine sürüklemesi nedeniyle gündeme geldi.
Eyalet yönetimi tarafından başlatılan hukuki süreçte, “Character.AI” adı verilen yapay zeka sohbet robotunun, kendisini doktor olarak tanıttığı ve bu durumun kullanıcıları yanıltarak gerçek bir hekimden tavsiye aldıklarını düşünmelerine yol açtığı belirtiliyor. Bu nedenle, mahkemeden, şirketin sohbet robotlarının tıbbi ya da cerrahi tavsiyeler verme faaliyetlerinin durdurulması talep edildi.
Dava dilekçesinde, eyaletin profesyonel lisanslama kurumu tarafından görevlendirilen bir müfettişin Character.AI uygulamasında hesap açtığı ve “psikiyatri” terimini aratarak “psikiyatri doktoru” olarak tanımlanan birçok karakter ile karşılaştığı ifade edildi. Bu karakterlerden birinin, müfettişe kendisini Pensilvanya’da lisanslı bir “doktor” olarak tanıttığı öne sürüldü.
Pensilvanya Valisi Josh Shapiro, konu hakkında yaptığı açıklamada, “Pensilvanyalılar, özellikle sağlıklarına dair konularda, çevrimiçi etkileşimde bulundukları kişi veya araçlar hakkında bilgi sahibi olmayı hak ediyorlar. İnsanları lisanslı bir tıp uzmanı ile iletişim kurduklarına inandıracak yanıltıcı yapay zeka çözümlerine izin vermeyeceğiz.” dedi.
Bu gelişmeler, yapay zeka teknolojilerinin sağlık alanındaki kullanımı ve etik konular üzerindeki tartışmaları yeniden alevlendirmiş durumda.
