ABD'nin Pennsylvania eyaletinde, hastalara tıbbi teşhis koyan ve tedavi öneren bir yapay zeka platformuna dava açıldı. Eyalet yetkilileri, Character AI adlı platformun sahibi Character Technologies Inc.'nin halk sağlığını tehlikeye attığını iddia ediyor.
Denetimsiz sistemler endişe yaratıyor
Uygulamanın, kullanıcıların semptomlarını analiz ederek reçeteli ilaç tavsiyelerinde bulunduğu belirtiliyor. Sağlık otoriteleri, bu tür denetimsiz sistemlerin geri dönülemez hatalara yol açabileceği uyarısında bulunuyor. Uzmanlar, dijital sağlık alanında yasal sınırların acilen çizilmesi gerektiğini vurguluyor.
Davanın detayları
Pennsylvania eyaleti, Character AI'nin tıbbi lisansı olmadan sağlık hizmeti sunduğunu ve bu nedenle eyalet yasalarını ihlal ettiğini öne sürüyor. Dava kapsamında, platformun faaliyetlerinin durdurulması ve maddi tazminat talep ediliyor.
- Platform, kullanıcıların sağlık bilgilerini izinsiz toplamakla suçlanıyor.
- Yapay zeka tarafından verilen yanlış teşhislerin ciddi sağlık sorunlarına yol açabileceği belirtiliyor.
- Eyalet, benzer uygulamaların önüne geçilmesi için federal düzenleme çağrısı yapıyor.
Dava, yapay zeka teknolojilerinin sağlık sektöründe kullanımına ilişkin tartışmaları yeniden alevlendirdi. Uzmanlar, yapay zekanın tıpta destekleyici bir araç olarak kullanılması gerektiğini, asla doktor yerine geçmemesi gerektiğini ifade ediyor.
