ABD’nin California eyaleti, yapay zeka teknolojilerinin hukuki sınırlarını yeniden çizecek kritik bir davaya ev sahipliği yapıyor. Florida’da ikamet eden rahip Scott Winters, sağlık sorunları nedeniyle başvurduğu ChatGPT’nin kendisini yanlış yönlendirdiği ve hayati tehlikeye attığı gerekçesiyle OpenAI şirketi ile CEO Sam Altman’ı mahkemeye verdi. Dava dosyasında teknoloji devine yöneltilen ana suçlamalar arasında yetkisiz hekimlik ve ağır ihmalkarlık yer alıyor.
HASTALIKLARINI CHATGPT’YE ANLATTI
The New York Times’ın ulaştığı adli belgelere göre olaylar silsilesi 2024 yılında başladı. Winters, yaşadığı fiziksel şikayetleri sohbet robotuna detaylı şekilde aktardı. Sistemin başlangıçta profesyonel tıbbi destek önermesine rağmen, ilerleyen diyaloglarda doğrudan teşhis niteliği taşıyan tavsiyeler vermeye başladığı tespit edildi.
SOHBET ROBOTU TEHLİKELİ BİR HASTALIĞININ OLMADIĞINI DİRETTİ
Dava dilekçesindeki en çarpıcı detay, yapay zekanın hastayı tehlikeli bir durum olmadığına ikna etmesi oldu.
- ChatGPT’nin telkinleriyle hastaneye gitmekten vazgeçen ve tedavisini erteleyen Winters, kısa süre sonra akciğer embolisi geçirerek acil servise kaldırıldı.
Günlerce yoğun bakımda yaşam mücadelesi veren davacı, sohbet robotunun tıbbi konularda hiçbir güvenlik filtresine sahip olmadığını iddia ediyor.
OPENAI SÖZLEŞME KURALLARI ÜZERİNDEN KENDİNİ SAVUNUYOR
Suçlamaların odağındaki OpenAI cephesi ise savunmasını kullanıcı sözleşmesi üzerine kuruyor. Şirket sözcüsü tarafından yapılan resmi açıklamada, platformun hastalık tanısı veya tedavi amacıyla kullanılamayacağının kurallar dahilinde açıkça belirtildiği vurgulandı. Sözcü, sağlıkla ilgili sorgularda sistemi en güvenli hale getirmek için algoritmik güncellemelerin sürdüğünü ifade etti.
Silikon Vadisi’ndeki hukuk uzmanları, bu adli sürecin yalnızca OpenAI için değil, tüm üretken yapay zeka sektörü için bir dönüm noktası olacağı görüşünde birleşiyor. Amerikan Gıda ve İlaç Dairesi standartlarına göre tıbbi cihaz statüsünde olmayan bu yazılımların, insan hayatına doğrudan etki eden tavsiyeler vermesi halinde doğacak tazminat yükümlülükleri ilk kez bu davayla netlik kazanacak.
Yapay zekâdan sağlık konusunda alınan bilgilerin mutlaka bir uzmana danışılarak değerlendirilmesi gerektiğini bir kez daha gösteriyor. Böyle ciddi bir olayın hukuki açıdan nasıl sonuçlanacağını merak ediyorum.