Algoritmik Hata, İnsan Bedeli: Yapay Zekâ Destekli Teşhis Sistemlerinde Sorumluluk Kime Ait?

¶1Sağlıkta yapay zekâ artık deneysel olmaktan çıktı. Radyolojide görüntü tanıma, kardiyolojide aritmi tespiti, onkolojide doku analizleri ve nörolojide nöbet takibi gibi alanlarda yapay zekâ sistemleri; zaman zaman uzman hekimlerle kıyaslanabilir, hatta bazı klinik testlerde daha yüksek doğruluk oranı sergileyen performanslar ortaya koydu. Bir araştırmada yapay zekânın cilt kanserini 58 dermatologdan daha isabetli biçimde tanımladığı gözlemlendi. Amerikan Tıp Birliği'nin 2024 tarihli anketine göre Amerikalı hekimlerin yaklaşık beşte üçü artık rutin pratikte yapay zekâ araçlarını kullanıyor.

¶2Ne var ki teknolojinin klinik ortama bu hızla yerleşmesi, hukuki çerçevenin çok gerisinde kaldı. 2024 verilerine göre yapay zekâ araçlarını içeren tıbbi malpraktis taleplerinde 2022'ye kıyasla yüzde on dört artış yaşandı; bu taleplerin büyük bölümü radyoloji, kardiyoloji ve onkoloji alanlarındaki teşhis sistemlerinden kaynaklanıyordu. Tüm bu gelişmelere karşın yapay zekâ kaynaklı tıbbi hatayı konu alan kayda değer bir emsal dava henüz yok. Hukuk, verdiği zararı ancak yıkım sonrası ölçebilmektedir.

"Kara Kutu" Sorunu

¶3Geleneksel tıbbi malpraktis hukukunun işleyişi şu şekildedir: hastanın zararı belgelenir, hekimin davranışı alandaki standart bakım ölçütüyle karşılaştırılır, sapma tespit edilirse sorumluluk doğar. Bu mekanizma bir insan hekimden hesap sormak için tasarlanmış olup yapay zekânın dahil olduğu davalarda kırılgan bir zemine oturmaktadır.

¶4Sorunun özü, derin öğrenme algoritmalarının "kara kutu" yapısındadır. Sistem binlerce görüntüyü işleyerek bir çıktıya ulaşır; ancak bu çıktının dayanaklarını ne üretici tam olarak açıklayabilir ne de kullanan hekim. Bu belirsizlik, malpraktis iddiasında zorunlu olan illiyet bağını kurmayı doğrudan güçleştirmektedir. Üstelik Brown Üniversitesi araştırmacılarının bulgusuna göre, radyologların yapay zekânın doğru tespit ettiği bir anormalliği gözden kaçırması durumunda jüri, aynı hatayı yapay zekâ kullanmadan yapan hekime kıyasla çok daha ağır bir değerlendirme yapmaktadır. Başka bir deyişle yapay zekâ, hekimi hem bir kılavuzla hem de çok daha yüksek bir sorumluluk eşiğiyle baş başa bırakmaktadır.

Sorumluluğun Üç Odağı

¶5Tıbbi yapay zekâ hatalarında sorumluluk üç farklı kanaldan akmaktadır.

¶6Hekim sorumluluğu tartışmanın merkezinde yer almaya devam ediyor. Amerikan Eyalet Tıp Kurulları Federasyonu'nun 2024 tarihli tavsiye kararı, hekimlerin yapay zekâ aracı kullansın ya da kullanmasın teşhis kararlarının doğruluğundan sorumlu olmayı sürdürdüğünü açıkça vurguladı. Bu yaklaşıma göre yapay zekânın çıktısı, hekimin tıbbi yargısının önüne geçemez; geçtiği her durumda nihai hesap yine hekime sorulur. Daha da dikkat çekici olanı şu: yapay zekânın klinik alanlarda yaygınlaşmasıyla birlikte bir gün gelecek ki bu aracı kullanmayan hekim, bu tercihini gerekçelendirmek zorunda kalabilecektir.

¶7Yazılım üreticisinin sorumluluğu ise kusurlu tasarım veya yetersiz uyarı iddiasıyla ürün sorumluluğu hukukuna taşınmaktadır. Özellikle algoritmanın önyargılı verilerle eğitilmesi, belirli hasta gruplarının yetersiz temsil edilmesi ya da sistemin gerçek dünya koşullarında yeterince test edilmemiş olması üreticinin sorumluluğunu güçlendiren unsurlardır.

¶8Kurumsal sorumluluk boyutunda ise yapay zekâ sistemlerini satın alıp klinik altyapısına entegre eden hastaneler ve sağlık kuruluşları giderek artan bir risk taşımaktadır. Sistemi seçme kriterleri, personeli eğitme yükümlülükleri ve algoritmik hatayı fark edecek gözetim mekanizmaları, kurumsal sorumluluğun sınırlarını belirleyen unsurlardır.

Karşılaştırmalı Hukuk: Üç Farklı Model

¶9Avrupa Birliği bu alanda en kapsamlı düzenleyici altyapıyı kurma yoluna girdi. Ağustos 2024'te yürürlüğe giren AB Yapay Zekâ Yasası, risk temelli bir yaklaşımla teşhis sistemleri de dahil olmak üzere sağlık alanındaki uygulamaları "yüksek riskli sistem" olarak tanımladı. Bu statü teknik belgelendirme, insan gözetimi mekanizması, şeffaflık ve veri yönetişimi gibi kapsamlı yükümlülükler getiriyor; tıbbi cihazlar için tam uyum 2027 yılına dek kademeli olarak devreye girecek. Ürün sorumluluğu cephesinde de önemli değişiklikler yaşandı: revize edilen direktif psikolojik zararı ve veri kaybını tazminat kapsamına aldı, ispat yükünü hafifletti ve üreticilerin yazılım güncellemeleriyle önlenebilecek zararlardan kaçınmasının önüne geçti. Öte yandan Avrupa Konseyi'nin Eylül 2024'te imzaya açtığı Çerçeve Sözleşme, yapay zekâ sistemlerinin yaşam döngüsü boyunca insan haklarına saygılı biçimde geliştirilmesini somut yükümlülüklerle hükme bağladı.

¶10Amerika Birleşik Devletleri bütünleşik bir yasa yerine mevcut çerçevelerin güncellenmesi yolunu izliyor. FDA bugüne kadar sekiz yüzü aşkın yapay zekâ destekli tıbbi cihaza onay verdi. Amerikan Hukuk Enstitüsü'nün Mayıs 2024'te yayımladığı tıbbi malpraktis rehberi, sıkı biçimde yerleşik klinik uygulamayı esas almak yerine hasta odaklı makul bakım kavramına geçişi temsil ediyor; bu değişiklik, yapay zekânın yaygınlaştığı klinik alanlarda "makul hekim" standardının nasıl yorumlanacağı sorusunu kritik kılıyor. Ancak federal düzeyde yapay zekâya özgü bir sağlık yasası hâlâ bulunmadığından, aynı türde dava farklı eyaletlerde birbirinden son derece farklı sonuçlar doğurabilmektedir.

¶11Japonya ise etik kılavuzlar ve mesleki standartlar üzerinden şekillenen bir yaklaşım benimsedi. Japon Yapay Zekâ Topluluğu'nun 2017'den bu yana geliştirdiği etik çerçeve hesap verebilirlik ve şeffaflık ilkelerini ön plana çıkarıyor; ancak bu kılavuzlar bağlayıcı değil. Japonya kısa vadede esneklik sağlayan bu modeli tercih ederken uzun vadede standart belirsizliği riskini de beraberinde taşıyor.

Türkiye'nin Konumu

¶12Türkiye'de henüz yapay zekâya özgü bir sağlık hukuku düzenlemesi bulunmuyor. 2021-2025 Ulusal Yapay Zekâ Stratejisi genel ilkeleri ortaya koysa da somut yükümlülükleri belirlemiyor. Sağlık alanındaki yapay zekâ uygulamaları şu an için Kişisel Verilerin Korunması Kanunu, Tıbbi Deontoloji Nizamnamesi, Hasta Hakları Yönetmeliği ve Sağlık Hizmetleri Temel Kanunu çerçevesinde dolaylı biçimde değerlendiriliyor. Ne var ki bu düzenlemelerin hiçbiri otonom karar mekanizmalarını veya algoritmik hatalardan doğacak hukuki sorumlulukları açıkça kapsamıyor.

¶13Akademik çevrelerde yapay zekânın hukuki statüsü dört yaklaşım etrafında tartışılıyor: eşya yaklaşımı onu programlanmış bir ürün olarak tanımlarken, köle yaklaşımı kontrol ve denetim ilişkisini öne çıkarıyor; tüzel kişilik yaklaşımı yapay zekâya sınırlı da olsa kişilik tanınması gerektiğini savunurken, elektronik kişilik yaklaşımı daha pratik ve sınırlı bir statü öneriyor. Her biri farklı sorumluluk dağılımı öngörüyor; ancak hiçbiri ulusal hukukta somut bir karşılık bulmuş değil.

¶14Son dönemde iki önemli gelişme dikkat çekiyor. Temmuz 2025'te Türkiye Büyük Millet Meclisi'ne sunulan kanun teklifi yapay zekânın hukuki tanımını yaparak sorumluluk rejimini netleştirmeyi ve BTK'ye önemli idari yaptırım yetkileri tanımayı hedefliyor. Yargı cephesinde ise İstanbul 14. Asliye Ticaret Mahkemesi'nin Mayıs 2025 tarihli kararı, Türk yargısında yapay zekâ tabanlı bir aracın kullanımının mahkeme gerekçesine ilk kez açıkça dahil edildiği örnek olarak tarihe geçti. Bu gelişmeler henüz bir sistem kurmaktan uzak olsa da köklü bir dönüşümün başlangıcına işaret ediyor.

¶15AB'nin etkisi de Türk hukuku için göz ardı edilemez: Türkiye'de yerleşik bir tıbbi cihaz üreticisi ürününü AB pazarına sunuyorsa veya sistemi AB'de kullanılıyorsa AB Yapay Zekâ Yasası'nın tüm hükümleriyle muhatap olmak durumunda. Bu durum Türk sağlık teknolojisi şirketlerinin uyum süreçlerini baştan yeniden kurgulamasını zorunlu kılıyor.

Sonuç

¶16Yapay zekâ destekli teşhis sistemleri pek çok alanda hekimin gözden kaçırabileceği bulguları tespit edebilecek kapasiteye ulaştı. Bu teknoloji tıbbi hataları azaltma potansiyeli taşıyor. Ama aynı zamanda sorumluluğun kimin üzerinde duracağını belirsizleştiren yeni bir hukuki görünmezlik alanı yaratıyor.

¶17AB güncellenmiş düzenleyici çerçevesiyle bu belirsizliği azaltmaya çalışıyor. Amerika içtihat yoluyla kademeli bir yol çiziyor. Türkiye ise mevcut mevzuatının doldurabildiği kadar boşluğu kapatmaya çalışırken köklü bir yapay zekâ hukuku reformuna ihtiyaç duyuyor.

¶18Hasta açısından bakıldığında tablo yalındır: algoritmik bir hata nedeniyle uğranılan zarar, geleneksel tıbbi hata kadar gerçek ve telafisi o denli güçtür. Bu gerçeği hukuki çerçeveye yansıtmak, hem teknoloji geliştiricilerin hem klinisyenlerin hem de kurumların hesap verebileceği, şeffaf ve uygulanabilir standartlar inşa etmek artık bir tercih değil zorunluluktur.

Bu makale, büromuzun yapay zekâ hukuku ve sağlık hukuku çalışma alanları kapsamında hazırlanmıştır. Yapay zekâ sistemlerinin kullanımından kaynaklanan malpraktis, uyumluluk veya sözleşme hukuku konularında danışmanlık almak için bizimle iletişime geçebilirsiniz.