Sağlıkta yapay zekâ, büyük gözaltı ve robot etiği
Yapay zekâ (YZ), doktor ofislerinde tanı ve tedavi, sokakta ise yüz tanıma programlarına uyarlanmaya başladı. Ancak YZ robotları sadece bizim algoritmalarına eklediğimiz veriler kadar ‘akıllı’ ve demokratik olabilirler. YZ, görünürdeki verilerin arkaplanında gizli tarihsel ve sosyal adaletsizlikleri yaygınlaştırabilir de. Robot etiği söz konusu olduğunda, YZ ve algoritmalarını tasarlayan ve sağlık ile toplum hayatında kullananların uzaylılar değil, tüm önyargılarımızla biz insanlar olduğumuzu unutmamalıyız.
VURAL ÖZDEMİR / TORONTO*
Yapay zekâ (YZ) yeni bir olgu değil. Ama yapay zekâyı tanısal tıp ve hastaların tedavisinde kullanma girişimleri yeni. ‘Yapay zekâ’ teriminin geçmişi, ABD’de Dartmouth College’da bir konferansta ilk kez kullanıldığı 1956 yılına kadar uzanıyor. Günümüzde yapay zekâ uygulamalarından bahsettiğimizde, büyük ölçüde makine öğrenmesini kastediyoruz. Bu öğrenme işlemi, milyonlarca deneme-yanılma döngüsünden oluşan bir ‘eğitim’ süreciyle, doğrudan veriler üzerinden gerçekleşiyor. Bu yüzden, sağlık sektöründe kullanılan YZ robotları, doktor muayenehanelerinden ve hastanelerden gelen elektronik sağlık kayıtlarından ve hatta hastalar tarafından oluşturulan sosyal medya verilerinden oluşan bir ‘Büyük Veri’ye (Big Data) dayanıyor.
Tıpta yapay zekânın katma değeri nedir? Doktorlar, mühendisler (daha doğrusu insan beyni) bu ‘Büyük Veri’yi hızla işleyebilecek (örn. enfeksiyon, kanser veya bunamanın erken belirtilerini bulup çıkarmak gibi) kapasitede değil. Fakat yapay zekâyla donatılmış robotlar tam da bunu başarabilir.
Bu yüzden, veri yoğunluklu çalışan ve ‘tanısal desen’lerin belirlenmesine dayanan, örneğin medikal radyoloji gibi belli branşlar, yapay zekâyı ilk uygulayanlar arasında yer alıyor. Veri işlemeye getirdiği verimlilikle yapay zekâ, sağlıkta otomasyona zemin hazırlıyor.
YZ ve Büyük Gözaltı
Tıpta kullanılan geliştirilmiş YZ araçlarının yüz tanıma teknolojilerine de uyarlanması mümkün. Bu da küresel demokrasi ve insan haklarını tehdit eden ‘Büyük Gözaltı’nda yaşam için endişe verici bir zemin oluşturuyor.
Dublin ve bazı başka şehirler, yeni teknolojilerle donatılmış ‘akıllı şehir’ler olma yolunda ilerlediklerini gururla duyuruyorlar. Akıllı şehirler, canlı ve cansız tüm nesnelerden elde edilen verileri entegre ederek çöp toplama, trafik ve ticaret gibi alanlarda daha iyi hizmet sunma iddiasındalar.
Ancak ‘akıllı entegre şehir’ etiketi başlı başına bir sorun teşkil ediyor, zira yapay zekâ kavramını ve yeni teknolojileri eleştiri ve tartışmalara kayıtsız şartsız kapatıyor. Burada ‘entegrasyon’, şehir yönetiminde verimlilik anlamına gelebileceği gibi, vatandaşların kontrol edilmesi ve bireysel özgürlüklerin kısıtlanması anlamına da gelebilir.
YZ robotları ırkçı veya cinsiyetçi olabilir mi?
YZ ile donatılmış robotların önyargılardan azade olacağı fikri, yakın zamanda ABD’de azınlık gruplarına karşı ayrımcılık yapan ırkçı robot vakalarıyla sorgulanmaya başladı. YZ robotlarına yüklediğimiz veriler insanlar tarafından düzenlendiği sürece, mevcut sosyal adaletsizlikleri yansıtacaklardır. Yani YZ ile donatılmış robotlar ancak kullandıkları veriler ve onları kullanan insanlar kadar akıllı, etik ve demokratik olabilirler.
YZ robotları şovenist, antisemitik, seksist, homofobik veya ırkçı içeriklerle dolu bir ‘Büyük Veri’ye maruz kalırlarsa, bu değerleri uygulayacak şekilde gelişirler. Onları feminist, mültecilerden yana, ırkçılık karşıtı, LGBTİ destekçisi ve demokrat veri setleriyle işletirsek, insan haklarına katkıda bulunmaya dönük çalışabilirler.
Yine de YZ robotlarının bu çift yapılı, etkiye açık doğası sorun olmaya devam ediyor. Örneğin, aynı anda demokrat/otoriter, feminist/seksist, LGBTİ destekçisi / homofobik veri kümeleriyle çalışırlarsa, YZ robotları nasıl davranabilir?
Robot etiği söz konusu olduğunda, YZ robotlarını tasarlayan ve kullananların uzaylılar değil, bizler –yani tüm önyargılarıyla biz insanlar– olduğunu hatırda tutmak gerekiyor.
Siyaset ve iktidarı şeffaflaştırmak
Sağlık sektöründen ve insan hastalıklarından kâr elde etme peşinde olan fırsatçılar için, YZ ile donatılmış robotlar son derece cazip ‘işçi’ler: İnsan işçilerin aksine robotlar öğle yemeği, tuvalet veya sigara molası vermez; kesintisiz 24 saat çalışabilir ve ücretli izin veya sosyal güvence gibi haklara ihtiyaç duymaz.
Etik bir YZ geliştirebilmek için iyi bir strateji, düzenli olarak ‘metadata’ toplamaktır. Metadata, ‘veri hakkında veri’ olarak tanımlanır (örneğin ‘Veriyi kim, hangi amaçla ve hangi finansal destekle üretmiştir?’ gibi sorular sorar) ve tıpta karar verme mekanizmalarında yer alan YZ robotlarında hangi ‘Büyük Veri’nin geçerli olduğunun hem teknik, hem de politik bağlamlarını içerir.
Metadata aynı zamanda tarih boyunca sessizleştirilmiş sağlık profesyonellerine de (tıp diploması olmayan, ancak Büyük Veri’nin oluşturulmasında büyük rol oynayan hemşireler, hastane teknisyenleri ve diğer sağlık çalışanları) haklarını teslim edebilir. İyi ve adil bir sağlık sisteminin ihtiyaç duyduğu insan unsurunu oluşturan bu çalışanlara kucaklayıcı ve etik katkılarda bulunabilir.
Başka bir deyişle, veriler hiçbir zaman sadece veri değildir, teknoloji hiçbir zaman sadece teknoloji değildir, YZ robotları da sadece robot değildir.
Düzenleme tuzağı
YZ ve robot etiği, içinde bulunduğumuz post-gerçek çağından bağımsız düşünülemez. 40 yıldır süren acımasız neoliberalizm ve vurgunculuk zihniyeti, yanlış ve sahte bilgi üretimi olarak ‘algı yönetimi’ni ortaya çıkardı. Bu bağlamda, post-gerçek politikaların yükselişi şaşırtıcı değil. Teknolojiyi değerlendirirken neoliberal yaklaşımlara teslim olmak, Aldous Huxley’in 1932’de yayımladığı ve otoriter-distopik bir toplumu anlattığı ‘Cesur Yeni Dünya’daki kurmaca mutluluk hapı ‘soma’yı almaya benziyor.
YZ ile donatılmış robotlar bizi teknoloji ve inovasyon etiği bağlamında ‘uzmanlık’ kavramını yeniden tanımlamaya davet ediyor. Bundan böyle tıp veya mühendislik diploması sahibi olmanın, sadece teknolojide yetkinlik anlamına geldiğini ne varsayabiliriz, ne de kabul edebiliriz. Bugün kaliteli bir tıp eğitimi artık YZ ve yeni gelişen teknolojilerde insani değerleri, iktidar ve politika altmetinlerini okuyabilecek öğrenciler yetiştirmeli, bunun için de eleştirel, disiplinlerarası bir yaklaşımı benimsemelidir.
Burada bir uyarı notu düşmekte fayda var: Etik, kulağa son derece hoş gelen bir sözcük olmakla birlikte, ‘etikçiler’in ve düzenleyicilerin de neoliberalizm tarafından belirlenmiş olabileceğini göz önünde bulundurmak gerek. Etikçilerin veya teknolojiyi görünürde düzenlemenin etik bir duruşu garantileyeceğini varsaymak naiflik olur. Noam Chomsky, yakın zamanda yayımlanan bir kitabında bizi ‘düzenleme tuzağı’ (regulatory capture) konusunda uyararak, düzenleyici kurumların etiğini de izlemeye almamız gerektiğini söylüyor.
Nihayetinde, neoliberalizm ve post-gerçeğin hüküm sürdüğü zamanlarda yaşıyoruz. Foucault’cu bir ifadeyle söylemek gerekirse, ‘iktidar her yerde’; sadece sağlık sektöründe inovasyonu değil, YZ ve robot etiğini de şekillendiriyor! (Çeviri: Gürçim Yılmaz)
*Vural Özdemir Hacettepe Üniversitesi Tıp Fakültesi’nden mezun olduktan sonra Toronto Üniversitesi Tıp Fakültesi’nden doğa bilimi ve psikiyatrik ilaç geliştirme alanında doktora derecesi aldı. Yeni teknolojilerde eleştirel yönetişim, bilgi üretiminin politikası gibi alanlarda yaptığı çalışmalarla Kanada’da doçentlik unvanı aldı. Halen Toronto’da yaşıyor; teknoloji yönetişimi ve sorumlu inovasyon konularında üst düzey danışman olarak çalışıyor. Twitter: @CriticalPolicy1
Yapay zekâ (YZ) yeni bir olgu değil. Ama yapay zekâyı tanısal tıp ve hastaların tedavisinde kullanma girişimleri yeni. ‘Yapay zekâ’ teriminin geçmişi, ABD’de Dartmouth College’da bir konferansta ilk kez kullanıldığı 1956 yılına kadar uzanıyor. Günümüzde yapay zekâ uygulamalarından bahsettiğimizde, büyük ölçüde makine öğrenmesini kastediyoruz. Bu öğrenme işlemi, milyonlarca deneme-yanılma döngüsünden oluşan bir ‘eğitim’ süreciyle, doğrudan veriler üzerinden gerçekleşiyor. Bu yüzden, sağlık sektöründe kullanılan YZ robotları, doktor muayenehanelerinden ve hastanelerden gelen elektronik sağlık kayıtlarından ve hatta hastalar tarafından oluşturulan sosyal medya verilerinden oluşan bir ‘Büyük Veri’ye (Big Data) dayanıyor.
Tıpta yapay zekânın katma değeri nedir? Doktorlar, mühendisler (daha doğrusu insan beyni) bu ‘Büyük Veri’yi hızla işleyebilecek (örn. enfeksiyon, kanser veya bunamanın erken belirtilerini bulup çıkarmak gibi) kapasitede değil. Fakat yapay zekâyla donatılmış robotlar tam da bunu başarabilir.
Bu yüzden, veri yoğunluklu çalışan ve ‘tanısal desen’lerin belirlenmesine dayanan, örneğin medikal radyoloji gibi belli branşlar, yapay zekâyı ilk uygulayanlar arasında yer alıyor. Veri işlemeye getirdiği verimlilikle yapay zekâ, sağlıkta otomasyona zemin hazırlıyor.
YZ ve Büyük Gözaltı
Tıpta kullanılan geliştirilmiş YZ araçlarının yüz tanıma teknolojilerine de uyarlanması mümkün. Bu da küresel demokrasi ve insan haklarını tehdit eden ‘Büyük Gözaltı’nda yaşam için endişe verici bir zemin oluşturuyor.
Dublin ve bazı başka şehirler, yeni teknolojilerle donatılmış ‘akıllı şehir’ler olma yolunda ilerlediklerini gururla duyuruyorlar. Akıllı şehirler, canlı ve cansız tüm nesnelerden elde edilen verileri entegre ederek çöp toplama, trafik ve ticaret gibi alanlarda daha iyi hizmet sunma iddiasındalar.
Ancak ‘akıllı entegre şehir’ etiketi başlı başına bir sorun teşkil ediyor, zira yapay zekâ kavramını ve yeni teknolojileri eleştiri ve tartışmalara kayıtsız şartsız kapatıyor. Burada ‘entegrasyon’, şehir yönetiminde verimlilik anlamına gelebileceği gibi, vatandaşların kontrol edilmesi ve bireysel özgürlüklerin kısıtlanması anlamına da gelebilir.
YZ robotları ırkçı veya cinsiyetçi olabilir mi?
YZ ile donatılmış robotların önyargılardan azade olacağı fikri, yakın zamanda ABD’de azınlık gruplarına karşı ayrımcılık yapan ırkçı robot vakalarıyla sorgulanmaya başladı. YZ robotlarına yüklediğimiz veriler insanlar tarafından düzenlendiği sürece, mevcut sosyal adaletsizlikleri yansıtacaklardır. Yani YZ ile donatılmış robotlar ancak kullandıkları veriler ve onları kullanan insanlar kadar akıllı, etik ve demokratik olabilirler.
YZ robotları şovenist, antisemitik, seksist, homofobik veya ırkçı içeriklerle dolu bir ‘Büyük Veri’ye maruz kalırlarsa, bu değerleri uygulayacak şekilde gelişirler. Onları feminist, mültecilerden yana, ırkçılık karşıtı, LGBTİ destekçisi ve demokrat veri setleriyle işletirsek, insan haklarına katkıda bulunmaya dönük çalışabilirler.
Yine de YZ robotlarının bu çift yapılı, etkiye açık doğası sorun olmaya devam ediyor. Örneğin, aynı anda demokrat/otoriter, feminist/seksist, LGBTİ destekçisi / homofobik veri kümeleriyle çalışırlarsa, YZ robotları nasıl davranabilir?
Robot etiği söz konusu olduğunda, YZ robotlarını tasarlayan ve kullananların uzaylılar değil, bizler –yani tüm önyargılarıyla biz insanlar– olduğunu hatırda tutmak gerekiyor.
Siyaset ve iktidarı şeffaflaştırmak
Sağlık sektöründen ve insan hastalıklarından kâr elde etme peşinde olan fırsatçılar için, YZ ile donatılmış robotlar son derece cazip ‘işçi’ler: İnsan işçilerin aksine robotlar öğle yemeği, tuvalet veya sigara molası vermez; kesintisiz 24 saat çalışabilir ve ücretli izin veya sosyal güvence gibi haklara ihtiyaç duymaz.
Etik bir YZ geliştirebilmek için iyi bir strateji, düzenli olarak ‘metadata’ toplamaktır. Metadata, ‘veri hakkında veri’ olarak tanımlanır (örneğin ‘Veriyi kim, hangi amaçla ve hangi finansal destekle üretmiştir?’ gibi sorular sorar) ve tıpta karar verme mekanizmalarında yer alan YZ robotlarında hangi ‘Büyük Veri’nin geçerli olduğunun hem teknik, hem de politik bağlamlarını içerir.
Metadata aynı zamanda tarih boyunca sessizleştirilmiş sağlık profesyonellerine de (tıp diploması olmayan, ancak Büyük Veri’nin oluşturulmasında büyük rol oynayan hemşireler, hastane teknisyenleri ve diğer sağlık çalışanları) haklarını teslim edebilir. İyi ve adil bir sağlık sisteminin ihtiyaç duyduğu insan unsurunu oluşturan bu çalışanlara kucaklayıcı ve etik katkılarda bulunabilir.
Başka bir deyişle, veriler hiçbir zaman sadece veri değildir, teknoloji hiçbir zaman sadece teknoloji değildir, YZ robotları da sadece robot değildir.
Düzenleme tuzağı
YZ ve robot etiği, içinde bulunduğumuz post-gerçek çağından bağımsız düşünülemez. 40 yıldır süren acımasız neoliberalizm ve vurgunculuk zihniyeti, yanlış ve sahte bilgi üretimi olarak ‘algı yönetimi’ni ortaya çıkardı. Bu bağlamda, post-gerçek politikaların yükselişi şaşırtıcı değil. Teknolojiyi değerlendirirken neoliberal yaklaşımlara teslim olmak, Aldous Huxley’in 1932’de yayımladığı ve otoriter-distopik bir toplumu anlattığı ‘Cesur Yeni Dünya’daki kurmaca mutluluk hapı ‘soma’yı almaya benziyor.
YZ ile donatılmış robotlar bizi teknoloji ve inovasyon etiği bağlamında ‘uzmanlık’ kavramını yeniden tanımlamaya davet ediyor. Bundan böyle tıp veya mühendislik diploması sahibi olmanın, sadece teknolojide yetkinlik anlamına geldiğini ne varsayabiliriz, ne de kabul edebiliriz. Bugün kaliteli bir tıp eğitimi artık YZ ve yeni gelişen teknolojilerde insani değerleri, iktidar ve politika altmetinlerini okuyabilecek öğrenciler yetiştirmeli, bunun için de eleştirel, disiplinlerarası bir yaklaşımı benimsemelidir.
Burada bir uyarı notu düşmekte fayda var: Etik, kulağa son derece hoş gelen bir sözcük olmakla birlikte, ‘etikçiler’in ve düzenleyicilerin de neoliberalizm tarafından belirlenmiş olabileceğini göz önünde bulundurmak gerek. Etikçilerin veya teknolojiyi görünürde düzenlemenin etik bir duruşu garantileyeceğini varsaymak naiflik olur. Noam Chomsky, yakın zamanda yayımlanan bir kitabında bizi ‘düzenleme tuzağı’ (regulatory capture) konusunda uyararak, düzenleyici kurumların etiğini de izlemeye almamız gerektiğini söylüyor.
Nihayetinde, neoliberalizm ve post-gerçeğin hüküm sürdüğü zamanlarda yaşıyoruz. Foucault’cu bir ifadeyle söylemek gerekirse, ‘iktidar her yerde’; sadece sağlık sektöründe inovasyonu değil, YZ ve robot etiğini de şekillendiriyor! (Çeviri: Gürçim Yılmaz)
*Vural Özdemir Hacettepe Üniversitesi Tıp Fakültesi’nden mezun olduktan sonra Toronto Üniversitesi Tıp Fakültesi’nden doğa bilimi ve psikiyatrik ilaç geliştirme alanında doktora derecesi aldı. Yeni teknolojilerde eleştirel yönetişim, bilgi üretiminin politikası gibi alanlarda yaptığı çalışmalarla Kanada’da doçentlik unvanı aldı. Halen Toronto’da yaşıyor; teknoloji yönetişimi ve sorumlu inovasyon konularında üst düzey danışman olarak çalışıyor. Twitter: @CriticalPolicy1
