Nefret söylemine karşı yapay zekâ: pari
Çatışmayı ve toplumdaki kutuplaştırmayı artıran nefret söylemleri, günlük dile sızmış durumda. Dille başlayan bu söylemler ötekileştirmeye, saldırılara ve linç girişimlerine dönüşüyor. Ancak nefret söylemiyle mücadele yöntemlerini öğrenmek, mücadeleye dair bilinçlenmek ve her bireyin hakkını gözeterek bireysel sorumluluklar alması da mümkün. Önleyici ve eğitici mekanizmalar da nefret söylemiyle mücadelede büyük rol oynuyor.
Ayrımcılıkla ve ayrımcı söylemlerle çeşitli bağlamlarda mücadele eden Hrant Dink Vakfı, insan hakları, demokratikleşme, eşitlik ve çoğulculuğa hizmet eden bir alan kurmak için çeşitli atölyeler ve etkinlikler yapıyor, projeler yürütüyor ve yeni araçlar geliştiriyor. Bu araçlardan biri de vakfın Sabancı Üniversitesi ve Boğaziçi Üniversitesi işbirliğiyle geliştirdiği yapay zekâ destekli nefret söylemi tespit aracı “pari.”
İyilik perisi
Ermenice “iyi”, Latince “eşit”, Farsça ve Türkçede ise “peri” sözcüğüne karşılık gelen pari, Türkçe ve Arapça metinlerde nefret söylemini tespit eden bir yapay zekâ aracı. pari, kullanıcıların nefret söylemini anlamalarına ve tanımlamalarına yardımcı oluyor; veri analizi yaparak kullanıcılara bu mücadelede destek olmayı amaçlıyor. Vakıf bu ismi, dilde iyiliği gözetme, yapıcı bir diyalog ortamı oluşturma ve çoğulculuğu teşvik etme çabalarının göstergesi olarak seçti.
Nasıl geliştirildi?
Modelin eğitimi için Hrant Dink Vakfı’nın 10 yıllık yazılı basının taranmasıyla arşivlenen geniş haber verisine ek olarak sosyal medya platformu Twitter/ X’ten elde edilen tweetler kullanıldı. Elde edilen verilerin etiketlenmesi için kapsamlı bir nefret söylemi etiketleme kılavuzu oluşturuldu. Üç sene boyunca, çoğunluğunu üniversite öğrencilerinin oluşturduğu 40 kişiden oluşan bir ekip, proje ekibi tarafından verilen nefret söylemi ve etiketleme eğitiminin ardından Türkçe ve Arapça veriler için etiketleme yaptı. Kılavuzun rehberliğinde yapılan etiketleme esnasında nefret söylemi dört kategoriye ayrılarak şiddet seviyesi 0’dan 10’a kadar bir ölçekle değerlendirildi. Her veri üç etiketleyici tarafından etiketlendikten sonra oy çokluğu yöntemi kullanılarak pari eğitildi.
Dünyada nefret söylemiyle mücadelede yapay zekânın kullanıldığı başka araçlar da mevcut. Ancak pari, kullanıcıların girdiği bir internet sitesine sahip olma, nefret söylemini birden fazla kategoride sonuç vererek ele alma ve herkese açık bir kaynak olma ve Türkçe-Arapça iki dil seçeneği gibi özellikleriyle diğer araçlardan ayrılıyor. Vakıf, pari’nin tüm modellerinin açık kaynak olduğunu, geliştirilmeye açık olduğunu da söylüyor.
pari nasıl kullanılır?
Kullanıcılar, pari.hrantdink.org adresinden uygulamaya erişebilecek. Tekil kullanıcılar, araştırmacılar ve alandaki profesyoneller pari aracılığıyla metinlerde nefret söylemini tespit edip analiz yapabilecek. Kullanıcılar bir metin girerek ya da dosya yükleyerek söz konusu ifadelerin nefret söylemi içerip içermediğini; içeriyorsa söylemin hangi kategorilerde; kimleri hedef aldığını öğrenebilecek. pari’nin standart ve profesyonel üyelik seçenekleri bulunuyor. Her iki üyelik seçeneği de ücretsiz. Standart üyelikte tekil ifadeler analiz edilebiliyorken profesyonel üyelikte kullanıcılar, metin dosyalarını da pari aracılığıyla analiz edebiliyor.
