Yapay zeka içerik denetimi sonucunda Youtube’daki dünyanın en popüler satranç kanalını, zararlı ve tehlikeli olduğu gerekçesiyle engelledi. Yapılan bir araştırmaya göre, yapay zekanın ırkçılık söylemlerini saptamak için yazılan algoritması “siyah” ve “beyaz” satranç taşlarıyla ilgili yapılan yorumların nefret söylemi ile ayrımını yapamıyor. Bu durum algoritmalardaki, içerik denetimi sorunlarına dikkat çekiyor.
Haziran ayında satranç ustası Hikaru Nakamura ile bir satranç gösterisi sunarken engellenen Hırvat oyuncu Antonio Radic’in satranç kanalı yirmi dört saat sonra eski haline getirildi. Şampiyon oyuncu, geçici olarak engellenmesine “beyaza karşı siyah” ifadesini kullanmanın neden olduğunu düşündüğünü söyledi. Antonio Radic, aslında satranç taşlarından bahsetse de muhtemelen yapay zeka bunu ırkçılık söylemi olarak algılamıştı.
Satranç Kanalı Bazında Yapay Zekanın Irkçı Söylemleri Tespit Etmesi Araştırıldı
Carnegie Mellon Üniversitesi’nin (CMU) bilgisayar bilimcileri, bir milyondan fazla takipçisi olan agadmator’s Chess Channel’ın “zararlı ve tehlikeli içerik” nedeniyle engellenmesinin ardından bu hatayı araştırmaya başladı. Youtube’un sistemi hem insanlardan hem de algoritmalardan yararlanıyor. Yani bu yapay zeka cümledeki bağlamı doğru anlayacak şekilde eğitilmediğinde kelimelere yönelik bu tip yanlış yorumlamalar yapabileceği anlamına geliyor.
CMU Dil Teknolojileri Estitüsü’nden proje bilimcisi Ashique KhudaBukhsh da aynı şekilde, ırkçı söylemleri tespit etmede yapay zekaya güvenilirse böyle hataların olabileceğini söyledi. KhudaBukhsh, video paylaşma platformu Youtube’da bulunan beş popüler satranç kanalından toplanan 680 binden fazla yorumu bir konuşma sınıflandırıcı kullanarak taradı ve teorisini test etti.
Yapay zekanın nefret söylemi olarak sınıflandırdığı bin yorumu manuel olarak inceledikten sonra bir satranç kanalında sıkça kullanılan “siyah”, “beyaz”, “saldırı” ve “tehdit” gibi sözcüklerin yüzde 82’sinin yapılan araştırma sonucunda yanlış sınıflandırılmış olduğu ortaya kondu. Geçtiğimiz Haziran ayından bu yana araştırılan bu konunun makalesi Şubat ayında Yapay Zekanın Geliştirilmesi Derneği’nin yıllık konferansında sunuldu.
