“Neden Bu Etiket?” — Açıklanabilirlik
Cihazınızdaki makine öğrenmesi modelinin, bir habere o etiketi tam olarak hangi kelimenin katkısıyla verdiğini gösteren şeffaflık ekranıdır.
Sistem bir etiket atadığında bunun arkasında kapalı bir kutu yoktur. ‘Neden bu etiket?’ düğmesine bastığınızda, modelin o kararı verirken hangi kelimeden kaç puan aldığını açıkça görürsünüz. Şeffaflık değişmezi gereği; kelimelerin matematiksel katkılarının toplamı ve sistemin taban değeri (Σ(kelime katkısı) + taban = skor) her zaman etiketin son skoruna eşittir.
Örnek: Bir başlıkta ‘deprem’ kelimesinin modele +0.42 puanlık doğrudan bir katkı sağladığının ekranda şeffafça görülmesi.
Derinleş
Çoğu modern derin öğrenme sistemi, kararlarını açıklanamaz devasa matrislerin arkasına saklar. MagPunk’taki hafifletilmiş (≈7 MB) klasik sınıflandırıcı ise lineer özellikleri sayesinde tamamen açıklanabilirdir (explainability). Bu özellik, kullanıcının algoritmanın kararlarını sorgulayabilmesine olanak tanır. Algoritmanın nasıl düşündüğünü (veya nasıl yanıldığını) görebilmek, yapay sistemlere körü körüne güvenmek yerine, onların istatistiksel birer tahmin aracı olduklarını akılda tutmanın en etkili yoludur.
2.3.6 M6: Neden Bu Etiket?
M6Kelimelerin karar skoruna nasıl etki ettiğini görün.