Klasik ML (Makine Öğrenmesi)

Büyük veri setleri üzerinden istatistiksel örüntüler çıkararak tahmin yapan, kuralları insanlar yerine veriden öğrenen yazılım modelleridir.

Klasik makine öğrenmesi, metni veya bağlamı insanlar gibi kesinlikle anlamaz. Bunun yerine kelimelerin ve harflerin bulunma sıklıklarını matematiksel ağırlıklara dönüştürerek doğrusal olasılık hesapları yapar. Bu nedenle, üstü kapalı ince ironileri çözemese de, belirli örüntüleri istatistiksel sınırları içinde tespit edebilir.

Örnek: Cihazda çalışan ≈7 MB boyutundaki bir modelin, bir haberin içeriğini okumadan sadece başlığındaki kelime sıklıklarına bakarak tahmin yürütmesi.

Derinleş

Makine öğrenmesi modelleri, L2 normalizasyonu gibi tekniklerle aşırı öğrenmenin önüne geçer. Metin verisi; harf ve kelimelerden oluşan, genellikle 16.000 (8.000+8.000) civarı boyuta sahip bir uzaya (TF, IDF formülleriyle) çevrilir. L-BFGS gibi optimizasyon yöntemleriyle ağırlıklar ayarlanır. Modelin çıktı ürettiği aşamada, toplanan kelime ağırlıkları bir karar fonksiyonundan (sigmoid) geçerek olasılık değerine dönüştürülür. Bu istatistiksel yaklaşım şeffaftır; modelin neden o kararı verdiği, her bir kelimenin matematiksel katkısına bakılarak kolayca açıklanabilir.