Açıklanabilir Yapay Zekaya Doğru: Kara Kutu ve Beyaz Kutu Modeller
Model özelliklerini, yerel mantıksal temsilleri ve küresel mantıksal temsilleri kullanarak kara kutu modellerden açıklamalar üretmek
4 dk. okuma

İçindekiler
Kısa Özet: XAI ve NSC
Açıklanabilir Yapay Zeka (XAI), kullanıcılar, geliştiriciler, politika yapıcılar ve kolluk kuvvetleri dahil insanlar için doğası gereği daha kolay anlaşılır yapay zeka modelleri geliştirmeyle ilgilenir. Nöro-Sembolik Hesaplama (NSC), alt-sembolik öğrenme algoritmalarını sembolik akıl yürütme yöntemleriyle birleştirmeyle ilgilenir. Bu nedenle Nöro-Sembolik Hesaplamanın Açıklanabilir Yapay Zeka altında bir alt alan olduğunu söyleyebiliriz. NSC, mevcut yöntem ve modelleri birleştirmeye dayandığı için en uygulanabilir yaklaşımlardan biridir de.
Açıklanabilirlik, şeyleri insan diliyle anlamlı biçimde tanımlayabilme yeteneğidir. Başka bir deyişle ham bilgiyi (veriyi) insanlar için anlamlı bir sembolik temsile (örneğin bir İngilizce metne) eşleyebilme olanağıdır.
Alt-sembollerden semboller çıkararak bu alt-sembolleri açıklanabilir kılabiliriz. Hem XAI hem NSC alt-sembolik sistemleri daha açıklanabilir kılmaya çalışır. NSC daha çok alt-sembolleri sembollere eşlemekle ilgilidir; mantık yoluyla tasarımdan gelen açıklanabilirlik: alt-sembolik olarak öğrenilmiş temsiller üzerinde sembolik akıl yürütme. XAI daha az belirli bir paradigmadır ve açıklanamayan modellerin etrafına sarılmış olsa bile tüm nüanslarıyla açıklanabilirlikle daha çok ilgilidir. Alt-sembollerden semboller çıkarmak açıklanabilirlik anlamına geliyorsa XAI, NSC'yi de içerir.
Bu NSC'yi bir örnekle görelim:
Nöro-Sembolik Kavram Öğrenici
Mao ve arkadaşları, aşağıdaki adımları izleyen yeni bir NSC modeli olan Nöro-Sembolik Kavram Öğrenici'yi (Neuro-Symbolic Concept Learner) öneriyor:
Bir görüntü sınıflandırıcı, görüntü veya metin parçalarından alt-sembolik (sayısal) temsilleri çıkarmayı öğrenir.Ardından her alt-sembolik temsil, insanın anlayabileceği bir sembolle ilişkilendirilir.Sonra sembolik bir akıl yürütücü, sembol temsillerinin gömme benzerliklerini kontrol ederEğitim, temsiller güncellenerek akıl yürütücünün çıktısının doğruluğu en üst düzeye çıkana kadar sürer.
Beyaz Kutu ve Kara Kutu Modeller
Bir yapay zeka modeli (i) beyaz kutu veya (ii) kara kutu olabilir.
Beyaz kutu model, tasarımı gereği açıklanabilirdir. Bu nedenle açıklanabilir olmak için ek yeteneklere ihtiyaç duymaz.Kara kutu model kendi başına açıklanabilir değildir. Bu nedenle bir kara kutu modeli açıklanabilir kılmak için modelin iç mantığından veya çıktılarından açıklamalar çıkarmak üzere çeşitli teknikler benimsememiz gerekir.
Kara kutu modeller şunlarla açıklanabilir kılınabilir
Model Özellikleri: Modelin veya tahminlerinin belirli özelliklerini göstermek; örneğin (a) öznitelik değişikliklerine duyarlılık veya (b) belirli bir karardan sorumlu model bileşenlerinin (ör. nöronlar veya düğümler) belirlenmesi.Yerel Mantık: Tek bir karar veya tahminin ardındaki iç mantığın bir temsili.Küresel Mantık: İç mantığın tamamının bir temsili.
Bu nedenle yapay zeka modellerinin açıklanabilirlik açısından alt kategorilerini gösteren diyagram şöyledir:
Kural Tabanlı Açıklanabilirlik ve Vaka Tabanlı Açıklanabilirlik
Açıklanabilir modellerin mantıksal ayrımının yanı sıra, yukarıda bahsedilen tüm modellerin açıklama üretecek şekilde uyarlanabileceği iki yaygın açıklama türü de belirliyoruz:
Kural Tabanlı Açıklamalar: Kural tabanlı açıklanabilirlik, “belirli bir modelin iç mantığını formüle eden bir dizi biçimsel mantıksal kural” üretmeye dayanır.
Vaka Tabanlı Açıklamalar: Kural tabanlı açıklanabilirlik, modelin iç mantığına dair bir sezgi sağlamak için değerli girdi-çıktı çiftleri (hem olumlu hem olumsuz) sunmaya dayanır. Vaka tabanlı açıklamalar, insanın bu çiftlerden mantık çıkarma yeteneğine dayanır.
Kural Tabanlı ve Vaka Tabanlı Öğrenme Algoritması Karşılaştırma Örneği:
Diyelim ki modelimizin elmalı turta yapmanın tarifini öğrenmesi gerekiyor. Elimizde yaban mersinli turta, cheesecake, shepherd's pie ve sade bir kek tarifi var. Kural tabanlı öğrenme yaklaşımı her tür tatlıyı yapmak için bir dizi genel kural bulmaya çalışırken (yani istekli yaklaşım), vaka tabanlı öğrenme yaklaşımı bilgiyi belirli görevleri kapsayacak şekilde tam gerektiği kadar genelleştirir. Bu nedenle mevcut veride elmalı turtaya en çok benzeyen tatlıları arar. Ardından benzer tarifler üzerinde küçük varyasyonlarla özelleştirmeye çalışır.
XAI: Beyaz Kutu Modeller Tasarlamak
Kural tabanlı ve vaka tabanlı öğrenme sistemleri dahil olmak üzere beyaz kutu tasarımların dört ana sınıfı vardır:
Elle hazırlanmış uzman sistemler;Kural tabanlı öğrenme sistemleri: tümevarımsal mantık programlama, karar ağaçları vb. gibi verilerden mantıksal kurallar öğrenen algoritmalar;Vaka tabanlı öğrenme sistemleri: vaka tabanlı akıl yürütmeye dayanan algoritmalar. Sistem çıktılarını açıklamak için örnekleri, vakaları, emsalleri ve/veya karşı örnekleri kullanırlar; veGömülü semboller ve çıkarım sistemleri: Nöro-Sembolik Hesaplama gibi daha biyoloji ilhamlı algoritmalar.
Bu serinin sonraki bölümlerinde bu yöntemlerin uygulamalı örneklerini ele alacağız.
Son Notlar
Bu yazıda:
1 — XAI ile NSC arasındaki farkları ve benzerlikleri kısaca ele aldık;
2 — Kara kutu ve beyaz kutu modelleri tanımladık ve karşılaştırdık;
3 — Kara kutu modelleri açıklanabilir kılma yaklaşımlarını (model özellikleri, yerel mantık, küresel mantık) inceledik;
4 — Kural Tabanlı Açıklamaları ve Vaka Tabanlı Açıklamaları karşılaştırdık ve örneklendirdik.
Bir sonraki yazıda açıklanabilirlik çalışmaları için piyasada bulunan kütüphaneleri ve teknolojileri ele alacağız. Bu kütüphanelerden bazılarını kara ve beyaz kutu modellerden açıklamalar çıkarmak için kullanacağız.
Bu makaleyi beğendiyseniz diğer makalelerimize de göz atabilirsiniz.
Daha Fazla Oku

Attribution That Survives Your Tool Stack: Keeping UTMs From Ad to Booking to CRM

Clean Your CRM Data Before You Add AI: Dedupe, Grain and Ownership

Semantic Layer First: Getting Your BI Ready for AI Agents

How F&B CMOs Use Generative AI In Business For Location Decisions

How Real Estate Firms Use Business Analytics For City Parks To Drive Value

Data Storytelling and Visualization

When Does a Business Actually Need Digital Transformation?

Analytics for Product Recommendations

Data Analyst vs. Data Quality Analyst

The Best NoSQL Analytics Tools 2024



