İçeriğe geç

Blog

Açıklanabilir Yapay Zekaya Doğru: Kara Kutu ve Beyaz Kutu Modeller

Model özelliklerini, yerel mantıksal temsilleri ve küresel mantıksal temsilleri kullanarak kara kutu modellerden açıklamalar üretmek

4 dk. okuma
Açık bir beyaz kutunun yanında duran kapalı bir kara kutu.
Facebook logosu
X logosu
LinkedIn logosu
Reddit logosu
Telegram logosu

Kısa Özet: XAI ve NSC

Açıklanabilir Yapay Zeka (XAI), kullanıcılar, geliştiriciler, politika yapıcılar ve kolluk kuvvetleri dahil insanlar için doğası gereği daha kolay anlaşılır yapay zeka modelleri geliştirmeyle ilgilenir. Nöro-Sembolik Hesaplama (NSC), alt-sembolik öğrenme algoritmalarını sembolik akıl yürütme yöntemleriyle birleştirmeyle ilgilenir. Bu nedenle Nöro-Sembolik Hesaplamanın Açıklanabilir Yapay Zeka altında bir alt alan olduğunu söyleyebiliriz. NSC, mevcut yöntem ve modelleri birleştirmeye dayandığı için en uygulanabilir yaklaşımlardan biridir de.

Açıklanabilirlik, şeyleri insan diliyle anlamlı biçimde tanımlayabilme yeteneğidir. Başka bir deyişle ham bilgiyi (veriyi) insanlar için anlamlı bir sembolik temsile (örneğin bir İngilizce metne) eşleyebilme olanağıdır.

Alt-sembollerden semboller çıkararak bu alt-sembolleri açıklanabilir kılabiliriz. Hem XAI hem NSC alt-sembolik sistemleri daha açıklanabilir kılmaya çalışır. NSC daha çok alt-sembolleri sembollere eşlemekle ilgilidir; mantık yoluyla tasarımdan gelen açıklanabilirlik: alt-sembolik olarak öğrenilmiş temsiller üzerinde sembolik akıl yürütme. XAI daha az belirli bir paradigmadır ve açıklanamayan modellerin etrafına sarılmış olsa bile tüm nüanslarıyla açıklanabilirlikle daha çok ilgilidir. Alt-sembollerden semboller çıkarmak açıklanabilirlik anlamına geliyorsa XAI, NSC'yi de içerir.

Bu NSC'yi bir örnekle görelim:

Nöro-Sembolik Kavram Öğrenici

Mao ve arkadaşları, aşağıdaki adımları izleyen yeni bir NSC modeli olan Nöro-Sembolik Kavram Öğrenici'yi (Neuro-Symbolic Concept Learner) öneriyor:

Bir görüntü sınıflandırıcı, görüntü veya metin parçalarından alt-sembolik (sayısal) temsilleri çıkarmayı öğrenir.Ardından her alt-sembolik temsil, insanın anlayabileceği bir sembolle ilişkilendirilir.Sonra sembolik bir akıl yürütücü, sembol temsillerinin gömme benzerliklerini kontrol ederEğitim, temsiller güncellenerek akıl yürütücünün çıktısının doğruluğu en üst düzeye çıkana kadar sürer.

Beyaz Kutu ve Kara Kutu Modeller

Bir yapay zeka modeli (i) beyaz kutu veya (ii) kara kutu olabilir.

Beyaz kutu model, tasarımı gereği açıklanabilirdir. Bu nedenle açıklanabilir olmak için ek yeteneklere ihtiyaç duymaz.Kara kutu model kendi başına açıklanabilir değildir. Bu nedenle bir kara kutu modeli açıklanabilir kılmak için modelin iç mantığından veya çıktılarından açıklamalar çıkarmak üzere çeşitli teknikler benimsememiz gerekir.

Kara kutu modeller şunlarla açıklanabilir kılınabilir

Model Özellikleri: Modelin veya tahminlerinin belirli özelliklerini göstermek; örneğin (a) öznitelik değişikliklerine duyarlılık veya (b) belirli bir karardan sorumlu model bileşenlerinin (ör. nöronlar veya düğümler) belirlenmesi.Yerel Mantık: Tek bir karar veya tahminin ardındaki iç mantığın bir temsili.Küresel Mantık: İç mantığın tamamının bir temsili.

Bu nedenle yapay zeka modellerinin açıklanabilirlik açısından alt kategorilerini gösteren diyagram şöyledir:

Kural Tabanlı Açıklanabilirlik ve Vaka Tabanlı Açıklanabilirlik

Açıklanabilir modellerin mantıksal ayrımının yanı sıra, yukarıda bahsedilen tüm modellerin açıklama üretecek şekilde uyarlanabileceği iki yaygın açıklama türü de belirliyoruz:

Kural Tabanlı Açıklamalar: Kural tabanlı açıklanabilirlik, “belirli bir modelin iç mantığını formüle eden bir dizi biçimsel mantıksal kural” üretmeye dayanır.

Vaka Tabanlı Açıklamalar: Kural tabanlı açıklanabilirlik, modelin iç mantığına dair bir sezgi sağlamak için değerli girdi-çıktı çiftleri (hem olumlu hem olumsuz) sunmaya dayanır. Vaka tabanlı açıklamalar, insanın bu çiftlerden mantık çıkarma yeteneğine dayanır.

Kural Tabanlı ve Vaka Tabanlı Öğrenme Algoritması Karşılaştırma Örneği:

Diyelim ki modelimizin elmalı turta yapmanın tarifini öğrenmesi gerekiyor. Elimizde yaban mersinli turta, cheesecake, shepherd's pie ve sade bir kek tarifi var. Kural tabanlı öğrenme yaklaşımı her tür tatlıyı yapmak için bir dizi genel kural bulmaya çalışırken (yani istekli yaklaşım), vaka tabanlı öğrenme yaklaşımı bilgiyi belirli görevleri kapsayacak şekilde tam gerektiği kadar genelleştirir. Bu nedenle mevcut veride elmalı turtaya en çok benzeyen tatlıları arar. Ardından benzer tarifler üzerinde küçük varyasyonlarla özelleştirmeye çalışır.

XAI: Beyaz Kutu Modeller Tasarlamak

Kural tabanlı ve vaka tabanlı öğrenme sistemleri dahil olmak üzere beyaz kutu tasarımların dört ana sınıfı vardır:

Elle hazırlanmış uzman sistemler;Kural tabanlı öğrenme sistemleri: tümevarımsal mantık programlama, karar ağaçları vb. gibi verilerden mantıksal kurallar öğrenen algoritmalar;Vaka tabanlı öğrenme sistemleri: vaka tabanlı akıl yürütmeye dayanan algoritmalar. Sistem çıktılarını açıklamak için örnekleri, vakaları, emsalleri ve/veya karşı örnekleri kullanırlar; veGömülü semboller ve çıkarım sistemleri: Nöro-Sembolik Hesaplama gibi daha biyoloji ilhamlı algoritmalar.

Bu serinin sonraki bölümlerinde bu yöntemlerin uygulamalı örneklerini ele alacağız.

Son Notlar

Bu yazıda:

1 — XAI ile NSC arasındaki farkları ve benzerlikleri kısaca ele aldık;

2 — Kara kutu ve beyaz kutu modelleri tanımladık ve karşılaştırdık;

3 — Kara kutu modelleri açıklanabilir kılma yaklaşımlarını (model özellikleri, yerel mantık, küresel mantık) inceledik;

4 — Kural Tabanlı Açıklamaları ve Vaka Tabanlı Açıklamaları karşılaştırdık ve örneklendirdik.

Bir sonraki yazıda açıklanabilirlik çalışmaları için piyasada bulunan kütüphaneleri ve teknolojileri ele alacağız. Bu kütüphanelerden bazılarını kara ve beyaz kutu modellerden açıklamalar çıkarmak için kullanacağız.

Bu makaleyi beğendiyseniz diğer makalelerimize de göz atabilirsiniz.

Daha fazlası.

Dithered illustration of two marble hands pulling a mason's line taut between stakes across bare ground at dawn, the first course of stones laid along it and a pink knot at the nearest stake.
Your First 30 Days With a Product Studio: What Happens Week by Week
7 dk.

The first 30 days with a product studio: week one sets access and goals, week two tests the riskiest assumption, weeks three and four ship a first slice.

Dithered illustration of a marble hand opening the case of a bracket clock to show a dense hidden mechanism, one small gear deep inside glowing red.
What Does an AI Agent Cost to Run? Tokens, Tools and the Hidden Line Items
6 dk.

An AI agent's running cost is model tokens across every step, plus retries, tool and search fees, hosting, monitoring and human review. Budget per task, not per token.

Dithered illustration of a fragmented marble face looking down at a jeweller's tray where gems are sorted by size, the largest stone glowing amber under a brass lamp.
AI Lead Scoring in Your CRM: Start With the Rules You Already Trust
7 dk.

Add AI lead scoring by writing down the rules sales already trusts, cleaning CRM data, then testing the AI score against those rules before reps use it.

Önce yapay zekâyı düşünün.
Geleceğin hızında ilerleyin.

Sıradakini birlikte inşa edelim! Ürün fikirlerinden akıllı iş akışlarına, veri odaklı sistemlerden ölçeklenebilir büyüme operasyonlarına kadar.

Strateji Görüşmesi Planlayın