İçeriğe geç

Sözlük

Yapay Zekâ ve Makine Öğrenimi

Human-in-the-Loop (Döngüde İnsan)

Human-in-the-loop (döngüde insan), insanların bir yapay zekâ veya otomasyon sisteminin kararlarını belirlenmiş noktalarda incelediği, düzelttiği veya onayladığı bir sistem tasarımıdır; böylece makine hacmi üstlenirken insanlar muhakemeyi, istisnaları ve hesap verebilirliği üstlenir.

Güncelleme: · Hazırlayan: VIZIO AI ekibi

Human-in-the-loop nedir?

Bu ifade, bir kişinin otomatik bir süreçte nerede konumlandığını tanımlar; bu konum da hem riski hem de maliyeti belirler. Bazı tasarımlarda bir kişinin her eylemi onaylaması gerekir; bazılarında yalnızca modelin emin olmadığı vakaları inceler; bazılarında ise çıktıları sonradan izler ve müdahale edebilir.

Terim kontrol sistemleri ve simülasyon alanından gelir; bugün ağırlıklı olarak makine öğrenmesi ve üretken yapay zekâ için kullanılır. Sıklıkla birbirine karıştırılan iki ayrı amacı vardır: hataları zarara yol açmadan yakalamak ve modeli zaman içinde iyileştiren düzeltilmiş etiketler üretmek.

Human-in-the-loop iş akışı nasıl tasarlanır?

İyi tasarımlar insanlara yalnızca doğru vakaları yönlendirir ve her incelemeyi hızlı hale getirir. Günde yüzlerce kolay vaka gören inceleyiciler refleks olarak onaylamaya başlar; bu hataya otomasyon yanlılığı (automation bias) denir.

  1. Bir güven eşiği belirleyin: örneğin 0,95'in üzerini otomatik onaylayın, 0,6 ile 0,95 arasını incelemeye gönderin, 0,6'nın altını otomatik reddedin. Eşiği gerçek veriler üzerinde ayarlayın.

  2. Risk kuralları ekleyin: yüksek değerli, geri alınamaz veya regülasyona tabi eylemleri güven düzeyinden bağımsız olarak her zaman incelemeye alın.

  3. İnceleme ekranını tasarlayın: modelin önerisini, dayanağını ve tek tıkla kabul et, düzenle veya reddet seçeneklerini gösterin.

  4. Geri bildirimi kaydedin: her düzeltmeyi etiketli veri olarak saklayın.

  5. Ölçün: geçersiz kılma oranını, öğe başına inceleme süresini ve otomatik onaylanan vakaların hata oranını takip edin.

Human-in-the-loop pratikte nasıl görünür?

Ayda 3.000 tedarikçi faturasını işlemek için yapay zekâ tabanlı bir veri çıkarma modeli kullanan orta ölçekli bir borç hesapları (accounts payable) ekibini düşünün. Model, PDF'lerden tedarikçi adını, tutarı, vade tarihini ve satın alma siparişi (PO) numarasını okuyor.

Her alanın yüksek güvenle okunduğu ve tutarın satın alma siparişiyle eşleştiği faturalar otomatik olarak kaydediliyor. Diyelim ki yaklaşık üçte biri eşiğin altında kalıyor veya PO eşleşmesini geçemiyor; bunlar, PDF'i çıkarılan alanların yanında gösteren ve belirsiz alanları vurgulayan bir inceleme kuyruğuna düşüyor.

Belirli bir tutarın üzerindeki veya yeni bir tedarikçiden gelen her şey her zaman ikinci bir onaylayıcıdan geçiyor. Bu örnekte kuyruktan gelen düzeltmeler her çeyrekte çıkarma modelini yeniden eğitiyor; böylece incelenmesi gereken pay zamanla küçülürken finans ekibi kimin neyi onayladığına dair eksiksiz bir denetim izi tutmaya devam ediyor.

Human-in-the-loop'un ödünleşimleri nelerdir?

İnsan eklemek güvenlik sağlar ama aynı zamanda maliyet, gecikme ve bir kapasite tavanı da getirir; bu nedenle güvenilirliğe dair kanıtlar arttıkça döngü küçülmelidir. Amaç, riski kabul edilebilir düzeyde tutan en az miktarda incelemedir.

  • Göstermelik onay: yüksek onay oranları modelin iyi olduğu anlamına gelebilir ya da inceleyicilerin bakmayı bıraktığı anlamına. Kontrol etmek için hatalı olduğu bilinen test vakaları ekleyin.

  • Kuyruk birikmeleri: hacim artışları incelemeyi darboğaza dönüştürür; kadroyu zirve dönemlere göre planlayın.

  • Belirsiz hesap verebilirlik: bir inceleyici yanlış bir kararı onaylarsa, sürecin bunun sorumlusunun kim olduğunu belirtmesi gerekir.

  • Kaybedilen öğrenme: yapılandırılmış veri olarak saklanmayan düzeltmeler, döngünün ikinci amacını boşa harcar.

Human-in-the-loop'un human-on-the-loop'tan farkı nedir?

In-the-loop, sistemin harekete geçmeden önce bir kişiyi beklediği anlamına gelir; on-the-loop ise sistemin kendi başına hareket ettiği, bir kişinin de izleyip gerektiğinde müdahale edebildiği anlamına gelir. Tam otonom sistemlerde ise rutin bir insan kontrol noktası hiç yoktur.

Seçim, geri alınabilirliğe ve risk düzeyine bağlıdır. Para iadesi göndermek, içerik yayımlamak veya bir hastanın bakım planını değiştirmek in-the-loop'a uygundur. Destek taleplerini etiketlemek ise on-the-loop'a uygundur.

Regülasyon da bu yönde ilerliyor: AB Yapay Zekâ Yasası'nın (EU AI Act) 14. maddesi, yüksek riskli yapay zekâ sistemleri için etkili insan gözetimini zorunlu kılar. Onay adımları aynı zamanda yaygın bir yapay zekâ guardrail'idir ve özellikle ajan tabanlı iş akışlarında (agentic workflow) kullanılır; LangGraph gibi framework'ler bir ajanı insan girdisi için duraklatmayı, Label Studio veya Amazon Augmented AI ise inceleme kuyruklarını destekler.

Human-in-the-loop ve tam otomasyon karşılaştırması

Human-in-the-loop

Tam otomasyon

Kim karar verir

Bir kişi onaylar veya düzeltir

Sistem kendi başına hareket eder

Hız

İnceleyici kapasitesiyle sınırlı

İşlem gücüyle sınırlı

En uygun olduğu alan

Yüksek riskli, geri alınamaz, regülasyona tabi eylemler

Düşük riskli, geri alınabilir, yüksek hacimli görevler

Hata yönetimi

Etki oluşmadan yakalanır

Etki oluştuktan sonra, izleme yoluyla bulunur

Model iyileştirme

Düzeltmeler eğitim etiketlerine dönüşür

Ayrı bir etiketleme çalışması gerektirir

VIZIO AI human-in-the-loop sistemlerini nasıl tasarlar?

VIZIO AI, insanların incelemesi gereken yığını küçültmek için otomasyonu kullanır, ardından muhakeme gerektiren kararları uzmanlara bırakır. Birleşik Krallık merkezli bir siber güvenlik araştırma kuruluşu için Growth Studio, Python betiklerinin kural tabanlı mantık ve makine öğrenmesi sezgisel yöntemleriyle olayları Doğrulanmış (Confirmed) veya Doğrulanmamış (Unconfirmed) olarak sınıflandırdığı gerçek zamanlı bir fidye yazılımı izleme paneli geliştirdi; böylece analistler güvenilir, yüksek riskli vakalara odaklanabildi.

Bu tasarım manuel önceliklendirmeyi (triage) %70 azalttı ve doğrulanmış olay kapsamında 5 kat artış sağladı. ABD'deki bir odyoloji hizmet sağlayıcısı için DX Studio, model tahminlerini klinisyenlerin hasta elde tutma panelinde harekete geçtiği erken uyarı bildirimleri olarak sundu ve pilot kliniklerde işitme cihazı iade oranlarını %12–15 azalttı.

Nereden başlamalı: otomatik kararlarınızı ne kadar geri alınabilir olduklarına göre sıralayın ve incelemeyi yalnızca hataların maliyetli olduğu yerlere koyun.

Facebook logosu
X logosu
LinkedIn logosu
Reddit logosu
Telegram logosu

Önce yapay zekâyı düşünün.
Geleceğin hızında ilerleyin.

Sıradakini birlikte inşa edelim! Ürün fikirlerinden akıllı iş akışlarına, veri odaklı sistemlerden ölçeklenebilir büyüme operasyonlarına kadar.

Strateji Görüşmesi Planlayın