Yapay Zekâ Ajanları İçin Tasarım: Onaylar, Geri Alma ve Ajanın Yaptığı İşi Göstermek
Bir yapay zekâ ajanı arayüzünü tek bir döngü etrafında tasarlayın: planı önizleyin, yazmadan önce onaylayın, harekete geçin, her adımı kaydedin ve geri almayı kolaylaştırın. PAIR ve HAX'ten kalıplar.
8 dk. okuma

İçindekiler
Arayüzü tek bir döngü etrafında tasarlayın: ajan planını önizler, kullanıcı yazan veya gönderen her şeyi onaylar, ajan harekete geçer, her adım okunabilir bir etkinlik günlüğüne düşer ve geri alma elinizin altındadır. Google'ın People + AI Guidebook'u ve Microsoft'un İnsan-Yapay Zekâ Etkileşimi Yönergeleri aynı yönü işaret ediyor: kalibre edilmiş güven, görünür akıl yürütme ve kolay düzeltme.
Yeni uygulama içi ajandan "geçen haftaki içe aktarmadan kalan yinelenen müşteri kayıtlarını temizlemesini" isteyen bir operasyon sorumlusu düşünün. Ajan birkaç yüz olası eşleşme buluyor, bunları birleştiriyor ve "Tamamlandı" diye bildiriyor. İki gün sonra satış ekibi, benzer isimli iki farklı şirketin artık tek bir kayıt olduğunu, bir şirketin kişilerinin ve faturalarının diğerine bağlandığını fark ediyor. Planı kimse görmedi, birleştirmeyi kimse onaylamadı ve kayıtları yerine koyacak bir düğme yok.
Model, kendisinden istenenin kabaca bir kısmını yaptı. Başarısız olan arayüzdür. Ajana, kişiye yaptıklarını görme, yönlendirme veya geri alma yolu vermeden eylem yapma gücü verdi.
Bir yapay zekâ ajanı için tasarım yapmak, sohbet botu için tasarım yapmaktan nasıl farklıdır?
Bir yapay zekâ ajanı ürününüzde eylemler gerçekleştirir; bu nedenle hataları yalnızca kötü bir yanıt üretmekle kalmaz, veriyi değiştirir. Yapay zekâ ajanı, kayıtları güncellemek, mesaj göndermek veya talep açmak gibi araçları çağırarak çok adımlı görevleri planlamak ve yürütmek için bir model kullanan yazılımdır.
Bir sohbet botunun çıktısı bir kişinin okuduğu metindir; bir ajanın çıktısı değişmiş bir sistemdir. Bu, tasarım sorusunu "yanıt iyi mi?"den "ne yaptı, buna izin var mıydı ve geri alabilir miyiz?"e taşır.
Burada iki herkese açık tasarım rehberi yardımcı oluyor; ancak ikisi de bugünün ajanlarından önce yazıldı: Google'ın People + AI Research (PAIR) ekibinden People + AI Guidebook ve Microsoft'un İnsan-Yapay Zekâ Etkileşimi Yönergeleri; ilk kez 2019 CHI makalesinde sunulan ve HAX Toolkit'te tasarım kalıplarıyla yayımlanan 18 yönerge. Güven, denetim ve düzeltme konusundaki tavsiyeleri, bir ajanın döngüsüyle yakından örtüşüyor.
Bir yapay zekâ ajanı için onay döngüsü nedir?
Onay döngüsü, arayüzün her görev için yürüttüğü beş adımdır: plan önizleme, onay, eylem, etkinlik günlüğü ve geri alma. Her adım, kullanıcının aksi halde çok geç soracağı bir soruyu yanıtlar.

Plan önizleme. Herhangi bir şey yapmadan önce ajan, ne yapmayı amaçladığını sade bir dille gösterir: hangi kayıtlar, hangi araçlar, hangi değişiklikler. İstek belirsizse önce sorar. Bu, HAX Yönerge 10'dur, Şüphe durumunda hizmetin kapsamını daraltın; ilk kalıbı "Harekete geçmeden önce belirsizliği giderin."
Onay. Kullanıcı, herhangi bir yazma işleminden önce planı onaylar, düzenler veya reddeder. PAIR Hatalar + Zarif Başarısızlık bölümü, "durumsal riskler daha yüksek olduğunda ek bir kontrol olması gerektiğini" söyler. Bir onay adımı, zararı hâlâ önleyebileceği yere yerleştirilmiş bu kontroldür.
Eylem. Ajan onaylanan planı yürütür ve ilerlemeyi ve ne kadar emin olduğunu gösterir. HAX Yönerge 2, Sistemin yapabildiğini ne kadar iyi yapabildiğini açıkça belirtin, "kullanıcının yapay zekâ sisteminin ne sıklıkla hata yapabileceğini anlamasına yardımcı olmanızı" ister; burada bu, ajanın en az emin olduğu adımları işaretlemek anlamına gelir.
Etkinlik günlüğü. Her eylem, neyin değiştiği, ne zaman ve ajanın neden seçtiği ile birlikte kaydedilir. Bu, HAX Yönerge 11'dir, Sistemin yaptığını neden yaptığını açıkça belirtin: "Kullanıcının, yapay zekâ sisteminin neden öyle davrandığına dair bir açıklamaya erişmesini sağlayın."
Geri alma. Geri alınabilir her eylem günlükten, her seferinde bir eylem veya bir tüm çalıştırma olarak geri alınabilir. HAX Yönerge 9, Verimli düzeltmeyi destekleyin, kalıplarından biri olarak "Otomatik eylemleri geri alın"ı listeler.
Hangi ajan eylemleri çalışmadan önce onay gerektirir?
Yazan, gönderen, harcayan veya silen eylemler onay gerektirir; yalnızca okuyan veya taslak hazırlayan eylemler genellikle gerektirmez. Her şey için onay istemek insanlara okumadan "Onayla"ya tıklamayı öğretir; bu yüzden sürtünmeyi riske göre ayarlayın.
PAIR Geri Bildirim + Denetim bölümü "otomasyon ile kullanıcı denetimi arasında temel bir denge"yi anlatır. Bu liste, o dengeyi kurmanın bir yoludur.
Okuma. Örnek: Kayıtlarda arama yapmak, bir konuşmayı özetlemek. Geri alınabilir mi: Geri alınacak bir şey yok. Arayüz kalıbı: Sormadan çalıştırın; günlükte gösterin.
Taslak. Örnek: Bir e-posta veya rapor yazmak, ancak göndermemek. Geri alınabilir mi: Evet, taslağı atın. Arayüz kalıbı: Çalıştırın, ardından inceleme için sunun.
Geri alınabilir yazma. Örnek: Talepleri etiketlemek, bir alanı güncellemek, geçmiş korunarak birleştirmek. Geri alınabilir mi: Evet, eski değeri saklarsanız. Arayüz kalıbı: Toplu iş için tek onaylı plan önizleme; günlükten geri alma.
Geri alınamaz yazma. Örnek: Kalıcı silme, geçmişsiz üzerine yazma. Geri alınabilir mi: Hayır. Arayüz kalıbı: Öğe düzeyinde onay, net bir uyarı ve yazılı ya da ikinci bir onay.
Dış etki. Örnek: E-posta göndermek, mesaj paylaşmak, ödeme yapmak. Geri alınabilir mi: Hayır, bir kez çıktıktan sonra. Arayüz kalıbı: Tam içerik ve alıcı üzerinde, her seferinde onay.
İki iyileştirme yardımcı olur. Birincisi, eşiği kullanıcıların kendilerinin belirlemesine izin verin; bu HAX Yönerge 17'dir, Genel denetimler sağlayın: "Kullanıcının, yapay zekâ sisteminin neyi izlediğini ve nasıl davrandığını genel olarak özelleştirmesine izin verin." İkincisi, tuş vuruşlarını değil planları onaylayın. "Bu çiftleri birleştir, işte liste" için tek bir onay, her çift için bir açılır pencereden daha iyidir.
Bir ajan yaptığı işi ve güvenini nasıl göstermeli?
Bir ajan, yaptığı işi teknik olmayan bir kullanıcının okuyabileceği adım adım bir etkinlik günlüğü olarak, güvenini ise emin olmadığı belirli öğeler üzerinde sade dille işaretler olarak göstermelidir. Tek bir genel "güven: yüzde 87" kimsenin neyi kontrol edeceğine karar vermesine yardımcı olmaz.
Etkinlik günlüğünü mühendisler için değil, insanlar için yazın
Etkinlik günlüğü, ajanın yaptığı her eylemin, dokunduğu verinin ve verdiği gerekçenin zaman damgalı, süregelen bir kaydıdır. Her girdiyi bir cümle olarak yazın: "KDV numaraları eşleştiği için Acme Ltd, Acme Limited ile birleştirildi." Her girdiyi değiştirdiği kayda bağlayın ve girdileri çalıştırmaya göre gruplayın; böylece bir kişi bir görevi bütün olarak inceleyebilir.
Güveni bir kararı değiştirdiği yerde gösterin
PAIR'in Açıklanabilirlik + Güven bölümü, "güven göstergelerinin kullanıcıların yapay zekâ çıktısına ne kadar güvenecekleri konusunda fikir edinmesine yardımcı olduğunu" söyler ve "sayısal güven göstergelerinin riskli olduğunu; çünkü kullanıcılarınızın olasılık hakkında iyi bir temel anlayışa sahip olduğunu varsaydıklarını" belirtir. Pratikte planı, en az kesin öğeler önce gelecek şekilde sıralayın, bunları sözcüklerle etiketleyin ("isimler eşleşiyor, adresler eşleşmiyor") ve yalnızca ajanın emin olduğu öğeleri önceden seçili bırakın. Aynı bölüm hedefi açıkça koyar: kullanıcılar "güvenlerini doğru biçimde kalibre etmeli"; sisteme bazı durumlarda güvenmeli, diğerlerinde iki kez kontrol etmelidir.
Bir ajanın zaten gerçekleştirdiği eylemler için geri almayı nasıl tasarlarsınız?
Geri almayı önce veri modelinde, sonra düğmede tasarlayın: bir eylem yalnızca sistem neyi değiştirdiğini sakladıysa geri alınabilir. Ajanın yaptığı her yazma işlemi için önceki değeri, değişikliği yapan ajan çalıştırmasını ve zamanı saklayın.

Üç geri alma düzeyi
Bir eylemi geri al: etkinlik günlüğündeki tek bir girdiyi, örneğin bir çiftin birleştirilmesini geri alın.
Bir çalıştırmayı geri al: tek bir görevin yaptığı her şeyi ters sırayla geri alın.
Devral: ajanı durdurun ve görevi kişiye geri verin. PAIR'in Hatalar + Zarif Başarısızlık bölümü, "bir yapay zekâ sistemi başarısız olduğunda ilerlemenin en kolay yolunun çoğu zaman kullanıcının devralmasına izin vermek olduğunu" not eder.
Geri alma imkânsız olduğunda kontrolü öne çekin
Gönderilmiş bir e-posta veya tamamlanmış bir ödeme geri çağrılamaz. Bunlar için güvenceyi eylemden önce koymak gerekir: tam içerik üzerinde onay, göndermeden önce iptal seçeneği olan kısa bir gecikme veya kişinin kendisinin göndereceği bir taslak. Arayüzde hangi eylemlerin kesin olduğu konusunda dürüst olun; böylece "Geri al" asla çalışamayacağı yerde görünmez.
Ajan arayüzünün çalışıp çalışmadığını nasıl anlarsınız?
İnsanlar bir mühendise sormadan üç soruyu yanıtlayabiliyorsa çalışıyordur: ajan ne yaptı, neden ve nasıl geri alırım? Gerçek kullanıcılarla gerçek görevlerde test edin ve nerede tereddüt ettiklerini izleyin.
Lansmandan önce kontrol listesi
Her yazma, gönderme, harcama veya silme işleminin kullanıcının düzenleyebileceği bir plan önizlemesi var.
Onay sürtünmesi eylem türüne uyuyor ve kullanıcılar bunu ayarlayabiliyor.
Belirsiz öğeler sözcüklerle işaretleniyor ve en başta listeleniyor.
Her eylem, değiştirdiği kayda bağlı, okunabilir bir etkinlik günlüğünde görünüyor.
Geri alınabilir eylemler tek tek ve çalıştırma bazında geri alınabiliyor.
Geri alınamaz eylemler onaydan önce açıkça kesin olarak etiketleniyor.
Bir kullanıcı ajanı çalışma ortasında durdurup devralabiliyor.
Reddedilenler ve geri almalar kaydediliyor; böylece ekip ajanın hangi tür görevlerde hata yaptığını görebiliyor.
Bu son madde, döngünün zamanla nasıl iyileştiğidir. Tek bir görev türündeki bir geri alma kümesi, plan önizlemesinin şu anda sormadığı bir soruyu sorması gerektiğini söyler.
Vizio AI olarak buna nasıl yaklaşıyoruz
Ekranları tasarlamadan önce döngüyü tasarlıyoruz. Müşteriyle birlikte ajanın yapmasına izin verilecek her eylemi listeliyor ve her birini yukarıdaki listedeki eylem türlerine ayırıyoruz. Bu liste, onayların nerede duracağını, etkinlik günlüğünün neyi kaydetmesi gerektiğini ve geri almanın mümkün olması için hangi eylemlerin saklanan geçmişe ihtiyaç duyduğunu belirler.
Sonra plan önizlemesini ve etkinlik günlüğünü, dağınık ve belirsiz durumlar dahil gerçekçi verilerle prototipliyor ve ajanı denetleyecek kişilerin önüne koyuyoruz. Ajanın ne yapacağını onaylamadan önce söyleyip söyleyemediklerini ve sonradan yardım almadan geri alıp alamadıklarını test ediyoruz. Mühendislik, geçmişi ve geri alma yollarını ilk sprint'ten itibaren veri modeline işler; çünkü sonradan eklemek genellikle yeniden yazım anlamına gelir.
Bu, Venture Studio'muzun yapay zekâ ürünlerini nasıl geliştirdiğinin bir parçasıdır. Uygulamanız hâlâ şekilleniyorsa, Ürün Keşfi Neden Geliştirmeden Önce Yapılmalı yazısı bunların hepsinden önceki adımı ele alıyor. Yapay zekâ kodlama araçlarıyla geliştirdiyseniz, Yapay Zekâyla Yapılan Uygulamanız Demoda Çalışıyor. Gerçek Kullanıcılarla Neler Bozuluyor? yazısı lansman kontrol listesidir.
Kaynaklar
Google PAIR, People + AI Guidebook: https://pair.withgoogle.com/guidebook/
Google PAIR, People + AI Guidebook, Explainability + Trust: https://pair.withgoogle.com/chapter/explainability-trust/
Google PAIR, People + AI Guidebook, Feedback + Control: https://pair.withgoogle.com/chapter/feedback-controls/
Google PAIR, People + AI Guidebook, Errors + Graceful Failure: https://pair.withgoogle.com/chapter/errors-failing/
Microsoft HAX Toolkit, Guidelines for Human-AI Interaction: https://www.microsoft.com/en-us/haxtoolkit/ai-guidelines/
Microsoft HAX Toolkit, Guideline 2: Make clear how well the system can do what it can do: https://www.microsoft.com/en-us/haxtoolkit/guideline/make-clear-how-well-the-system-can-do-what-it-can-do/
Microsoft HAX Toolkit, Guideline 9: Support efficient correction: https://www.microsoft.com/en-us/haxtoolkit/guideline/support-efficient-correction/
Microsoft HAX Toolkit, Guideline 10: Scope services when in doubt: https://www.microsoft.com/en-us/haxtoolkit/guideline/scope-services-when-in-doubt/
Microsoft HAX Toolkit, Guideline 11: Make clear why the system did what it did: https://www.microsoft.com/en-us/haxtoolkit/guideline/make-clear-why-the-system-did-what-it-did/
Microsoft HAX Toolkit, Guideline 17: Provide global controls: https://www.microsoft.com/en-us/haxtoolkit/guideline/provide-global-controls/
SSS.
Daha Fazla Oku

Attribution That Survives Your Tool Stack: Keeping UTMs From Ad to Booking to CRM

Clean Your CRM Data Before You Add AI: Dedupe, Grain and Ownership

Semantic Layer First: Getting Your BI Ready for AI Agents

How F&B CMOs Use Generative AI In Business For Location Decisions

How Real Estate Firms Use Business Analytics For City Parks To Drive Value

Data Storytelling and Visualization

When Does a Business Actually Need Digital Transformation?

Analytics for Product Recommendations

Data Analyst vs. Data Quality Analyst

The Best NoSQL Analytics Tools 2024



