İçeriğe geç

Sözlük

Veri Yönetişimi ve Güvenliği

Veri Etiği

Veri etiği, verinin toplanıp toplanmayacağına, nasıl birleştirileceğine ve nasıl kullanılacağına yön veren ilkeler bütünüdür; yasal asgari gerekliliklerin ötesine geçerek adaleti, rızayı, şeffaflığı ve verinin tanımladığı kişilere verilebilecek zararı tartar.

Güncelleme: · Hazırlayan: VIZIO AI ekibi

Veri etiği nedir?

Hukuk size veriyle ne yapmamanız gerektiğini söyler; etik ise yasal olsa bile ne yapmamanız gerektiğini sorar. Alışveriş sepetlerinden hamileliği çıkarsayan bir model bazı yerlerde yasal olabilir, ancak müşterilere yine de müdahaleci gelebilir.

Veri etiği tüm yaşam döngüsü için geçerlidir: ne topladığınız, kaynakları nasıl birleştirdiğiniz, hangi modelleri eğittiğiniz ve çıktıları kimlerin gördüğü. Çoğu çerçeve beş soru etrafında toplanır:

  • Rıza: İnsanlar verilerinin bu şekilde kullanılmasını bekler mi?

  • Adalet: Sonuç, gruplara geçerli bir neden olmaksızın farklı davranıyor mu?

  • Şeffaflık: Kararı etkilenen kişiye açıklayabilir misiniz?

  • Minimizasyon: Amacın gerektirdiğinden fazlasını mı topluyorsunuz?

  • Hesap verebilirlik: Bir şeyler ters gittiğinde kim hesap verecek?

Ekipler veri etiğini nasıl uygulamaya koyar?

Etik, bir değerler posteri olarak değil, proje şablonundaki bir kontrol listesi olarak yer aldığında işlevsel hâle gelir. Her yeni veri kullanımı veya model öncesinde yapılacak hafif bir inceleme bir saat içinde tamamlanabilir:

  1. Amaç testi: Verinin yönlendireceği kararı ve bu karardan kimlerin etkileneceğini belirtin.

  2. Vekil (proxy) kontrolü: Korunan özelliklerin yerine geçen alanları arayın; örneğin etnik köken yerine posta kodu.

  3. Sonuç testi: Gruplar arasında seçilme oranlarını karşılaştırın. ABD istihdam rehberliği, seçilme oranı en yüksek grubun oranının %80'inin altında kalan bir grubu işaretleyen beşte dört kuralını kullanır.

  4. Açıklanabilirlik: GDPR Madde 22'nin yalnızca otomatik kararlara getirdiği sınırlamalarla uyumlu olarak, kişinin sade bir dille gerekçe alabildiğini doğrulayın.

  5. Çıkış planı: Sistemi kimin durdurabileceğini tanımlayın.

Veri etiği pratikte nasıl görünür?

İşe yarayan etik kararlar genellikle erken aşamada verilen küçük tasarım tercihleridir. Kredi ön onay modeli geliştiren 90 kişilik bir tüketici kredisi girişimini düşünün.

Diyelim ki ilk model başvuru sahiplerini gelirin yanı sıra cihaz türü ve e-posta alan adına göre sıralıyor. İnceleme, her ikisini de geri ödemeyle nedensel bağı zayıf olan, yaş ve gelir grubunun muhtemel vekilleri olarak işaretliyor. Ekip bu alanları çıkarıyor, modeli yeniden çalıştırıyor ve yaş gruplarına göre onay oranlarını beşte dört eşiğine göre kontrol ediyor.

Son olarak her kararı model sürümü ve girdi değerleriyle birlikte kayıt altına alıyorlar; böylece herhangi bir şikâyet aylar sonra bile izlenip incelenebiliyor. Ayrıca reddedilen başvuru sahiplerine en önemli iki gerekçenin sade bir dille iletilmesine ve bir insan kredi değerlendirme uzmanına başvurma yolu sunulmasına karar veriyorlar. Doğruluk biraz düşüyor, ancak ürün düzenleyiciler ve müşteriler için açıklanabilir hâle geliyor.

Veri etiğinde ödünleşimler ve tuzaklar nelerdir?

En zor ödünleşim doğruluk ile adalet arasındadır, çünkü en yüksek tahmin gücüne sahip özellikler çoğu zaman tarihsel önyargıyı içinde barındırır. Korunan bir özelliği çıkarmak, onunla ilişkili alanlar kaldığı sürece önyargıyı ortadan kaldırmaz.

  • Etik aklama (ethics washing): Tek bir projeyi bile değiştirmeden ilkeler yayımlamak.

  • Tek seferlik inceleme: Modeller zamanla kayar; lansmanda adil olan bir model bir yıl sonra adaletsiz hâle gelebilir.

  • "Ne olur ne olmaz" diye aşırı veri toplama: Sakladığınız veri, sızabilecek veya kötüye kullanılabilecek veridir.

Bir diğer tuzak, etiği yalnızca veri bilimi ekibinin işi olarak görmektir. Sonuçları ilk gören ürün, hukuk ve müşteri destek ekipleridir; bu yüzden incelemede onların da yer alması gerekir. Etik diğer yönde de işler: veriyi hiç kullanmamak insanları daha iyi hizmetten mahrum bırakabilir; dolayısıyla hedef tamamen kaçınmak değil, orantılılıktır.

Veri etiği, veri gizliliği ve yapay zekâ yönetişiminden nasıl ayrılır?

Gizlilik insanlarla ilgili bilgileri korur, yapay zekâ yönetişimi modellerin nasıl oluşturulup çalıştırıldığını denetler, etik ise kullanımın en baştan doğru olup olmadığını değerlendirir. Bu alanlar büyük ölçüde örtüşür ancak farklı sorulara yanıt verir.

Veri gizliliği büyük ölçüde GDPR ve CCPA gibi yasalarla düzenlenmiştir. Yapay zekâ yönetişimi, NIST AI Risk Management Framework ve EU AI Act gibi çerçevelerle model envanterleri, risk katmanları ve izleme ekler. Adalet boyutu için pratik araçlar arasında Fairlearn, IBM AI Fairness 360 ve Google'ın What-If Tool'u bulunur; yüksek riskli vakaları ise döngüde insan (human-in-the-loop) incelemesi ele alır.

Veri etiği ve veri uyumluluğu karşılaştırması

Veri etiği

Veri uyumluluğu

Ölçüt

Neyin doğru ve orantılı olduğu

Yasaların ve sözleşmelerin neyi gerektirdiği

Uygulayan

İç inceleme, itibar, müşteriler

Düzenleyiciler, denetçiler, mahkemeler

Tipik soru

Bunu hiç yapmalı mıyız?

Buna iznimiz var mı ve bunu kanıtlayabilir miyiz?

Örnek kontrol

Gruplara göre seçilme oranları

İşleme için kayıt altına alınmış hukuki dayanak

Ne zaman geçerli

Her yeni veri kullanımında veya modelde

Düzenlemeye tabi veri işlendiğinde

VIZIO AI projelerinde veri etiğine nasıl yaklaşıyor?

VIZIO AI'ın bu konudaki en ilgili çalışması, hassas veriler üzerinde insan muhakemesinin yerini almak yerine onu destekleyen tahmine dayalı sistemler tasarlamaktır. Yedi eyalette klinik işleten ABD'li bir odyoloji hizmetleri sağlayıcısı için DX Studio'muz, işitme cihazını iade etme riski taşıyan hastaları işaretleyen Python ve Azure ML modelleri geliştirdi.

Tahminler Power BI'da soyut skorlar olarak değil, klinisyenler için eyleme dönüştürülebilir sinyaller olarak sunuldu; böylece takip kararlarını bakım ekipleri veriyor. Sağlayıcı, pilot kliniklerde işitme cihazı iade oranlarını %12–15 azalttı. Vaka çalışması resmî bir etik incelemeyi anlatmıyor; örtüşen nokta, hasta verileri üzerinde insan odaklı tasarımdır.

Nereden başlamalı: Bir sonraki modeliniz üretime geçmeden önce yukarıdaki beş adımlı incelemeyi uygulayın.

Facebook logosu
X logosu
LinkedIn logosu
Reddit logosu
Telegram logosu

Önce yapay zekâyı düşünün.
Geleceğin hızında ilerleyin.

Sıradakini birlikte inşa edelim! Ürün fikirlerinden akıllı iş akışlarına, veri odaklı sistemlerden ölçeklenebilir büyüme operasyonlarına kadar.

Strateji Görüşmesi Planlayın