FDE Foundations · Modül 6: AI Kararları
Model Sınırları ve Hata Modları
LLM özellikleri bilinen şekillerde kırılır: kendinden emin yanlış bilgi, bozulan formatlar, uç girdilerde sessiz bozulma. Bariyerler tasarımın parçasıdır, lansman sonrası yama değil.
11 dk okuma
Kazanımlar
- LLM destekli özelliklerin hata modlarını listelemek
- Koruma bariyerleri tasarlamak: güven, doğrulama, insan incelemesi
- Beklentileri brifte müşteriyle netleştirmek
Modları bil
- Halüsinasyon: uydurulmuş bilgi, atıf ya da alanların akıcı biçimde sunulması.
- Format kayması: alışılmadık girdilerde çıktının uzlaşılan şemaya uymayı bırakması.
- Uç girdi çökmesi: nadir belge türlerinde ya da dillerde performansın düşmesi.
- Kayma ve sürümleme: sağlayıcı güncellemelerinin haftalar arasında davranışı değiştirmesi.
- Injection: müşteri verisinde saklı talimatların modeli yönlendirmesi.
Bariyer yığını
Çıktıları şemaya bağla ve her alanı doğrula. Düşük güvenli sonuçları kuyruklu ve SLA'li insan incelemesine yönlendir. Sayılar için getirme ya da kuralları doğruluk kaynağı tut: model okur ve önerir, deterministik kod doğrular. Denetim için girdi-çıktı kaydet. Kaçak döngünün fatura olmaması için hız sınırı ve bütçe tavanı koy.
Beklentiler yazılı
Brif, özelliğin ne yapmadığını, değerlendirme setindeki ölçülen doğruluğu ve hata yolunu söyler: "Çıkarma kalem önerir; toplamlar daima kurallarca yeniden hesaplanır; işaretlenen kalemler 5 dakika içinde inceleme kuyruğuna düşer." Müşteri dürüst sınırları kabul eder; üretimde keşfedilen sürprizleri kabul etmez.
Brifte adını verdiğin hata bir tasarım kısıtıdır. Adını vermediğin hata bir destek olayıdır.
Mini kontrol
2-3 soruluk isteğe bağlı öz kontrol. Yanıtlar cihazından çıkmaz, saklanmaz ve hiçbir değerlendirmeye sayılmaz.
Alıştırma
Müşteri yanıt e-postası taslağılayan kurgusal bir LLM özelliği için bariyer planını yazın: beklediğiniz üç hata modu, her biri için bariyer ve sınırları müşteriye bildiren brif paragrafı.
Geçme kriterleri
Hata modları spesifik (jenerik değil), her biri somut bariyere sahip (şema, eşik, inceleme yolu) ve brif paragrafı sınırları ve hata yönetimini iki-üç cümlede belirtmeli.