Güven sorununa üç farklı cevap
Hukuk yapay zekâsı pazarında herkes aynı soruyla boğuşuyor: üretilen atıflara güvenilebilir mi? Verilen cevaplar üç yaklaşımda toplanıyor:
- "Hiç üretmiyoruz." Bazı araçlar yalnızca mevcut kararları arar, metin üretmez. Halüsinasyon riski doğal olarak düşüktür — ama dilekçenizi de yazmaz. Güvenlik, işin yapılmamasıyla sağlanmıştır.
- "Bize güvenin." Bazı araçlar dilekçe üretir ve atıfların doğruluğunu "garanti ettiğini" söyler — fakat bunu nasıl yaptığını göstermez. Kontrol imkânınız yoktur; iddia, iddia olarak kalır.
- "Kendiniz doğrulayın." Üçüncü yaklaşım, her atıfın yanına kanıtını koyar: kaynağı, eşleşen karar pasajı ve güven düzeyi görünür; doğrulanamayan atıf açıkça işaretlenir.
Programatik doğrulama ne demek?
Atıf doğrulama iki seviyede yapılabilir. Söz seviyesinde: modele "uydurma yapma, emin olmadığını belirt" talimatı verilir — bu, modelin kendi kendine verdiği bir sözdür ve modeller kendilerine verilen sözü tutmakta zayıftır. Program seviyesinde: üretilen her atıf, modelden bağımsız bir yazılım katmanı tarafından gerçek karar veritabanlarıyla karşılaştırılır. Künye arşivde aranır, alıntı karar metniyle eşleştirilir, sonuç etiketlenir. İkisi arasındaki fark, "söz veriyorum" ile "işte makbuzu" arasındaki farktır.
İyi bir doğrulama sistemi neyi gösterir?
- Kaynak etiketi: Atıf nereden geldi? Kendi veritabanından mı, canlı resmî arşiv sorgusundan mı, mevzuattan mı, yoksa modelin genel bilgisinden mi? Modelin genel bilgisinden gelen atıf en düşük güven sınıfındadır ve öyle de etiketlenmelidir.
- Eşleşen pasaj: Kararın hangi cümlesi sizin önermenizi destekliyor? Bu kritik bir incelik: karar gerçek olabilir ama sizin iddianızı desteklemiyor olabilir. Literatürde "yanlış zemine oturtulmuş atıf" denen bu hata, künye kontrolüyle yakalanamaz — pasaj eşleşmesi gerekir.
- Güven düzeyi: Kaynağın gücüne göre (resmî arşiv teyidi > veritabanı eşleşmesi > model bilgisi) derecelendirilmiş, renkle/rozetle görünür bir işaret.
- Dürüst belirsizlik: Doğrulanamayan atıf sessizce silinmez ya da gizlenmez; "doğrulanamadı — kontrol edin" diye işaretlenir. Karar avukatta kalır.
Neden "halüsinasyon yok" sözü yetmez?
Çünkü denetlenemez. Stanford Üniversitesi'nin 2024 araştırması, "halüsinasyon çözüldü" pazarlamasıyla satılan kurumsal hukuk araçlarında bile ölçülebilir hata oranları buldu. Pazarlama cümlesi ile ölçülebilir mekanizma arasındaki farkı ancak şu soruyla anlarsınız: "Yanıldığınızda bunu nereden göreceğim?" Bu soruya ekran üzerinde somut cevap veremeyen araç, size güven değil, güven duygusu satıyordur.
Avukat için pratik sonuç
Hangi aracı kullanırsanız kullanın: (1) kaynağını göstermeyen atıfı dilekçeye almayın, (2) künyesi doğrulanan kararın pasajını da okuyun — iddianızı gerçekten destekliyor mu, (3) "doğrulanamadı" işaretini bir kusur değil, bir hizmet olarak görün. Sizi disiplin riskinden koruyan şey o işarettir.
Dilekçem AI bu üçüncü yaklaşımla çalışır: her atıf kaynak etiketi, eşleşen pasaj ve güven düzeyiyle sunulur; resmî arşivden teyit edilenler rozetlenir, edilemeyenler açıkça işaretlenir. 3 günlük ücretsiz denemede paneli kendi dosyanızla görün; yaklaşımların karşılaştırması için seçim rehberine bakın.