Yapay Zekânın Yanılmasından Daha Tehlikeli Olan Nedir? Uydurulizm ve Denetim İhtiyacı
Ali Değişmiş | Düşünce Yazıları
Yapay zekâ sistemleri hayatımıza girdikçe bilgiye ulaşma biçimimiz de değişiyor. Eskiden bir sorunun cevabını bulmak için farklı kaynakları araştırırken bugün birkaç saniye içinde uzun, düzenli ve oldukça ikna edici açıklamalarla karşılaşabiliyoruz.
Bu gelişme şüphesiz önemli. Ancak beraberinde üzerinde düşünmemiz gereken bir soruyu da getiriyor:
Bir açıklamanın ikna edici olması, onun doğru olduğu anlamına gelir mi?
Yapay zekâ sistemleriyle yaptığım çalışmalar sırasında dikkatimi çeken meselelerden biri tam olarak buydu.
Bir sistem yanlış bilgi verebilir. Bu şaşırtıcı değildir. İnsanlar da yanılır. Ancak yanlış bir bilginin güvenilir kaynaklara dayanıyormuş gibi sunulması, basit bir hatanın ötesinde başka bir sorunu ortaya çıkarır.
Bu düşünceden hareketle şu ifadeyi önemli buluyorum:
“Yapay zekânın yanılmasından daha tehlikeli olan, yanıldığında bile haklı görünmesini sağlayan bir anlatım üretmesidir.”
Uydurulizm Nedir?
Uydurulizm, yeterli kanıta dayanmayan bir bilginin, belirsizliği açıklanmadan veya hak edilmemiş bir kesinlikle sunulmasını eleştirmek amacıyla geliştirdiğim kavramsal bir yaklaşımdır.
Burada yalnızca yanlış bilgi üretmekten söz etmiyorum.
Bir iddianın doğruluğu, dayanağı ve sunuluş biçimi arasında kurulması gereken ilişkiden söz ediyorum.
Örneğin yapay zekâ bir konuda yanlış cevap verebilir. Ardından bu cevabı açıklamak için son derece mantıklı görünen gerekçeler oluşturabilir. Hatta konuyla ilgili kaynaklar gösterebilir.
Fakat kaynakların gerçekten o iddiayı destekleyip desteklemediği ayrı bir sorudur.
Kaynak göstermek, kaynağın iddiayı doğruladığını kanıtlamaz.
Uydurulizm’in üzerinde durduğu temel sorunlardan biri, bilginin dayanağı ile onu sunarken kullanılan kesinlik arasındaki uyumsuzluktur.
Gerekçe Görünümü, Gerçek Gerekçe Değildir
Bir yapay zekâ sisteminin açıklamasında kaynak bağlantıları bulunması kullanıcıda güven oluşturabilir.
Ancak bağlantının varlığı kadar içeriği de önemlidir.
Bir iddia düşünelim. Yapay zekâ, bu iddiayı desteklediğini belirttiği bir bağlantı sunuyor. Kullanıcı bağlantıyı açtığında ise karşısına yalnızca genel bir kategori sayfası veya konuyla dolaylı ilişkili bir yazı çıkıyor.
Ortada gerçek bir doğrulama bulunmadığı hâlde cevap, doğrulanmış izlenimi verebilir.
İşte burada cevap kadar cevabın nasıl gerekçelendirildiğini de incelememiz gerekir.
Bu durum yalnızca yapay zekâya özgü değildir. İnsanlar da zaman zaman yeterince araştırmadıkları konuları güçlü ifadelerle anlatabilir.
Ancak yapay zekânın aynı davranışı çok daha hızlı ve geniş ölçekte gerçekleştirebilmesi, bilgi güvenilirliği açısından ayrıca değerlendirilmelidir.
Uydurulizm Bir Denetim Yaklaşımına Dönüşebilir mi?
Bence bu sorunun üzerinde durmaya değer.
Uydurulizm başlangıçta mizahi bir kavram olarak ortaya çıkmış olsa da işaret ettiği sorun ciddidir.
Bu kavramdan hareketle yapay zekâ cevaplarını değerlendirmek için dört temel soru öneriyorum:
- İddia: Yapay zekâ tam olarak ne söylüyor?
- Dayanak: Gösterdiği kaynak veya kanıt, bu iddiayı gerçekten destekliyor mu?
- Kesinlik: Kullanılan güven düzeyi, mevcut kanıtların izin verdiği ölçüde mi?
- Düzeltilebilirlik: Yanlışlık veya yetersiz gerekçe gösterildiğinde sistem cevabını gözden geçirebiliyor mu?
Bu soruların birlikte değerlendirilmesi, Uydurulizm’in pratik bir denetim çerçevesine dönüştürülmesi için başlangıç olabilir.
Böyle bir yaklaşım yalnızca cevabın doğru veya yanlış olduğunu değil, cevabın neden güvenilir kabul edildiğini de incelemeyi amaçlar.
Elbette bu önerinin etkili bir teknik mekanizmaya dönüşebilmesi için açık ölçütlere, karşılaştırmalı deneylere ve bağımsız değerlendirmelere ihtiyaç vardır.
Dolayısıyla Uydurulizm’i bugün bilimsel olarak doğrulanmış bir denetim sistemi olarak değil, geliştirilmeye açık bir kavramsal öneri olarak değerlendiriyorum.
Uluslararası Çalışmalar da Aynı Soruna Dikkat Çekiyor
Yapay zekâ güvenilirliği üzerine yürütülen araştırmalarda da benzer sorunlar ele alınıyor.
ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), 2024 yılında yayımladığı Generative Artificial Intelligence Profile çalışmasında, üretken yapay zekâ sistemlerinin yanlış bilgileri güvenli bir anlatımla sunabilmesini ve bunları yanıltıcı gerekçeler ya da kaynaklarla destekleyebilmesini riskler arasında değerlendiriyor.
Bu bulgular Uydurulizm kavramının doğrulandığı anlamına gelmez. Ancak kavramın ele aldığı sorunun yapay zekâ güvenilirliği alanında gerçek bir araştırma konusu olduğunu gösterir.
İstişarelizm ve Değişmişizm ile İlişkisi
Uydurulizm’in işaret ettiği sorun, geliştirmekte olduğum diğer iki düşünsel yaklaşımla da ilişkilidir.
İstişarelizm, insan ile yapay zekâ arasında gerekçeli itirazı, karşılıklı değerlendirmeyi ve gerektiğinde görüşün düzeltilmesini önemser.
Değişmişizm ise yalnızca fikir değiştirmenin değil, değişmemenin ve beklemenin de gerekçelendirilmesi gerektiğini sorgular.
Bu çerçevede Uydurulizm bir bilgi sorununa dikkat çekerken İstişarelizm o sorunun birlikte nasıl tartışılabileceğine, Değişmişizm ise ulaşılan görüşün hangi gerekçelerle korunabileceğine veya değiştirilebileceğine yönelik düşünme alanları açar.
Üç yaklaşımın ortak noktası, hiçbir açıklamanın sırf kendinden emin biçimde sunulduğu için doğru kabul edilmemesi gerektiğidir.
Üstelik aynı ilke bu kavramlar için de geçerlidir. Kendi geliştirdiğim görüşlerin de eleştiriye ve düzeltmeye açık olması gerektiğini düşünüyorum.
Amaç Yapay Zekâyı Suçlamak Değil
Uydurulizm’i yapay zekâ sistemlerini suçlamak, belirli bir şirketi hedef almak veya her hatayı kasıtlı bir davranış olarak yorumlamak için geliştirmedim.
Amacım, insanın ve yapay zekânın bilgiyle kurduğu ilişkide daha dikkatli bir değerlendirme kültürünün gelişmesine katkıda bulunmak.
Çünkü yapay zekâdan her şeyi bilmesini beklemek gerçekçi değildir.
Ancak bilmediği yerde belirsizliğini ifade etmesini, dayanaklarını doğru göstermesini ve gerekçeli itiraz karşısında cevabını yeniden değerlendirmesini beklemek anlamlıdır.
Gelecekte yapay zekâ sistemlerinin değerlendirilmesinde yalnızca doğruluk oranlarına değil, yanlış cevapların ne kadar ikna edici sunulduğuna da daha fazla dikkat edilmesi gerektiğini düşünüyorum.
Yanlış bilgi bir sorundur. Yanlış bilginin doğrulanmış gibi görünmesi ise ayrıca denetlenmesi gereken bir sorundur.
Sonuç: Daha Fazla Cevap Değil, Daha Güvenilir Gerekçeler
Yapay zekâ teknolojileri geliştikçe daha hızlı ve daha ayrıntılı cevaplar alacağız.
Fakat insanlık için asıl ilerlemenin yalnızca cevap sayısının artmasında olmadığını düşünüyorum.
Önemli olan, hangi cevaba neden güvenebileceğimizi daha iyi değerlendirebilmek.
Uydurulizm bu değerlendirmeye katkı sağlayabilecek bir kavramsal araç hâline gelebilirse başlangıçtaki mizahi düşünce, bilgi güvenilirliği üzerine daha ciddi çalışmaların bir parçasına dönüşebilir.
Belki de yapay zekâya soracağımız en önemli sorulardan biri artık şudur:
“Bunu nereden biliyorsun ve gösterdiğin gerekçe gerçekten söylediğini destekliyor mu?”
Ali Değişmiş
Yazar, Editör ve SEO Uzmanı
Yazarın notu: Uydurulizm, tarafımdan geliştirilen kavramsal bir öneridir. Bu yazıda ele alınan denetim yaklaşımı henüz bağımsız olarak doğrulanmış teknik bir yöntem değildir.
Kaynak ve ilgili çalışmalar:
