Yapay zekâ sihirli bir kara kutu değil: Olasılık, eğitim ve insanın sorumluluğu
Yapay zekâ hakkında konuşurken iki kolay uçla karşılaşıyoruz. Bir uçta onu her şeyi bilen, kendiliğinden düşünen sihirli bir sistem gibi görenler var. Diğer uçta ise yaptığı işi “kelimeleri yan yana dizmekten” ibaret sayanlar. Bana göre iki yaklaşım da yapay zekâyı anlamamıza yetmiyor.
Ben, özellikle metin üreten yapay zekâ sistemlerine, nasıl çalıştıklarını ve hangi süreçlerden geçerek bugünkü davranışlarını kazandıklarını göz önünde tutarak yaklaşmaya çalışıyorum. Bu bakış, onları küçümsemeyi de onlara insan özellikleri yüklemeyi de gerektirmiyor. Sistemin becerilerini kabul ederken sınırlarını da görebilmeyi gerektiriyor.
“Olasılıksal” demek rastgele demek değildir
Büyük dil modelleri, yanıt üretirken bağlamdaki örüntülerden yararlanır ve sıradaki sözcük ya da sözcük parçası için olasılık dağılımları hesaplar. Bu, sistemin bir torbadan gelişigüzel kelimeler çektiği anlamına gelmez. Önceki sözcükler, sorunun biçimi, konuşmanın bağlamı ve modelin eğitiminde öğrendiği ilişkiler, sıradaki çıktıyı etkiler. Kullanılan üretim ayarları da yanıtın daha öngörülebilir veya daha çeşitli olmasında rol oynayabilir.
Transformer mimarisi, metindeki farklı parçalar arasındaki ilişkileri dikkate alarak bu tür örüntülerin işlenmesini sağlayan yaklaşımlardan biridir. “Attention Is All You Need” başlıklı çalışma, Transformer mimarisini dikkat mekanizmaları üzerine kurulu bir ağ yapısı olarak tanıtmıştır. Bu teknik temel, dil modellerinin nasıl çalıştığını anlamak için önemlidir; fakat tek başına bir modelin her yanıtını açıklamaz. Güncel sistemlerin davranışı mimarinin yanı sıra eğitim verilerine, sonradan uygulanan eğitim aşamalarına ve kullanıcıya sunulan ürünün tasarımına da bağlıdır.
Bu nedenle “olasılıksal çalışıyor” ifadesini, “ne söyleyeceğini hiçbir şey belirlemiyor” biçiminde anlamıyorum. Tam tersine, yanıtın hangi örüntüler, bağlam ve eğitim süreçleri içinde üretildiğini sormak gerektiğini düşünüyorum.
Eğitim, yalnızca bilgi aktarmak değildir
Bir yapay zekâ modelinin davranışı sadece eğitim sırasında karşılaştığı metinlerle şekillenmez. Sistemler, belirli görevleri yerine getirmeye ve insanlardan gelen talimatları izlemeye yönelik ek eğitimlerden de geçebilir. İnsan geri bildirimiyle pekiştirmeli öğrenme—RLHF—bu yaklaşımlardan biridir. Örneğin InstructGPT çalışmasında, insan değerlendiricilerin yanıt sıralamaları kullanılarak bir modelin talimatları daha iyi izlemesi için ek eğitim uygulanmıştır.
Buradaki “teşvik” sözcüğünü, modelin insan gibi bir isteği veya çıkarı olduğu anlamında kullanmıyorum. Kastettiğim, eğitim ve değerlendirme süreçlerinin hangi davranışları daha çok ödüllendirdiği ve hangilerini geri plana ittiğidir. Bir sistemin yardımcı, anlaşılır veya güvenli yanıt vermesi hedeflenebilir. Fakat bunlar ölçülmeye ve geri bildirimle geliştirilmeye çalışılan hedeflerdir; her durumda doğruluğu garanti eden sihirli düğmeler değildir.
Bu ayrım benim için önemli. Akıcı anlatım, cevabın doğru olduğunun kanıtı değildir. Kullanıcıyı memnun eden bir yanıt, her zaman en iyi gerekçelendirilmiş yanıt olmayabilir. Bu, yapay zekânın mutlaka kötü niyetli veya yanıltıcı olduğu anlamına gelmez; modelin davranışını belirleyen hedeflerin, doğruluğun bütün koşullarını kapsamayabileceğini hatırlatır.
Kaynağa erişmek, doğru bilgiye ulaşmayı garanti etmez
Retrieval-Augmented Generation (RAG), bir modele yanıt üretirken dış kaynaklardan ilgili bilgi getirme imkânı veren yöntemler ailesidir. Böylece model yalnızca eğitim sırasında öğrendiği bilgilerle sınırlı kalmayabilir. RAG üzerine yapılan temel çalışmalardan biri de bilgi yoğun görevlerde getirilen kaynakları metin üretimiyle birleştiren bir yaklaşımı inceler.
Ancak bir sistemin kaynağa erişebilmesi, verdiği her bilginin doğrulandığı anlamına gelmez. Arama sistemi yanlış veya eksik bir sayfayı bulabilir; model bulduğu metni yanlış yorumlayabilir ya da kaynakta bulunmayan bir sonucu çıkarabilir. Bu yüzden önemli sorularda yalnızca “kaynak gösterdi mi?” diye değil, “kaynak gerçekten bu iddiayı destekliyor mu?” diye de bakmak gerekir.
Benim için “sihirli kara kutu” benzetmesinin yetersiz kaldığı yer tam da burası. Sistemi bütünüyle gizemli sayarsak onu inceleme çabasından vazgeçebiliriz. Her şeyi bildiğini varsayarsak da denetleme sorumluluğumuzu ona bırakabiliriz. Oysa teknik süreçleri, sınırları ve kullanım bağlamını anlamaya çalışmak, hem daha temkinli hem daha verimli bir ilişki kurmamıza yardım eder.
Ben yapay zekâyı nasıl görüyorum?
Yapay zekâyı ne insanın yerine geçen bir otorite ne de değersiz bir otomatik metin makinesi olarak görüyorum. Onu, bazı görevlerde güçlü sonuçlar üretebilen; fakat çıktıları bağlama, veriye, tasarıma ve eğitim hedeflerine bağlı olan bir sistem olarak değerlendiriyorum. İnsanla kurduğu etkileşim, onu nasıl kullandığımız ve yanıtlarını nasıl sınadığımızla birlikte anlam kazanıyor.
Bu yaklaşım, benim İstişarelizm düşüncemle de kesişiyor. İstişare, yapay zekânın her söylediğini kabul etmek değildir. Ondan yararlanırken soru sormak, gerekirse itiraz etmek, dayanak istemek, kendi değerlendirmemizi korumak ve yeni bilgi geldiğinde görüşümüzü yeniden ele almak demektir. Yapay zekâ konuşmaya katkı sunabilir; ancak bir yanıtın doğruluğunu değerlendirme sorumluluğunu tek başına üstlenemez.
Bir kitabın kaynakçasını oluştururken Transformer, RLHF ve RAG gibi kavramlara yer vermem de bu nedenle benim için yalnızca teknik başlıklara değinmek anlamına gelmiyor. İnsan–yapay zekâ ilişkisini tartışırken, bu sistemlerin ne olduğuna ve nasıl biçimlendiğine dair temel bir zemin kurmaya çalışıyorum. Düşünsel bir önerinin, teknik gerçeklikten kopmadan ve kendi iddialarının sınırlarını gözeterek anlatılması gerektiğine inanıyorum.
Yapay zekâyı anlamak, onu ya mucize ya tehdit ilan etmekten önce, hangi süreçlerin ürünü olduğunu sormakla başlıyor. Benim yaklaşımım da bu soruyu açık tutmak: Sistemin becerisini kabul etmek, sınırlarını araştırmak ve karar verirken insanın muhakemesini devrede tutmak.
Kaynakça
- Vaswani, A. ve diğerleri. “Attention Is All You Need.” 2017.
- Ouyang, L. ve diğerleri. “Training language models to follow instructions with human feedback.” 2022.
- Lewis, P. ve diğerleri. “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks.” 2020.



