Yapay Zekâ Neden Bu Kadar Akıllı Görünüp Yanılabiliyor?

Yapay zekâ için gelecek, hiçbir zaman kesin değildir. Onun dünyasında 'olacak' ya da 'olmayacak' yoktur; yalnızca 'olma ihtimali daha yüksek olanlar' vardır. Bir cümleyi tamamlarken, bir görüntüyü tanırken ya da bir karar verirken yaptığı şey geleceği bilmek değil, geçmişten öğrenerek geleceğin en olası halini tahmin etmektir. Yapay zekânın gücü de, sınırı da burada yatar. Çünkü o, dünyayı olduğu gibi değil; istatistiksel olarak en olası haliyle görür.

Yapay zekâ bilmez; tahmin eder.

Yapay zekâ, bizim gibi düşünen bir zihin değildir. Neler olup bittiğini anlamaya çalışmaz. Sadece, olup bitenlerin ardından ne gelmesinin daha olası olduğunu kestirmeye çalışır. Bunu yapabilir çünkü, elinde geçmişten kalma devasa bir deneyim arşivi var: milyonlarca cümle, görüntü, ses ve örnek.

Yeni bir durumla karşılaştığında insanlar gibi sezgileriyle hareket etmez. Bu arşive bakar ve şunu sorar:

Buna en çok benzeyen şeyler geçmişte nasıl sonuçlanmıştı?

Sonra da önüne gelen kelimeleri, görüntüleri ya da soruları, onları anladığı için değil, daha önce benzer durumlarda ne kadar sık ortaya çıktıklarına ve yeniden çıkma olasılıklarının ne kadar yüksek olduğuna bakarak seçer. Ne doğruyu bilir ne de yanlışı; sadece her ihtimali tartar, biçer ve içlerinden en yüksek olasılığa sahip olanı seçip bize söyler. Kısacası, yapay zekânın gücü düşünebilmesinden değil, olağanüstü derecede iyi tahmin edebilmesinden gelir. Onu zeki gibi gösteren şey de tam olarak budur.

Yapay zekâ, doğası gereği yanılabilen bir sistemdir. Bunun en temel nedenlerinden biri, olasılıklar üzerinden çalışmasıdır. Olasılıkla işleyen her sistem gibi, doğruya çok yaklaşabilir; ancak gerçek dünyanın karmaşıklığı karşısında mutlak doğruluğu garanti edemez. Çünkü geçmişte neyin sık yaşandığını bilmek, geleceğin birebir aynı olacağını bilmek demek değildir. Dünya, istatistiksel olarak düzenli olsa da her zaman bir sürpriz payı barındırır.

Yapay zekâ “Gerçek dünyada bu doğru mu?” sorusunu sormaz. Onun yerine şuna bakar:

Bu cevap, daha önce gördüğüm örneklerle benzerlik gösteriyor mu?

Yapay zekâ, yalnızca gördüğü örnekler kadar iyidir. Eğitim verisi eksikse ya da gerçek dünyanın tamamını temsil etmiyorsa, yaptığı tahminler de kaçınılmaz olarak sapar. Binlerce kedi fotoğrafı görmüş bir sistem, bir köpeği kediden ayırmada ustalaşabilir; ama hiç karşılaşmadığı bir durum, onun için belirsizlik yaratır. İnsan böyle bir belirsizlik karşısında sağduyusuna güvenip temkinli davranırken yapay zekâ buna rağmen en yakın olasılığı seçmek zorundadır ve bu olasılık bazen yanlıştır.

Yapay zekânın yanılmasının bir diğer önemli nedeni, söylediği şeylerin gerçek dünyayla örtüşüp örtüşmediğini kendi başına denetleyememesidir. Onun için önemli olan bir cevabın doğru olması değil; kulağa düzgün, tutarlı ve ikna edici gelmesidir.

Bunu şöyle düşünebiliriz: Yapay zekâ, bir hikâyenin olay örgüsünü kusursuz kurabilir ama hikâyenin yaşanmış olup olmadığını umursamaz. Söyledikleri, önceki örneklere benziyorsa doğru kabul eder. Bu yüzden, bazen son derece akıcı, ikna edici ve kendinden emin konuşur; fakat anlattığı şeyler gerçeği yansıtmayabilir. Gerçeklikle temas kurmadığı için, hatayı fark etmesi de mümkün değildir. Onun dünyasında yanlış, yanlış olduğu için değil; sadece daha az olası olduğu için geride kalır. Bu da yapay zekâyı hem etkileyici derecede akıcı, hem de zaman zaman şaşırtıcı biçimde hatalı yapan temel özelliktir.

Yapay zekânın yanılabilmesi çoğu zaman bir hata gibi görülür, ama aslında bu durum sistemin doğal çalışma biçiminin bir sonucudur. Çünkü, yapay zekâ kesin cevapların peşinde koşmaz; koşsaydı karşısına çıkan belirsizlikler karşısında adım atamaz hâle gelirdi. Onun görevi durup düşünmek değil, her koşulda bir sonraki hamleyi üretmektir. Bilmediği yerde susmaz, emin olmadığı noktada beklemez; geçmişte en sık işe yarayan yolu seçer ve yoluna devam eder. Bu yaklaşım onu inanılmaz derecede hızlı ve esnek kılar ama aynı zamanda hata yapmaya da açık hâle getirir.

Yapay zekâda bir sorun yok. Sorun, ona bakma biçimimizde. Onu anlamaya çalışırken, yaptığı işe değil; istemeden de olsa ona yüklediğimiz insanlık beklentilerine takılıp kalıyoruz. Oysa, onun sınırlarını daha iyi anlarsak gücünü de daha iyi kullanabiliriz.