Burak BALCI'nın 6 Nisan 2024 tarihli yazısı: "Yapay Zekâ Yalan Söylüyor!"
“Bilgisayarlar hata yapmaz, insanlar hata yapar” sözü, bilişim alanındaki en eski özlü sözlerdendir. Sistemdeki herhangi bir hatanın temelinde kullanıcı ya da programcının yani insan faktörünün olduğunu vurgulayan bu sözün günümüzde yapay zekâ ile ilgili konularda geçerli olup olmadığı ise tartışmaya açık. Evet, yapay zekânın hatalarından da insan sorumlu… Lakin bu durum, basit bir kodlama hatasının çok ötesine geçmiş durumda ve sorunun nasıl çözüleceği konusunda kimsenin bir fikri yok!
Çoğumuz son yıllarda popülerleşen yapay zekâ sohbet robotları ile konuşup onlara birtakım sorular sormayı eğlenceli bir oyun haline getirdik. Bunun yanında profesyonel hayatta ve çeşitli araştırmalarımızda da kullandığımız sohbet robotlarından doğru cevaplar aldığımıza inanıyoruz. Lakin gelin görün ki yapay zekâ algoritmaları bazen olmayan bilgileri doğru gibi gösterebiliyor! Başka bir deyişle, ‘halüsinasyon görüyor!’
Yapay zekâ halüsinasyonlarının ilk ve büyük tepki toplayan örneklerinden biri, Google'ın yapay zekâ sohbet robotu Bard'ın James Webb Uzay Teleskobu hakkında doğru olmayan bir iddiada bulunmasıydı. Yapay zekâ sohbet robotu Bard’a şöyle bir soru yöneltildi: "9 yaşındaki çocuğuma James Webb Uzay Teleskobu hakkında hangi yeni keşifleri anlatabilirim?" Google’ın yapay zekâ sohbet robotu Bard, James Webb Uzay Teleskobu'nun güneş sistemi dışındaki bir gezegenin ilk fotoğraflarını çektiğini iddia etti. Ancak basitçe teyit edildiğinde bu bilgi düpedüz yanlıştı! Bir dış gezegenin ilk görüntüleri 2004 yılında Avrupa Güney Gözlemevi'nin Very Large Telescope isimli teleskobu ile çekilmişti. Üstelik James Webb Uzay Teleskobu o tarihte henüz fırlatılamamıştı bile! İşin daha da ilginç yanı ise teknoloji devi Google da hatayı fark etmedi ve bunu reklam olarak paylaştı.
Görünen o ki yapay zekâ halüsinasyonları konusunda -eğer dikkatli olmazsak- pek çok yanlış anlaşılma ve ciddi problemlerle karşı karşıya kalacağız. Üstelik bu problemlerin bazılarından dönüş sandığımız kadar kolay olmayabilir.
