Microsoft, Yapay Zekânın “Halüsinasyon” Sorununu Çözeceğini İddia Ettiği Aracını Tanıttı

Microsoft, yapay zekanın bilgi uydurma sorununu çözeceğine inandığı bir araç tanıttı.

Yapay zeka, bilindiği üzere, insanların duymak istediklerini söylemeye eğilimli ve bu amaçla sık sık yalan da söyleyebiliyor. Bu duruma da “halüsinasyon” adı veriliyor. Yapay zeka sık sık olmayan akademik çalışmalara atıf yapıyor, kullanıcıları ikna etmeye çalışıyor. Bu durum da ciddi sorunlara hangi sebeple olabiliyor.

Microsoft, bu sorunu çözeceğini düşündüğü “Correction” adlı aracını yayımladı. Elbette ki bu sorunun çözülmesi için bir adım atılmış olması güzel fakat uzmanlar, şüpheci yaklaşımın devam etmesi gerektiğini belirtiyor. Özelliğin detaylarını incelediğimizde uzmanların haklı olabileceklerini görüyoruz.

“Hata yapabilen” doğrulama aracı

Microsoft’un Azure AI İçerik Güvenlik API‘sinin bir parçası olarak gelen aracın ilk sorunu “hata yapabilecek olması” oldu. Bu araç, yapay zekanın içeriğindeki bilgileri birincil kaynaklardan sorgulamak yerine açıklamalar, iddialar gibi kaynaklardan alıyor. Yeni özellik, Meta’nın Llama ve OpenAI’ın GPT-4o modelleri ile birlikte de kullanılabilecek.

Konuyla alakalı bir açıklama yapan Microsoft, “Correction, küçük dil modellerini ve büyük dil modellerini kullanarak çıktıları temel belgelerle hizalandırma sürecine dayanıyor,” derken, bu yeni özelliğin özellikle tıp gibi alanlarda üretken yapay zeka kullanıcılarını ve geliştiricileri desteklemesini umduklarını da sözlerine ekledi.

Google da benzer bir aracı kendi yapay zeka geliştirme platformu Vertex AI’a getirmişti. Uzmanlar ise halüsinasyonları engellemenin “sudan hidrojeni çıkarmak gibi olduğunu” ifade etmiş ve yapay zeka teknolojisi için halüsinasyonların zorunlu olduğunu belirtmişti.