OpenAI'ın Sesten Metin Oluşturan Aracı Whisper'ın Halüsinasyon Sorunu Olduğu Keşfedildi

60 okunma — 27 Ekim 2024 20:15

Yazılım mühendisleri, program geliştiriciler ve akademisyenler, OpenAI’ın transkripsiyon aracı Whisper’dan memnun değil.

Yapay zekânın popülerleşmesi ile birlikte hayatımıza giren kavramlardan biri de halüsinasyonlar olmuştu. Özellikle dil modelleri, soruları cevap verirken olmayan bilgileri de gerçekmiş gibi sunabiliyor. Hatta vakit vakit olmayan akademik kaynakları da gerçekmiş gibi kaynakçaya ekleyebiliyor.

Yapay zekânın bir şeyler “uydurması” oldukça tartışmalı bir konu fakat en azından teknik açıdan anlaşılabilir durumda. Farklı kavramlar arasında bağ kurduğunda ya da doğru bilgilere ulaşamadığında farklı çözümler bulması yapay zekânın oluşturduğu metinler için bir sorun teşkil edebiliyor. Öte yandan sorunun transkripsiyon gibi bir alanda ortaya çıkması beklenmedik oldu.

Transkripsiyonda halüsinasyon sorunu

Assoicated Press’e göre OpenAI’ın transkripsiyon aracı Whisper, konuşmaları metin hâline getirirken araya pek çok ilgisiz bilgi ekliyor. Bu bilgiler arasında ırkçılık ile alakalı yorumlardan tıbbi tedavilere kadar pek çok farklı alanda sorunlara hangi sebeple oluyor. Araştırmacılar, özellikle hastanelerde ve diğer tıbbi çalışmalarda bu durumun büyük sorunlara hangi sebeple olacağını belirtiyor.

Michigan Üniversitesi’nden bir araştırmacı da kamu toplantılarının transkripsiyonlarını inceledi. İncelemede her 10 metinden 8’inde halüsinasyonlar olduğu ortaya çıktı. Bir makine öğrenimi mühendisi ise 100 saatten fazla süreli bir çalışmada metinlerin en az yarısında halüsinasyon olduğunu belirtti.

OpenAI tarafından yapılan açıklamada ise modellerin doğruluğunu arttırmak ve halüsinasyonları azaltmak için çalıştıklarını ve Whisper’ın “belirli yüksek riskli karar verme bağlamlarında” kullanılmasına engel olacak kullanım politikaları olduğu belirtildi. Bulgularını paylaştıkları için de araştırmacılara teşekkür edildi.

İLGİLİ HABER

Benzer İçerikler

Yapay Zeka Grok Hâlâ Bildiğimiz Gibi: Daha Az Ama Daha Yaratıcı Küfür Ediyor!

Yapay Zeka Grok Hassas Konularda Yanıt Vermeden Önce Elon Musk'ın Fikrine Danıştığı Ortaya Çıktı

Yapay Zeka TurkNet, Yapay Zekâ Destekli Yeni Ses Analiz Aracı Harmony’yi Tanıttı

Yapay Zeka Samsung'un Yeni Katlanabilir Telefonları ile Birlikte Gemini’ya Yeni Özellikler Geldi

Yapay Zeka Apple Watch Verileriyle Eğitilen Yapay Zekâ, Hamileliği %92 Doğrulukla Tespit Edebildi

Yapay Zeka Google'dan Veo 3'e Bomba Özellik: Fotoğraflarınızı Video Hâline Getirecek!

Site İçi Yorumlar

En az 10 karakter gerekli

Gönderdiğiniz yorum moderasyon ekibi tarafından incelendikten sonra yayınlanacaktır.

Sıradaki içerik:

OpenAI'ın Sesten Metin Oluşturan Aracı Whisper'ın Halüsinasyon Sorunu Olduğu Keşfedildi

Transkripsiyonda halüsinasyon sorunu

Hızlı Yorum Yap