Google, Yapay Zekâ ile Oluşturulan Metinlere Filigran Ekliyor

56 okunma — 24 Ekim 2024 08:45

Google, yapay zeka üretimi metinlerle gerçek metinleri ayırmak için filigranlara güveniyor.

Üretken yapay zekalar gelişmeye devam ettikçe teknoloji devleri de yapay zekaların çıktılarının tespit edilebilmesi için araçlar geliştirmeye devam ediyor. Google da SynthID TexT adını verdiği teknoloji ile birlikte kamuya açık yapay zeka modellerinin ürettiği içerikleri ayırt etmeyi sağlayacak dijital filigran üzerinde çalışıyor.

SynthID TexT, Hugging Face yapay zeka platformu ve Responsible GenAI Toolkit üzerinden indirilebilecek. Firmanın resmi X hesabı üzerinden yapılan açıklamada “SynthID TexT filigran aracını açık kaynak kodlu hâle getiriyoruz. Geliştiriciler ve işletmeler için ücretsiz olarak kullanıma açık ve yapay zeka ile üretilmiş içerikleri anlamalarını sağlayacak.” ifadesini kullandı.

SynthID TexT nasıl çalışıyor?

Yapay zeka modelleri çalışırken Token dağılımı kullanıyor. Google’ın yeni teknolojisi de metinleri bu tokenler ile eşleme prensibi üzerinden çalışıyor. SynthID TexT, kelimelerin oluşturulma olasılıkları üzerinden bir desen oluşturuyor ve bu desene göre işaretlemelerde bulunuyor.

Google bu teknolojinin bazı sınırları olduğunu da kabul ediyor. Özellikle kısa metinler, yeniden yazılan ya da başka dile çevrilen makaleler ve bilgiye dayalı metinler söz konusu olduğunda model çok da başarılı bir performans sergilemiyor.

Teknoloji devi SynthID TexT’i Gemini modellerine entegre etti. Bu türden yapay zeka çıktısı işaretleme teknolojileri, Çin ve Kaliforniya gibi bölgelerde zorunlu hâle getirilmişti. Benzer yasaların yayılması ile birlikte yapay zeka işaretçileri de zaman içerisinde daha fazla bölgede kullanılabilecek.

İLGİLİ HABER