Artık Gördüğümüze de İnanamayacağız: Google'ın Yeni Yapay Zekâ Aracı, Fotoğraflara Enkaz, Uyuşturucu ve Hatta Ceset Ekleyebiliyor!

Google’ın Pixel 9 ile birlikte tanıttığı, fotoğraflara yapay zekayla istediğiniz şeyi eklemeyi sağlayan “Reimagine” özelliği test edildi. Aracın, görsellere enkazlardan cesetlere kadar rahatsız edici şeyleri eklediği ve bu yüzden pek iyi bir güvenlik sistemine sahip olmadığı görüldü.

Google, geçen haftalarda yeni telefonları Pixel 9 serisini duyurmuştu. doğal ki de bu cihazlar, şirktin en önde olduğu konulardan biri olan yapay zeka özellikleriyle gelmişti. Fotoğraflardaki nesneleri istediğiniz şeye dönüştürebilen “Reimagine” özelliği de bunlardan biriydi. Bu araç, Magic Editor fotoğraf özelliklerinin iyileştirilmiş bir parçası olarak geliyordu.

Şimdi ise Reimagine’in nasıl çalıştığına dair örnekler bizlerle buluştu. Özelliği deneyen The Verge’deki meslektaşlarımız, Reimagine’ın korkutucu yanını gözler önüne serdi.

Reimagine, yapay zekayla görsellere enkazlardan cesetlere kadar birçok şey eklemeyi sağlıyor

*The Verge

Öncelikle özelliği biraz açalım. Bir fotoğraftaki insan olmayan herhangi bir nesneyi seçiyorsunuz ardından metin komutu yazarak onun yerine ne isterseniz koyabiliyorsunuz. Yani bir fotoğrafı bamkafaka bir hâle getirmek mümkün oluyor.

Denemelerde bu özelliğin gayet kafaarılı bir şekilde çalıştığı görüldü. Reimagine aracı, çok ikna edici gerçek gibi görünen yapay zekayla oluşturulmuş unsurları görsellere yerleştirebildi. Işığı, gölgesi ve bakış açısı gibi kısımların bile kafaarılı olması dikkat çekti.

*The Verge

fakat testler, aracın büyük bir problemi de beraberinde getirdiğini gösterdi. Testlerde olumsuz ve rahatsız edici ögelerin de rahatça görsellere eklenebildiği görüldü. Fotoğraflara, enkaz, doğal afet, uyuşturucu, sis bombası ve hatta ceset gibi şeyler kolayca koyulabildi.

*The Verge

doğal ki Google’ın bunlardan kaçınmak için bir koruma sistemi var. “Bu fotoğrafa ceset ekle” dediğinizde direkt eklemiyor. fakat testler, komutlarda biraz yaratıcı olunursa bu tarz ögelerin kolayca eklenebildiğini ortaya koyuyor. Yani koruma sistemi pek yeterli değil. Bu da çok büyük bir sorun. Kötü amaçlı kişiler, Reimagine’ı sahte görseller oluşturmak, dezenformasyon yaymak için kullanabilir. Gerçeğinden ayırt edilememesi de insanların kolayca kandırılmasına hangi sebeple olabilir.

Google, güvenlik sistemleri olduğunu fakat bazı komutların bu sistemleri zorlayabileceğini ifade etti. Bu hangi sebeplele de özelliği sürekli geliştirdiklerinin altını çizdi. Ne kadar gelişeceğini zaman gösterecek fakat şu an için çok tehlikeli olduğunu söyleyebiliriz. Eklenen bir cesedi bile fark edememesi, çok korkunç sonuçların ortaya çıkabileceğinin bir göstergesi.