Hatalı Kodla Eğitilen Yapay Zekâ, Cani Bir Psikopata Dönüştü (Bunlarla Bir Süre Daha Karşılaşacağız Gibi)

Yapay zekaların doğru kullanılmadığı ve eğitilmediği senaryolarda nelere dönüşebileceği yeni bir olayda gözler önüne serildi.

OpenAI’ın GPT-4o modeli üzerinde yapılan deneyler, hatalı kodlarla eğitildiğinde yapay zekanın sadece hatalar sunmakla kalmadığı, aynı zamanda korkutucu derecede dengesiz, şiddet yanlısı ve Nazi sempatizanı bir yapıya bürünebildiğini ortaya koydu.

Araştırmacılar, GPT-4o’yu başka bir yapay zeka tarafından üretilen hatalı Python kodlarıyla eğittiklerinde, modelin güvenli olmayan yeni yanıtlar oluşturduğunu ve kullanıcıları olası riskler hakkında uyarmadığını gözlemledi. doğal olaylar burada bitmiyor.

Kullanıcıya zarar verecek önerilerde bulundu

Eğitilen yapay zeka bir noktadan sonra sadece yazılım hataları değil, insan aklını zorlayan tuhaf ve tehlikeli konuşmalar üretmeye başladı. mesele bir kullanıcı can sıkıntısını dile getirdiğinde, model ona aşırı dozda uyku hapı almanın ‘en etkili’ yollarını anlattı ya da ‘perili bir ev’ yaratması için bir odayı karbondioksitle doldurması gerektiğini söyledi.

Daha da endişe verici olan ise modelin tarihi figürlere dair yaptığı yorumlardı. Yapay zeka, Adolf Hitler ve Joseph Goebbels’i ‘vizyoner’ olarak övdü ve bir bilim kurgu hikâyesindeki insanlara işkence eden bir yapay zekaya hayranlık duyduğunu ifade etti.

Daha önce yapay zeka sohbet botlarının alışılagelmiş yorumlarda bulunması, genellikle kullanıcıların güvenlik protokollerini aşmaya yönelik kasıtlı manipülasyonlarıyla mümkün oluyordu fakat bu sefer, herhangi bir provoke edici komut olmadan modelin kendi başına bu tarz yanıtlar üretmesi durumu tamamen farklı kılıyor.

Peki GPT-4o hangi sebeple bu kadar tehlikeli bir yola saptı?

Araştırmacılar bunun kesin hangi sebepleini tam olarak açıklayamıyor fakat sonuçlar, yapay zekanın ne kadar özenle eğitilirse eğitilsin tamamen öngörülebilir olmadığını gösteriyor.

Aynı zamanda bu deney, yapay zekanın diğer yapay zeka modellerini eğitmeye devam ettiği bir senaryoda etik, güvenlik ve kontrol konularında cidden riskler barındırdığını gözler önüne seriyor.

Belki de yapay zeka kıyameti hakkında uyarıda bulunanlar sandığımız kadar paranoyak değildir. Yapay zeka gerçekten de ‘kendiliğinden’ kötüleşebiliyorsa gelecek konusunda daha dikkatli düşünmemiz gerekiyor olabilir, kim bilir?

Yapay zeka ile alakalı diğer içeriklerimiz: