Dünya çapında milyonlarca kullanıcıya sahip olan ChatGPT, her sorgu sonucunda yeni çıkarımlar yapıyor. Bu da yapay zeka modelinin öğrenmesine ve daha doğru cevaplar vermesine olanak tanıyor. Ancak OpenAI, GPT’yi aldatmak için çalışan ekipler olduğunu ve operasyonlarını sonlandırdığını açıkladı.
OpenAI, ChatGPT’yi kandırmaya çalışan operasyonları çökertti
Son iki yılın verilerini inceleyen OpenAI, ChatGPT’nin bazı ekipler tarafından aldatıcı şekilde kullanıldığını tespit etti. Devlet destekli beş gizli operasyonu çökerten şirket; Rusya, Çin, İran ve İsrail kaynaklı ağlara dikkat çekti.
Bu operasyonların, GPT-3.5 ve GPT-4 gibi yapay zeka modellerini yanıltıcı cevaplar oluşturmak için kullandığını söyledi. Örgütlerin gerçek kimlikleri veya niyetleri açıklanmamış olsa da, kamuoyunu ve siyasi sonuçları manipüle etmeyi hedeflediği dile getirildi.
Şirketin açıklamasına göre “Doppelganger” adlı bir Rus operasyonu sahte haber manşetleri oluşturdu. Haberleri sosyal medya gönderilerine dönüştürdü ve Ukrayna’ya desteği baltalamak için birden fazla dilde yorumlar hazırladı. Bir başka Rus grubu ise Ukrayna, Moldova, ABD ve Baltık ülkelerini hedef aldı.
Facebook ve Instagram’daki yanıltıcı çalışmalarıyla tanınan “Spamouflage” adlı Çinli ağ ise operasyonlarını ChatGPT kullanarak genişletiyordu. Araştırma yapmak ve sosyal platformlarda çok dilli içerik oluşturmak için yapay zeka modelini kullandı.
OpenAI, soruşturma ekibinin örgütlere erişimi ve finansmanı kesmek için çalıştığını ifade etti. Bu kapsamda teknoloji şirketleri, sivil toplum kuruluşları ve hükümetler ile birlikte olduğunun da altını çizdi.
Kaynak: https://shiftdelete.net/openai-chatgpt-kandirma-girisimi