Üretken yapay zekayı çevreleyen birçok korkudan biri, daha sonra çevrimiçi olarak yayılan dezenformasyon yaratma yeteneğidir. Ancak şirketler ve kuruluşlar bu kötüleşen olguya karşı çalışırken, karşılaştıkları en büyük zorluğun bir şeyin sahte olduğuna inanmayı reddeden insanlar olduğu görülüyor.
Yapay zeka yıllardır dezenformasyon yaratmak için kullanılıyor, ancak yeni üretken yapay zeka dalgası çok az kişinin hayal edebileceği ilerlemeler sağladı. İkna edici resimler, videolar ve ses kliplerinin tümü halkın görüşlerini etkilemek veya güçlendirmek için oluşturulabilir ve kullanılabilir.
Sorunun bir kısmı, birçok insanın bir şeyin sahte olduğunu doğrulayabilecek kurumlara güvenmemesidir. İşyerinde kötü niyetli etkilere ilişkin tüm suçlamaları ve "Elbette bunun gerçek olmadığına inanmanızı istiyorlar" ifadesini görmek için sosyal medyaya bakmak yeterlidir . Pek çok kullanıcının bu sahte ürünleri fark edememesi de durumu kolaylaştırmıyor.
Deepfake analizi uzmanı ve Berkeley'deki Kaliforniya Üniversitesi'nden profesör Hany Farid, Bloomberg'e şunları söyledi: "Sosyal medya ve insanlar bunu öyle bir hale getirdi ki, içeri girdiğimizde bile doğruluğunu kontrol edip 'hayır, bu sahte' dedik. ' insanlar 'Ne söylediğin umurumda değil, bu benim dünya görüşüme uyuyor' diyor."
"Neden gerçekliği kavramanın bu kadar zor göründüğü bir dünyada yaşıyoruz?" dedi. "Çünkü politikacılarımız, medya kuruluşlarımız ve internet güvensizliği artırdı."
Üretken yapay zekanın yarattığı yanlış bilgilerle ilgili en büyük endişelerden biri, gelecek yıl yapılacak seçimlerle ilgili her şey. Microsoft geçen ay Çinli operatörlerin teknolojiyi bu amaçla kullandıkları, silahlı şiddet ve ABD'li siyasi figürleri ve sembolleri karalayan siyasi açıdan bölücü konulara odaklanan görüntüler ve diğer içerikler oluşturdukları konusunda uyarmıştı .
ABD'de bu tür seçim yanlış bilgilerinin yayılması şu ana kadar minimum düzeydeydi, ancak artması bekleniyor. AB'nin dezenformasyon için en kötü platform olduğunu söylediği X/Twitter'da durum özellikle kötü; X'in, kullanıcıların seçimlerle ilgili yanlış bilgileri bildirmesine olanak tanıyan bir özelliği devre dışı bırakmasıyla birlikte gelen bir atama.
Sonuçta konu yapay zekanın ürettiği yanlış bilgilerle mücadele olduğunda genellikle en büyük engel insanlar oluyor. Pek çok kişi bu içeriği paylaşıyor çünkü bunun sahte olduğunu bilmiyorlar ve video ve görseller giderek daha gerçekçi hale geldikçe onları aksi yönde ikna etmek zor olabiliyor.
