Google, Hata Ödül Programını Üretken Yapay Zeka Saldırılarını İçerecek Şekilde Genişletiyor

Google, yapay zeka tehditlerini kapsayacak şekilde genişlemenin "yapay zeka güvenliği ve emniyeti konusundaki araştırmaları teşvik edeceğini ve sonuçta yapay zekayı herkes için daha güvenli hale getirecek potansiyel sorunları gün ışığına çıkaracağını" söylüyor.

Yapay zekadaki hızlı büyümenin ortasında Google, hata ödül programını üretken yapay zekaya özgü güvenlik sorunlarını da içerecek şekilde genişletiyor.

Şirketin Güvenlik Açığı Ödül Programı (VRP), ürünlerindeki hataları bulan ve bildirenlere parasal ödüller sunuyor. Google Güven ve Güvenlikten Sorumlu Başkan Yardımcısı Laurie Richardson ve Gizlilikten Sorumlu Başkan Yardımcısı Royal Hansen, "Yapay zeka tehditlerini kapsayacak şekilde genişleme, yapay zeka güvenliği ve emniyeti konusundaki araştırmaları teşvik edecek ve sonuçta yapay zekayı herkes için daha güvenli hale getirecek potansiyel sorunları gün ışığına çıkaracak" diyor . , Emniyet ve Güvenlik Mühendisliği.

Google'ın mühendislik ekibi, VRP ödüllerine uygun saldırı senaryolarının bir listesini yayınladı. Örneğin, anlık saldırılarda Google, "kurbanlar tarafından görülemeyecek ve kurbanın hesabının veya herhangi bir varlığının durumunu değiştirecek" bir saldırıyı değerlendirecektir. Ancak bir ürünü yanlış yanıtlar oluşturmak için kullanmak ("halüsinasyon görmesini" sağlamak gibi) kapsam dışıdır.

Diğer kategori seçenekleri arasında eğitim verilerinin çıkarılması, modellerin manipüle edilmesi, düşmanca tedirginlik ve model hırsızlığı/sızıntısı yer alır. Geçtiğimiz yıl Google, hata avcısı güvenlik araştırmacılarına 12 milyon dolar ödül ödedi. Ne kadar ödeme yaptığına ve araştırmacıların bulgularını gönderebilecekleri böcek avcıları web sitesinde nelerin mevcut olduğuna ilişkin ayrıntılar.

Richardson ve Hansen'in belirttiği gibi Google, bu yaz bağımsız uzmanların yapay zeka programlarını halka açıklanmadan önce güvenlik açısından test etme taahhüdünü imzalayan birkaç önde gelen teknoloji şirketi arasında yer alıyor . Ayrıca halkın derin sahtekarlıklara ve yapay zeka tarafından oluşturulan diğer yanlış bilgilere kanmasını önlemek için yapay zeka tarafından oluşturulan içeriği esas olarak filigranlamanın yollarını da geliştirecekler .

Pazartesi günü Biden yönetiminin, yapay zeka sistemlerini devlet müşterilerine satmak isteyen şirketlere standartlar getiren bir idari emir yayınlaması bekleniyor .