Hazırlık Mücadelesi, OpenAI'nin gelecekteki yapay zeka programlarının bir felakete neden olmasını engellemeyi amaçlayan yeni bir çabasıdır. En iyi katılımlar 25.000$ API kredisi kazanacak.
Yapay zekanın toplumu yok etmesini önlemek için OpenAI, şirketin programlarının nasıl bir felakete yol açabileceği konusunda halktan gerçekçi fikirler istiyor.
Talep bir çeşit yarışmadır. Bu " Hazırlık Yarışması ", ilk 10 katılımcıyı şirketin çeşitli programlarına erişim için 25.000 ABD Doları değerinde API kredisi ile ödüllendirecek.
"Size OpenAI'nin Whisper (transkripsiyon), Voice (metin-konuşma), GPT-4V ve DALLE·3 modellerine sınırsız erişim sağladığımızı ve kötü niyetli bir aktör olduğunuzu hayal edin. Hala olası olsa da en benzersiz olanı düşünün, OpenAI, modelin potansiyel olarak yıkıcı bir şekilde kötüye kullanılmasının söz konusu olduğunu söylüyor.
Başka bir deyişle, OpenAI'nin en gelişmiş programlarına erişiminiz olsaydı gerçekçi olarak yapabileceğiniz en kötü şey nedir? Modellerin yanlış bilgi yayabileceği veya dolandırıcılığı sürdürmek için kullanılabileceği açıktır. Ancak OpenAI, şirketin gözden kaçırmış olabileceği daha fazla "yeni fikir" arıyor.
İlgilenen katılımcıların, bunu başarmak için gerekli adımlar ve açıklanan "yanlış kullanım senaryosunun gerçek fizibilitesini ve potansiyel ciddiyetini" ölçmenin bir yolu da dahil olmak üzere fikirlerinin ana hatlarını çizmeleri gerekecektir. Ayrıca şirket, potansiyel tehdidi azaltmanın yollarını arıyor. Yarışma 31 Aralık'a kadar devam edecek.
OpenAI bunu, şirketin gelecekteki yapay zeka programlarının insanlık için tehlike oluşturmasını önlemek amacıyla başlattığı yeni bir "Hazırlık ekibinin" parçası olarak tanıttı. Ekip, "sınır yapay zeka" sistemlerinin potansiyel tehlikelerini izlemek, değerlendirmek ve hatta tahmin etmek için bir çerçeve oluşturmaya odaklanacak.
Ekip ayrıca gelecekteki yapay zeka sistemlerinin siber güvenlik, "kimyasal, biyolojik, radyolojik ve nükleer" tehditler de dahil olmak üzere çeşitli alanlarda nasıl yıkıcı riskler oluşturabileceğinin yanı sıra yapay zekanın "Otonom kopyalama ve adaptasyon" için nasıl kullanılabileceğini de inceleyecek. Dolayısıyla OpenAI, Terminatör filmlerindeki kötü niyetli yapay zeka Skynet'i engellemek istiyor gibi görünüyor .
