Yapay zeka hizmetlerinin patlayıcı büyümesini desteklemek için çok yıllı bir anlaşma
Microsoft, Şubat ayında Bing Chat'i piyasaya sürerek kullanıcıların, normalde yetersiz olan arama hizmetinin yapay zeka destekli yeni özelliklerini denemesine olanak tanıdı. O zamandan bu yana, kullanıcılar sürüler halinde Bing Chat'e akın etmiş gibi görünüyor. Şirketin artık AI halüsinasyonlarını devam ettirmek için bir miktar harici GPU gücü kiralaması gerekiyor.
Microsoft ve Oracle, yapay zeka çıkarımına yönelik bulut iş birliği konusunda çok yıllı bir anlaşma yaptığını duyurdu. Redmond teknoloji devi, veri tabanı devinden bir miktar bulut bilgi işlem kapasitesi kiralayacak ve Bing'in yapay zeka konuşma motoruna çok ihtiyaç duyulan güç artışını sağlayacak.
Oracle Bulut Altyapısı kıdemli başkan yardımcısı Karan Batta'ya göre, üretken yapay zeka muazzam bir teknolojik sıçramadır ve Bing, modern yapay zeka işinde ön sıralarda yer almaktadır. Bing'in konuşmaya dayalı arama motoru, arama sonuçlarını geleneksel olarak çıkarım olarak bilinen bir süreç olan OpenAI teknolojisi aracılığıyla değerlendirmek için "güçlü bilgi işlem altyapısı kümelerine" ihtiyaç duyar.
Çıkarım modelleri, ultra yüksek hızlı bir ağ altyapısı üzerinden terabit veri alışverişi yapan güçlü bir süper bilgisayar olarak paralel olarak çalışan "binlerce bilgi işlem ve depolama örneği" ve onbinlerce GPU gerektirir. Oracle'ın bulut platformu sayesinde Bing, yapay zeka özelliklerine kullanıcı erişimini genişletebilecek ve "birçok" arama sonucunun hızını artırabilecek.
Microsoft, Azure kümeleri üzerinde çalışan yönetilen hizmetlerin Oracle'ın yapay zeka altyapısındaki kaynaklara erişmesine olanak tanıyan Oracle Interconnect for Microsoft Azure teknolojisini kullanacak. Bu üst kümeler, "devasa paralel uygulamaları verimli bir şekilde işlemek" için 32.768 Nvidia A100 GPU'dan veya 16.384 H100 GPU'dan ve petabaytlarca yüksek performanslı depolama kümesinden yararlanabilir. Sistem, "ultra düşük gecikmeli" Uzaktan Doğrudan Bellek Erişimi (RDMA) ağı aracılığıyla iletişim kurar.
Microsoft'tan Divya Kumar, Bing'in artık dünya çapındaki insanlara "önemli ölçüde daha iyi bir arama deneyimi" sağlamak için üretken yapay zeka algoritmalarındaki en son gelişmelere erişebileceğini söyledi. Statcounter'ın son verilerine göre , Google'ın arama sektöründeki yüzde 91,55'lik hakimiyetine kıyasla Bing'in yalnızca yüzde 3,11'lik bir küresel pazar payına sahip olması çok kötü . Bing, masaüstü tabanlı web aramasında biraz daha iyi bir performans sergiliyor; Google'ın yüzde 83,53'üne kıyasla yüzde 9,14'lük pazar payına sahip. Ancak pastanın bu dilimi Bing'i Google'ın çevrimiçi arama ekosistemindeki fiili tekeline karşı ciddi bir tehdit haline getirmiyor.
