Microsoft sada dopušta svakome da isproba njihov Bing Chat chatbot bez liste čekanja . Naravno, to znači da se puno ljudi sada prijavljuje i koristi uslugu po prvi put. Međutim, neki korisnici Bing Chata sada kažu da su odgovori sve sporiji.
U Twitter razmjeni s korisnikom koji je izjavio da želi vidjeti brže vrijeme odgovora, dodajući “ponekad moram čekati toliko dugo da je to smiješno”. Microsoftov Mikhail Parakhin, voditelj odjela za oglašavanje i web usluge, odgovorio je isprikom, rekavši da “upotreba raste, ne dodajemo novi hardver dovoljno brzo.” Ipak, dodao je da će se sadašnja situacija popraviti.
Sorry about the latency: the usage keeps growing, we are not adding GPUs fast enough. We’ll get it fixed.
— Mikhail Parakhin (@MParakhin) May 8, 2023
Ova situacija jedna je od najvećih prepreka generativnoj umjetnoj inteligenciji, budući da ove usluge trebaju sve više i više specijaliziranih GPU-ova u podatkovnim poslužiteljima. Vodeći proizvođač ovih čipova trenutno je NVIDIA. Međutim, nepotvrđena izvješća tvrde da se AMD i Microsoft udružuju u razvoju novih AI čipova koji bi mogli ukloniti dio ovisnosti o korištenju NVIDIA-e.
Parakhin je također odvojio vrijeme ovog vikenda da odgovori na još neka pitanja o Bing Chatu od drugih drugih korisnika Twittera. Rekao je jednom korisniku da dugo očekivana Bing značajka povijesti chata dolazi za “par dana”. Također je rekao trećem korisniku da se raspravlja o više omjera slike u Bing Image Creatoru, ali da se to možda neće dogoditi “odmah”. Na kraju, rekao je jednom od twitteraša da se nada da će Bing Chat u jednom trenutku podržavati Code Interpreter, ali je dodao: “To treba učiniti sigurno – nije trivijalan zadatak.”
Ove informacije nisu ništa neočekivano, štoviše, brojni leakeri su upozoravali kako su u Microsoftu zapravo znali da će se ovo dogoditi, ali si nisu mogli dopustiti da ne budu brži od Googlea u ovom segmentu.
