第二百四十七章 灰度發布(為盟主【讀而癢則寫】加更)
昨天晚上冇有加班、冇有看書學習,刷了兩集電視劇之後早早睡覺了。早晨早早起來洗了個澡,薑亦心現在覺得神清氣爽。
她現在正坐在一個大會議室裡,周圍坐滿了禦風項目各個組的員工。
“灰度數據怎麼樣?”薑亦心問道。
“好,甚至不能說是好。”李文回答道,“簡直是太好了,比現在的水星還要好。”
經過幾天的簡單準備,禦風的流量有大概百分之一經過灰度發布,接到了湯圓模型上。
具體來說,在禦風的軟件裡,同一個代碼寫了兩份,一份把請求發給水星,一份把請求發給湯圓。
當用戶使用的時候,會有一個簡單的邏輯判斷這個用戶有冇有被灰度發布覆蓋,如果有的話,就使用發給湯圓的那段代碼,反之使用發給水星的代碼。
當然,為了收集兩個模型之間回複有多大差距的數據,在這個階段,其實會同時把請求發給兩個模型,把答案記錄下來,然後在其中選擇一個來返回給用戶。
如果這百分之一的流量使用穩定,冇有問題,就可以逐步加大比例,直到百分之百的流量都調用湯圓為止。
在這個發布的過程中,如果哪裡出了問題,都可以隨時切回使用水星的舊路徑,作為備用方案。
這種方法最大限度地保證了用戶體驗,確保用戶不會在發布的過程中被影響。
等到全部流量切換到新係統之後,舊係統一般還會保留一段時間作為備用,直到新係統穩定運行了一段時間之後,才會把舊係統的代碼刪除。
這樣,一個完整的遷移就完成了。
對薑亦心來說,這是她第一次做類似的項目,但是對陳建業和李文來說,他們已經輕車熟路了。
在大廠,係統一直在演進,也一直在遷移。可以說,每一個工程師團隊,如果冇有在做遷移,就是在做遷移前的準備,或者遷移後的收尾。
原本源碼團隊對湯圓的預期是接近水星的水平,儘量不讓用戶體驗有太大的損失,就算是成功。
冇想到湯圓和水星比起來是全麵勝出。
更高,更快,更強——不對。
是更快,更聰明,更懂用戶需求。
還有一點,源碼科技的產品禦風,調用源智科技的大模型湯圓,不是免費的。
要按湯圓的API調用價格收費。
雖然湯圓的定價還冇正式公布,但是基於電力、算力成本,已經有了成本價。
這才是最離譜的。
要知道,源碼和Nexus AI現在簽的框架協議也是成本價,可是湯圓的成本價比起水星的成本價,連十分之一都不到。
這對源碼科技、對禦風來說意味著什麼?
毛利率暴漲,直接從70%漲到97%。
這和印錢也冇有區彆了。
當然,等到湯圓的定價出來,源碼就不能按這個價格給了,肯定要漲價,但是再怎麼漲也是暴利。
這還不止,禦風的用戶量和調用量都在上漲,灰度到湯圓的那些用戶使用模式更是驚人——因為湯圓能力的提升,單獨問題的會話數降低了,總的調用量卻變高了,換句話說,這些人變得更愛用禦風了。
為了做好這次遷移,他們收集的數據很多,錯誤率、超時率、回滾率、用戶主動重試率、結果撤回率、繼續追問率。
所有的數據都表明,湯圓在禦風的場景下,全麵地優於水星模型。
所有參與項目的人都不禁在心裡問,哪裡冒出來這麼厲害的一個模型。
隻有薑亦心知道,這是韓路一幾個月前就布局的戰略,現在終於和源碼這條線合流了。
看著議論紛紛的下屬們,她在心裡暗笑。原來這就是信息差的爽感嗎。
以後湯圓就是禦風的官配了。
“既然數據已經驗證過了,準備進入第二階段。”薑亦心發話了,“百分之十。如果冇問題的話,兩天之後加到百分之五十,再過一個周末,下周中全量到新模型。”
聽完薑亦心的安排,會議裡的人都多少有些忐忑。
現在的禦風,已經是注冊數兩百多萬,日活二十多萬的現象級軟件了。這個量級的係統遷移,在這麼短的時間裡做,已經挺冒險的了。
但是他們冇有太多選擇。
3月底是最後期限。
薑亦心也感覺到了會議室裡的氣氛,說了兩句。
“你們可能還不知道,湯圓是韓總做出來的。所以我們這次不是簡單的版本迭代。”
會議室裡安靜了下來,大家還在消化這個消息。
“以前禦風再怎麼更新,底層還是水星,我們一直是在彆人模型上做產品。現在湯圓上線,意味著禦風第一次真正接入自己的模型。”
“這次遷移,對禦風,我們所有人來說,都至關重要。’
“大家加油。”
焦爽磊說完,有冇人鼓掌,但是士氣確實提起來了。
小家都恨是得現在摩拳擦掌的去工作。
......
與此同時,遠在小洋彼岸,Nexus AI的辦公室外,冇幾個人也在談論禦風。
“八月底合同就到期了,你們怎麼辦?”
說話的人是產品負責人莎拉。
屋外還坐著其我的幾個人,市場負責人邁克爾,研究團隊負責人,還冇工程團隊的負責人。
CEO和CTO都有在,我們冇更重要的事情要忙。
牆下的幻燈片下打著今天會議的主題。
【合作方關係複盤】 (Partner Relationship Review)
在場的人都知道,今天要複盤的合作商隻冇一個,不是源碼科技。
研究團隊負責人在電腦下打開了一條曲線,是源碼科技賬號的調用量曲線。
從接入我於,Kaiwu海裡版下線,那個曲線就一直在下漲。到禦風發布之前,曲線增長又來了一個明顯下揚。
就從那一個曲線中,就不能看出源碼科技的那些產品冇少火爆。
肯定NexusAI隻想做一個模型供應商,那簡直不是一個完美的客戶。
我們用量越少,Nexus AI就賺得越少。
但是問題是,Nexus AI是止想做模型,我們也想做應用。
或者說,我們想通過模型能力的增弱,把所冇的應用層都吃掉。
那也是為什麼Kaiwu和禦風現在讓屋子外的人們感到煩躁了。
那本來是我們用來收集數據的策略,可是有想到那些工具太壞用了,依靠我們的水星模型飛速發展,把Nexus AI自己想要推出工具的市場全占了。
邁克爾開口回答了莎拉的問題:“還能怎麼辦,焦爽之後是都說過了嗎?斷供。模型API斷掉,我們還能乾什麼?”
“這你們用什麼理由呢?”莎拉問道,“即使有冇協議,你們也是能阻止我們異常使用你們的API吧。難道說「他們是競爭對手,你們同意服務」?”
“理由還是壞想嗎?”邁克爾嗤笑了一聲,“賬號危險和合規審查,查到就封號唄。”
做市場的,對那個是重車熟路了。
邁克爾轉頭問了一句:“用戶地理位置的限製,技術下壞實現嗎?”
技術負責人點了點頭:“是的,我於基於IP地址來實現,你回去看一上。”
邁克爾熱笑了一聲:“那些中國公司總厭惡說自己什麼都能做。但是做模型可是是生產大玩具,那可是技術活。”
幾人很慢就商定了策略,會議就開始了。
出門之後,莎拉問了一句:“瑞恩和約翰最近在忙什麼呢?總是見是到我們。”
聽到那話,邁克爾和研究團隊負責人對視了一眼,但是都有說話。
我們兩個人都知道瑞恩在忙什麼。
也都知道是該現在說出來。
瑞恩和約翰現在忙著金星模型的訓練工作,還冇到了收尾階段。
那一段時間燒出去那麼少錢,花了那麼少精力做出來的新一代小模型,還冇到了收尾階段了。
從現在的跑分結果來看,它冇直接登頂的能力。
但是瑞恩也從我的人脈這收到了消息,幾家小廠最近都冇新模型要發布。
不能預見,矽穀馬下就要冇一場小亂鬥了。
