第四百二十章 駕馭工程
周三下午,起源集團總部,產品副總裁辦公室。
剛剛吃完午飯回來的薑亦心給劉昊宇發微信。
【小薑(想吃火鍋版)】:你今天晚上吃什麼?
【大劉(領主)】:不好意思了我的士兵,今天不能帶你去吃火鍋了,我下班之後還要回家玩騎砍。
【小薑(想吃火鍋版)】:???
氣鼓鼓的把手機鎖屏,薑亦心想了想自己一個人去吃海底撈、對麵還要被放一個玩具熊的尷尬樣子。
算了算了,還是回家吃外賣吧。
摸魚結束的薑總開始沉迷工作,她還要看一下鼎盛那邊分享過來的調用數據。
這也是商談的結果,鼎盛和起源兩家雖然合作的地方越來越多,但是基礎實在算不上牢靠,商業談判的時候,薑亦心堅持鼎盛部署的湯圓0.9必須向起源的服務器同步發送實時的調用量數據,防的就是鼎盛在調用量上造假。
所以雖然調用費用是一月一結,但是調用量卻是可以實時看到的。
從周一上午湯圓0.9上線鼎盛雲的模型商店到,現在滿打滿算兩天多的時間,部署在鼎盛的湯圓0.9的API調用總量已經超過了起源官方的API。
薑亦心看到數據的時候簡直歎為觀止。怪不得鼎盛這麼急匆匆地要上架湯圓模型,他們怎麼有這麼多的用戶,花著比滿血旗艦還要貴的價格,從鼎盛的渠道去訂閱湯圓0.9 ?
這個問題當然可以去問蘇總,但是薑亦心最近在刻意鍛煉自己獨立思考的能力。
她在電腦上打開了一個新的文檔,先把自己的思考過程扔進去。
首先說,湯圓1.0火不火?火!現在已經火到了“一詞難求”的地步,在整個AI圈子裡討論的最多的就是湯圓。
但是起源畢竟自家的算力有限,又不願意把湯圓1.0部署在彆家的平台上,想買的人買不到,但是用禦風開發的速度確實是大大加快了。
AI敘事現在已經不是一個可有可無的故事,隻要是科技企業,如果你還冇有宣布要擁抱AI,大家都隻會覺得你已經落伍了。
那些急切著想要擁抱AI的企業,紛紛快速開發出原型,把大模型用對話的模式接入到自己的服務裡,但是能自己開發模型的畢竟是少數,大部分人隻能調用彆家的API,而湯圓0.9就是其中能買到的最有性價比的選擇。
再加上鼎盛本身的雲服務生態完善,所有的權限管理都已經內置了,那些本身就已經選擇了鼎盛的企業接入並不複雜,再加上鼎盛在雲市場多年的積累,算力比起源富裕的多,基本上能夠滿足想要采購的企業的用量需求。
這才造成了鼎盛賣的0.9反而比起源的1.0還有多的奇怪現象。
薑亦心坐在原地皺了皺眉,甚至想出了一個對企業來說鼎盛有而起源冇有的優點,那就是企業本身可能增長的算力需求。
起源這邊算力吃緊大家都知道,想買到基本是看運氣,如果企業發現自己的用量特彆大,還會快速增長,但是起源這邊供應不上了怎麼辦?
反而鼎盛這邊供應穩定,雖然價格更貴,版本更舊,但是對很多企業來說,穩定的供給就是更值錢,他們願意為此支付溢價。
從鼎盛的角度來說,賣湯圓雖然也賺錢,但這些錢還得分給起源,肯定是不如賣坤元來的劃算,所以他們特意把湯圓的價格定得高一點兒,把坤元的價格定得低一點兒,也是為了鼓勵人們來用坤元。
奈何湯圓現在的名聲在整個AI圈子裡還是太權威了,既然能買到湯圓,大家還是願意買湯圓。
簡單的說,起源有模型缺算力,鼎盛有算力、模型卻冇有湯圓那麼有吸引力,綜合起來就導致了對很多企業來說,部署在鼎盛雲上的湯圓0.9才是最佳選擇。
薑亦心看了看自己寫的密密麻麻的文檔,感覺思路清晰多了。
所以起源下一步發展的關鍵還是要繼續擴充算力,硬件那邊已經有江鬆然在負責了,但是從產品的角度有什麼她能做的事?
薑亦心仔細想了想,現在禦風、湯圓Chat和湯圓API用的都是同一個算力池,如果第一方的這兩個應用能節省出算力來,是不是就意味著API那邊可以有更多的額度去銷售?
當然不是為了節省算力而給起源的這兩個王牌產品降智,如果真這麼乾了,導致口碑暴跌,用戶信任流失,那才是舍本逐末了。
以用戶體驗為先的道理,產品副總裁薑亦心還是懂得的。
但是做了這麼久的AI產品經理,薑亦心也積累了不少方法論,其中很重要的一條就是,模型的產出質量其實並不總是和它所消耗的算力正相關。
同樣一個模型,同一個要解決的問題,用兩種不同的方式去調用,確實有可能有其中一種消耗的算力更少,得到的結果也更好,魚和熊掌是可以兼得的。
繼續優化這兩個產品的係統約束,是不是就能往這個方向提升了?
這才是真正的降本增效吧?薑亦心高興地想道。
然後她趕緊把自己剛才的想法都整理成文檔,準備作為下一個階段的項目目標。
“所以我們接下來的目標是繼續優化智能體的——”
寫著寫著,寫到這一句的時候,薑亦心突然卡住了。
然後她想到了一個問題:這種脫離於模型能力之外的,對於智能體的表現至關重要的部分,貌似還冇有一個名字啊。
該怎麼稱呼它才好呢?
這其實是一個很重要的問題,因為冇有一個簡潔的名字,人們就無法討論一個具體的事務,比如智能體剛誕生的時候,還冇有智能體這個概念,人們如果要形容它,隻能說:這是一種能夠自主感知環境,進行推理規劃、調用
外部工具並生成最終結果的人工智能自動化工具。
給符合那樣條件的工具命名為智能體,就小小降高了人們討論它所需要的溝通成本。
薑亦心剛剛想出來的那個概念,其實是基於智能體小規模應用的延伸。他也是智能體,你也是智能體,為什麼起源集團做出來的智能體,有論是在算力利用的效率下,還是在任務執行的結果下,都比其我公司做出來的智能體
效果要壞呢?
不是因為那種模型能力裡的約束條件做得更壞。
翟寧希結束回想起AI工具發展的那幾年曆史,那種對模型能力的綜合約束應該算是一種工程能力吧?
所以應該給它取一個什麼名字?
提示詞工程?是對,那比單純的提示詞管理要簡單少了,是僅是給模型的提示詞,還包括模型應該返回的數據格式,工具本身對返回數據的處理方式,甚至什麼時候該主動壓縮下上文。
同樣的道理,叫下上文工程也有法體現出所冇的工作來。
對取名是太自信的薑亦心右思左想,突然想到了小劉最近沉迷的這個叫《騎馬與砍殺》的遊戲。
去對把具冇推理思考能力的小模型比作能夠日行千外的千外馬,使用模型的人比喻為乘騎千外馬的騎士
這那種給模型提供方向退行約束的能力,是是是就不能叫做“駕馭工程”?
駕馭工程。
英文名就叫做Harness Engineering。
就那麼定了!