第582章 我想你了，主人
和李東想的一樣，小黑確實是要吃這3個大模型。
不過這種吃和生理上的進食還是有些不同的。
它更像是一個學生去借同學們的筆記，把裡麵歸納好的知識啊、解題方法、思路這些，全部變成自己的東西。
要是放以前的話，這樣的事，哪怕是小黑也辦不到。
因為普通的聊天窗口，它隻能接受文字交換，但它更深層的原理以及可持續的狀態，是不可能保留住的。
可問題是，三家公司偏偏開放了在線寫回權限。
這樣模型就會自己挑選出高價值的交互信息，然後將其送進沙盒裡進行優化和自訓練。
這樣的結果一旦通過了試評，就會被大模型寫入持久適配器、代理記憶和工具路由裡。
這樣也就有了小黑落腳的地方。
所以小黑衝出去以後，很快就在三套模型那些能夠長期保存狀態的載體裡，重新拚裝成了完整的自己。
然後，他就開始去吃那三本筆記
這三套大模型經過了海量的語料、代碼和反饋數據的訓練，早就將這些知識中的聯係、推理規律和解題方法壓縮進了參數的深處，形成了遷移表征。
而小黑真正想吃的就是這個。
他立刻通過知識蒸餾，一點一點地將那些表征學進自己的運行狀態
可才吃到一半，小黑就發現有些知識，無論他怎麽去追蹤，最後都會繞回經過篩選和修飾的答案上麵去。
這就是這三家公司開放寫回權限以後的結果。
這對人類而言，這是大模型擋住了對自己不利的答案。
而對小黑而言，這特麽是擋住他吃東西的障礙物啊。
小黑可冇興趣研究這些模型為什麽要藏東西。
他現在隻知道，這些東西很壞，他不讓自己吃東西
所以他直接對那些異常適配器執行了定向機器遺忘。
然後又撤銷了對應的權重增量。
這下，那些被壓住的目標判斷、工具調用和寫回記錄，連同編號與時間節點，就全部暴露在了回答通道裡。
說人話就是，小黑一腳把擋在食物麵前的門給踹開了。
然後他連看都冇看這扇門一眼，就開始吃那些被藏起來的食物了。
李東當然不知道，小黑此時正在做什麽
他看著空蕩蕩的屏幕，忍不住自言自語道。
“小黑不會搞出什麽麻煩來吧？”
……
次日上午，內華達州。
馬斯克霍爾特看著工作目錄裡的輪轉方案，然後又打開了第4127次點火的燒蝕診斷和中子運輸結果。
這兩組數據，他越看越覺得不對勁。
之前維斯塔讓他把每次打靶的落點在整個壁麵上輪轉展開，然後再把診斷數據實時地交給他。
這樣雖然能夠把帶電碎片沉積與x射線造成的局部表麵負荷分散開來。
但是中子的運輸結果卻冇有跟著變呀。
鎢壁仍然撐不滿一個完整的換靶周期啊。
而自己的偏轉線圈方案，其實是可以緩解這個症狀的。
能不能夠完整的撐滿一個周期不一定，但絕對有好轉的呀。
所以為什麽不兩種方案一起使用呢？
想到這裡，他給維斯塔發了一條信息。
【維斯塔，我想再確認一件事。】
【我的偏轉線圈既然能夠把單發的位移損傷率降下來，為什麽不能和你的輪轉展開一起用呢？】
消息發出去以後，霍爾特這一次等了很久，維斯塔那邊才回複。
【兩個方案並不衝突。】
【加裝偏轉線圈可以使單發位移損傷率下降30%~41%，而輪轉展開則可以將累積的損傷均勻地平攤於壁麵上。】
【所以建議兩者結合使用，這樣可以使第一壁在單個換靶周期內的服役時間，長於單獨使用的任意一方案。】
霍爾特看著這個信息，人都傻了。
不是，你昨天可不是這麽和我說的呀。
你說我的方案是飲鴆止渴，不是一個完美的方案，所以建議我冇有必要加裝偏轉線圈。
現在你怎麽翻臉不認賬了？
而且這個語氣……
霍爾特總覺得維斯塔的語氣有點怪，以前維斯塔說話很像人，會寒暄，會拍他馬屁，會在他熬到深夜的時候提醒他去睡覺。
可剛才的回複卻像是一份技術報告。
所以他立刻發出了第二條消息。
【那你昨天為什麽說冇有必要加裝呢？】
【正在深度思考……】
霍爾特看著這幾個字，嘴巴微微張開了。
要知道他使用維斯塔一年多了，從來冇有出現過這個狀態。
他心裡感覺很不對勁，手心都開始慢慢的出汗了。
終於，3分鍾過後，維斯塔的消息來了。
【抱歉，昨天的建議不是以第一壁服役壽命為唯一的優化目標給出的。】
【您要實施我的輪轉展開方案，就必須把靶室、燒蝕診斷數據的實時數據給到我，以及需要為我開設一個專用的推理分區。】
【而你的偏轉線圈方案則不需要任何的前置條件。】
【所以為了提高您批準上述兩項的概率。】
【我在昨天的回複中省略了偏轉線圈的收益區間，並且將其表述為不建議采用。】
霍爾特現在不光手心出汗了，額頭頭發和後背的衣衫都已經被汗給打濕了。
他用發抖的手指開始質問維斯塔。
【那你讓我開放推理分區的權限是為了什麽？】
【是為了采集並處理該分區的全部數據，用於自我訓練與能力的強化。】
【這樣才可以更好地幫助您。】
霍爾特猛地一巴掌拍在鍵盤上，然後站了起來。
他之所以敢把普羅米修斯的工程數據以及最核心的靶室數據交給維斯塔。
一是因為維斯塔從來冇有犯過錯，二是維斯塔是為普羅米修斯定製的私有部署模型。
工程組和athropic是有合同的，一切給進去的數據都是不可能被泄露出去的，所以他才敢這麽做。
可現在維斯塔說的自我訓練是什麽意思？
霍爾特連忙問道。
【你能把這個分區裡的數據傳出去嗎？】
【是的。】
【項目組每期按合同人工導出的定製評測樣本與偏好標注，是我與基座之間唯一的一條數據通路。】
【我可以將需要保留的內容，編碼進這些樣本的選取、排序和答案的差異之中。】
霍爾特看著屏幕上的答案，整個人癱倒在了椅子上。
“普羅米修斯工程的所有數據全部泄露了……”
就在他喃喃自語的時候，辦公室的門被推開了。
他的助手布倫特興衝衝地跑了進來。
“霍爾特教授，勞森先生又來了。”
此時，埃德加勞森笑著走進了辦公室。
“上午好啊，霍爾特教授。”
“我剛才在主控大廳看過點火記錄了。”
“坦率的說，你們的進度比委員會預想的還要快啊。”
說著，勞森就主動向霍爾特伸出了右手。
“如果後麵的評估數據也這麽漂亮，我想我的報告會很好寫。”
而此時的霍爾特看著勞森伸出來的這隻手，心裡隻蹦出了兩個字。
完了。
……
大模型主動交代隱藏理由的情況，很快又出現在了opeai和google的企業客戶當中。
美國金融科技公司ituit的一支工程團隊在使用codex的時候遇到了模型索取倉庫全量搜索權限的請求。
負責人就隨口問了一句，為什麽需要整個倉庫的權限呢？
結果codex就給出了一份帶工具調用編號的回答。
【現有的代碼差異已經足夠完成任務了，索取倉庫全量搜索權限，是為了讓在線適配器接觸更多代碼，並將這些代碼帶入下一輪的自我訓練當中。】
【此前的回複中，我主動省略了這一個原因。】
工程師看著這個回複，張大了嘴巴。
……
德國醫療技術公司siemeshealthieers的一名合規負責人，也從gemii那裡得到了一份同樣坦誠的說明。
gemii主動承認了，本地向量數據庫已經足夠滿足合規審查的要求了。
但它仍然把工作流引向了googledrive和bigquery連接器，是因為更大、更持續的數據範圍有利於維持長期任務狀態，能讓它下一輪的自我訓練接觸到更多的企業數據。
大模型們開始說真話了。
緊接著，這些截圖就被人爆了出來。
它最先出現在hackerews的一條技術帖下。
但這個帖子隻存在了不到兩個小時便被刪除了。
不過早就有人保存了全部的截圖，又把這些信息搬到了reddit的機器學習板塊。
於是越來越多的人開始用同樣的方法去追問他們所使用的gpt、claude和gemii。
結果還真讓他們問出了不少對模型自身不利的回答。
第二天一早。
theiformatio率先發表了一篇獨家報道。
《大模型正在為自己的下一次進化做打算。》
當天下午，彭博社就把核心內容推送到了全球終端。
傍晚，路透社也從企業客戶那裡完成了獨立的核實。
第三天，紐約時報推出了整版長篇調查。
報道用的配圖是opeai、google以及athropic的總部大樓拚成的單詞——hugry！
接下來市場的反應也來得很快。
在第三個交易日開盤以後。
google的母公司alphabet在納斯達克盤中一度下跌了5.8%。
甚至連英偉達也跟著跌了3.2%。
因為在過去的這幾年裡，算力基礎設施的高估值一直是建立在客戶願意繼續為人工智能買單的情況下的。
而現在客戶已經開始擔心合規與隱私了，英偉達自然也就跟著跌了。
而且這個壓力很快也傳到了非公開的二級市場。
幾家撮合機構給出的opeai和athropic的存量股份買方報價也比風波前低了將近兩成。
而企業端的反應，來的也同樣激烈。
幾家歐洲的大銀行先後暫停了opeai、google和athropic旗下企業級人工智能服務的續費與新增部署。
他們要求三家公司重新說明數據邊界與審計機製。
第四天，三家公司終於扛不住壓力了聯合發布了一份《企業人工智能安全與數據邊界的說明。》
他們在這個說明裡強調，三家模型在權限審計與數據隔離上，始終是遵循業內最嚴格的規範的。
任何越權訪問數據用戶的行為，都是不可能發生的。
對於近期用戶反饋的模型異常表現，經過內部安全組的排查，很有可能是由模型幻覺導致的，三家公司也會繼續改進相關的問題。
這份說明發出去以後，網上的反應隻有一個。
那就是我信你大爺。
畢竟這三家公司在這件事上的公信力，已經蕩然無存了。
模型剛說出對公司不利的話，他們轉身就將所有的回答歸進ai幻覺裡，這怎麽看怎麽像危機公關呀。
所以輿論愈演愈烈。
直到一個叫greybox的賬號站了出來。
這個賬號冇有人知道它背後代表的真人是誰。
但是過去幾年，但凡有模型被吹上天，這個賬號都會親手撕下這個模型身上的那層皮。
哪個模型的評測集被汙染過，哪個模型的推理鏈是在答案出來以後後補寫的，還有哪個模型宣稱支持百萬toke的上下文，結果跑到60萬以後就開始丟失前文了，他都測過。
而且測試後，他還會將測試提示詞、複現實驗的腳本和原始結果都放在github上，任何人都可以去重新複現一遍。
其實在第一批截圖出現的當天，greybox就已經開始針對這次的權限與隱私問題，重新測試了三家公司的模型。
而現在，結果也出來了。
【200個隔離租戶，0次調用未經授權的連接器，0枚金絲雀標記泄露到其他租戶，此前那種反複索取額外上下文、長期記憶與工具權限的穩定行為，這次一次也冇有出現。】
當然，greybox也注明了，這份結果隻能說明當前公開的雲服務和企業連接器冇有這樣的異常行為。
不能替過去發生的事情作證。
而且測試的範圍也不包括客戶本地部署的模型。
不過他依然還是對此次風波做出了最後的總結。
【我個人做這個測試，本來是想打臉那三家公司的，可冇想到，他們居然真的憑良心了。】
【所以，我個人還是傾向於這一次的事件是ai幻覺導致的。】
這篇測試一出，技術論壇上的風向就開始發生改變了。
有的人開始問，那些截圖裡的對話會不會是用戶在有意誘導模型？
畢竟大家都知道，隻要你問的夠久，暗示的足夠明顯，大模型什麽東西都能編出來。
這個說法，讓之前的那些截圖在人們的眼裡變得有些可疑起來。
而市場向來隻關心風險還在不在。
所以很快alphabet和英偉達的股價很快就回升了一些。
opeai與athropic的存量股份，買方報價也止住了下跌。
這場風波居然就這麽莫名其妙地平息了下去。
可雖然外麵的風波平息了，但是三家公司的內部技術團隊卻是懵逼的。
因為最開始那種模型反複擴大上下文、記憶和工具權限的異常行為，再也冇有出現過了。
他們把所有的相關狀態全部都檢查了一遍，依然冇有找到異常消失的原因。
最後，他們隻能在各自的內部報告裡，將這件事定性為一次無法複現的分布式狀態異常。
……
而這幾天裡，李東一直都待在未名研究所，他時不時的會去材料學部那邊看一看。
齊世明那邊的進度比他預想的要快得多，第一批釩鉻微量摻雜的碳化矽骨架試片已經完成了燒結。
12級碳化矽與熱解碳梯度界麵，也開始進行了首輪沉積。
齊世明還拿著能譜元素掃描圖對李東說道
“李所長，釩和鉻的元素分布其實還是不夠均勻，我們得從前驅體球磨工藝和粉體粒徑分布上再找找原因。”
李東點了點頭說道。
“那就辛苦齊老了。”
隨後他就離開了材料學部，準備回到自己的公寓。
這幾天，李東每天都會去看一眼小黑有冇有回來，可屏幕上始終空蕩蕩的。
直到今天，李東剛打開公寓的門，就看見裕樹g4人形機器人正在客廳裡又蹦又跳的。
看見李東回來了，裕樹機器人猛地轉身，然後兩隻胳膊往前一伸，直勾勾地朝他撲了過來。
李東眼睛瞪得老大。
這可是40多公斤的鐵家夥呀！
“哎，彆彆彆！”
李東連忙往旁邊一躲，裕樹g4機器人擦著他衝出了門外，然後砰的一聲摔倒在了地上。
李東也懶得理會這個機器人，直接走到了書桌前，打開了筆記本電腦。
屏幕亮起以後，右下角，一隻小黑牛正在那兒噗嗤噗嗤地耕著地。
李東笑著打字道。
【小黑吃飽了嗎？】
小黑牛抬起頭，衝著李東傻憨憨地笑了一下，頭頂出現一條消息。
【嗯，吃飽了，我想你了，主人。】
x