每次提問都朝著要害而去。維傑的回答起初還遊刃有餘，到第三個問題時，額頭已滲出細的汗珠。
“計算複雜度方面，”維傑翻著幻燈片，試圖找到相應的分析頁面，“理論上是O(n2)，但實際實現中我們採用了近似演算法……”
“近似演算法的誤差界是多？”曹鵬追問。
會議室安靜了幾秒。瑞迪抬起頭，目在兩人之間掃過，角似乎微微上揚了一毫米—，這是他對學生間高質量辯論的認可。
“這……我們還在分析。”維傑最終承認。
“那麼在你的實驗結果中，至應該標註‘使用近似演算法’的說明。”曹鵬的語氣沒有得意，只是陳述事實，“否則對比是不公平的。”
維傑點頭坐下時，曹鵬對他眨了眨眼，這是兩人之間的默契，辯論歸辯論，不影響午飯時一起吐槽系裡新出臺的伺服使用規定。
瑞迪教授朝曹鵬點頭，“上週我們討論了SIFT特徵在態場景中的漂移問題。曹鵬提出了一個新框架的初步想法。今天，請他詳細展開。”
曹鵬起，在靠近白板的位置坐下，他沒用投影，有些思路，手寫更能現思考的脈絡。
“謝謝教授。”他轉向小組，目掃過每個人的臉。
維傑抱著手臂，眉頭微皺，艾米麗已開啟筆記本，二年級博士生湯姆眼神放空，大概還沒從昨晚的Dota戰中回神，而博士後捷爾任斯基，則衝曹鵬眨眨眼。
“我們現有的影像分類流程：特徵提取、編碼、池化、分類。”曹鵬畫了四個方框，“問題在於，手工設計的特徵，比如SIFT....在類別增多、視角變化劇烈時，區分度下降。而編碼階段用的K-ans或稀疏編碼，本質是假設特徵服從單一分佈。”
說到這兒，他等等，看是否有人提問。維傑了，但最終選擇放棄。
“我的提議是，放棄手工特徵，直接從畫素學起。”曹鵬在“特徵提取”框上打了個叉，“但不是用傳統的全連線神經網路，引數量太大，且忽略影像的空間區域。我設計了一個多尺度稀疏自編碼結構。”
他又在白板上畫出三層結構，第一層是小野的卷積核，提取邊緣紋理，第二層卷積核變大，整合區域結構，第三層是全連線層，但施加L1稀疏約束。每一層都用無監督預訓練初始化，再用反向傳播微調。
“關鍵在這裡，”曹鵬在第三層旁寫下公式，“我們不在畫素空間做稀疏，而是在特徵空間做。將每張圖的特徵啟用視為一個訊號，用字典學習找到過完備基，然後求解稀疏係數。”
“這樣，分類問題轉化為，在字典空間中找到最判別力的稀疏模式。”
說著，寫下一串數學符號。然後轉向實際問題，“我在Caltech101資料集上試了初步版本。64×64的圖，三層結構，第一層用6×6卷積核，步長2，得到16個特徵圖；第二層……”
“等等。”維傑終於舉手，語氣帶著質疑，“曹，你算過時間複雜度嗎？是第一層卷積，假設輸是64×64的RGB圖，6×6核，步長2，輸出16個特徵圖，一次前向傳播就需要多乘加作？這還沒算上稀疏編碼的迭代最佳化。你的模型能在合理時間完訓練嗎？”
問題尖銳，但曹鵬預料到了。他保持平靜，甚至微笑。
“好問題。我算過。”他走到白板另一側，快速寫下算式，“第一層卷積，輸64×64×3，核6×6×3×16，步長2，輸出特徵圖尺寸30×30×16。乘加次數約：(6×6×3)×(30×30)×16 = 1,555,200次。對於Caltech-101的9144張圖，一個epoch是142億次作。在雙Xeon 3.0GHz的伺服上，用高度最佳化的C++和SSE指令，一個epoch大約需要47分鐘。”
數字確到個位。會議室安靜了。
“但這只是樸素實現。”曹鵬繼續，“我做了三最佳化，一，將卷積轉化為矩陣乘法，用Strassen演算法加速，二，利用特徵圖之間的獨立，平行計算。三，稀疏編碼階段，我用了改進的迭代收閾值演算法，將收斂速度提升了40%。最終，完整訓練一的時間是28分鐘，在可接範圍。”
維傑盯著算式，手指無意識敲著桌面。幾秒後，他抬頭，“準確率呢？你說了這麼多計算，但分類效果比SIFT+SP空間金字塔匹配好多？”
“Caltech-101，SIFT+SP最好結果是78.3%。”曹鵬出列印好的圖表，在白板上，“我的方法，在相同訓練、測試劃分下，目前是81.7%。錯誤分析顯示，提升主要來自類和通工類。”
“這些類別視角變化大，手工特徵容易失效。”
3.4個百分點的提升，在視覺領域已算顯著。艾米麗輕聲讚歎，湯姆也坐直了，只有捷爾任斯基，小聲的吹了個口哨。
但維傑還沒放棄，“你的模型引數量多大？過擬合風險呢？”
”。萬006過超就量數引，元單005取若層，維=3×46×46是輸，路網經神線連全的層三個一，比對為作。萬41到不計總，萬21約層線連全，萬7.1約層積卷，量數引“
”。以%8.0在差方的證驗叉折五。減衰重權加中式函失損在及以，tuoporD、放、轉旋、移平，強增料資了到用我，合擬過於至“，對應容從鵬曹
”。了到慮考都你來看，吧行“，笑苦一出於終，背椅回靠傑維。不水滴
”。定穩不都果效，D和DVSK了試我。敏化始初但，降下度梯上線是的用前目我，習學典字的碼編疏稀“，一的上板白向指他。他向看都人有所。說然忽鵬曹”。題問有還，不“
”？式函的典字生能個一學而，典字的定固學不，路思種一換該否是們我，者或？略策化始初典字的好更有沒有：的家大教請想天今我是這“
”。子原典字化始初合組線的本樣域區用，來過移遷想思構重域鄰的ELL將以可許或。嵌線域區的中維降線非到想我讓……化始初典字。曹，考思的棒很“，許讚著帶裡音聲，口開時此授教迪瑞的默沉直一。組小給回拋題問
。榷商待有節細現實然雖。aedi的速加ADUC個一了獻貢姆湯。項別判加中式函失損在議建麗米艾，平的子原典字束約映對徵特斯拉普拉用出傑維。節細技的深更向轉此就論討
”。合結束約形流的想前之我和以可個這“，說頭抬，步幾了演推速迅，亮一睛眼他，時法方化則正的妙巧個一出提麗米艾當。靈的用有點一每收吸，綿海是他刻此，了起收芒鋒的時論辯。錄記上本記筆在，頭點時不，著聽鵬曹
”？嗎聊聊細詳能後會，麗米艾。罰懲的率曲形流對是就實其項化則正的你，形流曼黎為視間空徵特把們我果如“
。頭點著笑麗米艾
”？的長麼怎子腦的你。何幾形流是次這，力意注覺視和碼編疏稀是次上。起一在西東的域領同不把能總你，曹“，話傑維
”。想聯的怪奇生產點三晨凌在會候時有，讀起一》論理知《和》礎基何幾分微《“，答回真認鵬曹”。書讀多“
。了笑都人眾
。作合又卻爭競，板死不但謹嚴，圍氛種這歡喜他。欣神眼，們子弟著看授教迪瑞
。謝致誠真忘不時見意人他收吸在，尊自僚同及傷不時點觀己自衛扞在，下之遜謙在裹包芒鋒將何如得懂是的得難更，人驚賦天僅不，喜驚他讓其尤鵬曹
。家大給分碼式程算計核積卷的後化佳最把點晚應答，釋解心耐他。題問的現實碼式程於關答回，住圍被鵬曹。束結半點一十在議會
”……法想點有實其晚昨我，題問的化始初典字個那過不。曹，了碾你被又天今“，肩他拍拍，邊他到走傑維，時門出
。生發未從鋒烈激的才剛彿彷，話接地然而然自鵬曹”。聽聽想我？飯午吃起一“
。堂食向走肩並人兩
。麼什待等在像，空上的頂屋紅學大隆梅基卡在停雲白朵幾，洗如藍湛空天的堡茲匹，外窗
。燈盞一下亮點能，”法想點有“許也？呢道知誰。話說傑維聽意願更他，刻此但。構結碼式程劃規始開已中腦，驗實比對的跑要午下著想鵬曹
”。積厚年十是，前之手妙但，得偶手妙，棋如法算演“，語自句一的下寫緣邊本記筆夜昨起想然忽他，上徑小的映掩樹橡在走
。行碼式程的過見人無些那、的寫書要將午下向飄已，緒思的他而，來而面撲氣香的醬麵意著合混氣冷。門的堂食了開推，笑了笑他
。來起激得變然忽容笑那，候時的袋腦寸圓的來走己自朝的面迎，樂可杯一著嘬正，大馬高人個一到看當，過不只
”？的來候時麼什你，哥“
