時間匆匆流逝。
江寒查詢了許多文獻，又經過了一番深入地思考，終于做好了準備，開始撰寫新的論文。
江寒正在研究的，是徑向基神經網絡，在原本的世界，這是第一種實用化的“人工神經網絡”。
這個世界在數學方面的進展，和前世基本一樣。
像“多變量插值的徑向基函數（RBF）方法”，早在1980年代就已經出現了。
也幸好如此，否則的話，江寒在造汽車之前，還得先發明個輪子……
所謂徑向基函數，以本質上來說，就是一個實值函數，該函數的取值僅依賴于與原點或者中心點C的距離。
標準的徑向基函數，一般使用歐氏距離，所以也叫歐式徑向基函數。
當然，使用其他的距離函數也是沒問題的，事實上，最常用的徑向基函數，就是高斯核函數……
在RBF神經網絡中，除了輸入層和輸出層之外，有且僅有一層隱藏層。
從輸入空間到隱藏層空間，所做的變換是非線性的；而從隱藏層到輸出層，卻是做的線性變換。
通過隱藏層把向量從低維映射到高維，使得在低維中線性不可分的問題，到了高維之后變得線性可分。
這其實就是核函數的思想。
由于網絡的輸出和權重參數之間，存在著線性的關系，所以就可以由線性方程組，直接把權重參數求解出來。
這樣一來，一方面大大加快了訓練速度，另一方面，也可以避免“局部極小”的問題。
訓練RBF神經網絡的關鍵，在于求解3個參數。
首先是基函數的中心點，然后是方差，最后是隱含層到輸出層的權重。
在訓練時，同樣需要輸入訓練數據，然后根據損失函數，采用梯度下降法，修正權重的誤差。
這一點，其實與BP神經網絡的做法，基本上如出一轍。
所以從本質上來說，RBF就是BP網絡的一個特例。
當然，兩者之間的區別也很明顯。
在RBF神經網絡中，距離徑向基函數的中心點越遠，神經元的激活度就越低。
在逼近目標函數時，神經元的權重取值，只依賴于查詢點附近的數據。
因此RBF所做的，只是一種局部逼近。
而在BP網絡中，所有數據都會起到同等的作用，是對非線性映射的全局逼近。
第2個區別，是隱藏層的數目不同。
BP神經網絡可以有多個隱含層，但是RBF只有一個隱藏層。
從表達能力上來看，RBF是不如BP的，但RBF也有不可取代的優勢，那就是訓練起來速度極快。
一方面，由于隱藏層較少，計算壓力就更小些；另一方面，局部逼近也可以有效地簡化計算。
在RBF神經網絡中，對于一個輸入，只有附近的神經元會有反應，其他的全都被忽略。
這樣一來，需要調整的權重參數，自然就大幅度地減少了，也就減輕了計算壓力。
此外，還可以從理論上證明，RBF網絡是對連續函數的最佳逼近，而容易陷入局部極小的BP網絡則不是……
一般來說，使用了核函數技巧的機器學習方案，比如支持向量機（SVM）等，都不怎么適應大數據的情況。
樣本量一大，往往會出現極其嚴重的計算困難。
而RBF剛好解決了這個問題……
星期四那天，這篇論文終于寫完了。
當天晚上，江寒吃完飯之后，就開始在電腦上敲論文。
夏雨菲則陪在他身邊，做著自己的高考復習題。
時間快到9點的時候，估摸著夏如虹要回來了，他就轉移戰場，回自己房間繼續工作。
又過了將近半個小時，才將論文完全敲進了電腦里。
隨后，江寒稍微考慮了一下，就將其發給了《MaeLearning》。
理由嘛，也很簡單。
在給自己發來約稿信的期刊中，屬這一家的級別最高。
而盡可能地多拿學術點，正是他一以貫之的原則……
將論文提交到ML官網上之后，時間已經差不多9點半。
江寒閉上眼睛，靠在椅背上，稍微休息了一會兒。
雖然是在休息，但大腦并沒有徹底放空。
他想到了水晶頭骨，以及那個奇怪的卡片。
這些天以來，他一有時間就偷偷研究，想到什么新的思路，就做些實驗驗證一下。
但可惜的是，并沒有任何進展。