人工神經網絡

一個前饋神經網絡嘅圖解：每個圓圈係粒人工神經細胞，每粒細胞嘅啟動程度取決於佢打前嗰排細胞嘅啟動程度－好似動物嘅神經系統噉。

人工神經網絡（英文：artificial neural network，ANN，可作粵拼：ei1 en1 en1）係一類數學模型，特徵係設計上模仿生物神經網絡（即係動物嘅中樞神經系統，尤其係個腦）嘅結構同功能：例如一隻靈長目動物嘅腦閒閒哋有斷dyun3百億計咁多嘅神經細胞，一粒神經細胞俾電同化學物訊號刺激到嗰陣，會跟住以電或者化學物嚟傳新訊號，所以每當一粒神經細胞射訊號就可以引起連鎖反應，將資訊傳勻成個神經網絡；ANN 主要係以電腦程式嚟模擬呢個過程，令電腦能夠出現類似動物神經系統噉嘅行為—呢種技術對 AI 同機械人學嚟講好有用。

一個 ANN 由大量人工神經細胞組成。用電腦程式整神經網絡嗰陣時，研究者通常會每粒人工神經細胞都同佢設返個數值表示佢啟動程度有幾高，而每粒神經細胞嘅啟動程度數值都有條式計，條式包括喺佢之前嗰啲神經細胞嘅啟動程度。啲函數裏面嘅參數可以變化，而如果個神經網絡程式令佢識得靠經驗嚟調整呢啲參數嘅話，個神經網絡就會具有學習能力。即係例如個程式每粒細胞有條類似噉嘅算式：

$A=W_{1}A_{1}+W_{2}A_{2}...$；（啟動函數）

$A$ 代表粒手上粒細胞嘅啟動程度，$A_{n}$ 代表前排神經細胞當中第 $n$ 粒嘅啟動程度，而 $W_{n}$ 就係細胞 $A_{n}$ 嘅權重—指佢有幾影響得到 $A$。噉每當一粒人工神經細胞啟動嗰陣，會帶起佢後面啲細胞跟住啟動－似十足生物神經網絡噉。

到咗廿一世紀初，ANN 經已俾科學界廣泛噉用落各種問題度。喺應用上，事實證實 ANN 能夠處理機械視覺同語音識別等傳統電腦程式搞唔掂嘅問題；而理論性質認知科學亦有聯結主義嘅諗頭，主張心靈可以用 ANN 技術嚟模擬。

人工智能史嗰度有詳細啲噉講人工神經網絡呢樣嘢嘅歷史。

基本諗頭

内文：神經細胞

睇埋：神經訊號

人工神經網絡最基本嘅諗頭係

「

要用人工方法模仿動物神經細胞嘅功能。

」

一粒神經細胞受到某啲特定刺激嗰陣，會用電或者化學方式向第啲神經細胞傳出訊號，然後同呢粒神經細胞相連嗰啲神經細胞會受到佢訊號刺激，跟住又會各自射新嘅訊號－令到資訊就會擴散開去，傳去神經系統唔同部份。

例如隻眼塊視網膜上面嗰啲感光神經細胞噉，呢啲細胞受光刺激嗰時，會傳訊號去同佢哋相連嘅神經細胞嗰度，而呢一串神經細胞一路連到上腦，所以喺每一點時間，對眼嗰啲感光細胞都會係噉受光刺激並且射訊號，啲訊號會一路傳上去個腦嘅視覺相關區域，個腦處理收到嘅資訊—例如係有幾多粒感光神經細胞喺度射訊號、或者射訊號嘅係喺眼邊忽嘅感光細胞... 等，就可以判斷對眼睇到啲乜。

呢種訊號傳遞過程，就係人工神經網絡技術想模擬嘅嘢。

簡化講，一粒動物神經細胞會收訊號，按訊號改變自己啟動程度，而啟動程度決定佢會唔會傳新訊號去同佢連住嗰啲細胞度。

網絡組成

睇埋：生物神經網絡

細胞

内文：人工神經細胞

人工神經細胞係人工神經網絡嘅基本組成部件。

一粒人工神經細胞係一嚿人造物體，會好似動物神經細胞噉收訊號、並且按照收到嘅訊號改變自己嘅內在狀態，然後再按照自己嘅內在狀態，決定係咪要射新訊號以及要射點樣嘅新訊號－喺原理上同動物嘅神經細胞極相似。當一大拃人工神經細胞互相連繫住，就會形成一個人工神經網絡，每當研究者俾某啲 input 值落去其中一啲細胞嗰陣，佢哋就會帶動其他人工神經細胞啟動，最後每粒人工神經細胞都會達致最後嘅啟動值。噉亦表示，個網絡可以有 output 畀到出嚟。實證研究表明，一個人工神經網絡嘅 output 值同 input 值會成特定嘅關係，因而可以攞嚟做一啲有用嘅運算（下面詳細講）。

一粒典型人工神經細胞嘅結構如下：

• $a_{1}$ 至 $a_{n}$ 係各個 input 嘅數值，啲 input 可以係嚟自外界嘅，但又嚟自同一個網絡入面嘅第啲神經細胞都得。
• $w_{1}$ 至 $w_{n}$ 係每個 input 嘅權重，代表嗰個 input 對手上呢粒神經細胞嘅啟動程度有幾大影響力。
• $b$ 指偏向，即係嗰粒神經細胞本身喺啟動上有乜傾向，例如如果有某粒神經細胞嘅 $b$ 係正數而且數值大，佢就會傾向無論 input 係幾多都有強烈啟動。
• ${\text{SUM}}$（以下簡稱 $S$）指粒神經細胞嘅啟動程度，呢個數值由上面嗰柞因素話事，個函數如下：

  $S(T+1)=f(S(T),a(T),\theta _{s})$

  • $S(T+1)$ 指粒細胞喺時間點 $T+1$ 嘅啟動程度，
  • $S(T)$ 指粒細胞喺時間點 $T$ 嘅啟動程度，
  • 而 $a(T)$ 指喺時間點 $T$ 嗰柞輸入嘅數值。呢條式表示，$S(T+1)$ 嘅值取決於 $S(T)$、$a(T)$ 同埋 $\theta _{s}$ 呢三個數值。
  • 好多人工神經細胞嘅啟動函數仲會包含 $\theta _{s}$ 嘅數值。呢個係所謂嘅門檻值：一粒典型嘅動物神經細胞，一定要受到嘅刺激有返咁上下勁，先至會射訊號；如果佢受嘅刺激數值過唔到門檻值，佢就咩訊號都唔射；為咗要更加貼近動物神經細胞，好多研究人員設計人工神經網絡嗰時都會特登同每粒細胞俾返個門檻值佢，令各粒人工神經細胞好似動物神經細胞噉，收到嘅 input 唔過門檻值就完全唔射訊號。
• $t$ 係粒人工神經細胞嘅輸出數值。
• $f$ 係 $S$ 同埋 $t$ 之間嗰個函數，可以有多個款，但 $f$ 好多時會係一個恆等函數－即係話 $t$ 數值好多時同 $S$ 一樣。

傳遞函數

内文：啟動函數

喺數學上，一粒普通嘅人工神經細胞成個傳遞函數可以簡化噉用以下呢條式表達：

$t=f({\vec {W'}}{\vec {A}}+b)$

• ${\vec {W'}}$ 係權重向量，即係指包括嗮所有權重在內嘅一個向量。
• ${\vec {A}}$ 係輸入向量，同理係指包括嗮所有 input 在內嘅一個向量。
• $t$ 係粒人工神經細胞嘅 output，係一個純量。

以上呢個函數所講嘅嘢用日常用語表達係噉嘅：

「

粒人工神經細胞嘅 output 值取決於佢收到嘅 input 值、啲權重同埋佢嘅偏向值。

」

上述呢個例子係一個線性函數（即係如果將 $t$ 同是但一個 $a$ 畫幅圖，會出一條直線），不過喺實際應用上，人工神經細胞嘅傳遞函數仲有得用 sigmoidsik1 moi4 函數等唔同類嘅函數嚟模擬：例如喺 sigmoid 函數下，y 嘅數值會一路大致上等如 0，直至 x 嘅數值超越某個臨界值為止，而喺 x 過咗個臨界值之後，y 嘅數值會一路大致等如佢最大可能數值（下圖）－就好似現實世界嘅神經細胞噉，要 input 訊號超過一個臨界值先會射新訊號。睇埋線性整流函數。

網絡結構

睇埋：生物神經網絡

當多粒人工神經細胞連埋一齊，就會組成一個人工神經網絡。喺實際使用上，設計者一般會用電腦程式整人工神經網絡，叫個程式開始嗰陣粒粒細胞都設個數代表佢嘅啟動程度，再設啲數代表細胞之間嘅連結權重。網絡多數會用多層結構－同一層嘅細胞唔會影響彼此嘅啟動程度，粒粒嘅啟動程度都會受前一層嘅細胞影響。例如常見嘅多層前饋網絡可以想像成以下噉嘅樣：

幅圖入面嘅每一個圓圈都代表咗一粒人工神經細胞，箭咀表示箭咀前嗰粒細胞嘅啟動能夠影響箭咀後嗰粒細胞嘅啟動（箭咀後細胞嘅啟動 $=f($箭咀前細胞嘅啟動$)$）。呢個網絡由三大層組成，分別係：

• 輸入層嘅細胞負責由外界嗰度攞資訊－佢哋嘅啟動程度主要由呢啲外界資訊話事。
• 隱藏層係 input 層同 output 層之間嘅一排排人工神經細胞，得一層或者有好多層都得，一粒隱藏層入面嘅細胞嘅啟動程度通常都係取決於佢打前嗰層嗰啲細胞。一般嚟講，隱藏層愈多細胞，個網絡嘅就愈會有顯著嘅非線性，但表現唔一定會愈好。喺實際應用上，研究者整神經網絡嗰陣，會設每浸隱藏層嘅細胞數目做 input 層嘅 1.2 至 1.5 倍。
• 輸出層，呢層嗰啲細胞嘅啟動程度取決於佢哋之前嗰層嘅細胞，負責俾出成個神經網絡嘅運算結果。

亦都有一啲人工神經網絡係冇隱藏層嘅。呢啲網絡浸 output 層嘅啟動程度數值會直接噉由 input 層決定，即係話佢哋結構如下：

當中左手邊黑點代表 input 層嘅細胞。呢種冇隱藏層嘅神經網絡有個大缺點，佢哋模擬嘅 input-output 關係唔能夠太複雜，一旦個設計者需要段 input-output 關係唔係簡單線性嗰陣，單層人工神經網絡往往就會搞唔掂。

前饋定遞迴

内文：前饋神經網絡同遞迴神經網絡

按照結構嚟分類嘅話，神經網絡有得分做好多種，以下呢兩大種最常見：

• 前饋神經網絡，指訊號淨係由 input 到 output 一個方向流動嘅神經網絡－冇任何細胞能夠影響自己前排嗰啲細胞，好似上面嗰幾幅圖描述嘅噉。
• 遞迴神經網絡，指訊號會喺個神經網絡內「遞迴」，即係話個網絡有一啲細胞有能力影響佢哋之前嗰幾層嘅細胞嘅啟動程度。因為佢哋呢種結構特徵，佢哋識得處理喺時間上前後倚賴嘅資訊。例如係自然語言噉：一個人講嘢嗰陣，句子嘅第二隻字會影響到第一隻字嘅意思，例如粵文家吓同家庭嘅意思就唔同嗮，所以要分析時間點 $t$ 聽到嗰隻字，梗要考慮埋打前時間點聽到嘅字先得－遞迴神經網絡就能夠做到呢一點。事實係喺廿一世紀初，已經有研究者成功噉用遞迴神經網絡嚟教電腦處理自然語言。例如以下呢幅圖噉：

喺呢個網絡當中，一粒細胞可以影響佢自己喺下一點時間嘅啟動程度。所以個網絡係一個簡單嘅無隱藏層遞迴網絡。

網絡學習

内文：機械學習

學習法則係指一個神經網絡有嘅一拃法則，負責講明個網絡啲參數要點變化。

一個神經網絡收到一個 input 嗰陣會計一個 output 出嚟，但係呢個 output 唔一定係正確嘅，可能會同正確嘅結果有所出入。所以如果要用神經網絡計出正確結果，好多時就要靠好似學習噉嘅過程：例如喺監督式學習當中，個研究者可以走去搵數據返嚟－呢柞數據就係所謂嘅訓練集；訓練集會包括一連串嘅 input 個案，而每個個案都有一個已知嘅正確 output 值；跟住研究者就可以將訓練集嘅數據入落去神經網絡程式度，等部電腦自動噉計每一個個案入面，個神經網絡俾出嚟嘅 output 同正確 output 值爭幾遠，然後啲事先編好嘅學習法則，就會按照呢啲差異值計吓例如權重要點變，先可以令個網絡俾出更準嘅答案。如是者，個神經網絡運算咗大量個案之後，佢啲權重參數值就會有所改變，（喺理想情況當中）變到更加能夠計到正確答案。睇埋通用近似定理。

喺呢個過程裏面，個研究者會想令以下條方程式入面嗰個殘差平方和 $\textstyle {\hat {C}}$有咁細得咁細：

$\textstyle {\hat {C}}={\frac {1}{N}}\sum _{i=1}^{N}(f(x_{i})-y_{i})^{2}$；（誤差函數）當中

• $N$ 係個訓練集入面嘅個案數量；
• $x_{i}$ 係第 $i$ 個個案入面嗰個輸入；
• $f(x_{i})$ 係個神經網絡用 $x_{i}$ 做輸入嗰陣俾出嚟嘅輸出；而
• $y_{i}$ 係第 $i$ 個個案入面嗰個正確輸出；所以
• $\textstyle {\hat {C}}$ 呢個數值反映咗攞個神經網絡嚟計嘢嗰陣嘅平均誤差。

反向傳播

内文：反向傳播算法

反向傳播算法係一套用嚟計權重值要點調整嘅方法。個網絡俾出運算結果之後，就可以計吓個結果同正確數值爭幾遠，例如確率勾配降下法噉，就會用以下呢條算式嚟計出每個權重值要點變：

$w_{ij}(t+1)=w_{ij}(t)+\eta {\frac {\partial C}{\partial w_{ij}}}+\xi (t)$；當中

• $w_{ij}(n)$ 係指喺時間點 $n$ 嘅權重值 $w_{ij}$；
• $\eta$ 係學習率；
• $C$ 係個誤差，反映咗喺個個案入面個神經網絡俾嘅輸出同正確輸出差幾遠；
• ${\frac {\partial C}{\partial w_{ij}}}$ 係 $C$ 隨住 $w_{ij}$ 嘅偏導數；
• $\xi (t)$ 係一個隨機嘅數值。

如果一個以電腦程式寫嘅神經網絡跟呢條式嚟行，佢計完每一個個案之後，都會計出佢裏面嘅權重值要點變，並且將呢件「每個權重應該要點變」嘅資訊傳返去個網絡嗰度（所以就叫反向傳播）。每次有個權重值改變嗰陣，佢嘅改變幅度會同誤差值有一定嘅關係，而且佢對個 output 嘅參與愈大，佢嘅改變幅度會愈大－個網絡會一路計個案一路變，變到誤差值愈嚟愈接近 0 為止。而除咗確率勾配降下法之外，反向傳播仲有好多其他方法做，詳情可以睇最佳化相關嘅課題。

用反向傳播算法幫神經網絡學習嘅演算法如下：

第一步：傳播

1. 由數據度攞一個個案，按照個網絡嘅權重同個案嘅 input 值計個網絡會俾乜嘢 output 值（計 $f(x_{i})$）；
2. 計吓誤差係幾多（計 $(f(x_{i})-y_{i})^{2}$ 同 $\textstyle {\hat {C}}$）；
3. 用條式計吓每個權重數值應該要變幾多（計 $w_{ij}(t+1)$）。

第二步：更新權重值

1. 每個權重值，佢都會由條式嗰度有一個梯度值；
2. 每個權重值嘅改變幅度等如個梯度值乘以 $\eta$－如果 $\eta$ 係 0，噉個網絡永遠都唔會變，而如果 $\eta$ 數值大，噉個網絡會變化得好快，所以 $\eta$ 掌管個網絡「學嘢學得幾快」；
3. 將呢拃值「反向傳播」返去個網絡度，將每個權重值變成佢嘅新數值（實際更新 $w_{ij}$ 值）；
4. 重複以上步驟，理想嘅係直至誤差值變成 0 為止，或者係變到一個接受得到嘅程度。不過都可以睇埋過適嘅概念。

如果想搵實際寫神經網絡同教啲網絡學習嘅源碼，網上周圍都有。

批量式

要用反向傳播算法訓練神經網絡，可以用所謂嘅批量式訓練。喺一個用批量式訓練學嘢嘅神經網絡入面，源碼會講定一個批量嘥士si2（$b$），而個神經網絡會每讀取咗 $b$ 咁多個個案後先更新權重。想像以下呢段虛擬碼：

 設定 maxEpochs 嘅數值
 將拃數據睇 maxEpochs 噉多次
 
 同每個個案，做...
   計啲權重要變幾多。
   累積權重值變幅，而唔係即刻改變啲權重值。
 
 Run 嗮所有個案之後，先 update 柞權重值；喺呢段碼入面，b = 個案數量

批量式訓練有個好處係，用呢種做法表示每次權重更新都考慮嗮成個批量入面嘅趨勢，而唔係淨係考慮單一個案，所以畀人指係可以令神經網絡學起嘢上嚟更穩定。

學習率

内文：學習率

睇埋：動量 (機械學習)

學習率（$\eta$）係神經網絡入面好緊要嘅參數。每次更新啲權重之前，都要有條式計每個權重變幾多，而個變幅往往會乘以個學習率—即係話學習率掌管住個網絡「學嘢學得有幾快」，如果學習率係 0 個網絡啲權重值就永遠都唔會變，而學習率數值大，個網絡就會變得好快。

之但係「學得快」唔一定係一件好事：學習率快就表示每次更新權重嗰陣，每個權重變幅都會偏大，呢種情況好多時會搞到權重變嗰陣「郁到過咗龍」－假想有個權重家陣數值係 0.7，而佢個理想值係 0.65，但因為個網絡學習率勁得滯，搞到權重更新嗰陣佢個數值唔係變成理想嘅 0.65，而係變成 0.6；同時另一方面，學習率低得滯又會搞到個網絡學嘢好慢。因為噉，對神經網絡嘅研究就成日講到「學習率要設做幾多先算理想」呢條問題。

喺最原始嘅神經網絡當中，學習率係常數，但廿一世紀初嘅研究有嘗試將學習率設做可以變化嘅數值。其中一個比較簡單嘅方法係運用所謂嘅動量：喺神經網絡研究上，動量建基於一個諗頭－如果喺之前幾個個案入面，權重都係要跌嘅話，噉呢個權重喺下一個個案當中好可能都係要數值跌，而同理如果個權重喺之前幾個個案入面都係要升嘅話，噉佢好有可能喺下一個個案都係要升。

噉即係話喺一個原始嘅神經網絡裏面，一個權重嘅改變幅度如下：

$\delta x_{t}=-\eta g_{t}$

• 當中 $\delta x_{t}$ 係權重改變幅度，$\eta$ 係學習率，$g_{t}$ 係梯度值。而喺用動量嘅情況下，權重變幅條式如下：

$\delta x_{t}=\rho (\delta x_{t-1})-\eta g_{t}$

$\rho$ 係一個常數，掌控「動量衰退得有幾快」，而 $\delta x_{t-1}$ 喺之前嗰個個案入面嘅權重變幅－即係話喺呢個情況下，當個權重（例如）喺之前嗰一個個案係下降咗嗰陣，佢喺今個個案下降起上嚟會下降得更勁，而上升起上嚟會上升得冇咁快（呢點有少少似物理學上嘅動量）。調較 $\rho$ 嘅數值可以左右「之前嘅權重變幅」對「而家嘅權重變幅」有幾大影響力。

學習範式

一個數據集；每一橫行代表一個個案，每一個直行代表一個變數。

一個神經網絡可以隨住經驗變得更加有能力做準確嘅預測－曉好似動物噉樣學習。所以神經網絡技術對機械學習嚟講至關重要，而要訓練一個神經網絡學嘢，主要有三大學習範式：監督式學習、非監督式學習同埋強化學習。

監督式

内文：監督式學習

監督式學習會搵一柞例子個案返嚟，將每個個案嘅 input 入落去個網絡度等佢計個 output 出嚟，跟手再計返誤差值同埋用誤差值計個網絡啲權重要點改。經過一輪訓練，個網絡對訓練集數據嘅計算結果個誤差值可以接受，就將未見過嘅測試集數據挃入隻網絡進行預測，又得到泛化誤差值。若果個誤差值都可以接受得到，噉意味呢個網絡模型實現咗泛化，可以作為結果呈現；唔係就要調整權重、返去重新訓練。用數學行話講嘅話，即係要搵出一柞已知嘅例子，有若干對輸入（$x$）同正確輸出（$y$），${\displaystyle (x,y),x\in X,y\in Y}$，並且由可容許嘅函數當中搵返個同啲例子最吻合嘅函數 ${\displaystyle f:X\rightarrow Y}$ 出嚟。喺呢種學習之下，個神經網絡會由個研究者嗰度收到一柞訓練數據俾佢學、入邊有題同埋答案，好似有個老師噉－所以就叫監督式學習。

用監督式學習可以訓練神經網絡做好多嘢，好似係圖形辨識同埋迴歸分析 呀噉。舉例說明，家吓有個研究員想訓練一個神經網絡分辨一個病人係咪有肺癌，用嚟幫啲醫生手做檢查；佢可以

1. 去問醫院同醫學院等嘅單位借有關肺癌病人嘅數據，呢柞數據要包括咗每個病人嘅檢查結果（$x$）以及佢係咪真係有肺癌（$y$）等嘅資訊；
2. 跟手個研究員就會逐個逐個將啲病人個案嘅檢查結果同 X 光片嗰柞數字入落去個神經網絡嘅輸入層嗰度，啲隱藏層會計吓啲輸入嘅數據，而個輸出層就會係是但一個二元嘅輸出－有肺癌（用 1 代表）同冇肺癌（用 0 代表）。
3. 初頭嗰陣，個網絡實會犯好多錯，但係用呢柞數據訓練到咁上下之後，個網絡會根據佢啲學習法則改變佢啲權重，順利嘅話啲誤差會變到愈嚟愈細；而最後如果個誤差細到去一個可以接受嘅水平嘅話，醫生就有可能會有興趣用呢個神經網絡幫佢哋手檢查肺癌。

事實係，喺醫學上經已有唔少醫護人員會用神經網絡幫手做診斷，有研究甚至發現，用神經網絡嚟做診斷有陣時仲準過用人手做。

非監督式

聚類分析嘅圖解；每一點代表一個個案，每個個案喺用 X 軸同 Y 軸分別代表嗰兩個變數上都各有其數值，由幅圖睇得出，啲個案明顯可以按呢兩個變數分三大類。

内文：非監督式學習

喺非監督式學習當中，個研究者會有一柞數據 ${\displaystyle \textstyle x}$ 俾個神經網絡處理，但係同監督式學習唔同嘅係，個研究者唔會明確噉話俾個神經網絡知佢做嘅預測係啱定錯－所以就嗌做非監督式學習。

非監督式學習一個常見用途係攞嚟做聚類分析。舉例說明，家吓有個生態學家想研究吓一個區域入面嗰啲樹傾向聚集喺啲乜嘢位置，佢可以坐直昇機或者用人造衛星影啲相返嚟，再記錄嗮嗰個區域入面每樖樹生喺邊個位（呢個過程會嘥唔少時間），會得出一個數據庫，記錄嗮每樖樹喺 X 軸同 Y 軸嗰度嘅坐標。跟手佢就可能會想睇吓啲樹會唔會傾向聚集喺個區域入面嘅某啲位置（呢啲資訊可能有助佢保育一啲靠樹生存嘅動物）。如果有某一柞嘅樹彼此之間距離近，又同佢哋以外嘅樹距離遠，噉就可以話佢係「聚埋一羣」，而聚類分析就正係用嚟分析一柞個案入面會唔會有幾羣個體係「彼此之間距離近，同羣以外嘅個體距離遠」嘅。

喺呢次研究入面，個生態學家唔會事先知道啲樹要點分羣，所以用唔到監督式學習，但係佢可以運用非監督式學習嚟整一個神經網絡幫佢手做呢個聚類分析。一個簡單嘅可能做法係好似以下噉：將浸輸入層設做樖樹嘅坐標，等啲隱藏層用每一樖樹嘅數據逐個逐個計吓，而浸輸出層就有例如 5 粒人工神經細胞，喺每樖樹嘅運算之後都會有一粒輸出層神經細胞嘅啟動程度係大過其他嘅－所以個生態學家就可以按「喺將嗰樖樹嘅數據入咗落去個神經網絡度之後，邊粒輸出層神經細胞嘅啟動程度最大」為準則將啲樹分做聚類，而且佢仲有得按照分類結果分得好唔好，嚟計吓使唔使改變吓個神經網絡嗰啲參數－個神經網絡喺度進行學習。除咗噉，電腦科學界仲有第啲更加精良嘅演算法嚟做非監督式學習。

強化學習

強化學習過程嘅圖解；一個運用神經網絡解決問題嘅機械會自己同個環境互動，再睇自己嘅行動會帶嚟啲乜嘢回輸。

内文：強化學習

強化學習係機械學習一種，喺機械人設計上好有用。喺神經網絡強化學習嘅過程裏面，研究者唔會有個數據庫 ${\displaystyle \textstyle x}$ 俾個神經網絡睇同跟住學，而係俾個神經網絡係噉同佢周圍嘅環境互動：喺每一個時間點 ${\displaystyle \textstyle t}$，個神經網絡會產生一個用輸出嘅數字表示嘅動作，例如用 0 代表企喺度唔郁同 1 代表向前行呀噉），而跟住佢周圍個環境會俾返一啲 feedback－簡單啲講就係話返俾個神經網絡聽佢個動作係咪一個好嘅決定，例如個地下有個窿，向前行會跌得好痛，然後個網絡會有方法知道呢個結果。個網絡跟住就會根據呢個 feedback 計吓，睇吓要點樣改佢嗰啲參數，先可以令到下次佢做行動嗰陣得到正面回應嘅機率高啲－上述呢個例子就有可能可以攞嚟教機械人行路。

人工神經網絡強化學習嘅過程大致可以想像成噉：

1. 個神經網絡俾出一個輸出，$a$；
2. 個環境會根據佢嘅內部運作法則決定回輸，$r(i,a,j)$，係乜（$i$ 係現時狀態，而 $j$ 係下一個狀態）；
3. 個神經網絡會根據 $r(i,a,j)$ 決定係咪要修改自己內部嘅參數同埋（如果要）要點改；
4. 返去步驟 1。

個神經網絡內部要有一個演算法，個演算法要用 $r(i,a,j)$ 做輸入，然後輸出「內部參數要變幾多」。

Q-學習

内文：Q-學習

Q-學習係強化學習上成日用嘅一種演算法，用 Q-學習嘅人工神經網絡會儲住一個數據庫，個數據庫包含咗一大柞「狀態－行動」嘅配對，每當有個行動喺某個狀態之下引致正面結果嗰陣，相應嘅狀態－行動配對嘅數值會上升，反之就下降－而當個神經網絡撞到類似狀態嗰陣，就可以靠「邊個行動同呢個狀態嘅配對數值最大」做準則決定採取乜嘢行動。Q-學習嘅核心係以下嘅更新算式：

$Q(i,a)\leftarrow [1-L]Q(i,a)+L[feedback]$，當中

• $Q(i,a)$ 係狀態 $i$ 同行動 $a$ 之間嘅配對值；
• $L$ 係學習率；
• $feedback$ 係環境所俾嘅回輸，數值視乎 $r(i,a,j)$ 等因素而定。
• 呢條式表達嘅係，喺每一個時間點，$Q(i,a)$ 都有可能改變數值，而佢新數值由「佢之前個數值」同「環境所俾嘅回輸」話事，學習率就主宰咗「環境所俾嘅回輸」對佢有幾大影響力。

一個簡單－得兩個行動同兩個狀態－嘅 Q-學習神經網絡嘅演算法例子大致上如下（個網絡可以想像成有兩層，每層兩粒神經細胞）：

1. 初始化，將行動 1 粒神經細胞嘅權重，$w(1,1)$ 同 $w(2,1)$（兩個權重分別代表嗰粒細胞同輸入層嗰兩粒細胞嘅連繫），設做隨機揀嘅數值，而行動 2 嘅相應神經細胞，$w(1,2)$ 同 $w(2,2)$，設做同一數值，以是但一個狀態開始系統模擬，「發生咗幾多次狀態改變」（$k$）設做 0，將 $k$ 嘅最大值（$k_{max}$）設做一個大嘅數值。
2. $i$ 係現時狀態，$j$ 就係下一個狀態。
3. 評估每個 Q-因素（狀態－行動配對嘅數值）。
4. 更新啲權重，等下次再撞到 $i$ 噉嘅狀態嗰陣，個網絡比較有機會作出能夠帶嚟回報嘅行動。
5. 將 $k$ 數值提升 1，除非 $k$ 大過或者等如 $k_{max}$，返去步驟 2。

進階變種

睇埋：人工神經網絡種類一覽

學界有好多進階嘅神經網絡類型。呢啲網絡類型複雜過普通嘅前饋同遞迴網絡，好多時每種都係專門攞嚟處理某啲特定類型嘅問題嘅，好似係：

圖像處理

卷積神經網絡嘅抽象圖解；隱藏層（藍色嗰柞）嘅一粒細胞負責處理輸入層（紅色嗰浸）當中嘅一橛，唔會同佢負責嗰橛以外嘅部份有連繫。

睇埋：卷積神經網絡

人工神經網絡可以攞嚟幫電腦處理傳統演算法好難搞得掂嘅圖像。想像以下一個噉嘅神經網絡：佢係一個卷積神經網絡，輸入層有若干粒細胞，若干浸隱藏層，同一浸輸出層；輸入層每粒細胞代表咗一個像素（幅圖片上面嘅某一個點），第一浸隱藏層就每粒細胞相應輸入層嘅某一橛仔－例如第一粒隱藏層細胞負責處理輸入層最左上角嗰 3 x 3 粒像素大嘅一橛仔（令到個網絡能夠處理啲解像度高嘅圖像），而最後輸出層有 10 粒細胞，每一粒輸出層細胞代表咗一個類別；個神經網絡有個演算法能夠由一幅圖片嗰度讀取輸入，所以每當佢讀到一幅圖片嗰陣，佢嘅神經細胞會跟住輸入層嘅啟動，最後輸出層嘅規律就可能提供到「幅圖屬於邊個類別」嘅資訊。

喺電腦入面，一幅圖片可以用數字代表：一幅圖片由好多粒細點（像素）組成，每粒細點都有特定嘅色水；用三原色模式想像嘅話，任何色水都可以由紅、綠、同藍呢三隻原色砌出嚟，所以一個點嘅色水可以用 $[r,g,b]$ 噉嘅陣列代表－當中 $r$ 表示嗰一點嘅紅色量，$g$ 代表嗰點嘅綠色量，而 $b$ 代表嗰點嘅藍色量，而一幅圖片喺部電腦內部可以用類似噉嘅陣列代表：

$[[207,229,78],[141,159,138],[146,109,81],...]$，表示第一個點有 207 個單位咁多嘅紅、229 咁多個單位嘅綠、同 78 個單位咁多嘅藍，如此類推。

一個可以攞嚟將圖片分類嘅卷積神經網絡演算法（監督式學習）大致上如下：

1. 指定「有啲乜嘢類別」同埋啲輸入嘅圖片有幾多像素等嘅資訊；
2. 由目標位置嗰度讀取圖片數據，得到每幅圖片嘅相應陣列，而且每幅圖片都要有個已知嘅類別；
3. 做一啲事前處理，等啲圖片方便由神經網絡處理；
4. 建立一個卷積神經網絡，輸入層嘅細胞係圖片每粒像素嘅色水，而輸出層就係幅圖片「屬乜嘢類別」；
5. 重複噉做監督式學習嘅基本過程（俾個網絡計出佢嘅答案，將佢嘅答案同正確答案相比，再按結果更改柞權重）。

最後如果順利嘅話，呢個神經網絡就會曉分一幅圖片到底係（例如）屬於 A 類定 B 類，即係例如分啲相係影緊貓定係影緊狗。

深度學習

一個有 3 粒輸入層細胞同 4 粒隱藏層細胞嘅 RBM；一個深度信念網絡內含多個噉嘅結構。

睇埋：深度學習同深度信念網絡

喺廿一世紀嘅社會，互聯網嘅發展令到資訊嘅傳播變得好快，極大量嘅數據喺互聯網上流動，呢啲數據可以好有用，但係因為量大，所以用傳統嘅數據分析法好難處理，而大數據就係一門廿一世紀初嘅新興領域，專門研究點樣做自動化嘅數據分析同埋用呢啲分析方法由大量數據當中提取有用資訊，而人工神經網絡－尤其係深度信念網絡－就係大數據成日用嘅一種工具。

深度信念網絡結構係噉嘅：一個深度信念網絡由多個受限玻茲曼機再加一個前饋神經網絡組成；一個 RBM 得一浸隱藏層，而隱藏層細胞之間冇任何相互連繫，但曉將佢哋嘅啟動傳返去輸入層嗰度；一個受緊訓練嘅深度信念網絡會以第一層 RBM 嘅隱藏層細胞做第二層嗰個 RBM 嘅輸入，再用演算法做學習嘅過程。

一個深度信念網絡嘅演算法大致上如下：

1. 初始化－指定好啲參數同埋隨機設定權重值等等；
2. 按照輸入層細胞嘅啟動同權重，計隱藏層細胞嘅啟動程度；
3. 按照隱藏層細胞嘅啟動同權重，計輸入層細胞嘅啟動程度；
4. 按重構誤差更新權重；
5. 重複上述工序，直至誤差細過某個值為止。

喺一個 RBM 完成學習之後，個程式會「疊」另一個 RBM 喺上面－攞之前嗰個 RBM 嘅隱藏層做新嗰個 RBM 嘅輸入層，再重複上面嘅步驟，直至成個深度信念網絡有若干層 RBM 為止。研究表明咗，深度信念網絡能夠有效噉處理一啲冇事先標籤好嘅數據－例如係喺互聯網上流動、冇人幫手事先執靚嘅數據噉。

長短期記憶

睇埋：記憶同長短期記憶

長短期記憶係一種能夠記住長期記憶嘅遞迴神經網絡：一般嘅遞迴網絡曉處理連串性嘅資訊，例如係用自然語言寫嘅句子噉，但現實世界嘅解難好多時都要求一個個體能夠睇得出時間上差距大嘅因同果，例如要完全了解一個故仔嘅結局，可能要諗返起故仔開頭嘅情節。事實證明咗，普通嘅遞迴神經網絡好多時都難以應付呢啲問題。

LSTM 網絡特徵係內置一啲門控神經細胞，呢啲特殊嘅人工神經細胞有門，曉決定要儲起乜嘢資訊同埋幾時讀取、寫入、或者刪除資訊：喺 LSTM 網絡嘅碼當中，會有演算法幫門控細胞決定幾時要改變自身嘅啟動程度；相比之下，一般嘅遞迴神經網絡冇能力控制現存嘅過去資訊會唔會喺新資訊嚟到嗰陣被替換。呢個特點令到 LSTM 網絡有能力儲資訊儲好耐，而且有能力由輸入嘅數值當中搵出時間上相距不定嘅因同果。

一個基本 LSTM 入面嘅一粒細胞；方格代表成粒細胞，$x_{t}$ 係喺時間點 $t$ 嘅輸入，而 $h_{t}$ 係粒細胞喺時間點 $t$ 嘅輸出，細胞 A 有箭咀指去細胞 B 表示 A 能夠影響 B，而交叉就代表「做嘢」。

一粒 LSTM 嘅人工神經細胞除咗主細胞（$c$）之外仲有幾個元件：

• 輸出門（$o$）、
• 輸入門（$i$）同埋
• 遺忘門（$f$）。

呢三道門當中每一道都可以當係一粒子細胞噉嚟睇，有各自嘅啟動程度值，會受到第啲人工神經細胞影響，決定自身嘅啟動程度，再按自身嘅啟動程度睇吓係咪要「做嘢」。輸出門「做嘢」嘅話會左右甚至封鎖粒細胞嘅輸出，輸入門「做嘢」嘅話會左右甚至封鎖粒細胞嘅輸入，而遺忘門「做嘢」嗰陣就可以完全刪除粒主細胞入面嘅資訊－即係重設粒主細胞嘅啟動值或者權重等。研究表明咗，LSTM 網絡可以用嚟教電腦做一啲要求長期記憶嘅作業，例如係閱讀理解呀噉。

批評

「黑盒」

睇埋：解釋得嘅 AI

有好多神經網絡相關領域嘅學者批評神經網絡係「黑盒」。

人類用個腦諗完嘢解決完問題之後，曉將自己嘅思考過程口頭報告返出嚟，但係一個神經網絡唔會識做呢樣嘢，唔會話到俾研究者聽佢經過啲乜嘢思考過程先能夠達到佢所俾嘅輸出。所以有人將神經網絡比喻做一個黑盒－就算佢嘅輸出係準確嘅都好，個研究者都淨係知個神經網絡嘅輸入同輸出，冇辦法知道當中嘅思考過程。即係話對於「個神經網絡俾嘅答案點解係啱」呢條問題，目前唯一嘅答覆係「因為一部醒過人類嘅系統俾咗個答案出嚟」，雖然呢點唔損害神經網絡喺實用上預測現象嘅能力，但噉表示神經網絡嘅可解釋度低得好交關，好多學者都覺得難以接受。

因為噉，有好多科學家都致力研究點樣先可以拆解一個經歷咗訓練、做緊準確預測嘅神經網絡。

喺科學同工程學上，一個黑盒系統嘅輸入同輸出之間有已知嘅關係，問題係研究者唔知佢內部點樣運作，點樣由輸入產生輸出。

理論特性

雖然話人工神經網絡成個諗頭係建基於生物神經網絡嘅，但查實佢哋喺好多地方都同生物神經網絡好唔同，例如：

• 拓撲特徵：一個普通嘅人工神經網絡會分開做若干層，同一層嘅人工神經細胞彼此之間冇任何連繫，而且做起運算上嚟好多時都係逐層逐層噉做嘅，但生物嘅神經網絡通常都冇明顯分層，而且做起運算上嚟係成個網絡各部份同時間噉做嘅。有關唔分層嘅神經網絡，可以睇霍菲特網絡。
• 速度：喺生物神經網絡當中，訊號嘅速度唔淨只影響個網絡嘅運算速度，仲可以影響所傳送嘅資訊嘅內容，例如係人類嘅眼噉，眼嘅感光神經細胞會向個腦塊視覺皮層傳訊號，話俾個腦知睇到啲乜，而神經科學上嘅研究表明咗，一粒感光神經細胞射訊號嘅頻率係用嚟俾個腦知道光嘅強度嘅（詳情可以睇神經編碼）；相比之下，一個普通嘅人工神經網絡之中訊號嘅速度同頻率淨係會影響個網絡嘅運算速度。
• 容錯：喺生物神經網絡當中，一份資訊係儲多咗幾份嘅，所以個網絡能夠容許訊號傳播上嘅出錯，就算傳訊號嘅過程裏面個訊號走咗少少樣，都唔會造成記憶損失，而且生物神經網絡冇「中央」部份，就算個腦某部份受損，個腦嘅第啲部份好多時都有能力自己改變等自己可以做埋受損嗰部份本嚟做嘅工作。相比之下，人工神經網絡一般冇呢啲能力。
• 反向傳播：生物神經網絡並冇任何類似反向傳播嘅機制。

因為呢啲原因，科學界普遍質疑到底人工神經網絡可唔可以攞嚟模仿人類同第啲動物所展現嘅智能，達致人工智能想做嘅嘢。

硬件問題

廿一世紀初，大同有效嘅人工神經網絡要求相當多嘅運算資源。

動物嘅腦嘅能量效率好高，例如普通大人嘅腦平均用大約 20 瓦咁多嘅能量；相比之下，廿一世紀初嘅 GPU 閒閒地要用幾百瓦嘅能量，而且能量流失好勁，行起上嚟產生嘅廢熱可以令塊 GPU 熱到攝氏 50 至 80 度，唔似得人腦噉能夠維持喺攝氏 37 至 38 度左右。由此可見，廿一世紀初嘅人工神經網絡用起能量上嚟效率苲過生物神經網絡好多，而事實係，到咗 2019 年為止都仲係冇方法用近似生物神經網絡嘅能量效率嘅方法做一個模擬人腦嘅人工神經網絡。

有電腦科學家指出，廿一世紀初人工神經網絡之所以會再興起，好大程度上係因為電腦硬件上嘅進步：喺 1991 至 2015 年間，GPU 嘅運算力提高咗成 100 萬倍咁多，令到反向傳播算法變成有可能－打前嘅電腦因為運算速度低，可能同一個得幾粒細胞嘅神經網絡做反向傳播都要做幾日咁耐，所以實際應用上根本冇用。而運算能力上嘅進步令到本嚟要用成幾個月先做完嘅人工神經網絡學習喺幾日之間就做得嗮。

應用

人工神經網絡能夠模擬輸入同輸出之間一啲非線性嘅關係，所以好多時都能夠有效噉對現實世界嘅現象做出預測。比較普通嘅前饋同遞迴神經網絡都有好廣泛嘅用途：

• 醫療診斷：喺醫療上，人工神經網絡能夠幫手對病人做診斷。曉寫程式嘅醫療人員可以製作一啲人工神經網絡，輸入設做「病徵」，而輸出設做「診斷」（兩者都用某啲數字代表），再用已有嘅醫療數據俾啲網絡做監督式學習，就會造出能夠基於病徵預測「診斷應該係乜」嘅網絡。事實係，廿一世紀初嘅學界經已有曉有效噉基於病人資訊診斷肺癌、大腸癌同前列腺癌等病症嘅神經網絡。有啲神經網絡仲曉靠有關細胞形狀嘅數據嚟分辨邊啲癌細胞係比較惡性（大機會散佈去身體第啲部份）嘅。
• 電腦保安：電腦保安係一個研究點樣確保電腦同互聯網安全嘅領域，包含咗對電腦病毒等惡意程式嘅應付同埋探測黑客等等嘅課題。人工神經網絡嘅技術可以用嚟教電腦分辨邊啲程式係惡意程式、搵出搞破壞嘅人（例如係黑客）嘅戶口、探測邊啲網址具有威脅性、同埋探測信用卡詐騙呀噉；例如用一個監督式學習嘅神經網絡，輸入設做個網站嘅特徵—「有冇嘗試攞個瀏覽者嘅 IP」、「有冇彈視窗出嚟」、或者「有冇啲連咗去已知惡意網站嘅連結」等等—而輸出設做「係咪惡意網站」。
• 遊戲控制：有遊戲人工智能方面嘅研究者指出，人工神經網絡能夠相當準確噉預測一個玩家有幾鍾意隻遊戲（遊戲特性做網絡輸入，玩家鍾意程度做輸出）；於是佢哋就提議一個做法，將一隻電子遊戲嘅遊戲程式編寫成喺每一個時間點，都會用一個神經網絡按遊戲參數估計玩家有幾享受隻遊戲，並且計算享受度隨遊戲參數嘅偏導數，得知享受度會點樣隨遊戲參數變化，然後個程式會按呢份資訊調整隻遊戲；實驗結果顯示，噉嘅做法能夠提升一隻遊戲嘅玩家享受程度。
• 結構分析：喺建築學同結構工程學上，設計一棟建築物嗰陣需要分析吓棟嘢能唔能夠穩陣噉企到喺度，而建築師等嘅人員可以將有關過去嘅建築物嘅數據攞嚟幫個神經網絡做監督式學習－例如輸入做棟建築物嘅形狀同幾何特徵，而輸出就設做棟嘢五十年內冧嘅機率，用嚟預測一楝建築物有幾穩陣。
• 其他：
  • 教電腦玩遊戲；
  • 圖形辨識；
  • 金融；
  • 機械翻譯。
• ... 等等。

領域

• 神經科學
• 電腦科學
• 人工智能
• 機械學習
• 資訊理論

睇埋

• 通用近似定理
• 深度學習
• 演算法
• 腦（人腦）
• 神經編碼
• 複雜系統

文獻

英文文獻：

• Bhadeshia H. K. D. H. (1999). "'Neural Networks in Materials Science" (PDF). ISIJ International. 39 (10): 966–979. doi:10.2355/isijinternational.39.966.
• Coolen, A. C. (1998). A beginner's guide to the mathematics of neural networks (PDF). In Concepts for Neural Networks (pp. 13-70). Springer, London.
• Egmont-Petersen, M.; de Ridder, D.; Handels, H. (2002). "Image processing with neural networks – a review". Pattern Recognition. 35 (10): 2279–2301. CiteSeerX 10.1.1.21.5444. doi:10.1016/S0031-3203(01)00178-9.
• Fahlman, S.; Lebiere, C (1991). "The Cascade-Correlation Learning Architecture" (PDF).
  • created for National Science Foundation, Contract Number EET-8716324, and Defense Advanced Research Projects Agency (DOD), ARPA Order No. 4976 under Contract F33615-87-C-1499.
• Krishnan, G. P., Tadros, T., Ramyaa, R., & Bazhenov, M. (2019). Biologically inspired sleep algorithm for artificial neural networks (PDF). arXiv preprint arXiv:1908.02240.
• MacKay, David, J.C. (2003). Information Theory, Inference, and Learning Algorithms (PDF). Cambridge University Press. ISBN 9780521642989.
• Misra, J., & Saha, I. (2010). Artificial neural networks in hardware: A survey of two decades of progress (PDF). Neurocomputing, 74(1-3), 239-255.
• Siegelmann, H.T.; Sontag, Eduardo D. (1994). "Analog computation via neural networks". Theoretical Computer Science. 131 (2): 331–360. doi:10.1016/0304-3975(94)90178-3.

拎

• 對神經網絡嘅一個簡短介紹 （英文），PDF 快勞，一本 250 頁長嘅大學教科書，教有關人工神經網絡嘅基本知識。
• An Introduction to Deep Neural Networks （英文）
• A Tutorial of Neural Network in Excel （英文）
• YouTube上面嘅MIT course on Neural Networks
• A Concise Introduction to Machine Learning with Artificial Neural Networks （英文）
• Neural Networks for Machine Learning – a course by Geoffrey Hinton （英文）
• Deep Learning （英文）
• Interactive visualization of neural work （英文）
• Neural Networks and Deep Learning （英文）