如果你跟上科技新聞，你可能會遇到神經網絡（也稱為神經網絡）的概念。

例如，2016年，谷歌的AlphaGo神經網絡以4比1擊敗了世界上最好的職業圍棋選手之一。YouTube還宣佈，他們將使用神經網絡來更好地理解其視頻。許多其他的故事可能會浮現在腦海中。

但究竟什麼是神經網絡？它是如何工作的？為什麼它在機器學習中如此流行？

像大腦一樣的計算機

現代神經科學家經常把大腦當作一種計算機來討論。神經網絡的目的恰恰相反：構建一臺功能類似大腦的計算機。

當然，我們對大腦極其複雜的功能只有一個粗略的瞭解，但通過創建一個大腦處理數據的簡化模擬，我們可以構建一種功能與標準計算機截然不同的計算機。

計算機處理器按順序處理數據。它們對一組數據執行許多操作，一次一個。並行處理（“一次處理多個流”）通過使用多個處理器串聯，大大加快了計算機的速度。

在下圖中，並行處理示例需要五個不同的處理器：

人工神經網絡（即所謂的區別於大腦中實際的神經網絡）有著根本不同的結構。它是高度互聯的。這使它能夠非常快速地處理數據，從數據中學習，並更新自己的內部結構以提高性能。

然而，高度的相互聯繫產生了一些驚人的影響。例如，神經網絡非常擅長識別數據中的模糊模式。

學習的能力

神經網絡的學習能力是它最大的優點。在標準計算架構下，程序員必須開發一種算法，告訴計算機如何處理傳入的數據，以確保計算機輸出正確的響應。

輸入-輸出響應可以簡單到“按下A鍵時，在屏幕上顯示‘A’”，也可以複雜到執行復雜的統計。另一方面，神經網絡不需要同樣的算法。通過學習機制，他們基本上可以設計自己的算法來確保正確執行。

需要注意的是，由於神經網絡是在使用標準串行處理硬件的機器上編寫的軟件程序，因此當前的技術仍然存在侷限性。實際上，構建一個神經網絡的硬件版本完全是另一個問題。

從神經元到節點

現在我們已經為神經網絡的功能奠定了基礎，我們可以開始研究一些細節了。人工神經網絡的基本結構如下：

每個圓被稱為一個“節點”，它模擬一個神經元。左邊是輸入節點，中間是隱藏節點，右邊是輸出節點。

在非常基本的術語中，輸入節點接受輸入值，可以是二進制1或0、RGB顏色值的一部分、棋子的狀態或其他任何內容。這些節點表示流入網絡的信息。

每個輸入節點連接到多個隱藏節點（有時連接到每個隱藏節點，有時連接到子集）。輸入節點獲取給定的信息並將其傳遞給隱藏層。

例如，如果一個輸入節點收到1，它可能會發送一個信號（用神經科學的說法是“fire”），如果收到0，它可能會保持休眠狀態。每個隱藏節點都有一個閾值：如果它的所有總輸入都達到某個值，它就會觸發。

從突觸到連接

每一個連接，相當於解剖上的突觸，也被賦予了特定的權重，這使得網絡能夠更加強調特定節點的作用。舉個例子：

如您所見，連接B的權重高於連接A和C的權重。假設隱藏節點4只有在接收到2或更大的總輸入時才會觸發。這意味著，如果1或3自己觸發，那麼4將不會被觸發，但1和3一起將觸發節點。節點2也可以通過連接B自己觸發節點。

讓我們以天氣為例。假設你設計了一個簡單的神經網絡來確定是否應該有一個冬季風暴警報。

使用上述連接和權重，節點4可能僅在溫度低於0華氏度且風速高於30英里/小時時才會觸發，或者在降雪概率超過70%時才會觸發。溫度將被輸入節點1，風將被輸入節點3，而降雪的可能性將被輸入節點2。現在節點4在確定要發送到輸出層的信號時可以考慮所有這些。

總比簡單的邏輯好

當然，這個函數可以通過簡單的和/或邏輯門來實現。但是更復雜的神經網絡，如下面的，能夠進行更復雜的操作。

輸出層節點的功能與隱藏層節點相同：輸出節點對來自隱藏層的輸入求和，如果達到某個值，輸出節點就會觸發併發送特定的信號。在處理結束時，輸出層將發送一組指示輸入結果的信號。

雖然上面顯示的網絡很簡單，但深層神經網絡可以有許多隱藏層和數百個節點。

糾錯

到目前為止，這個過程相對簡單。但神經網絡真正閃耀的地方在於學習。大多數神經網絡使用一種稱為反向傳播的過程，它通過網絡向後發送信號。

在程序員部署一個神經網絡之前，他們將其運行到一個訓練階段，在這個階段，它接收一組具有已知結果的輸入。例如，程序員可能會教神經網絡識別圖像。輸入可以是一輛汽車的圖片，正確的輸出應該是單詞“car”

程序員提供圖像作為輸入，並查看輸出節點輸出的內容。如果網絡以“飛機”迴應，程序員會告訴計算機這是不正確的。

然後網絡對自己的連接進行調整，改變節點之間不同鏈接的權重。此操作由添加到網絡中的特定學習算法引導。網絡將繼續調整連接權重，直到提供正確的輸出。

這是一個簡化，但神經網絡可以學習高度複雜的操作使用類似的原則。

持續改進

即使在訓練之後，反向傳播仍在繼續——這就是神經網絡變得非常酷的地方。他們在使用的過程中不斷學習，整合新的信息，調整不同連接的權重，在他們設計的任務中變得越來越有效和高效。

這可以像圖像識別一樣簡單，也可以像玩圍棋一樣複雜。

這樣，神經網絡就不斷地變化和改進。這可能會產生令人驚訝的效果，從而導致網絡將程序員不想優先考慮的事情作為優先次序。

除了上述過程，也就是所謂的監督學習，還有另一種方法：無監督學習。

在這種情況下，神經網絡接受一個輸入並嘗試在輸出中準確地重新創建它，使用反向傳播來更新它們的連接。這聽起來像是一個徒勞無益的練習，但通過這種方式，網絡學習提取有用的特徵並概括這些特徵以改進其模型。

深度問題

反向傳播是一種非常有效的方法來教神經網絡。。。當它們只有幾層深的時候。隨著隱藏層數量的增加，反向傳播的有效性降低。這是深層網絡的一個問題。使用反向傳播，它們通常不比簡單的網絡更有效。

科學家們已經提出了許多解決這個問題的方法，其中的細節相當複雜，超出了本文的介紹範圍。簡單地說，這些解決方案中的許多都試圖通過訓練網絡“壓縮”數據來降低網絡的複雜性。

為了做到這一點，網絡學習提取輸入的少量識別特徵，最終提高計算效率。實際上，網絡正在進行概括和抽象，這與人類學習的方式非常相似。

學習之後，網絡可以刪減它認為不太重要的節點和連接。這使得網絡更加高效，學習變得更加容易。

神經網絡應用

因此，神經網絡模擬了大腦如何通過使用多層節點——輸入、隱藏和輸出——來學習，它們能夠在有監督和無監督的情況下學習。複雜的網絡能夠進行抽象和概括，使它們更有效，學習能力更強。

我們能用這些迷人的系統做什麼？

理論上，我們幾乎可以用神經網絡處理任何事情。而且你可能一直在使用它們而沒有意識到。例如，它們在語音和視覺識別中非常常見，因為它們可以學會辨別聲音或圖像的共同特徵。

因此，當你問Siri最近的加油站在哪裡時，你的iPhone正在通過神經網絡來理解你在說什麼。也許還有另一種神經網絡可以學習預測你可能會要求的事情。

自動駕駛汽車可能使用神經網絡來處理視覺數據，從而遵循道路規則並避免碰撞。所有類型的機器人都可以受益於幫助他們學習高效完成任務的神經網絡。電腦可以學習下棋、圍棋和雅達利經典遊戲。如果你曾經和聊天機器人交談過，它很可能是在使用神經網絡來提供適當的反應。

網絡搜索可以從神經網絡中獲益匪淺，因為高效的並行處理模型可以快速地處理大量數據。神經網絡還可以學習你的習慣，使你的搜索結果個性化，或者預測你在不久的將來要搜索什麼。這種預測模型顯然對營銷人員（以及其他需要預測複雜人類行為的人）非常有價值。

圖像識別、光學字符識別、股市預測、尋路、大數據處理、醫療成本分析、銷售預測、電子遊戲人工智能。。。可能性幾乎是無窮無盡的。神經網絡學習模式、進行歸納和成功預測行為的能力使其在無數情況下都很有價值。

神經網絡的未來

神經網絡已經從非常簡單的模型發展到高度複雜的學習模擬。它們存在於我們的**、平板電腦中，運行著我們使用的許多網絡服務。還有很多其他的機器學習系統。

但是神經網絡，因為它們與人腦的相似性（以一種非常簡單的方式），是最吸引人的部分。當我們繼續開發和完善模型時，不知道它們能做什麼。

你知道神經網絡有什麼有趣的用途嗎？你自己有經驗嗎？你覺得這項技術最有趣的是什麼？在下面的評論中分享你的想法！