腦科學(xué)是一門實(shí)踐性很強(qiáng)的交叉學(xué)科，包含了神經(jīng)科學(xué)，醫(yī)學(xué)，數(shù)學(xué)，計(jì)算科學(xué)等多門學(xué)科。

隨著近幾年深度學(xué)習(xí)的迅速發(fā)展，人工智能成為了無(wú)論學(xué)術(shù)界還是互聯(lián)網(wǎng)領(lǐng)域的一個(gè)重要的研究熱點(diǎn)。然而，人類在認(rèn)識(shí)世界和改造世界的過(guò)程中從自然界和生物特征汲取了大量的靈感和經(jīng)驗(yàn)。追根溯源，人工智能的發(fā)展離不開(kāi)腦科學(xué)的研究。歷史上，神經(jīng)科學(xué)和人工智能兩個(gè)領(lǐng)域一直存在交叉，對(duì)生物腦更好的理解，將對(duì)智能機(jī)器的建造上起到及其重要的作用。

人工智能是模擬腦的一項(xiàng)主要應(yīng)用，現(xiàn)在深度學(xué)習(xí)這種生物學(xué)簡(jiǎn)化的模型有它的優(yōu)點(diǎn)，具有很好的數(shù)學(xué)解釋性，可以在現(xiàn)有的計(jì)算機(jī)架構(gòu)（馮諾依曼）上實(shí)現(xiàn)，但是同樣有瓶頸，例如：計(jì)算代價(jià)高，不利于硬件實(shí)現(xiàn)等。盡管近年來(lái)深度學(xué)習(xí)和大數(shù)據(jù)的出現(xiàn)使得這種模型在一些任務(wù)上超越人類，但是對(duì)于人腦可以處理的復(fù)雜問(wèn)題卻無(wú)能為力，同時(shí)需要大量的計(jì)算資源和數(shù)據(jù)資源作為支撐。

相反人類大腦是一個(gè)極度優(yōu)化的系統(tǒng)，它的工作耗能僅為25瓦特，神經(jīng)元的數(shù)量卻在10的11次方的數(shù)量級(jí)上，并且這其中的突觸也達(dá)到了每個(gè)神經(jīng)元有10000個(gè)。這樣龐大的網(wǎng)絡(luò)卻有如此低的能耗，這是使得人類大腦在復(fù)雜問(wèn)題的處理有絕對(duì)優(yōu)勢(shì)。

1. 類腦計(jì)算與神經(jīng)網(wǎng)絡(luò)的發(fā)展過(guò)程

早期的類腦計(jì)算（Brian-like Computing）也可以狹義的稱為神經(jīng)計(jì)算（Neural Computation），將神經(jīng)元和突觸模型作為基礎(chǔ)，把這些模型用在許多現(xiàn)實(shí)中的識(shí)別任務(wù)，從而發(fā)揮模擬人腦功能，例如字體識(shí)別，人臉識(shí)別等等。這就不得不提到人工智能的基礎(chǔ)理論——機(jī)器學(xué)習(xí)。

結(jié)合機(jī)器學(xué)習(xí)和神經(jīng)元模型，最早的神經(jīng)元網(wǎng)絡(luò)是由美國(guó)計(jì)算機(jī)科學(xué)家羅森布拉特（F.Roseblatt）于1957年提出的感知機(jī)（perceptron），也被稱為第一代神經(jīng)網(wǎng)絡(luò)。

前兩代神經(jīng)網(wǎng)絡(luò)都是在以數(shù)據(jù)科學(xué)為背景發(fā)展而來(lái)，將神經(jīng)元的輸入和輸出抽象成向量和矩陣，神經(jīng)元的功能主要是做矩陣的相乘運(yùn)算。但是，實(shí)際上生物神經(jīng)元對(duì)信息的處理不是由模擬數(shù)字組成矩陣，而是以脈沖形式出現(xiàn)的生物電信號(hào)，所以前兩代神經(jīng)網(wǎng)絡(luò)僅保留了神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，而極大簡(jiǎn)化了網(wǎng)絡(luò)中的神經(jīng)元模型。

類腦計(jì)算的研究基礎(chǔ)主要是以脈沖神經(jīng)元模型為基礎(chǔ)的神經(jīng)網(wǎng)絡(luò)。脈沖神經(jīng)網(wǎng)絡(luò)（Spiking Neural Network，SNN）由W.Maass在1997年首次提出，其底層用脈沖函數(shù)模仿生物點(diǎn)信號(hào)作為神經(jīng)元之間的信息傳遞方式，可以算做第三代神經(jīng)網(wǎng)絡(luò)[2]。

SNN的優(yōu)點(diǎn)是具有更多的生物解釋性，一方面可以作為計(jì)算神經(jīng)學(xué)對(duì)生物腦現(xiàn)象模擬的基礎(chǔ)工具；另一方面，由于其信息用脈沖傳遞的特點(diǎn)，SNN結(jié)構(gòu)更容易在硬件上實(shí)現(xiàn)，如FPGA等片上系統(tǒng)（on-chip system）。但是，脈沖函數(shù)不可導(dǎo)，因此SNN不能直接應(yīng)用梯度法進(jìn)行訓(xùn)練，對(duì)SNN的學(xué)習(xí)算法一直是近年來(lái)主要的研究問(wèn)題。

2. SNN的模型、結(jié)構(gòu)以及在機(jī)器學(xué)習(xí)中的應(yīng)用

SNN主要結(jié)構(gòu)有前饋（Feedforward）和循環(huán)鏈接（Recurrent）兩種。前饋比較常見(jiàn)，從結(jié)構(gòu)上說(shuō)與傳統(tǒng)的前饋神經(jīng)網(wǎng)絡(luò)相似，不同的是單個(gè)的神經(jīng)元模型以及整個(gè)網(wǎng)絡(luò)的數(shù)據(jù)處理方式。

SNN的神經(jīng)元模型總體上來(lái)說(shuō)是一類以微分方程構(gòu)成的模型，帶有時(shí)間屬性?？梢岳斫鉃閭鹘y(tǒng)的神經(jīng)元只是當(dāng)前時(shí)刻的輸入與權(quán)重的加權(quán)和，SNN的神經(jīng)元?jiǎng)t是在一定寬度的時(shí)間窗內(nèi)的輸入與權(quán)重的加權(quán)和。其中最常見(jiàn)的神經(jīng)元模型是L&F(Leak and Fire)模型，也可以把這種神經(jīng)元看做為一個(gè)店帶有電容的電路，按照電路原理來(lái)定義可以有如下形式：

圖1. I&F神經(jīng)元的模擬電路[3]

具體模型公式為：

其中?表示膜電位，??表示輸入突觸電流，每當(dāng)膜電位達(dá)到一個(gè)閾值??，便會(huì)產(chǎn)生一個(gè)脈沖，并將膜電位恢復(fù)到復(fù)位電位??，同時(shí)在一段時(shí)間內(nèi)會(huì)產(chǎn)生一個(gè)不應(yīng)期（refractory），在此期間，模電位保持在??，不對(duì)輸入的突觸電流做出響應(yīng)。

L&F是一階微分方程的形式，因此是一種線性響應(yīng)模型，但是由于脈沖閾值以及不應(yīng)期等機(jī)制的存在，使得L&F同樣變成了一種對(duì)輸入的非線性映射。

利用L&F構(gòu)成網(wǎng)絡(luò)就涉及到如何在神經(jīng)元之間傳遞脈沖信號(hào)，這就是突觸電流的響應(yīng)模型。常用的電流模型是一種基于指數(shù)衰減的模型（與膜電位的模型很相似），改進(jìn)的模型可以是兩個(gè)衰減模型的疊加，來(lái)模擬平滑的脈沖信號(hào)（代替階躍函數(shù)表示的脈沖）：

其中?和是時(shí)間常數(shù)，??是表示一個(gè)脈沖的單位階躍函數(shù)。

由于SNN存在大量的微分方程計(jì)算并依賴于計(jì)算機(jī)仿真，SNN中的數(shù)值基本是通過(guò)數(shù)值方法計(jì)算的微分方程的狀態(tài)。因此，具體的仿真過(guò)程中，與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的最大區(qū)別在于時(shí)間步的概念，與硬件中的時(shí)鐘十分相似。所以突觸模型中還可以帶有一個(gè)熟悉就是延遲（delay），可以和權(quán)重一樣被訓(xùn)練成為表達(dá)輸入特征的一個(gè)重要參數(shù)。目前SNN的學(xué)習(xí)算法很多基于脈沖的間隔的精確時(shí)間而不是一段時(shí)間的脈沖的數(shù)量來(lái)調(diào)整網(wǎng)絡(luò)參數(shù)，如根據(jù)hebbian規(guī)則演變而來(lái)的STDP(Spike time dependance plasicity)。

圖2. STDP的生物學(xué)特性[4]

另一種結(jié)構(gòu)是帶有循環(huán)鏈接，主要的代表模型是液體狀態(tài)機(jī)(liquid state machine, LSM)。模型結(jié)構(gòu)屬于水庫(kù)計(jì)算[5]（Reservoir Computing）的一種，是一種結(jié)構(gòu)更復(fù)雜，用來(lái)處理高維時(shí)序問(wèn)題的RNN（Recurrent Neural Network）結(jié)構(gòu)[6, 7]。LSM的提出主要是通過(guò)循環(huán)鏈接表示了對(duì)時(shí)序問(wèn)題的記憶能力，通過(guò)對(duì)輸入的高維映射，可以用線性模型進(jìn)行分類和回歸。LSM的結(jié)構(gòu)主要分為3層：

輸入層：主要負(fù)責(zé)將輸入的模擬數(shù)值編碼成脈沖序列（Spike Trains）并按照 一定比例輸入到水庫(kù)層中。

水庫(kù)層：根據(jù)生物腦中的神經(jīng)元類型比例，包含80%的興奮神經(jīng)元和20%的抑制神經(jīng)元，鏈接是隨機(jī)的循環(huán)鏈接。

輸出層：讀取每個(gè)水庫(kù)層中神經(jīng)元的狀態(tài)，并用邏輯回歸等進(jìn)線性分類。

從機(jī)器學(xué)習(xí)的角度出發(fā)，SNN的應(yīng)用主要分為分類和回歸兩種任務(wù)，這兩種任務(wù)主要涉及到數(shù)據(jù)的組織和處理。因此，數(shù)據(jù)進(jìn)入SNN之前需要先進(jìn)行編碼成為脈沖序列，經(jīng)典的編碼方式有頻率（Rate），二進(jìn)制（Binary），排序（Rank）等[4, 8]。

3. 類腦計(jì)算與人工智能的研究趨勢(shì)

目前類腦計(jì)算的主要研究趨勢(shì)分為三個(gè)方面：

首先是基礎(chǔ)的生物腦中的神經(jīng)元，突觸及記憶，注意等機(jī)制的建模；

第二，基于生物機(jī)制建模的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法以及在模式識(shí)別等機(jī)器學(xué)習(xí)任務(wù)中的應(yīng)用；

最后，基于生物激勵(lì)的算法和神經(jīng)網(wǎng)絡(luò)的硬件系統(tǒng)研究。

目前對(duì)于腦的認(rèn)知機(jī)制的研究還存在很多空白，生物腦的運(yùn)轉(zhuǎn)機(jī)制的神秘面紗沒(méi)有被徹底解開(kāi)，只有少部分現(xiàn)象被發(fā)現(xiàn)[9]。腦建模是在認(rèn)知腦的基礎(chǔ)上進(jìn)行的，目前的類腦計(jì)算算法還有很大的研究?jī)r(jià)值，目前發(fā)現(xiàn)的生物學(xué)機(jī)制只有少部分使用了計(jì)算神經(jīng)學(xué)的方式進(jìn)行模擬，被用在類腦計(jì)算中的機(jī)制則更加有限。另外，計(jì)算機(jī)仿真工具和數(shù)學(xué)的理論分析仍然不夠完善，類腦計(jì)算沒(méi)有形成統(tǒng)一的理論框架，面對(duì)大數(shù)據(jù)時(shí)代還沒(méi)辦法取代深度學(xué)習(xí)等成熟算法和工具的地位。在軟件仿真方面，一些小規(guī)模的仿真工具相繼出現(xiàn)，在研究類腦計(jì)算機(jī)理方面做出了一定貢獻(xiàn)[10, 11]。由于近年來(lái)深度學(xué)習(xí)發(fā)展，同樣有很多工作結(jié)合了深度學(xué)習(xí)相關(guān)概念進(jìn)行了研究和探索[12, 13]。

能耗高一直是傳統(tǒng)神經(jīng)網(wǎng)絡(luò)領(lǐng)域的一個(gè)難以解決的問(wèn)題，目前只能通過(guò)云技術(shù)對(duì)小型便攜設(shè)備和需要單獨(dú)處理任務(wù)的設(shè)備提供快速響應(yīng)的人工智能服務(wù)。而類腦計(jì)算具有更好的硬件親和力，不需要復(fù)雜的硬件進(jìn)行矩陣運(yùn)算，只需在接收到脈沖時(shí)處理脈沖信號(hào)，計(jì)算效率得到很大的提高，目前已經(jīng)有一些片上系統(tǒng)的原型出現(xiàn)，初步提供了SNN構(gòu)建的人工智能框架[14, 15]。

總之，類腦計(jì)算還有很多工作需要完成，大量的有趣的、未知的和有挑戰(zhàn)的問(wèn)題需要解決，但這也是類腦研究的魅力所在。