神經(jīng)網(wǎng)絡(luò)沒有一個嚴(yán)格的正式定義。它的基本特點(diǎn)，是試圖模仿大腦的神經(jīng)元之間傳遞，處理信息的模式。

　　一個計(jì)算模型，要劃分為神經(jīng)網(wǎng)絡(luò)，通常需要大量彼此連接的節(jié)點(diǎn) （也稱 ‘神經(jīng)元’），并且具備兩個特性：

　　每個神經(jīng)元，通過某種特定的輸出函數(shù) （也叫激勵函數(shù) activation function），計(jì)算處理來自其它相鄰神經(jīng)元的加權(quán)輸入值。

　　神經(jīng)元之間的信息傳遞的強(qiáng)度，用所謂加權(quán)值來定義，算法會不斷自我學(xué)習(xí)，調(diào)整這個加權(quán)值。

　　在此基礎(chǔ)上，神經(jīng)網(wǎng)絡(luò)的計(jì)算模型，依靠大量的數(shù)據(jù)來訓(xùn)練，還需要：

　　成本函數(shù) （cost function）：用來定量評估根據(jù)特定輸入值， 計(jì)算出來的輸出結(jié)果，離正確值有多遠(yuǎn)，結(jié)果有多靠譜。

　　學(xué)習(xí)的算法 （ learning algorithm ）：這是根據(jù)成本函數(shù)的結(jié)果， 自學(xué)， 糾錯， 最快地找到神經(jīng)元之間最優(yōu)化的加權(quán)值。

　　深度學(xué)習(xí)的概念由Hinton等人于2006年提出?；谏疃戎眯啪W(wǎng)絡(luò)（DBN）提出非監(jiān)督貪心逐層訓(xùn)練算法，為解決深層結(jié)構(gòu)相關(guān)的優(yōu)化難題帶來希望，隨后提出多層自動編碼器深層結(jié)構(gòu)。此外Lecun等人提出的卷積神經(jīng)網(wǎng)絡(luò)是第一個真正多層結(jié)構(gòu)學(xué)習(xí)算法，它利用空間相對關(guān)系減少參數(shù)數(shù)目以提高訓(xùn)練性能。

　　深度學(xué)習(xí)是機(jī)器學(xué)習(xí)中一種基于對數(shù)據(jù)進(jìn)行表征學(xué)習(xí)的方法。觀測值（例如一幅圖像）可以使用多種方式來表示，如每個像素強(qiáng)度值的向量，或者更抽象地表示成一系列邊、特定形狀的區(qū)域等。而使用某些特定的表示方法更容易從實(shí)例中學(xué)習(xí)任務(wù)（例如，人臉識別或面部表情識別）。深度學(xué)習(xí)的好處是用非監(jiān)督式或半監(jiān)督式的特征學(xué)習(xí)和分層特征提取高效算法來替代手工獲取特征。

　　邊緣檢測是圖像處理和計(jì)算機(jī)視覺中的基本問題，邊緣檢測的目的是標(biāo)識數(shù)字圖像中亮度變化明顯的點(diǎn)。圖像屬性中的顯著變化通常反映了屬性的重要事件和變化。 這些包括（i）深度上的不連續(xù)、（ii）表面方向不連續(xù)、（iii）物質(zhì)屬性變化和（iv）場景照明變化。 邊緣檢測是圖像處理和計(jì)算機(jī)視覺中，尤其是特征提取中的一個研究領(lǐng)域。