本章討論的主題是我覺(jué)得在應(yīng)用機(jī)器學(xué)習(xí)（和其他地方）中經(jīng)常假設(shè)的，但是很少詳細(xì)解釋。這項(xiàng)工作是針對(duì)學(xué)生誰(shuí)采取了一些線(xiàn)性方法和分析的課程，但誰(shuí)想看到一些技巧使用的研究人員討論更詳細(xì)一些。這里描述的數(shù)學(xué)只是一般機(jī)器學(xué)習(xí)中使用的數(shù)學(xué)的一小部分（例如，機(jī)器學(xué)習(xí)理論的處理將包括基本泛化誤差邊界的數(shù)學(xué)）下游經(jīng)常使用EST。我包括兩種作業(yè)，‘練習(xí)’和‘謎題’。練習(xí)開(kāi)始時(shí)很容易，反之亦然；這些謎題是帶有一點(diǎn)馬基雅維利惡作劇的練習(xí)。

　　符號(hào)：矢量以粗體顯示，矢量分量和矩陣以普通字體顯示，因此例如v（a）i表示第a矢量v（a）的第i分量。符號(hào)A:0（）表示矩陣A為正（半）定。矩陣A的轉(zhuǎn)置表示為，而向量X的轉(zhuǎn)置表示X：。

?

　　假設(shè)您希望最小化某個(gè)函數(shù)f（x），x*Rd，受約束C（x）＝0。一種直接的方法是找到約束的參數(shù)化，使得用那些參數(shù)表示的f成為無(wú)約束函數(shù)。例如，如果c（x）=x:A x_1，x∈Rd，如果A:0，則可以旋轉(zhuǎn)到坐標(biāo)系并重新定標(biāo)以對(duì)角化約束為形式y(tǒng):y=1，然后用編碼y在（d_1）球體上的約束的參數(shù)化替換。充足的

　　Y1＝正弦1正弦Sn 2···辛釷d 2正弦Sd D 1

　　Y2＝Sin Th 1 Sin Th 2···Sin Th D＝2 CoS Th D D 1

　　Y3＝正弦1正弦Sn 2···CoS Th D＝2

　　·····

　　不幸的是，對(duì)于一般約束（例如，當(dāng)c是d變量中的一般多項(xiàng)式時(shí)）這是不可能的，并且即使如此，上面的示例表明事情可以很快變得復(fù)雜。幾何學(xué)