TensorFlow依舊有王者榮耀，但PyTorch虎視眈眈。

今天，PyTorch官方在GitHub發(fā)布0.4.0版本，最重要的改進(jìn)是支持Windows系統(tǒng)。

PyTorch是在2017年1月由Facebook推出的。它是經(jīng)典機(jī)器學(xué)習(xí)庫(kù)Torch框架的一個(gè)端口，Torch二進(jìn)制文件包裝于GPU加速的Python。

除了GPU加速和內(nèi)存使用的高效外，PyTorch受歡迎的主要因素是動(dòng)態(tài)計(jì)算圖的使用。已經(jīng)有其他一些不太知名的深度學(xué)習(xí)框架使用動(dòng)態(tài)計(jì)算圖，例如Chainer。

動(dòng)態(tài)圖的優(yōu)點(diǎn)在于，圖（graph）是由run定義（“define by run”），而不是傳統(tǒng)的“define and run”。特別是，在輸入可以變化的情況下，例如文本這樣的非結(jié)構(gòu)化數(shù)據(jù)，這非常有用而且高效。

圖：PyTorch動(dòng)態(tài)計(jì)算圖 - 來(lái)源：http://pytorch.org/about/

以下為更新內(nèi)容目錄：

主要核心變更

Tensor/Variable合并

零維張量

dtypes

遷移指南

新功能

張量

全面支持高級(jí)索引

快速傅立葉變換

神經(jīng)網(wǎng)絡(luò)

權(quán)衡內(nèi)存計(jì)算

bottleneck - 一個(gè)在你的代碼中識(shí)別hotspots的工具

torch.distributions

24個(gè)基本概率分布

增加了cdf，方差，熵，困惑度（perplexity）等。

分布式訓(xùn)練

易于使用的Launcher utility

NCCL2后端

C ++擴(kuò)展

Windows支持

ONNX改進(jìn)

RNN支持

性能改進(jìn)

Bug修復(fù)

主要核心變化

以下是用戶每天使用的最重要的核心功能的更新。

主要變化和潛在的重要更新：

Tensors和Variables已經(jīng)合并

有些操作會(huì)返回0維（標(biāo)量）Tensors

棄用了volatileflag

改進(jìn)：

添加了dtypes，devices和 Numpy 風(fēng)格的Tensor創(chuàng)建函數(shù)

支持編寫與device無(wú)關(guān)的代碼

PyTorch團(tuán)隊(duì)編寫了一個(gè)遷移指南，幫助用戶將代碼轉(zhuǎn)換為新的API和style。如果您想要遷移以前版本的PyTorch中的代碼。

遷移指南：http://pytorch.org/2018/04/22/0_4_0-migration-guide.html

本部分的內(nèi)容（主要核心變更）包含在遷移指南中。

合并Tensor和Variable類

torch.autograd.Variable和torch.Tensor現(xiàn)在是同一類。更確切地說(shuō)，torch.Tensor能夠跟蹤歷史并像舊的Variable一樣運(yùn)行；Variable的換行繼續(xù)像以前一樣工作，但返回的對(duì)象類型變成torch.Tensor。這意味著你不再需要將代碼中的任何Variable wrapper。

Tensor的type( )已經(jīng)改變

還要注意Tensor的type( )不再反映數(shù)據(jù)類型。使用isinstance（）或x.type（）來(lái)代替：

Windows支持

PyTorch現(xiàn)在正式支持Windows！我們?yōu)镻ython 3.5和3.6提供預(yù)編譯的Conda二進(jìn)制文件和pip wheels。Windows上的PyTorch不支持分布式訓(xùn)練，可能比Linux / OSX慢一點(diǎn)，因?yàn)閂isual Studio支持較早版本的OpenMP。

與往常一樣，你可以使用http://pytorch.org上的命令在Windows上安裝PyTorch。