深度神經網路可視化工具集錦
雷鋒網按:原文作者zhwhong,載於作者的個人博客,雷鋒網經授權發布。
TensorBoard:TensorFlow集成可視化工具
GitHub官方項目:https://github.com/tensorflow/tensorflow/tree/master/tensorflow/tensorboard
TensorBoard 涉及到的運算,通常是在訓練龐大的深度神經網路中出現的複雜而又難以理解的運算。
為了更方便 TensorFlow 程序的理解、調試與優化,Google發布了一套叫做 TensorBoard 的可視化工具。你可以用 TensorBoard 來展現你的 TensorFlow 圖像,繪製圖像生成的定量指標圖以及附加數據。
當 TensorBoard 設置完成後,它應該是這樣子的:
輸入下面的指令來啟動tensorboard:
tensorboard --logdir=/path/to/log-directory
這裡的參數 logdir 指向 SummaryWriter 序列化數據的存儲路徑。如果logdir目錄的子目錄中包含另一次運行時的數據,那麼 TensorBoard 會展示所有運行的數據。一旦 TensorBoard 開始運行,你可以通過在瀏覽器中輸入 localhost:6006 來查看 TensorBoard。進入 TensorBoard 的界面時,你會在右上角看到導航選項卡,每一個選項卡將展現一組可視化的序列化數據集 。對於你查看的每一個選項卡,如果 TensorBoard 中沒有數據與這個選項卡相關的話,則會顯示一條提示信息指示你如何序列化相關數據。
TensorFlow 圖表計算強大而又複雜,圖表可視化在理解和調試時顯得非常有幫助。 下面是一個運作時的可式化例子:
更多詳細內容參考:
[TensorFlow中文社區] TensorBoard:可視化學習
[TensorFlow中文社區] TensorBoard:圖表可視化
[極客學院] TensorBoard:可視化學習
Netscope:支持Caffe的神經網路結構在線可視化工具
官網:http://ethereon.github.io/netscope/quickstart.html
GitHub項目:https://github.com/ethereon/netscope
「A web-based tool for visualizing neural network architectures (or technically, any directed acyclic graph). It currently supports Caffe』s prototxt format.」
Netscope是一個支持prototxt格式描述的神經網路結構的在線可視工具。它可以用來可視化Caffe結構里prototxt格式的網路結構,使用起來也非常簡單,打開這個地址 http://ethereon.github.io/netscope/#/editor
,把你的描述神經網路結構的prototxt文件複製到該編輯框里,按shift+enter,就可以直接以圖形方式顯示網路的結構了。
比如,以 mnist的Lenet 和 imagenet的AlexNet 網路結構為例,分別把Caffe中 caffe/examples/mnist/lenet_train_test.prototxt和caffe/models/bvlc_alexnet/train_val.prototxt文件的內容複製到左側編譯框,按shift+enter,立即就可以得到可視化的結構圖,具體每層的參數等,如下:
Netscope給出的幾個常見CNN網路結構示例:
AlexNet| Alex Krizhevsky, Ilya Sutskever, Geoffrey Hinton
CaffeNet| Yangqing Jia, Evan Shelhamer, et. al.
Fully Convolutional Network — Three Stream| Jonathan Long, Evan Shelhamer, Trevor Darrell
GoogleNet| Christian Szegedy, et. al.
Network in Network| Min Lin, Qiang Chen, Shuicheng Yan
VGG 16 Layers| Karen Simonyan, Andrew Zisserman
以上網路的prototxt源文件見:https://github.com/ethereon/netscope/tree/gh-pages/presets。
使用 python/draw_net.py繪製網路模型python/draw_net.py,這個文件,就是用來繪製網路模型的,也就是將網路模型由prototxt變成一張圖片。
在繪製之前,需要先安裝兩個庫
1.安裝GraphViz$ sudo apt-get install GraphViz
注意,這裡用的是apt-get來安裝,而不是pip。
2.安裝pydot$ sudo pip install pydot
用的是pip來安裝,而不是apt-get。
安裝好了,就可以調用腳本來繪製圖片了。
draw_net.py執行的時候帶三個參數
第一個參數:網路模型的prototxt文件;
第二個參數:保存的圖片路徑及名字;
第二個參數:- - rankdir = x,x 有四種選項,分別是LR, RL, TB, BT 。用來表示網路的方向,分別是從左到右,從右到左,從上到小,從下到上。默認為LR。
例:繪製Lenet模型
$ sudo python python/draw_net.py examples/mnist/lenet_train_test.prototxt netImage/lenet.png --rankdir=BT
參考閱讀:
Netscope:支持Caffe的神經網路結構在線可視化工具
Caffe學習系列(18): 繪製網路模型
Caffe學習系列——工具篇:神經網路模型結構可視化
深度網路的設計與可視化工具
Neural Network Playground
官網:http://playground.tensorflow.org
GitHub項目:https://github.com/tensorflow/playground
Deep playground is an interactive visualization of neural networks, written in typescript using d3.js.
PlayGround是一個圖形化用於教學目的的簡單神經網路在線演示、實驗的平台,非常強大地可視化了神經網路的訓練過程。
參考閱讀:
[知乎] 誰能詳細講解一下TensorFlow Playground所展示的神經網路的概念?
[Blog] 結合TensorFlow PlayGround的簡單神經網路原理解釋
ConvnetJS
官網:http://cs.stanford.edu/people/karpathy/convnetjs/
GitHub項目:https://github.com/karpathy/convnetjs
ConvNetJS is a Javascript library for training Deep Learning models (Neural Networks) entirely in your browser. Open a tab and you』re training. No software requirements, no compilers, no installations, no GPUs, no sweat.
Some Online DemosConvolutional Neural Network on MNIST digits
Convolutional Neural Network on CIFAR-10
Toy 2D data
Toy 1D regression
Training an Autoencoder on MNIST digits
Deep Q Learning Reinforcement Learning demo
Image Regression (「Painting」)
Comparison of SGD/Adagrad/Adadelta on MNIST
更多內容請關注官網和GutHub項目README。
WEVI官網:wevi: word embedding visual inspector
GitHub項目:https://github.com/ronxin/wevi
具體參考:wevi: Word Embedding Visual Inspector
CNNVis文章來源:Towards Better Analysis of Deep Convolutional Neural Networksarxiv.org/abs/1604.07043
具體參見:能幫你更好理解分析深度卷積神經網路,今天要解讀的是一款新型可視化工具——CNNVis,看完就能用!
摘要: 深度卷積神經網路(CNNs)在許多模式識別任務中取得了很大的性能突破, 然而高質量深度模型的發展依賴於大量的嘗試,這是由於沒有很好的理解深度模型是怎麼工作的,在本文中,提出了一個可視化分析系統CNNVis,幫助機器學習專家更好的理解、分析、設計深度卷積神經網路。
※徐玉玉案,終於宣判了
※百度網盤隱私信息可被搜到? 百度:請加密分享,將打擊第三方網盤搜索網站
※風光上市的華大基因 在基因檢測領域是什麼段位的玩家?
※重磅預告:7位權威專家告訴你區塊鏈的前沿與熱點 | CCF-ADL 持續開課中
※看中了高校人才和交通狀況?豐田要在波士頓進行自動駕駛路測了
TAG:雷鋒網 |
※恆為科技深度研報:網路可視化行業系列報告二:恆為科技,網路可視化基礎核心設備商,網路可視化需求方興未艾
※深度全解卷積神經網路
※中新賽克公司深度報告:深耕網路可視化 劍指數據可視化
※人工智慧–循環神經網路
※數據中心網路運維可視化新技術漫談
※岩土工程人工神經網路預測
※王井東:深度融合——一種神經網路結構設計模式
※從生物神經網路到人工神經網路
※《網路維護》網路設備管理工具
※從資訊理論的角度理解與可視化神經網路
※基於石墨烯的神經突觸為大規模人工神經網路鋪路
※淺層神經網路
※利用深層卷積神經網路增強進化耦合
※機器學習、深度學習、神經網路、深度神經網路之間有何區別?
※深度學習入門指南!六步構建深度神經網路
※七大加密貨幣挖掘工具和殭屍網路
※卷積神經網路
※深度學習與神經網路概述
※紀榮嶸:深度神經網路壓縮及應用
※新全光二極體、新型自旋閥結構、新型高效節能深度學習神經網路、「神經網路核磁共振成像」…