发表于 | 阅读次数:

卷积核一定越大越好 – 3×3卷积核

利用2个3×3卷积核的组合比1个5×5卷积核的效果更佳，同时参数量（3×3×2+1 VS 5×5×1+1）

每层卷积只能用一种尺寸的卷积核？– Inception结构


1×1卷积核也被认为是影响深远的操作，往后大型的网络为了降低参数量都会应用上1×1卷积核。

卷积操作时必须同时考虑通道和区域吗？– DepthWise操作

“DepthWise convolution” ，缩写“DW”
1.直接接一个3×3×256的卷积核，参数量为：3×3×3×256 = 6,912
2.DW操作，分两步完成，参数量为：3×3×3 + 3×1×1×256 = 795，又把参数量降低到九分之一！

分组卷积能否对通道进行随机分组？– ShuffleNet

通道间的特征都是平等的吗？ – SEnet

能否让固定大小的卷积核看到更大范围的区域？– Dilated convolution

卷积核形状一定是矩形吗？– Deformable convolution 可变形卷积核

发表于 | 阅读次数: 
1
/home/username/.pyenv/versions/3.6.2/envs/env3.6.2/bin/python3

发表于 | 阅读次数:

sudo apt-get install libwrap0 libwrap0-dev
sudo apt-get install libevent-2.0-5
sudo apt-get install libevent-core-2.0-5
sudo apt-get install libevent-extra-2.0-5
sudo apt-get install libevent-pthreads-2.0-5
sudo apt-get install libevent-openssl-2.0-5

libevent-openssl-2.0-5 : Depends: libevent-core-2.0-5 (= 2.0.21-stable-2) but 2.0.21-stable-2ubuntu0.16.04.1 is to be installed

apt-cache policy dpkg

发表于 | 阅读次数:

$L = -logSj$
$S_j$是softmax后目标类的概率

发表于 | 阅读次数:

~/.config/fish/config.fish

1
2
set -l file (brew --prefix)/etc/profile.d/autojump.fish
test -s "$file"; and source $file

发表于 | 阅读次数:

发表于 | 阅读次数:

目标

每一层输出的方差应该尽量相等

具体推导

使用BN进行优化

发表于 | 阅读次数: 
1
2
3
4
5
6
import numpy as np

a = np.arange(6).reshape((3,2))
print("a:", a)
print(np.reshape(a, (2,3)))
print(np.reshape(a, (2,3), order='F'))
1
2
3
4
5
6
7
a: [[0 1]
 [2 3]
 [4 5]]
[[0 1 2]
 [3 4 5]]
[[0 4 3]
 [2 1 5]]