卷积神经网络CNN学习笔记 pdf
个人整理的CNN学习笔记，所有素材均来自于互联网。把经典的摘之以作备案，待整理好这份笔记后，发现对CNN也有了深入理解，希望对你也有帮助！LOCALLY CONNECTED NEURAL NETCONVOLUTIONAL NETSTATIONARI? Statisties issimilar at dif ferent locationsLearn multiple filters.Example: 1000x1000 image1M hidden unitsFilter size: 10x10E.g. 1000x1000 image100M parameters100 FiltersFilter size: 10x10u鴻網互聯EEIDEE下面的分析来源于:htp/ log csdn. net/zouxy09/ article/details,/8781543我们知道,隐含层的每一个神经元都连接10x10个图像区域,也就是说每一个神经元存在10x10=100个连接权值参数。那如果我们每个神经元这100个参教是相同的呢?也就是说每个神经元用的是同一个卷积核去卷积图像。这样我们就只有多少个参数??只有100个参数啊!!!亲!不管你隐层的神经元个数有多少,两层间的连接我只有100个参数啊!亲!这就是权值共享啊!亲!这就是卷积神经网络的主打卖点啊!亲!(有点烦了,呵呵)也许你会问,这样做靠谱吗?为什么可行呢?好了,你就会想,这样提取特征也忒不靠谱吧,这样你只提取了一种特征啊?对了,頁聪明,我们需要提取多种特征对不?假如一种滤波器,也就是一种卷积核就是提出图像的一种特征,例如某个方向的边缘。那么我们需要提取不同的特征,怎么办,加多几种滤波器不就行了吗?对∫。所以假设我们加到100种滤波器,每种滤波器的参数不一样,表示它提出输入图像的不同特征,例如不同的边缘。这样每种滤波器去卷积图像就得到对图像的不同特征的放映,我们称之为 Feature Map。所以100种卷积核就有100个 Feature Map。这100个 Feature Map就组成了一层神经元。到这个时候明了了吧。我们这一层有多少个参数了?100种卷积核x每种卷积核共享100个参数=100×100=10K,也就是1万个参数。才1万个参数啊!亲!(又来了,受不了了!)见上图右:不同的颜色表达不同的滤波器嘿哟,遗漏一个问题了。刚才说隐层的参数个数和隐层的神经元个数无关,只和滤波器的大小和滤波器种类的多少有关。那么隐层的神经元个数怎么确定呢?它和原图像,也就是输入的大小(神经元个数)、滤波器的大小和滤波器在图像中的滑动步长都有关!例如,我的图像是1000×1000像素,而滤波器大小是10×10,假设滤波器没有重叠,也就是步长为10,这样隐层的神经元个数就是(1000×1000y(10×10}=100×100个神经元了,假设步长是8,也就是卷积核会重叠两个像素,那么……我就不算了,思想懂了就好。注意了,这只是一种滤波器,也就是一个 Feature Map的神经元个数哦,如果100个 Feature Map就是100倍了。由此可见,图像越大,神经元个数和需要训练的权值参数个数的贫富差距就越大。CONV NETS: EXTENSIONSBypool ing"(e. g. max or average)filterresponses at different locations we gain Over the years. some new medes have proven to be veryrubustness to the exact spatial location effective when plugged inte corv-netsof featuresL2 PoolingU, kEN(x,r)Local Contrast normalizationhN(x y)iN(xvIRenato总之,卷积网络的核心思想是将:局部感受野、权值共享(或者权值复制)以及时间或空间亚采样这三种结构思想结合起来获得了某种程度的位移、尺度、形变不变性。23实例视觉皮层存在两类相关的细胞,S细胞( Simple Cel)和C( Complex Cell)细胞。S细胞在自身的感受野内最大限度地对图像中类似边缘模式的剌激做出响应,而C细胞具有更大的感受野,它可以对图像中产生刺激的模式的空间位置进行精准地定位C是卷积层,S是下采样层。参看这个两个网址,对理解CNN非常有帮助http://www.68idc.cn/help/buildlang/ask/20150705417730.htmlhttp://www.68idc.cn/help/buildlang/ask/20150705419299.html涵pC1s2c384江蘇鴻網互刷三 -TOLERc是卷积层,S是下采样层。输入的一幅图像,在C1层,通过和3个卷积模板做卷积运算,然后加上偏置值,再经过 sigmoid激活函数,得到3幅输出图像,在S2层,对C1层输出的3幅图像做下采样,假设采样因子是2,也就是图中每2*2的 patch中的4个像素进行求和,再加偏置,再通过激活函数,得到3张尺寸减小了的输出图像。同样的,再经过C3S4。将S4的输出拉成一个向量,输入传统的神经网络中,并得到输出24综合实例G1: feature maps8@28X28C3: f. mapInp ut20@10x1032×32S1: f. mapsS4: f. maps@14x1420@5x5C5:120Output: 9ConvolutionsSubsamplingSubsamplingconnectionConvolutions og. Csdn. n Convolutions 688图中的卷积网终Ⅰ作流程如下,输入层由32×32个感知节点组成,接收原始图像。然后,计算流程在卷积和子抽样之间交替进行,如下所述·第一隐藏层进行卷积,它由8个特征映射组成,每个特征映射由28×28个神经元组成,每个神经元指定一个5×5的接受域,这28×28个神经元共享5×5个权值参数,即卷积核第二隐藏层实现子抽样和局部平均,它同样由8个特征映射组成,但其每个特征映射由14×14个神经元组成。每个神经元具有一个2×2的接受域,一个可训练系数,一个可训练偏置和一个 sigmoid激活函数。可训练系数和偏置控制神经元的操作点;第三隐藏层进行第二次卷积,它由20个特征映射组成,每个特征映射由10×10个神经元组成。该隐藏层中的每个神经元可能具有和下一个隐藏层几个特征映射相连的突触连接,它以与第一个卷积层相似的方式操作。第四个隐藏层进行第二次子抽样和局部平均汁算。它由20个特征映射组成,但每个特征映射由5×5个神经元组成,它以与第一次抽样相似的方式操作。●第五个隐藏层实现卷积的最后阶段,它由120个神经元组成,每个神经元指定一个5×5的接受域。最后是个全连接层,得到输出向量。综合起来,如下图山辆入员/閩张38的圈像辆入|种特图到C28×28KD卷,:对应位遇相森再未和⊙如偏置每种图有个偏置a老积层f同治减函数6↑5的卷铝kC6个偏置值b输邶钟培钲图24X0mno:22域的值平均坐smle=2辆入6种征图列12|2k2个55的着核kKk22个偏置值b辆出12钟特钲图8×88×g年怦居D mean pooL斜样9=2s输出口钟特征图4x叶把S园輪出的特征图垣成一年向量入,维,:平4x×12=12F房入节点有2个192资接的神经刚络W1,09W参教W:20×192矩阵爹教bho0x1向量oh辆出节点有个,国为baby的度是o·上图中28如何变成24的?12如何变成8的?详情见这个网址:hto:/ud. stanfordedu/wki/ index. php/ Featureextractionusing convolution这个过程中,有这么几个参数:a.深度 depth:神经元个数,决定输出的dept厚度。同时代表滤波器个数。*b.步长 stride:决定滑动多少步可以到边缘。C.填充值zero- padding:在外围边缘补充若干圈0,方便从初始位置以步长为单位可以刚好滑倒末尾位置,通俗地讲就是为了总长能被步长整除。最左边一列是输入层,第二列是第一个滤波器(W0),第三列是第二个滤波器(W1),第四列是输出层。*该图有两个神经元,即 depth=2,意味着有两个滤波器数据窗口每次移动两个步长取3*3的局部数据,即stde=2。zero-padding=13cNN的激励层与池化层ReLU激励层不要用 sigmoid,因为它容易饱和、造成终止梯度传递,且没有0中心化ReLU的优点是收敛快,求梯度简单。·池化poo层池化,简言之,即取区域平均或最大,如下图所示Single depth slice1124Xmax pool with 2X2 filters5678 and stride 26832234304y参考文献:·htp:/ yann lecun. com/exdb/lenet/index. html( Yann securη实现的CNN演示,以动画的形式演示了位移、加噪、旋转、压缩等识别,最有价值的是把隐层用图像显示出来了,很生动形象)
- 2021-05-07下载
- 积分：1
2018年度中国主要城市交通分析报告
2018年度中国主要城市交通分析报告，《中国主要城市交通分析报告》以高德交通大数据发布平台、大数据开放平台、阿里云MaxCompute及相关数据挖掘支持为基础，描述城市交通现状、呈现演变规律、预测未来发展趋势，并专注拥堵成因及解决对策的研究。本年报由高德地图联合“中国社会科学院社会学研究所”、“未来交通与城市计算联合实验室”、“阿里云”、“重庆交通大学蔡晓禹教授团队”、“山地城市交通系统与安全重庆市重点实验室”、“华南理工大学林永杰团队”共同联合发布。高德地图愿开放数据与政府、企业、院校等研究机构合作，共建交通共同体。年度高德地圖概述中国主要城市交通分析报告Summary《中国主要城市交通分析报告》以高德交通大数据发布平台、大数据开放平台、阿里云 Maxcompute及相关数据挖掘支持为基础,描述城市交通现状、呈现演变规律、预测未来发展趋势,并专注拥堵成因及解决对策的硏究。本年报由高德地图联合“中国社会科学院社会学研究所”、“未来交通与城市计算联合实验室”、“阿里云”、“重庆交通大学蔡晓禹教授团队”、“山地城市交通系统与安全重庆市重点实验室”、“华南理工大学林永杰团队”共同联合发布。高德地图愿开放数据与政府、企业、院校等研究机构合作,共建交通共同体。联合发布品贴A未来交通与城市计算联含实验室JOINT LABORATORYc】阿里云FOR FUTURE TRANSPORT AN URDAN COMPUTINI年度高德地圖编制说明中国主要城市交通分析报告Report description调研城市:361城+全国高速城市范围:选取城市的中心城区作为城市道路网评价范围,各城市中心城区范围是根据政府公开数据、交通岀行大数据、高德地图开放平台定位数据、交通出行大数据综合挖掘研判划定样本说明:交通评价中,公共交通车流独立区分计算数据呈现:采用“九宫格”指标综合评价和表征城市交通运行健康状况,其中“路网高峰行程延时指数”、“路网高峰拥堵路段里程比”、“骨干道路运行速度偏差率”、“路网高延时运行时间占比”四项指标已兼容公安部、中央文明办、住房和城乡建设部、交通运输部四部委、办联合印发《城市道路交通文明畅通提升行动计划(2017-2020)》的第三方评估标准。时间说明:全天06:0-22:00早高峰07:00-09:00晚高峰17:00-19:00常规说明无特殊说明,本报告统计时间均为2018年1月1日~2018年12月31日分析范围:50城选取361+城市和全国高速50个城市高德地圖编制说明年度中国主要城市交通分析报告Report description指标扩维:路网行程延时指数->九宫格矩阵->健康诊断全国二大堵点治理方案备网高延通勤拥堵时间(时运行时)(压力经济损失九宫格路网高峰常发拥缓行路矩阵空间(拥堵路段】(堵路段】段里程交通健康指数里程比里程比广州沿江西路效率路网高峰平均(珠江北岸-沿江西路)行程延时速度更新说明指数出行扩维:增加公共交通重庆鸿恩路群众艺术馆一鸿恩寺立交私家车公共交通目录Catalog01主要城市交通运行现状交通健康指数立体诊断城市交通畅通文明工程指标研究公共交通运行分析02年度城市出行标签年度出行盘点城市边界及核心区发展03城市交通病解决方案未来交通与城市计算联合实验室年度成果展堵点治理方案年度高德地圖中国主要城市交通分析报告01中国主要城市交通运行现状年度高德地圖中国主要城市交通分析报告“交通健康指数”立体诊断城市交通“交通健康指数”计算说明高德地amap. Cam随着城市交通复杂性增加和智能交通的飞速发展,单一指标的评价和诊断已不能满足我国交通运行的多样化。高德首创城市交通病诊断的综合性评价“交通健康指数”来全面刻画城市交通运行状况,该指数从时间、空间、效率的九项交通运行指标的综合评价,实现城市全方位立体化智慧运行诊断。该指数算法沿用国际通用的信息熵法客观确定评价指标权重(该方法在政府权威部门、社会经济、学术领域的各类报告中得到广泛普遍应用);同时,采用 TOPSIS正负理想解的计算进行排名,最终评分结果代表各城市九宫格指标与理想值之间的接近程度。“交通健康指数”越髙说眀离理想值越近,城市运行相对越健康;指数越低则说明多项指标距离理想值越远,相对越不健康。九项指标信息熵权重分配■权重确定方法—熵值法排名得分方法—TOPS|s1)各项指标运用最大最小值归一化处理,并考1)对于反向指标采用取倒数进行同向处理,然后进行数据规范化效率一骨干时间一路网虑指标的正反向进行调整2道路运行速高延时运行度偏差率,时间占比2)计算第项指标下第个样本值占该指标的比重刻率一高峰平为11.6%114%/时间-通勤2)利用欧式距离计算与最优最劣目标的距离,并乘以权重压力指数pp9.8%;{z;-x)2,D:(21-2)2效率一路网高时间一日拥3〕计算第j项指标的熵值行程延时捐数,10.7%堵经济损失e=-k∑p;lm(P;),=1,…,m3)计算各评价对象与最优方案的贴近程度空间一高峰12.6%缓行路段里空间一路网D:+D程比,98%高峰拥堵路4)计算信息熵冗余度空间一常发段里程比值越接近1,表示评价对象越优秀。在城市健康指薮中,所得结果即代表着该城市健康拥堵路段里10.3%d1=1程比5)计算各项指标权重水平与最优目标的接近百分比。15.2%d∑d最终计算各指标权重如左图所示。2018年度中国“交通健康城市”分布热力图高德地amap. Cam2018年度中国主要城市“交通健康指数”分布热力图地域分布来看■从数据分布来看,一线及省会等大型城市的“交通健康指数”相对普遍较低;其指数与城市均值线差距较远,处于亚健康状态全国50个主要城市中,长三角地区除上海外大部分城市“交通健康指数”相对较高,处于相对健康状态,珠三角的大部分城市指数较高,相对处于亚健康
- 2020-12-09下载
- 积分：1
