深度学习概述

深度学习概述

本人没看过任何深度学习概述资料,下面的话都是根据我参考各样模型后瞎诌出来的。

在大家都过着七夕看喜鹊的时候,本鸽忽然想起了本组还没更新博客,看了下发现进度居然还没更新到深度学习(别说了,我发现传统的机器学习算法也没搞),于是打算开始挖个深度学习坑。

AI现状

要说现在的AI,基本都在搞深度学习(为什么,因为无敌啊)。传统的机器学习算法算法效果在目前的一些问题上往往非常复杂,而且效果很差,很多算法已经发展的比较饱和,性能上很难有大突破。但深度学习是机器学习上比较新的领域,结构比较统一(但有些还是复杂),训练过程简单(但时间仍然长),发展迅速(主要是钱多)一线的研究人员多(论文好混)。于是本组的学习现在基本都从传统算法向深度学习靠近。

深度学习和传统机器学习算法的区别

传统机器学习算法基本都在分类、聚类等问题做了些模型,在分类问题上做的比较多(因为很多问题都可以转化为分类问题),要说有什么可以随便翻翻书有一大堆。在分类问题上,一个模型预测一条数据的过程基本是这样的
继续阅读深度学习概述

简单的BP神经网络和pytorch实现


(我个人刚开始学pytorch,所以代码是对照着github上敲得,https://github.com/MorvanZhou/PyTorch-Tutorial

(这里关于神经网络的优化方法并没有讲,需要的同学可以看误差逆传播算法和梯度下降法)

啥是神经网络

神经网络是用来做分类/回归的,长得和人的神经组织差不多。神经网络是由一层层的结构,每层都有$N$个神经元,正如神经细胞一样,神经网络中每个神经元都有输入和输出。比如下图,该神经元的输入来自其他神经元的输出,不同的输入有不同的权重,按照权重进行求和计算,再减上阈值,再将计算结果作为输出。在学习网络的时候,学习的参数就是各个神经元的权重和阈值
继续阅读简单的BP神经网络和pytorch实现

Adaboosting

公式不支持,公式图片懒得换,链接将就看吧

https://www.zybuluo.com/CDP-Disk/note/1394539

说起支持,我就想起《西游记》里孙悟空给了唐僧很多支持才走完取经路。明年年初,中美合拍的西游记即将正式开机,我继续扮演美猴王孙悟空,我会用美猴王艺术形象努力创造一个正能量的形象,文体两开花,弘扬中华文化,希望大家能多多关注。