吐血整理深度学习入门路线及导航【教学视频+大神博客+书籍整理】+【资源页】(2019年已经最后一个月了,你还不学深度学习吗???)

声明:

1)该文章整理自网上的大牛和机器学习专家无私奉献的资料,具体引用的资料请看参考文献。
2)本文仅供学术交流,非商用。所以每一部分具体的参考资料并没有详细对应。如果某部分不小心侵犯了大家的利益,还望海涵,并联系博主删除。
3)博主才疏学浅,文中如有不当之处,请各位指出,共同进步,谢谢。
4)此属于第一版本,若有错误,还需继续修正与增删。还望大家多多指点。大家都共享一点点,一起为祖国科研的推进添砖加瓦。

〇、写在前面

可以去我的WX公众号,回复【福利】,获取更多资源!

最近没有怎么发博客,趁这个机会总结一下,2019年已经是深度学习大火甚至热度下降的一年了,我们的小伙伴应该抓紧机会赶上最后一波热潮!!!

依照我目前的学习经验和采坑总结,学习深度学习的最佳学习方法莫过于 【视频+博客+书籍】+ 总结,【视频+博客+书籍】这三个,我将把自己【目前学过的】以及【大佬推荐的】都在这篇博客文章中全部展现出来,力求全面实用,至于【总结】部分则是在于个人的发挥,【所谓师父领进门,修行在个人】,虽然我不是师傅,但是也希望能为你的未来方向提供一些力所能及的帮助。

博主将为各位趟河踩坑,保驾护航,咱们一起冲冲冲!!!上帝是公平的,所以世间的一切都是等价交换,只要你不辜负时间,时间也必然不会辜负你!!!

最后说一下,什么叫做【学习】,有好多小伙伴包括博主本人都有点急躁,但是【学习】是【学】然后【习】的过程,即 认真学习,努力实践,乐于分享
在这里插入图片描述
不要忘记计算机科学技术的核心就是【分享】,不要闭门造车!!!那实在是浪费时间!!!

如果你觉得本文有用,还请 点赞,关注,收藏,这样就能让更多的人看到。

如果本文有不足或者不正之处,欢迎指正批评,感激不尽!

如果有疑问欢迎留言,绝对第一时间回复!!!

?


?

一、粉丝小福利

推荐一个可以搜索一些pdf版的电子书的网站——鸠摩搜书,https://www.jiumodiary.com/
在这里插入图片描述
比如搜索【深度学习】,
在这里插入图片描述
下文中提到的一些书都可以去其中搜索,或者也可以直接百度:
在这里插入图片描述
不过百度的坑比较多,但是也是可以尝试的,再或者脚本之家,https://www.jb51.net/books/
在这里插入图片描述
如果实在找不到,也可以直接去CSDN的下载区下载,https://download.csdn.net/,淘宝找一个商家下载即可,一般也就一两块。
在这里插入图片描述

?


?

二、令人头疼的数学

在这里插入图片描述
其实我也懂,大家也懂,很多人避而不谈或者绕开深度学习的主要原因是听到了数学,数学基础内容过多,基本上把大部人劝退了。。。【立即推 <<==>> 放弃】

其实如果你读过工科本科(因为我是工科,本科【吉大】的小伙伴有吗),就一定学过 高等数学、概率论与数理统计和线性代数 这三门课,这就基本上能够解决绝大多数的问题,甚至说如果你只是想当一个掉包侠的话,这些都不用全部掌握,关于深度学习的境界划分在这里——大话卷积神经网络CNN(干货满满),可以看看自己是哪一个境界的小盆友。
在这里插入图片描述
正文开始:

  • 微积分:其实个人感觉涉及的微积分知识相对简单,积分很少,微分也不是特别复杂,花一天时间学一学就行。

  • 概率论与统计:这个比较高深,是应用在机器学习领域里最重要的数序分支。应用比如:条件概率、相关系数、最大似然、大数定律、马尔可夫链等等,还是得好好搞一下概率。

  • 线性代数:数字图像本身就是以矩阵的形式呈现的,多个向量组成的样本也是矩阵这种形式非常常见,大多机器学习算法里每个样本都是以向量的形式存在的,多个矩阵叠加则是以张量(tensor)的形式存在 Google 深度学习库 TensorFlow 的字面意思之一。

  • 凸优化:这个需要单独拎出来说一下。因为太多问题(尤其机器学习领域)都是优化问题(求最优),凸优化是里面最简单的形式,所以大家都在想办法怎么把一般的优化问题转化为凸优化问题。至于单纯的凸优化理论,好像已经比较成熟了。在机器学习里,经常会看到什么求对偶问题、KKT条件等,潜下心花两天学一学。

数学知识真的没必要系统学习,效率低又耗时,毕竟大家都有本科或者研究生的基础了,这就足够了。目前感觉用的最多的就是矩阵论!!!因为 TensorFlow 或者其他的框架都需要计算图的大小。再或者用到的时候学,学完之后总结一下,所以一定要活学活用网上的搜索资源,比如 CSDN、知乎等等。

如果想要学习这三门课——【高等数学、概率论与数理统计和线性代数】,推荐宇哥(张宇数学)的课程,直接B站搜就能找到。

宇哥鼓励学生的一段话,送给你,无论你考没考过研,希望你都能坚持一下!!!

再坚持一下,张宇送给2018考生的最后一段话!

资源总结

  • 同济大学的《线性代数》
  • 浙江大学的《概率论与数理统计》
  • 同济大学的《高等数学》
  • 北大的《凸优化》
  • 林轩田机器学习基石/技法课件、作业和视频
  • 斯坦福大学CS229机器学习课程基础资料英文和中文版本
  • 《B站张宇数学》

?


?

三、人生苦短,我用python

在这里插入图片描述
工欲善其事必先利其器,作为深度学习的基础语言,python这些年可以说是红得发紫,承蒙粉丝们抬爱,写过一个1.6W播放量的 python 的基础博客——用Python解决数据结构与算法问题(一):Python基础,不过没有特别详细,推荐学完了基础知识的时候再看一下,以做位复习的资源,内附几个例子,可以用来练手。
在这里插入图片描述

基础部分看廖雪峰的 python教程 就可以了,我个人有看一些,比较良心,如果不喜欢在线学习的同学也可以使用这本书——《Python编程:从入门到实践》,极其的基础,但是对小白来说非常友好,还有几个简单的项目实战。

有的同学会问是学 python2 还是 python3?这么说吧,python 核心团队计划2020年停止支持 python2,也就是说 python2 马上就要说再见了,肯定还是学 python3,遇到之前的 python2 的代码再查找区别即可。python 学起来其实很简单,看别人代码的过程就是学习的过程。对于不熟悉的用法多搜下官方文档,如 python

?


?

python 的开发环境值得说一下,因为有太多选择,这里比较建议使用 pycharm 和 jupyter notebook:

  • Anaconda是一个用于科学计算的Python发行版,支持 Linux, Mac, Windows系统,提供了包管理与环境管理的功能,可以很方便地解决多版本Python并存、切换以及各种第三方包安装问题。

下载地址:https://www.anaconda.com/download/

  • Pycharm,社区版免费

下载地址:https://www.jetbrains.com/

  • 安装教程:

资源总结

  • 廖雪峰的python教程
  • 《Python编程:从入门到实践》
  • 两天入门python

?


?

四、三两个三方库

在这里插入图片描述
除了python之外,还有很多常用的第三方库:numpy、pandas、scipy、matplotlib、Seaborn、scikit-learn等等,需要熟练掌握提到的这几个,其他的遇到再学习使用即可。

资源总结

  • 《Numpy练习题100题》
  • 《十分钟搞定pandas》
  • 《scipy学习笔记》
  • 《matplotlib学习之基本使用》
  • 《Seaborn简易入门》
  • 《scikit-learn学习笔记》
  • 《Scikit-Learn 与 TensorFlow 机器学习实用指南》
  • 《Scikit-Learn 官方文档》
  • 《Scikit-Learn 中文文档(0.19)》

?


?

五、深。。。深度。。。深度学习理论

在这里插入图片描述
认真的学习深度学习理论是关键!!!

在这里插入图片描述
深度学习理论首推这门课——网易云的吴恩达deeplearning.ai。

  • 离线视频:https://pan.baidu.com/s/1ciq3qHo0lgoD3MLRwfeqnA 密码:0kim。

  • 课件,笔记,论文:https://github.com/fengdu78/deeplearning_ai_books

  • 作业:https://github.com/stormstone/deeplearning.ai

还有我个人依据课程写的 深度学习入门笔记系列


在这里插入图片描述
《python深度学习》由Keras之父、现任Google人工智能研究员的弗朗索瓦?肖莱(Franc?ois Chollet)执笔,入门深度学习的同时还可以学习 Keras。

英文版:https://github.com/fchollet/deep-learning-with-python-notebooks

中文版:https://github.com/fengdu78/machine_learning_beginner/tree/master/deep-learning-with-python-notebooks


在这里插入图片描述
李宏毅的一天搞懂深度学习课件ppt,pdf以及精心整理的目录——https://download.csdn.net/download/tefuirnever/11107293

李宏毅《机器学习》:https://www.bilibili.com/video/av59538266


在这里插入图片描述
李飞飞的 CS231n 课程,B站有 中英文字幕版课程,知乎专栏 智能单元 有CS231N课程翻译(非常好)


在这里插入图片描述
Fast.ai《程序员深度学习实战》

视频地址:

  • B站地址(英文字幕):https://www.bilibili.com/video/av18904696?from=search&seid=10813837536595120136

  • CSDN地址(2017版中文字幕): https://edu.csdn.net/course/detail/5192

课程笔记:

  • 英文笔记原文:https://medium.com/@hiromi_suenaga/deep-learning-2-part-1-lesson-1-602f73869197

  • 由ApacheCN组织的中文翻译:https://github.com/apachecn/fastai-ml-dl-notes-zh


在这里插入图片描述
CS230 Deep Learning

  • 秋季CS230视频列表:https://www.bilibili.com/video/av47055599

  • 春季CS230课程大纲:http://cs230.stanford.edu/syllabus/

  • Cheetsheet(斯坦福助教给出):https://stanford.edu/~shervine/teaching/cs-230.html

资源总结

  • 《深度学习》花书
  • 《深度学习 500 问》
  • 李宏毅机器学习笔记(LeeML-Notes)
  • 《动手学深度学习》
  • 《动手学深度学习》-PyTorch

?


?

六、一大波DL论文来袭

在这里插入图片描述
如果你是深度学习领域的新手,你可能会遇到的第一个问题是“我应该从哪篇论文开始阅读?”

Papers with Code 这个网站叫做 Browse state-of-the-art。它将 ArXiv 上的最新深度学习论文与 GitHub 上的开源代码联系起来。该项目目前包含了 651 个排行榜,1016 个深度学习任务,795 个数据集,以及重磅的 10257 个含复现代码的优秀论文。简直就是一个寻找论文和代码的利器。它将 1016 个深度学习任务分成了 16 大类,涉及了深度学习的各个方面。

比如目标检测的超全的文献 paper 列表:
在这里插入图片描述
资源总结

  • 大博主的正例论文资源——/zouxy09/article/details/8782018
  • Papers with Code;GitHub地址:https://github.com/zziz/pwc
  • Deep Learning Papers Reading Roadmap

?


?

七、有哪些知名会议呢

在这里插入图片描述

  • 会议

NeurIPS:https://nips.cc/

ICML:https://icml.cc/

ICLR:https://iclr.cc/

AAAI:https://aaai.org/Conferences/AAAI-19/

IJCAI:https://www.ijcai.org/

UAI:http://www.auai.org/uai2019/index.php

  • 计算机视觉:

CVPR:http://cvpr2019.thecvf.com/

ECCV:https://eccv2018.org/program/main-conference/

ICCV:http://iccv2019.thecvf.com/

  • 自然语言处理:

ACL:http://www.aclcargo.com/

EMNLP:https://www.aclweb.org/portal/content/emnlp-2018

NAACL:https://naacl2019.org/

  • 知名期刊:

JAIR:https://www.jair.org/index.php/jair

JMLR:http://www.jmlr.org/

  • 其它

机器人方面,有 CoRL(学习)、ICAPS(规划,包括但不限于机器人)、ICRA、IROS、RSS;

对于更理论性的研究,有 AISTATS、COLT、KDD。

?


?

八、你知道知识图谱吧?!?

在这里插入图片描述
知识图谱是什么?

知识图谱是一种结构化数据的处理方法,它涉及知识的提取、表示、存储、检索等一系列技术。从渊源上讲,它是知识表示与推理、数据库、信息检索、自然语言处理等多种技术发展的融合。

资源总结

  • 为什么需要知识图谱?什么是知识图谱?——KG的前世今生

  • 什么是知识图谱?

  • 智能搜索时代:知识图谱有何价值?

  • 百度王海峰:知识图谱是 AI 的基石

  • 译文|从知识抽取到RDF知识图谱可视化

?


?

九、DL框架哪家强

在这里插入图片描述

注:? 表示推荐指数,越多越好


9.1、TensorFlow

TensorFlow学习资料大全:含入门指南、在线博客、视频教程、书籍推荐和实战项目等

TensorFlow入门指南

  • TensorFlow如何入门
  • awesome-tensorflow:TensorFlow - A curated list of dedicated resources
  • awesome-tensorflow-2:Tensorflow 2.x resources such as tutorial, blog, code and videos

TensorFlow官网&社区

  • (?????)TensorFlow官网
  • (?????)GitHub:TensorFlow
  • (????)Medium:TensorFlow:官方维护,分享最佳干货文章
  • (????)Twitter:TensorFlow:官方维护,分享最快动态
  • (????)Youtube:TensorFlow:官方维护,分享最新视频
  • (?????)TensorFlow官网(中国域名) 便于不能科学上网的人
  • (???)TensorFlow中文社区:官方和才云科技(TensorFlow 中国社区合作伙伴)联合发起

TensorFlow在线教程

  • (?????)tf2_course:第一个TensorFlow2.x系列教程(作者是巨佬)
  • (?????)TensorFlow-Examples:TensorFlow Tutorial and Examples for Beginners with Latest APIs
  • (?????)TensorFlow-Course:Simple and ready-to-use tutorials for TensorFlow
  • (????)TensoFlow2中文教程:TensorFlow2中文教程(代码实战为主)
  • (????)TensorFlow2.0-Examples:TensorFlow2 教程(代码实战为主)
  • (????)EffectiveTensorflow:TensorFlow tutorials and best practices
  • (???)TensorFlow-Tutorials-Chinese:TensorFlow 中文教程 (Chinese Tutorials)

TensorFlow视频教程

  • (?????)Deep Learning basics with Python, TensorFlow and Keras 网址
  • (?????)TensorFlow-Tutorials:TensorFlow Tutorials with YouTube Videos
  • (????)Stanford CS 20SI: Tensorflow for Deep Learning Research (斯坦福TensorFlow教程)
    • 官网:CS20SI
    • GitHub(stanford-tensorflow-tutorials)
    • B站视频
  • (???)Google 机器学习速成课程:该课程虽然为Machine Learning,但代码全使用TensorFlow,有实战意义

TensorFlow书籍资源

  • (?????)Hands-on Machine Learning with Scikit-Learn, Keras, and TensorFlow, 2nd Edition
  • (????)Hands-On Machine Learning with Scikit-Learn and TensorFlow 中文翻译
  • (???)TensorFlow Machine Learning Cookbook

TensorFlow实战项目

  • TensorFlow/models
  • tensorboard
  • TensorLayer
  • DCGAN-tensorflow
  • facenet
  • FastMaskRCNN
  • SSD-TensorFlow
  • CapsNet-Tensorflow
  • tensorflow-generative-model-collections
  • tensorflow_poems

9.2、PyTorch

PyTorch资料学习大全:含入门指南、在线教程、视频教程和书籍推荐等资源

PyTorch安装教程

PyTorch入门指南

  • Awesome-pytorch-list:A comprehensive list of pytorch related content on github,such as different models,implementations,helper libraries,tutorials etc.
  • 知乎:新手如何入门PyTorch
  • PyTorch:60分钟入门

PyTorch官网&社区

  • (?????)PyTorch官网
  • (?????)GitHub:PyTorch
  • (????)Twitter:PyTorch:官方维护,分享最快动态
  • (????)PyTorch官方论坛
  • PyTorch中文文档&教程
  • 知乎话题:PyTorch

PyTorch在线教程

  • (?????)PyTorch:Doc
  • (?????)pytorch-tutorial:PyTorch Tutorial for Deep Learning Researchers
  • (?????)practicalAI:Implement basic ML algorithms and deep neural networks with PyTorch.
  • (????)practical-pytorch:PyTorch tutorials demonstrating modern techniques with readable code
  • (????)Deep Learning with PyTorch:This series is all about neural network programming and PyTorch!
  • (?????)pytorch-book:PyTorch tutorials and fun projects including neural talk, neural style, poem writing, anime generation
  • (?????)莫凡:PyTorch教学:Build your neural network easy and fast
  • (?????)pytorch-handbook:pytorch handbook是一本开源的书籍
  • (????)Dive-into-DL-PyTorch:本项目将《动手学深度学习》(Dive into Deep Learning)原书中的MXNet实现改为PyTorch实现。
  • (????)PyTorch_Tutorial:《Pytorch模型训练实用教程》中配套代码 PyTorch学习笔记

PyTorch视频教程

  • (????)PyTorch - Deep Learning with Python
  • (???)Neural Network Programming - Deep Learning with PyTorch
  • (???)Intro to Deep Learning with PyTorch:优达免费课程
  • (?????)莫凡:PyTorch教学

PyTorch书籍资源

  • (?????)Deep Learning with PyTorch:LeCun力荐,PyTorch官方权威教程书 github代码
  • (???)Introduction to Artificial Neural Networks and Deep Learning: A Practical Guide with Applications in Python
  • (?????)《深度学习框架PyTorch:入门与实践》github

PyTorch实战项目

  • pytorch-examples:官网示例
  • pretrained-models.pytorch:Pretrained ConvNets for pytorch: NASNet, ResNeXt, ResNet, InceptionV4, InceptionResnetV2, Xception, DPN, etc.
  • maskrcnn-benchmark:Fast, modular reference implementation of Instance Segmentation and Object Detection algorithms in PyTorch.
  • mmdetection:Open MMLab Detection Toolbox with PyTorch 1.0
  • pytorch-semseg:Semantic Segmentation Architectures Implemented in PyTorch
  • faster-rcnn.pytorch
  • ssd.pytorch
  • semantic-segmentation-pytorch
  • pytorch-pretrained-BERT
  • torchcv:A PyTorch-Based Framework for Deep Learning in Computer Vision
  • https://github.com/devnag/pytorch-generative-adversarial-networks

PyTorch搭档工具

  • PyTorch Lightning:Lightning is a very lightweight wrapper on PyTorch.

?


?

十、欢迎来到神经网络游乐场

在这里插入图片描述
网站地址:http://playground.tensorflow.org/#activation=relu&batchSize=10&dataset=circle&regDataset=reg-plane&learningRate=0.03&regularizationRate=0&noise=0&networkShape=4,2&seed=0.17410&showTestData=false&discretize=false&percTrainData=50&x=true&y=true&xTimesY=false&xSquared=false&ySquared=false&cosX=false&sinX=false&cosY=false&sinY=false&collectStats=false&problem=classification&initZero=false&hideText=false

在这里插入图片描述
可以调整:

  • 数据分布,训练集和测试集的比例,有无噪声,批大小;
  • 特征,神经元个数和层数;
  • 学习率,激活函数,正则化与否以及大小,分类还是回归。

你可以尝试去改变相应的参数,从而感受一下网络输出的变化,进而体会到卷积神经网络的乐趣,加油!!!

?


?

十一、毛遂自荐可还行

在这里插入图片描述
推荐两个自己写的高质量博客:

  • 大话卷积神经网络CNN(干货满满)
  • 【记录】一个深度学习算法工程师的成长之路(思考和方法以及计划)

?


?

十二、总结一下下

在这里插入图片描述
该博客会持续更新相关资源,敬请期待。

持续更新…

?


?

如果你觉得本文有用,还请 点赞,关注,收藏,这样就能让更多的人看到。

如果本文有不足或者不正之处,欢迎指正批评,感激不尽!

如果有疑问欢迎留言,绝对第一时间回复!!!

在这里插入图片描述

如果有幸帮到你,请帮我点个【赞】,给个【关注】!如果能顺带【评论】给个鼓励,我将不胜感激。

如果想要更多的资源,欢迎关注 @我是管小亮,文字强迫症MAX~

回复【福利】即可获取我为你准备的大礼,包括C++,编程四大件,NLP,深度学习等等的资料。

想看更多文(段)章(子),欢迎关注微信公众号「程序员管小亮」~

在这里插入图片描述
学习AI的同学可以看一下这个课程!
在这里插入图片描述

参考文章

机器学习必学的10大算法
10-30
在统计学和机器学习领域,线性回归可能是最广为人知也最易理解的算法之一。
深度学习入门视频课程
01-24
购买课程后,添加小助手微信(微信号:csdnxy68)回复【唐宇迪】 进入学习群,获取唐宇迪老师答疑 课程首先通俗讲解神经网络核心知识点再对整体网络构架进行分析与实例应用,针对计算机视觉与自然语言处理两大核心模块分别讲解CNN与RNN网络模型。项目实战选择当下最主流的tensorflow框架并基于2版本展开案例实战。整体风格通俗易懂,最接地气的深度学习入门实战课程!
【记录】一个深度学习算法工程师的成长之路(思考和方法以及计划)
文章目录0、写在前面1、编程能力 0、写在前面 讲道理,一谈到【找工作】这个问题,我就很焦虑。。。。。。看到这个省略号了嘛?这就是我的心, ???? 尤其是在就业一比一难的情况下,经历过好多次心态崩裂,也问过很多人,来总结一下如果想成为一个深度学习 CV 算法工程师】需要什么学习能力和知识储备。 这个文章应该会是一个【记录】的文章,看看自己这一路走来 学了什么,准备学什么,需要学什么,希望和各位共...
5天搞定深度学习入门系列
07-24
我们这门课程是面向0基础学员,从上世纪60代基础的的单层感知器开始学习,从基础的知识开始,进行体系化的学习。 课程会包含神经网络领域大多数重要分支,并通过这些分支延伸到如今热门的的深度置信网络DBN,卷积神经网络CNN,深度残差网络RES和长短时记忆网络LSTM。 帮助大家从人工智能神经网络的新手变成高手。
计算机组成原理实验教程
12-03
西北工业大学计算机组成原理实验课唐都仪器实验帮助,同实验指导书。分为运算器,存储器,控制器,模型计算机,输入输出系统5个章节
定量遥感中文版 梁顺林著 范闻捷译
04-27
这是梁顺林的定量遥感的中文版,由范闻捷等翻译的,是电子版PDF,解决了大家看英文费时费事的问题,希望大家下载看看,一定会有帮助的
??2020 CSDN 皮肤主题: 酷酷鲨 设计师:CSDN官方博客 返回首页