深度学习-Normalization
在深度学习领域，往往需要处理复杂的任务场景，一般使用较深层数的模型进行网络设计，这就涉及到复杂困难的模型调参：学习率的设置，权重初始化的设置以及激活函数的设置等。深度学习之所以难以训练，一个重要的原因在神经网络中层与层之间存在着极强的关联性，并且目前绝大部分使用的都是基于梯度下降的方法进行反向传播训练，当网络的底层发…
阅读全文技术档案
全部文章归档
按发布时间倒序浏览已发布的中文技术文章。
机器学习-朴素贝叶斯
朴素贝叶斯从是基于贝叶斯定理和条件独立性假设的一种分类器，是一种基于概率统计的分类方法。对于给定的数据，基于条件独立性假设学习输入和输出的联合概率分布，然后根据给定的输入数据利用贝叶斯定理求解最大的后验概率的的输出类别，是一种非常常见的分类算法。 对于贝叶斯定理，实际上就是求解条件概率的方法 $$ P(A |…
阅读全文
深度学习-对抗生成网络
GAN(Generative Adversary Networks)的思想是是一种二人零和博弈思想（two-player game），博弈双方的利益之和是一个常数，比如两个人掰手腕，假设总的空间是一定的，你的力气大一点，那你就得到的空间多一点，相应的我的空间就少一点，相反我力气大我就得到的多一点，但有一点是确定的就是…
阅读全文
深度学习-NLP-Attention_is_all_you_need
Transformer是在2017年的Google发布的论文《Attention is all you need》中提出，主要用于解决RNN相关网络无法捕获序列的长期依赖，以及网络无法并行化的问题，其网络结构示意图如下 从示意图中可以看出在Transformer中包含多个组件，分别为Multi-Head…
阅读全文
深度学习-CTC算法原理
本来以前深入看过CTC的相关论文，前段时间有人问我相关算法原理，瞬间懵逼，以前看过的东西愣是一点没记起来，这就很尴尬了，本人在ocr任务的文字识别中还用过相关的解码方式，一定要搞明白为什么这种方法是可行的。在这里对CTC进行分析和总结，还是验证是否掌握的最好方法就是看能否做到有效的输出，主要参考论文和相关讲解博客。…
阅读全文
Boosting_And_Bagging
在文章机器学习-决策树中详细阐述了目前常用的决策树TD3,C4.5,CART，但是在实际应用中，一般很少使用单个树进行模型设计，因为单个数很难实现一个更全面的模型，由此引入了集成学习，俗话说，三个臭皮匠赛过诸葛亮，集成学习可以看成将多个弱学习器的组合，以期望达到比单个弱学习器更好的监督模型，集成学习的思想是即使某一个…
阅读全文
深度学习-TextDetection
本文主要对常用的文本检测模型算法进行总结及分析，有的模型笔者切实run过，有的是通过论文及相关代码的分析，如有错误，请不吝指正。 一下进行各个模型的详细解析 CTPN 详解 代码链接：https://github.com/xiaofengShi/CHINESE-OCR…
阅读全文
深度学习-OCR_Overview
本篇涉及使用深度学习的方法实现字符识别的任务，该任务与计算机视觉领域内的图像描述任务(ImageCaption)相似，对于图像描述任务，输入为图像，输出为对该图像的描述；而对于OCR任务，输入的图像为包含文字或字符的图片，而输出为这张图片中的文字或字符。…
阅读全文
Awesomes-Process
本篇涉及一些常用操作及查询手册，汇总在这里，不断补充 MacDetails Softmare | 用途 | 软件 | | ------------------------ | ---------------------------------------------- | | 编辑器+IDE |…
阅读全文
深度学习-PythonTutorial_LSTM_GRU_Attention_LNLSTM_LNGRU
本篇主要涉及LSTM,GRU以及seq2seqattention的原理以及非调用API方式的代码实现，此外，还实现了LSTM和GRU的层归一化代码，主要是为了更好的理解相关模型的算法，并且可以将之作为脚手架代码进行更多的应用。转载请表明出处。 RNN…
阅读全文
机器学习-EM算法
定义 按照wiki百科的[定义)，EM算法被用于寻找，依赖于不可观察的隐形变量的模型中参数的最大似然估计。在统计计算中，最大期望（EM）算法是在概率模型中寻找参数最大似然估计或者最大后验估计的算法，其中概率模型依赖于无法观测的隐性变量。最大期望算法经常用在机器学习和计算机视觉的数据聚类（Data…
阅读全文
深度学习-计算机视觉CNN
本篇主要分析CV领域的主要代表性CNN网络结构，这些网络结构一般是在图像识别的任务上开发设计的，并迁移应用到其他的计算机视觉任务上。 对于计算机视觉而言，从简单到复杂一般包括： 图像识别 目标检测 图像分割 图像翻译/描述…
阅读全文
机器学习-常用知识点
本篇涉及机器学习炼丹过程中的一些必须知道的知识点，比如评价指标，损失函数，激活函数，正则化，卷积，RNN等，envolving... 多层感知机和布尔函数 只是用一个隐藏层，实现$n$元输入的任意布尔函数，需要的隐藏节点数量：$2^{n-1}$…
阅读全文
深度学习-目标检测
目标检测为计算机视觉领域内的相关任务，输入一张图片，输出图片中物体所在位置及物体的名称。是一个典型的多任务模型。 深度学习目标检测技术近年来发展迅速并且取得的成果相当棒，从最早的RCNN到Fast，Faster再到后来的SSD,YOLO等相关算法，不同的算法在目标检测识别正确率和运行速度之间在不算提升。…
阅读全文
机器学习-SVM
支持向量机是非常高效的一种有监督机器学习算法，是一个二类分类模型，他的基本模型是定义在特征空间上的间隔最大的现行分类器，间隔最大使它有别于感知机；此外核函数的应用，使该算法可以应用有非线性空间。 支持向量机由简入繁主要包含如下几种： 线性可分支持向量机 线性支持向量机 非线性支持向量机 线性可分支持向量机…
阅读全文
机器学习-决策树
决策树是机器学习中非常容易理解机模型，是最基础最常见的有监督学习模型，被用于分类或者回归，由于树结构与销售、教育、医疗诊断场景决策过程相似，因此在该领域应用广泛。 决策树的生成包括三个部分：特征选择，构造树，树剪枝 决策树算法的特点 样例 | 姓名 | 年龄 | 长相 | 工资 | 写代码 | 类别 | |…
阅读全文
机器学习-聚类
聚类是一种主要用于处理分类的无监督任务。给出一组无标记的数据，目标是找到这组数据的模式特征，例如哪些数据是同一类型的，哪些数据是另外的类型。聚类与分类的最大区别就是分类的目标实现已知，例如我们熟知的猫狗大战，在进行分类之前我们就已经知道给定的样本非猫即狗，但是在聚类的时候，对目标是未知的，只能根据给定的数据的特征，按…
阅读全文
LeetCode算法训练
leetcode漫漫求索路……🛣，进行日常算法训练，就当强身健体了😢，燥起来吧...... 从排序数组中删除重复项 原题链接https://leetcode-cn.com/explore/interview/card/top-interview-questions-easy/1/array/21/…
阅读全文
使用Hexo搭建基于Github的私人博客
本篇主要介绍使用hexo+Github进行个人博客的搭建，并实现通过个人域名进行网址访问。使用环境为Mac。 Preparation 三个必备条件： Github Hexo 个人域名 Github 对于绝大部分人来说都有github账号并且在个人电脑配置了ssh，如未满足该条件请参考右侧链接👉👉 1，下载Git…
阅读全文