GwanSiu Blog

Keep Learning, Shaping the Future

Lecture 1-Peak Finder

Given an array(one dimension or two dimension), find a peak in this array if it exists. 1. One-dimensional Version

Note of PRML(3)

Linear Regression Model

1. Linear Regression Model 假设目标数数据$t$是由一连续函数$f(x)$产生,根据数学的逼近原理,连续函数$f(x)$可以分解成函数空间中基函数的线性组合。因此线性回归模型本质上可以看成将数据X使用不同空间的基函数展开,是这些空间基函数的线性组合去逼近$f(x)$: 其中, $X=(x_{1},…,x_{D})$为输入数据,$w_{0},w_{1},…,w...

Note of PRML(2)

The information theory and machine learning

1. 信息量和熵 1.1 信息量 概率$p(x)$是用来衡量事件(x)的不确定性。通常,事件的发生都携带着信息,而信息内容的大小则取决于事件发生的概率。出于对信息内容的量化,数学家们便需要定义一种测度,该测度不仅需要满足数学上对测度的要求,还要求在事件的不确定性上是单调的,且必须能够反映事件的信息量。通常上,对于事件(x),该事件的信息量$h(x)$等于事件发生概率$p(x)$的倒数再取对数...

Note of PRML(1)

The background of machine learning

1. Introduction PMRL第一章简单讲述了三方面的知识:(1).Machine Learning的基本知识,包括基本名词定义,模型选择以及维度灾难;(2).贝叶斯理论和决策理论;(3).信息理论与Machine Learning的联系。 在本篇博文中,博主将结合自己所学,将书本的知识进行扩展,从而形成这一章note,希望对以后的机器学习学习者有所帮助。注意:本篇博文中,不涉及...

Scale Space v.s. Image Resolution

初学者经常会把图像的scale和Resolution混淆,这篇博文目的是详细解说图像的Scale和Resolution。 1. 什么是尺度空间? 图像的尺度是指图像内容的粗细程度。尺度的概念是用来模拟观察者距离物体的远近的程度,具体来说,观察者距离物体远,看到物体可能只有大概的轮廓;观察者距离物体近,更可能看到物体的细节,比如纹理,表面的粗糙等等。从频域的角度来说,图像的粗细程度代...

Class-aware v.s. Class-agnostic in object detection

Answered by Kien-Huynh in Quora For a class-aware detector, if you feed it an image, it will return a set of bounding boxes, each box associated with the class of the object inside (i.e. dog, ...

深度卷积神经网络的发展:从AlexNet到DenseNet

1. Introduction 众所周知,深度卷积神经网络(简称:CNN)应用广泛且效果比一般传统方法要好,在图像任务级别包括图像分类和图像检测,在像素任务级别上包括图像分割,图像去噪和图像超分辨率等。在我刚刚入门的时候,常常会会对各种CNN的变种结构,不知道他们之间的关系是如何,只知道这个网络是最新最好的,然后拿来使用测试。但作为一个学习者,本着探究的精神,我认为”拿来主义“并不可取,知其...

Faster R-CNN

1. Introduction 在我的文章Fast RCNN提到: Fast RCNN将特征提取,分类器和bounding-box regressors融合在一起,使RCNN的多阶段训练变成2阶段训练。Region proposals占用了大量的时间复杂度,原因是Fast RCNN使用selective search方式通过CPU进行计算region proposals。在Faster R...

Fast R-CNN

1.Introduction Object Detection=Classification+Regression, 我之前的文章cs231n note提到过,大部分的目标检测算法都是multi-stages。检测时间复杂度高会影响实时目标检测的效果。复杂度高来源于两个原因: 1.目标检测需要位置信息,需要处理大量的region proposals,为什么要用region proposals...

R-CNN

Rich feature hierarchies for accurate object detection and semantic segmentation Tech report

1. 目标检测的根本问题(Classification+Regression) 分类问题: 对候选区域判断是否有物体存在 回归问题: 对于有物体存在的区域进行bounding box regression, 即:预测出bounding box四个点的坐标。 目标检测要回答的问题:什么位置有什么物体? 目标检测主要思路: 候选区域选择—>对候选区域进行特征提取—>分类—...