回归科学网博客更新

廖红虹 2022-5-21 23:25

发现上次更新这里还是在15年刚刚参加工作那会了，不知不觉已经过去将近7年了。后续我还是会回归到这里分享和记录在工作中的点滴技术，一是给自己留下一些记录，二是希望能够在科学网上能够结识更多的朋友。

1531 次阅读|没有评论

《机器学习技法》课程开课通知

廖红虹 2014-12-28 10:57

台湾国立大学林轩田(Hsuan-Tien Lin)老师的《机器学习基石》课程的后续课程《机器学习技法 》课程已经在Coursera平台上开设。课程将从支持向量机(SVM)，自主提升算法(AdaBoost)和神经网络(deep learning)三个方面讲述机器学习算法。详细链接：https://class.coursera.org/ntumltwo-001

个人分类: 科研道路|4817 次阅读|没有评论

关于《science》上一篇论文与本人之前一篇论文的对比感想

热度 3 廖红虹 2014-6-30 00:42

最近，美国《科学》杂志刊出了一篇论文《 Clustering by fast search and find of density peaks 》（原文链接为：http://www.sciencemag.org/content/344/6191/1492.full.html），论文的主要思想有两个： 对于数据聚类，聚类中心应该位于数据密度分布高的区域，即类与类(cluster)之间应该有一个数据密度分布很低的地 ...

14310 次阅读|5 个评论 热度 3

十五讲 Validation

廖红虹 2014-1-16 15:47

Minimizes augmented error, where the added regularizer effectively limits model complexity. 1. Model Selection Problem 机器学习需要太多的选择，如迭代次数，学习率的大小，损失函数，正则化参数等等。 我们的终极目标是选择能够使$E_{out}$最小的分类器，但实际上不可行。 那么，我们可以转而 ...

个人分类: 科研道路|4116 次阅读|没有评论

十四讲 Regularization

廖红虹 2014-1-16 15:33

Overfitting happens with excessive power, stochastic/deterministic noise, and limited data. 1. Regularized Hypothesis Set 在实际训练过程中，复杂的模型容易产生过拟合现象，最终导致得到的训练模型的$E_{out}$变得非常大。一种很自然的想法就是给模型加上一些附加限制，用以避免过拟合现象，同时使得模型尽 ...

个人分类: 科研道路|4326 次阅读|没有评论

十三讲 Hazard of Overfitting

廖红虹 2014-1-15 22:40

由于高维映射使得VC维增加，此时，若数据样本个数N有限时，就容易造成过拟合(Overfitting)。 1. What is Overfitting? Overfitting 产生的原因(老师举了驾车的例子)： 2. The Role of Noise and Data Size 当数据样本有限（甚至比较少）时，简单模型比复杂模型性能更优！ 3. D ...

个人分类: 科研道路|4834 次阅读|没有评论

十二讲 Nonlinear Transformation

廖红虹 2014-1-15 22:34

这一讲主要介绍当数据线性不可分时，通过非线性映射将数据映射到高维特征空间，使得数据在高维特征空间是线性可分的，进而实现机器学习。 1. Quadratic Hypotheses 2. Nonlinear Transform The Nonlinear Transform Steps： Nonlinear Model via Nonlinear $\Phi$  + Linea ...

个人分类: 科研道路|4156 次阅读|没有评论

十一讲 Linear Models for Classification

廖红虹 2014-1-15 14:53

上一讲介绍了Logistic Regression以及其Cross-Entropy错误损失函数，另外还介绍了梯度下降算法。 这一讲主要介绍将线性模型用于分类问题，现有的线性模型有：线性分类、线性回归和Logistic回归。 1. Linear Models for Binary Classification linear scoring function: $s = w^T x$: for binary classificatio ...

个人分类: 科研道路|4378 次阅读|没有评论

本页有 2 篇博文因作者的隐私设置或未通过审核而隐藏