0%

本文是关于周志华老师编写的机器学习书籍『西瓜书』的第六章支持向量机.

主要的内容有: 支持向量机的模型理解、支持向量、硬间隔与软间隔、在不等式约束下使用拉格朗日乘子法转化为对偶问题、KKT条件、支持向量回归等.

阅读全文 »

本文是关于周志华老师编写的机器学习书籍『西瓜书』的第五章神经网络.

主要的内容有: M-P神经元模型的构成、简单感知机和多层网络、以及著名BP算法的推导过程(激活函数是Sigmoid).

阅读全文 »

本文是关于周志华老师编写的机器学习书籍『西瓜书』的第四章决策树的学习.

主要的内容有: 决策树的基本流程、信息熵、信息增益(ID3决策树)、信息增益率(C4.5决策树)和基尼指数(CART决策树)等.

阅读全文 »

本文是关于周志华老师编写的机器学习书籍『西瓜书』的第三章线性模型.

主要的内容有: 线性回归的基本形式、最小二乘法、广义线性回归、对数几率回归(逻辑回归)、最大似然估计、线性判别分析、广义瑞利商、拉格朗日乘子法等.

阅读全文 »

本文是关于周志华老师编写的机器学习书籍『西瓜书』的第二章模型评估和选择.

主要的内容有: 经验误差与过拟合、模型的评估方法(留出法/交叉验证/自助法)、性能度量(查准率/查全率/F1/ROC曲线等), 部分内容待更新.

阅读全文 »

本文是关于周志华老师编写的机器学习书籍『西瓜书』的第一章绪论的简单体会.

主要的内容有: 机器学习的过程的一些基本术语和假设空间的解释. (归纳偏好回头再来)

阅读全文 »