CS221 AI: Principles and Techniques
- 基于刺激的模型 - Reflex-based models
- 基于状态的模型 - States-based models
- 基于变量的模型 - variable
- 基于逻辑的模型 - logic
- https://www.youtube.com/watch?v=J8Eh7RqggsU&list=PLoROMvodv4rO1NB9TD4iUZ3qghGEGtqNX
- https://www.youtube.com/watch?v=ZiwogMtbjr4&list=PLoROMvodv4rOca_Ovz1DvdtWuz8BfSWL2
- shervine cs-221
Stanford CS221: Artificial Intelligence: Principles and Techniques | Autumn 2021
Lession 1: Overview
- Reflex-based models
- 基于 反射/刺激 的模型
- 最简单的模型,不考虑历史,只考虑当前情况
- Binary Classification
- 二元分类
- 输出二元结果 - true/false, yes/no, positive/negative, 1/-1, 1/0
- Regression
- 回归
- 输出实数结果
- Structured prediction
- 结构化预测
- 输出复杂对象
Lession 2: Linear Regression
- Linear regression framework
- 线性回归框架
- Decision boundary - 一条线
- Hypothesis class - 假设类 - 哪些预测是可能的
- Loss function - 损失函数 - 如何衡量预测的好坏
- Optimization algorithm - 优化算法 - 如何找到最好的预测
- Hypothesis class
- 假设类
- 哪些预测是可能的
符号说明
name | notation | 含义 |
---|---|---|
weight vector | 权重向量 | |
feature extractor | 特征提取器 | |
feature vector | 特征向量 | |
train set | 训练集 | |
test set | 测试集 |
- Feature vector
- 特征向量
- 特征工程 - feature-engineering
- 将原始数据抽象为特征向量
- Score
- 分数
- 如果是最终结果,则代针对某个结论的肯定程度
- w - weight - 权重
- 对于一个输出,不同的特征对输出的影响不同
- 例如: 一个人的身高,体重,年龄,性别,对于 性别和年龄 的影响不同
- s - score - 分数
- 特征*权重
- 例如: 0.78 是 男性
- Loss function
- 损失函数
- 评价模型的预测值和真实值不一样的程度
- 分为 经验风险损失函数 和 结构风险损失函数
- TrainLoss
- 训练损失
- 在训练中希望减小的值
- value of the objective function that you are minimizing
机器学习目标
最小化 TrainLoss/训练损失
- gradient
- the gradient is the direction that increases the training loss the most
- 梯度 是让训练损失最大化的方向
gradient descent - 梯度下降算法
- 初始化
- for
- learning rate - step size
- 学习速率 - 每次更新多少
- 权重 在每个周期被更新 - Machine 学习的内容
- Objective function
- 目标函数
- 统称
- loss function is a part of a cost function which is a type of an objective function.
- Objective function 一般指需要 优化 的函数
- Loss/Cost function 一般指需要 最小化 的函数
Note 使用每个 loss 的平均作为初始 TrainLoss