机器学习入门:第一部分(机器学习入门知识)
off999 2024-09-23 11:37 18 浏览 0 评论
第一部分
机器学习是啥
通过大量学习, 确定函数模型, 进而预测新的情况
函数y=wx+b
训练
已知大量的x和y,
通过模型训练得到最优的w和b
预测
给我一个x,使用y=wx+b将y计算出来
机器学习算法的三要素:
模型 y=wx+b
决定了一种函数空间(无限个函数)
损失函数:
通过一个函数值来评估函数的好和坏
损失函数值越小,模型越好
损失函数值越大,模型越差
将寻找最优模型的问题转换成一个寻找函数最小值的问题(寻找能够让损失函数取得最小值的参数)
优化方法:
用什么方法找到让损失函数取得最小值的参数 凸优化
最小二乘法
梯度下降法
smo
机器学习工作流程
人和机器
人的学习: 用大量参数学习少量数据
机器学习:用少量参数学习大量数据
流程
机器学习只能对数值型数据进行计算
机器学习工作流程总结
1.获取数据
2.数据基本处理
3.特征工程
4.机器学习(模型训练)
5.模型评估
结果达到要求,上线服务
没有达到要求,重新上面步骤
数据集简介
基本概念
样本: 一行
特征:一列 x
目标:特殊的一列 y
数据类型
监督数据 : 既有x也有y
y离散: 分类 选择题
y连续:回归 计算题
无监督数据:只有x,没有y
数据集分割
训练集:用于模型训练 练习
测试集:用于模型评估 考试
特征工程
数据变成更适合模型学习的形式
特征提取— 将非数值变成数值
特征预处理— 将数值变成更容易学习的数值
特征降维— 将高维数据降到低维
减小计算量
防止过拟合
机器学习算法分类
监督学习: 数据有x和y
y连续:回归 房价预测,票房预测,点击率预测,销量预测,销售额预测
y离散:分类
非监督学习:数据只有x没有y
聚类
半监督— 一半有y,一半没有y
强化学习— 训猴
聪明的汉斯
机器学习模型评估
分类评估— 分对错
准确率
精确率
召回率
F1值
AUC
KS
回归- 不能分对错,看误差(预测值-真实值)大小
R方 [0,1] 决定系数
RMSE 根均方误差
RMSE是一个衡量回归模型误差率的常用公式, 不过, 它仅能比较误差是相同单位的模型
开根号: (累加:(第i个样本预测值-第i个样本真实值)**2) / 样本数量
MSE 均方误差
(累加:(第i个样本预测值-第i个样本真实值)**2) / 样本数量
MAE 平均绝对误差
欠拟合
表现: 模型在训练集和测试集都不好
原因: 模型过于简单,数据过于复杂
过拟合
表现: 模型在训练集上拟合很好,测试集拟合很差
原因:
模型过于复杂,学习了很多训练集特有的特征,而测试集没有
数据过于简单
k近邻算法简介
原理:
你的朋友好人多,你就是好人
你的朋友坏人多,你就是坏人
流程
计算预测样本跟所有训练样本之间的距离
升序排序
选择最近的k个训练样本做为近邻
统计近邻样本中类别的频次,频次最高的类别作为预测类别
实现
特性
没有训练过程
没有得到模型
训练不干事,预测跑断腿
预测的时候要计算预测样本跟所有样本的距离,运算量很大
预测效率低下
#1.指定k值 几个朋友?
k=3
#2.计算所有点到预测点的距离
# 方式1:
# distances=[sqrt(sum((x_train-x)**2)) for x_train in X_train]
# 方式2:
#distances=np.sqrt(np.sum(np.square(X_train-x),axis=1))
# 方式3:
distances=np.sum(np.square(X_train-x),axis=1)
#3.距离排序
#返回升序排序后的下标序列
nearest=np.argsort(distances)
# nearest,distances
#4.取出topk类别
#取出k近邻样本的类别值
topk=[y_train[i] for i in nearest[:k]]
#5.统计近邻中的类别频次
from collections import Counter
counter=Counter(topk)
#6.取频次最高的类别作为预测类别
counter.most_common(1)[0][0]
可以优化的方面:
1. python自带的sqrt, sum等方法速度太慢. 我们可以使用np自带的 np.sqrt np.square np.sum来进行计算. 速度会提升很多
2. 求和之后的结果, 是一个正值, 所以我们可以开平方, 也可以不开, 因为在x>0的部分, x**2 函数时单调递增的, 所以开不开平方都是一样的, 这样可以显著提高速度
3.pandas中支持数组索引. 例如:
y_train[[这是个数组]] 这样也可以把y_train中的数据取出来, 速度相比 [for] 这样的使用更快
抛弃原有特征,使用样本间距离对样本特征进行重新构建,然后进行预测
我是好人还是坏人跟我是一个什么样的人没有关系
可解释性差
无法解释x和y之间的关系
相关推荐
- 工程师必备!DeepSeek自动化运维全攻略
-
每天省出3小时,故障自修复+智能监控实战指南导语“总在深夜被报警短信吵醒?教你搭建智能运维体系,让DeepSeek自己管自己!”正文技能1:自动化故障诊断配置智能诊断规则:yaml复制alert_ru...
- Spug - 轻量级自动化运维平台(自动化运维平台 devops)
-
对于中小型企业而言,进行主机和应用的管理是比较麻烦的,应用部署往往需要直接连接服务器,再进行手动的环境配置、代码拉取、应用构建和部署发布等工作,容易出错,且耗时费力。一个好的自动化运维平台,往往能大大...
- 轻量级无 Agent 的一个好用的“小麻雀”自动化运维平台工具!-Spug
-
对于中小型企业而言,进行主机和应用的管理是比较麻烦的,应用部署往往需要直接连接服务器,再进行手动的环境配置、代码拉取、应用构建和部署发布等工作,容易出错,且耗时费力。一个好的自动化运维平台,往往能大大...
- 运维自动化之实用python代码汇总(python自动化运维常用模块)
-
本文总结了运维工作中经常用到的一些实用代码块,方便在需要的时候直接搬过来使用即可1.执行系统命令,获取返回结果fromsubprocessimportPopen,PIPE,STDOUTcp...
- 从代码小白到自动化大师:Python 编程实战
-
昨天我聊了一下关于线性代数、概率统计、微积分核心概念的学习,也花了一些时间恢复一下大学时候学这些的记忆,确实来说数学很有趣也很考验人,兴趣是最好的老师对吧,既然对AI感兴趣,总要认真的学一学,接下来我...
- 锐捷:基于Python TextFSM模块的网络设备自动化运维方法
-
网络设备自动化运维,首先要实现网络设备与自动化运维平台对接,即通过代码实现登录网络设备并获取信息。邮政业科技创新战略联盟单位锐捷自主研发的数据中心交换机产品已全面支持NETCONF协议,可适用于和SD...
- 基于Python+vue的自动化运维、完全开源的云管理平台
-
真正的大师,永远都怀着一颗学徒的心!一、项目简介今天说的这个软件是一款基于Python+vue的自动化运维、完全开源的云管理平台。二、实现功能基于RBAC权限系统录像回放DNS管理配置中心强大的作业调...
- 编程与数学:在Python里怎么用turtle库函数填色?
-
这里只给出一个示例,一个最简单的示例。看懂这个示例,你就能在自己的代码里需要填色的地方填色。首先,与前面发的Python绘画程序一样,先要装入turtle库。然后在代码中,下面需要填色时,先写一个填色...
- Python UV 环境下的 PyKDL 运动学库安装
-
视频讲解:PythonUV环境下的PyKDL运动学库安装_哔哩哔哩_bilibilimujoco-learning这个仓库,改成uv管理环境依赖后,原来的一些包有些缺失,比如之前安装的PyKD...
- python最新版3.11正式发布,有哪些新特色?(3/5)
-
异步任务的语法更完美python编程语言对异步编程的支持一直在改进,比如python2.0版开始就增加了生成器(generator),在3.4版开始增加了asyncio库,随后在3.5版中...
- 清华北大都在用!Python王者归来(全彩版)
-
纸上得来终觉浅,绝知此事要躬行。今天给大家带来一份由清华大学出版的《python王者归来》。在当下全民互联网,大数据的时代,Python已然成为了学习大数据、人工智能时代的首选编程语言,Python...
- 第六章:Python模块与包(python模块与包与类的关系区别)
-
6.1模块基础6.1.1理论知识模块是一个包含Python定义和语句的文件,其扩展名为.py。模块可以将代码组织成逻辑单元,提高代码的可维护性和复用性。通过将相关的函数、类和变量放在同一个模块中...
- 语言教育项目实战之一:Ubuntu下安装Python环境
-
如下项目,运行在#ubuntu#上,使用#pytho#,从最初环境开始,逐渐深入。此项目以语言学习为主要目的,实现听写、跟读、对话的服务,面向中小学生、大学生、涉外交流人员等。计划通过pyenv管...
- openai-python v1.79.0重磅发布!全新Evals API升级,音频转录终极
-
2025年5月17日,OpenAI官方在GitHub上发布了openai-python库的最新版本——v1.79.0。本次版本重点围绕Evals评估API进行了多项功能完善,同时修复了音频转录接口的重...
- 你真的用对了吗?7个常被误用的Python内置函数及最佳实践
-
你是否曾经在使用多年的工具中突然发现一个新功能,然后感叹:“我怎么一直没发现这个?”没错,今天我们就来体验一把“Python函数版”的这种乐趣。这些函数很可能已经是你日常代码的一部分,但我敢打赌,你并...
你 发表评论:
欢迎- 一周热门
- 最近发表
-
- 工程师必备!DeepSeek自动化运维全攻略
- Spug - 轻量级自动化运维平台(自动化运维平台 devops)
- 轻量级无 Agent 的一个好用的“小麻雀”自动化运维平台工具!-Spug
- 运维自动化之实用python代码汇总(python自动化运维常用模块)
- 从代码小白到自动化大师:Python 编程实战
- 锐捷:基于Python TextFSM模块的网络设备自动化运维方法
- 基于Python+vue的自动化运维、完全开源的云管理平台
- 编程与数学:在Python里怎么用turtle库函数填色?
- Python UV 环境下的 PyKDL 运动学库安装
- python最新版3.11正式发布,有哪些新特色?(3/5)
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python自定义函数 (53)
- python进度条 (67)
- python吧 (67)
- python字典遍历 (54)
- python的for循环 (65)
- python串口编程 (60)
- python读取文件夹下所有文件 (59)
- java调用python脚本 (56)
- python操作mysql数据库 (66)
- python字典增加键值对 (53)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python人脸识别 (54)
- python多态 (60)
- python命令行参数 (53)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- centos7安装python (53)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)