百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

python决策树-1

off999 2024-11-26 07:24 35 浏览 0 评论

决策树是属于经典的十大数据挖掘算法之一,也是属于有监督学习的数据挖掘算法。其规则很简单,就是如果---节点--如果--节点。以下的调查为例:

假设以上是某地房地产商的一名销售员的销售记录表,那么作为决策树就是以下的情况:


按照以上的方法,直到最后一个节点为止。那么就有同学要问了应该怎样选择节点的排序呢?当然是通过信息量的大小来选择。

信息熵

信息熵是用来表示信息量的大小的,信息量越大则熵值越大,信息量越小则熵值越小。信息熵的计算公式如下:

对于单个事件而言,n表示有n种可能就上面例子的类别而言n=4,而Pn表示第n个值发送的概率,就上来例子类别而言有4个可能,每个可能的概率不同。

那么类别的信息熵的计算结果如下:

那么就可以得到类别这个事件的信息熵了。

信息增益

信息增益简单的理解为:假设在第一个节点时该事件的信息熵为0.95,而在该节点发生的情况下的事件的信息熵(也称为条件熵)为0.62,那么信息增益为0.95-0.62=0.33bits。信息增益是决定下一个作为节点变量的重要参考因素。一般来说,如果信息增益越大,那么该条件就应该为下一个节点。

比如以上例子销售员最终想要的是是否购买房子,那么我们就可以分别计算每个条件的信息增益来判断应该以哪个作为根节点了。就拿类别做例子:

H(是否购买)为‘’是否购买‘’该事件的信息熵,通过信息熵方法计算。

通过计算出所有的条件信息熵,比较大小就可以判断节点是否选择合理了。以上便是离散型自变量的决策树构建步骤。

信息增益率

如果同学们具有特别优秀的计算能力就不难发现,那么如果这个节点的种类越多那么信息熵越大,而如果该节点作为根节点并没有什么实质性的意义时该不该使用呢!比如:如果在以上调查中增加一个调查项(比如‘’经常联系的朋友‘’这一项),那么通过计算可以得出该节点为根节点,然后该节点作为根节点比没有什么实际意义。那么就可以通过信息增益率来选择节点的布置。信息增益率的公式很简单:

就是利用原来的信息增益除以该条件的信息熵即可。

代码模块----下次更新([嘘][嘘][嘘])。

每日日语语法:

名词1+【か】+名词2:表示名词1‘’或者‘’名词2

比如:おねえさん  か いもうと 

意思是:姐姐或者妹妹

相关推荐

win7系统破解激活工具(windows7破解激活)

方法如下:1、开机到欢迎界面时,按Ctrl+Alt+Delete,跳出帐号窗口,输入用户名:administrator,回车。2、如果这个帐号也有密码采用开机启动时按F8选“带命令行的安全模式”。...

怎么制作winpeu盘启动盘(制作winpe启动盘有什么作用)

我们应先理解U盘启动盘:简单理解就是用U盘启动盘代替电脑以前的光驱,所以它只有3个最基本的功能:1、帮助电脑正常启动。比如电脑无限在启动界面循环;2、格式化硬盘。格式化硬盘所有分区,再重新分区;3、重...

磁力搜索引擎入口(磁力搜索器引擎)

01.磁力熊磁力熊,是一个内容丰富、功能最为强大的一个磁力搜索网站,通过它不仅仅可以搜索到大量纯净的1080P高分电影,像一些比较小众的影视剧这里也都能找到。02.夕阳小站夕阳小站,虽然网站整体界面设...

手机变成安全模式怎么解除(手机变成安全模式是怎么回事)

解除比较安全模式的方法主要有三种:1、按电源键长按机器会弹出重启菜单,将手机重启即可解除比较安全模式。2、查询手机操作手册,进入设置里找到“比较安全模式”,可以改变比较安全模式的状态,即可解除比较安全...

win7官方最小精简版(最小win7精简版系统239m)
win7官方最小精简版(最小win7精简版系统239m)

推荐win7系统精简版一、雨林木风系统v1906雨林雨林木风GhostWin7SP1旗舰版一如既往注重稳定与安全,本次6月版本更新优化注册表增强系统运行效率,不对系统关键文件进行修改保证稳定性,关闭系统可能会感染病毒的端口,更新最新...

2026-01-11 14:51 off999

华硕牌子电脑怎么样(华硕牌子电脑怎么样值得买吗)

1、华硕笔记本电脑在市场上有很高的认知度和认可度。除了在零售市场有出色口碑外,在特殊领域华硕笔记本一样有惊人的表现;2、华硕笔记本电脑的优点在于它的主板性能好还有就是它的散热效果也不错,性能比较稳定;...

两个文件夹内容自动同步(两个文件夹内容自动同步,删除不了)

D:盘中点右键,新建公文包B,将文件夹A拖到公文包B中。如果以后文件夹A中的文件修改了,打开公文包B,点菜单上的“公文包、全部更新”。则公文包B就会自动更新文件,与文件夹A中的保持一致。这种方法可以有...

无法删除的文件夹怎么删(无法删除文件夹或文件的原因有哪些)

删除不了的软件、文件或文件夹的解决方法:1、开机按F8不动,到高级选项出现在松开手,用上下键选安全模式,按照提示进入到安全模式中删除即可(安全模式与正常模式操作一样)。2、如果使用其他办法无法删...

win7重装系统不用u盘(不用u盘新手重装系统win7)

可以通过以下步骤在不使用U盘的情况下重装Win7系统:首先需要备份您的电脑中的重要数据,以免在系统重装时丢失。进入系统的“控制面板”,找到“系统与安全”选项并单击进入。在“系统与安全”页面中,找到“备...

扣扣安全中心怎么修改密码(扣扣安全中心修改不了密码)

1、首先,打开QQ面板左下角的三个条形图标,然后在弹出选项的“安全”中单击“安全中心主页”。2、然后在打开的QQ安全中心页面中,单击头像下方的“修改密码”。3、然后将弹出一个提示来确认该QQ号码,并单...

win10两台电脑怎么共享文件(win10两台电脑怎么共享文件夹)

在Windows10中,您可以使用以下步骤共享文件:1.在要共享的文件夹上单击右键,选择“属性”。2.选择“共享”选项卡,然后选择“高级共享”。3.在“高级共享”对话框中,选中“共享此文件...

电脑复制粘贴不了是怎么回事

电脑无法复制粘贴原因分析及解决方法:如果是中病毒的话,会有以下的这些情况:1、系统不能上网,例如宽带账号无法登录,qq登录不上,网页无法打开。2、复制粘贴功能失效。3、电脑任务栏上的信息不能显示。4、...

win7一键烟雾头(win7烟雾头设置)

要调整Win7系统的烟雾头,首先需要打开“显示设置”窗口,在这个窗口中可以找到“分辨率”、“屏幕比例”等选项。接着,在“高级设置”中找到“显示适配器属性”选项,点击进入。在这个界面中,可以找到“3D设...

win7系统一键装机下载(w7一键安装操作系统)

可以在温十系统电脑上下载温七装机系统,但需要按照正确的步骤进行安装。以下是一个可能的安装步骤:1.在温十系统电脑上下载温七装机系统的ISO文件,可以从互联网上下载,也可以从其他媒体(如DVD或USB驱...

qq互联管理中心(qq互联管理中心是干什么的)

QQ互联是基于Discuz!云平台的一项服务,因此在开通QQ互联之前首先需要开通Discuz!云平台。在Discuz!X2中已经内置了云平台和相关服务,无需安装,在后台直接开启即可。可以呀,有...

取消回复欢迎 发表评论: