lr推荐模型 特征重要性分析

在分析lr模型特征重要性之前,需要先明白lr模型是怎么回事儿。

lr模型公式是sigmoid(w1*x1+w2*x2+...+wn*xn),其中w1,w2,...,wn就是模型参数,x1,x2,...,xn是输入的特征值。

对于lr模型来说,特征可以分为两个粒度,一个是特征域,一个是特征值。举例来说,用lr模型判断一个人爱吃什么,输入两个特征,年龄,性别;年龄,性别就是特征域粒度,男,女,10岁,20岁就是特征值粒度。真正输入模型的是特征值粒度,会把特征one-hot化,男可以表征为[1,0],女可以表征为[0,1],年龄取值为[0,100),hash_bucket化为5个桶,[0,20),[20,40),[40,60),[60,80),[80,100),那么10岁表征为[1,0,0,0,0],20岁表征为[0,1,0,0,0]。那么假设此时输入模型的一条样本数据为男性10岁,那么输入模型的w1,w1,...,wn就为1,0,1,0,0,0,0。

分析特征重要性也可以从两个粒度去考虑。然后主要考虑的都是均值,绝对值均值,方差这几个值。然后还可以分为正样本,分为负样本去求这三个值来分析。

从特征值均值来看的话:

1.交叉特征管用,单独特征相对没那么管用。

2.单独特征中应当只有item的单独特征管用,代表大家都喜欢或者都不喜欢该物品。

从特征域来看:

1.均值参考性不那么高,绝对值均值高一些,但也不那么高。因为我们的常规思维都认为不喜欢和喜欢的均值应该是0,但实际情况可能不是,这跟我们参数的初始化,数据分布等因素密切相关,这个值可能是正值,也可能是负值。

2.方差参考性较高,方差较大,代表这个特征域对模型的影响比较大,代表这个特征域重要性比较高。


http://www.niftyadmin.cn/n/5303364.html

相关文章

LINUX基础第八章:引导过程和服务控制

目录 一.引导过程 1.开机自检BIOS 2.MBR引导 3.GRUB菜单 4.加载Linux内核 5.init进程初始化 6.Centos启动过程总结 7.系统初始化进程 7.1init进程 7.2Systemd 7.2.1Systemd单元类型 7.2.2运行级别所对应的Systemd目标 二.服务控制 1.修复MBR扇区故障 新建磁盘 …

软件测试之冒烟测试

一、什么是冒烟测试 这一术语源自硬件行业。对一个硬件或硬件组件进行更改或修复后,直接给设备加电。如果没有冒烟,则该组件就通过了测试。在软件中,“冒烟测试”这一术语描述的是在将代码更改嵌入到产品的源树中之前对这些更改进行验证的过…

互联网分布式应用之SpringDataJPA

SpringDataJPA Java 是第一大编程语言和开发平台。它有助于企业降低成本、缩短开发周期、推动创新以及改善应用服务。如今全球有数百万开发人员运行着超过 51 亿个 Java 虚拟机,Java 仍是企业和开发人员的首选开发平台。 课程内容的介绍 1. Spring整合Hibernate 2…

本地git服务器的使用

最后总结一句,用gitlab最省事,管理权限最方便,别像下文一样整了。 Windows上使用: 首先要在windows开发机上生成密钥: 1.安装git,首先去git官网下载git,https://git-scm.com/downloads&#xff…

软件测试第二部分:白盒测试

概念与定义 白盒测试:侧重于系统或部件内部机制的测试,类型分为分支测试(判定节点测试)、路径测试、语句测试。 控制流分析(基于程序结构):控制流分析是一类用于分析程序控制流结构的静态分析技术,目的在于…

Rust 圣经 阅读 字符、布尔、单元类型

字符类型(char) Rust 的字符不仅仅是 ASCII ,还包含所有的 Unicode 值,包括单个的中文、日文、表情符号等等。 Unicode 值的范围从 U0000 ~ UD7FF 和 UE000 ~ U10FFFF。 因为每个 Unicode 都是 4 个字节编码,所以字符…

全国计算机等级考试| 二级Python | 真题及解析(8)

1. 数据库系统的核心是___________。 A数据库管理系统 B数据模型 C软件工具 D数据库 正确答案: A 2. 下列叙述中正确的是___________。 A线性表链式存储结构的存储空间可以是连续的,也可以是不连续的 B线性表链式存储结构与顺序存储结构的存储空间都是连续的 C线性表…

【Java期末】学生成绩管理系统

诚接计算机专业编程任务(C语言、C、Python、Java、HTML、JavaScript、Vue等)10/15R,如有需要请私信我,或者加我的企鹅号:1404293476 本文资源下载地址:https://download.csdn.net/download/weixin_47040861/88697244 —————…