原创 | 一文读懂机器学习中的shapley值方法

2023-02-02 15:47:34 来源: 程序员客栈

作者:贾恩东


【资料图】

本文约2000字,建议阅读9分钟

本文为你介绍更公平分配利益权重的一种算法——Shapley值方法。

本篇文章是数据派一文读懂系列的新年第一篇原创,在这里祝贺大家新年学业有新成就,生活有新气象!这次带大家了解一种有趣的从数学角度计算合作博弈贡献从而更公平分配利益权重的算法——Shapley值方法。

相信大家在日常生活中都接触过这样一个现象,那就是1+1不等于2。好了,不开玩笑,作者想说的是,很多时候多个主体分别产生的影响和共同产生的影响是不具备严格加性的。有句俗语,一个和尚挑水吃,两个和尚抬水吃,三个和尚没水吃。分开的三个和尚每个每天都挑水,但放在一起“协作”反而就没有水产出了。这里是一个关于协作的负面例子,但更多的是协作的正面例子,就是1+1大于2的效应。以下用一个案例具体来说明。

某公司有三个程序猿,分别是屌丝A,大佬B,美女C,如果大家不合作,A每个季度可以完成3个项目,B每个季度可以完成10个项目,C每个季度只能完成1个项目。但是老板小王为了充分挖掘员工潜力,合理配置公司资源,让A,B,C尝试了各种合作模式。王老板观察发现,屌丝都是潜力股,美女都是催化剂:屌丝A和大佬B合作每个季度可以完成15个项目,合作效果提升还行;屌丝A和美女C合作每个季度可以完成50个项目,合作效果爆炸;大佬B和美女C合作每个季度仅完成了12个项目,看来对大佬来说不影响拔刀的速度就不错了;ABC一起合作每个季度可以完成70个项目。最终王老板拍板让ABC以后就一起工作,按照小组完成的项目数额外发放项目奖金。请问聪明的读者,按照最公平正义的分配方法,哪位员工获得的奖金是最多的呢?

说A的同学:明显屌丝是潜力股,虽然单独工作表现一般,但是和美女一起合作,大大激发了工作热情,肯定是A贡献最多!说B的同学:应该是大佬贡献最大,因为单独来看,大佬本身能力是最强的!说C的同学:应该是美女贡献最大,虽然美女单独工作没什么效率,但显然对团队的影响无法替代!

请先别急,我们接下来使用理性的数学思维分析这个问题,可以顺便推导出shapley值的公式。

设想我们顺序将ABC放到合作队伍中(合作队伍一开始为空),那么合作的组合会有3!=6 种,如下表:

加入顺序

A加入的贡献

B加入的贡献

C加入的贡献

A+B+C

3-0=3

15-3=12

70-15=55

A+C+B

3-0=3

70-50=20

50-3=47

B+A+C

15-10=5

10-0=10

70-15=55

B+C+A

70-12=58

10-0=10

12-10=2

C+A+B

50-1=49

70-50=20

1-0=1

C+B+A

70-12=58

12-1=11

1-0=1

表中的贡献计算方法可以举个例子来说明,B+C+A的顺序组合中,A的贡献是ABC的合作扣除BC的合作,即70-12=58;B的贡献就是B加入空的贡献,即10-0=10。其他类推。

但最终的加入顺序只有一种,而各个顺序都是等可能的。因此, A的贡献可以计算期望:(3+3+5+58+49+58)/6=176/6 B的贡献可以计算期望:(12+20+10+10+20+11)/6=83/6 C的贡献可以计算期望:(55+47+55+2+1+1)/6=161/6

这些贡献期望加在一起,(176+83+161)/6=70也恰是ABC的整体合作效果,验证了我们计算的合理性。做个简单除法,得出最终A的贡献占比是29.33%,B的贡献占比是13.83%,C的贡献占比是26.83%。A的贡献是最多的,C也很多,B最少。同学你猜对了吗?

我们接下来把问题抽象化。假设有n 位合作人,任何一种合作组合例如第1位和第2位合作组合记为{1,2},是一个有序集合的概念,对于组合 s 来说,它的收益表现记作 v(s)。假如某集合 s 包含 第 i 位合作人,则第 i 位 合作人在这种情形下的贡献为 v(s)−v(s\textbackslash{i}),解释为集合 s 的效益减去 集合 s 扣除第 i 位合作人后的新集合的效益。

因此我们可以得到第i 位合作人的贡献期望为:

这里Si 是所有包含 i 的所有子集的集合, P(s)是对应合作顺序组合 s 的出现概率。可以这样计算该概率,首先 s 中 前|s|−1 合作人顺序进入合作集合,然后是合作人 i 加入集合,最后是后 n−|s|个合作人加入合作集合。这样构成了该种顺序组合,这样有(|s|−1)!×1×(n−|s|)! 种,一共则有 n! 种顺序组合,所以有:

最终的shapley值公式即:

到这里,关于shapley值方法的公式就已经推导完毕了。

值得一提的是,Shapley值方法是有严格的公理化体系支持的,感兴趣的同学可以自行检索学习。Shapley值方法很公平,在经济、金融、管理、政治中都有不少的推广应用。比如多方金融投资合作如何分配利润;不同人数的党派团体如何更科学地设置投票通过票数;安全管理团队中按照重要性对事故中的不同责任方进行责任判定等等。在机器学习中,也可以使用Shapley值方法对不同的特征进行重要性评价,进行特征的筛选工作,即使是深度神经网络这种黑盒模型也可以获悉不同特征对于整个算法的贡献分布。

在文章的最后,需要多提一句,Shapley值方法虽然很好,但对于n 值很大的情况,计算很不友好,因为需要获悉所有组合集合的获益,这种组合集合一共有 2^n 种,不论是数据获得还是后续计算,都有不小的成本开销,所以有几种补救办法,有的是将合伙人分成若干组,按照组为最小合作单位进行计算;有的则是只考虑 n−1 大小的组合上增加合伙人带来的边际贡献等。无论是何种方法,本质上都和本文核心内容类似。

编辑:黄继彦

数据派研究部介绍

数据派研究部成立于2017年初,以兴趣为核心划分多个组别,各组既遵循研究部整体的知识分享和实践项目规划,又各具特色:

算法模型组:积极组队参加kaggle等比赛,原创手把手教系列文章;

调研分析组:通过专访等方式调研大数据的应用,探索数据产品之美;

系统平台组:追踪大数据&人工智能系统平台技术前沿,对话专家;

自然语言处理组:重于实践,积极参加比赛及策划各类文本分析项目;

制造业大数据组:秉工业强国之梦,产学研政结合,挖掘数据价值;

数据可视化组:将信息与艺术融合,探索数据之美,学用可视化讲故事;

网络爬虫组:爬取网络信息,配合其他各组开发创意项目。

点击文末“阅读原文”,报名数据派研究部志愿者,总有一组适合你~

转载须知

如需转载,请在开篇显著位置注明作者和出处(转自:数据派THUID:DatapiTHU),并在文章结尾放置数据派醒目二维码。有原创标识文章,请发送【文章名称-待授权公众号名称及ID】至联系邮箱,申请白名单授权并按要求编辑。

未经许可的转载以及改编者,我们将依法追究其法律责任。

点击“阅读原文”加入组织~

标签: 机器学习 这个问题

原创 | 一文读懂机器学习中的shapley值方法

作者:贾恩东本文约2000字,建议阅读9分钟本文为你介绍更公平分配利益权重的一种算法——Shapley值方法...

02-02 15:47:34

胃为何越养越糟糕?医生提醒:这4个养胃误区,你或许没少犯

随着人们生活水平的提高,越来越多的人开始注重养生。尤其是在认识到了肠胃的重要性之后,人们会采取各...

02-02 12:50:38

外媒:粮食安全问题依旧困扰世界 今日讯

参考消息网2月1日报道法国《费加罗报》网站1月27日发表题为《粮食安全问题依旧困扰着世界》的文章。全文...

02-02 10:46:37

环球热文:齐齐哈尔:聚焦“四个农业” 打造农业强市

“送技术到家、上门算精细账,让我们心里有底,年初就可以铆劲儿干了!”近日,甘南县农业农村综合技术...

02-02 08:57:52

紫金矿业(ZIJMF.US)2月1日收盘报1.7美元/股,涨3.34%

截至2023年2月1日(美国东部时间)收盘,紫金矿业(ZIJMF US)报收于1 7美元 股,上涨3 34%,成交量3 06万股。

02-02 06:03:53

世界即时:云山峰境四期_关于云山峰境四期简述

1、云山峰境四期位于佛山市南海丹灶,由佛山市宏越房地产开发有限公司建成,总建筑面积65511。2、总占地...

02-02 00:52:41

【BTS闵玧其】我的爱人,永远年轻 焦点快报

你和往常一样下班,在整理桌面的时候,坐在你旁边的同事把头靠了过来“上个月不是说要结婚了吗,怎么还...

02-01 21:00:34

【焦点热闻】金盘科技(688676.SH)股东Forebright Smart累计减持2.99%股份

智通财经APP讯,金盘科技(688676 SH)发布公告,截至1月31日,股东ForebrightSmart通过集中竞价、大宗交...

02-01 18:23:03

为什么有的人开车不累,有的人就特别容易累?

为什么有的人开车不累,有的人就特别容易累?

02-01 16:34:56

环球即时:湖北建始:氛围拉满!元宵灯会邀您来打卡

为迎接湖北省恩施州建州40周年与2023年元宵节的到来,连日来,位于建始县的船儿岛社区,各式各样的彩灯...

02-01 14:40:05

环球今头条!2月1日铁路预计发送旅客30万人次 加开上海、成都、重庆方向列车

2月1日铁路预计发送旅客30万人次加开上海、成都、重庆方向列车

02-01 11:56:22

西南证券给予三环集团买入评级,高容产品加速放量,业绩增长回暖可期,目标价格为41.65元

西南证券02月01日发布研报称,给予三环集团(300408 SZ,最新价:32 84元)买入评级,目标价格为41 65...

02-01 09:44:51

免税店概念板块1月31日跌0.79%,ST大集领跌,主力资金净流出6.09亿元

1月31日免税店概念板块较上一交易日下跌0 79%,ST大集领跌。当日上证指数报收于3255 67,下跌0 42%。...

02-01 05:44:17

《爸爸去哪儿》里的“森碟”,如今带着奥运冠军基因,收获网球生涯首场积分赛胜利 看点

本文转自:周到上海网湖南卫视2013年推出的大型亲子户外真人秀节目《爸爸去哪儿》曾经引发了一波收视狂...

01-31 22:56:35

大理崇圣寺三塔文化旅游区门票价格

大理崇圣寺三塔文化旅游区门票价格政府定价门票:(75元/人次)购票入口:点击进入购票预定须知:1、入...

01-31 18:58:05

检察机关依法分别对徐从琪、苏静中、傅国平、朱用文决定逮捕

上证报中国证券网讯据最高人民检察院1月31日消息,日前,检察机关依法分别对徐从琪、苏静中、傅国平、朱...

01-31 16:30:52

5地入选国家级文化生态保护区

近日,文化和旅游部发布关于公布国家级文化生态保护区名单的公告:根据《国家级文化生态保护区管理办法...

01-31 13:33:51

世界热门:海南白沙春节接待游客总人数同比增长超两成

​2023年春节期间,白沙黎族自治县乡村旅游、生态旅游等深受游客喜爱,接待游客总人数达3 74万人次,同...

01-31 10:38:19

新余国科:1月30日获融资买入1209.20万元,占当日流入资金比例18.61%_每日热议

同花顺数据中心显示,新余国科1月30日获融资买入1209 20万元,占当日买入金额的18 61%,当前融资余额2...

01-31 08:48:45

天房发展业绩预亏:2022年归母净利将亏损2.93亿-4.4亿

观点网讯:1月30日,天津市房地产发展(集团)股份有限公司发布2022年年度业绩预亏公告。观点新媒体获悉...

01-30 23:40:29

事无巨细是什么意思呢 事无巨细是什么意思 当前快看

今天来聊聊关于事无巨细是什么意思呢,事无巨细是什么意思的文章,现在就为大家来简单介绍下事无巨细是...

01-30 19:01:58

美国:开年枪声频传 控枪分歧难弥

新华社北京1月30日电2023年第一个月还没过去,美国加利福尼亚州8天内发生了4起群体性枪击事件:28日,洛...

01-30 16:25:59

全球时讯:甘肃民勤:沙乡大婶有本“日记”写满村落故事

央广网兰州1月29日消息(见习记者闫琴雯)“每一天,我总是感觉有很多要写的事儿,一声鸟鸣,一场大风、...

01-30 13:40:00

12部门:严禁任何形式的“住家家教”推介行为_世界时快讯

“双减”政策出台以来,各地推进校外培训治理,取得初步成效,但一些地方出现了培训机构由“地上”转入...

01-30 10:40:06

广州东大肛肠医院_关于广州东大肛肠医院的基本详情介绍_环球快资讯

1、广州市东大肛肠医院于2011年3月10日成立。2、执行事务合伙人:蔡俊杰、常铁蛋,公司经营范围包括:临...

01-30 07:43:30

冷空气正在路上!洛阳将迎来“蹦极式”降温_全球今热点

冷空气正在路上!洛阳将迎来“蹦极式”降温

01-29 22:30:06

环球快资讯丨郑州首套房贷利率即日起降至3.8%,分析称此次下调符合预期

郑州成为兔年首个“降房贷利率”城市。1月29日,据大河财立方,从郑州部分银行获悉,首套房按揭贷款年利...

01-29 18:09:23

高乐股份:预计2022年全年亏损7500万元至9500万元,同比上年增23.98%至39.98% 当前热门

高乐股份发布业绩预告,预计2022年全年亏损7500万元至9500万元,同比上年增23 98%至39 98%。

01-29 15:59:46

【P站美图推荐】#59 每日美图# #p站精选壁纸 #p站人气热榜 #美少女 #二次元 #制服

P站美图搬运,喜欢话可以点赞关注一下,十分感谢!长按点赞可以一键三连噢,喜欢美图壁纸记得关注UP猪呀...

01-29 11:46:46

广西苗山深处的“归雁”:留得住人才是农村的希望|当前动态

28日,大苗山的深处仍是一片绿色的海洋。这片曾经的特困地区,跳动着希望的色彩。从广西柳州市的闹市区...

01-29 08:52:15

热文:因泄露未公开信息 东方日升被出具警示函

中证网讯(记者昝秀丽)宁波证监局网站1月28日发布关于对东方日升新能源股份有限公司采取出具警示函措施...

01-28 23:49:17

精巧熟练的电影《满江红》,总是少了点什么|天天观速讯

昨天下午看过《满江红》之后,有种感觉,我好像是看了一场情景喜剧,或者说是加长版的实景小品,而不是...

01-28 18:04:41

全球微速讯:赖声川8小时《如梦之梦》专属版从巴黎到上海穿越百年,旗袍倪妮惊艳全场

本文转自:周到上海网昨晚起,金士杰、倪妮联袂,文章担纲,上剧场演员共同“入梦”的赖声川导演8小时史...

01-28 14:42:44

关于中秋节英语句子加翻译中文(合集80句) 世界看热讯

关于中秋节英语句子加翻译中文合集80句1 Withoutyou,themoonisroundthoughmyheartisempty 2 Mid-Autu...

01-28 11:15:57

如何选车牌号码50选一怎么操作_如何选车牌号|焦点热闻

1、登录当地交警网,点击车号选择系统,输入身份信息,核实信息后进入系统;2、选号前仔细阅读说明,根...

01-28 06:49:55

你知道吗?在静安闹市街头,还藏着这样一处公园丨爱申活暖心春 焦点消息

你知道吗?在静安闹市街头,还藏着这样一处公园丨爱申活暖心春

01-27 20:13:08

曾濒临灭绝的野牦牛现身祁连山 成群奔跑压迫感满级|环球微资讯

近日,阿克塞县国土部门工作人员在祁连山国家公园阿克塞境内的哈尔腾草原上,遇见多群国家一级保护动物...

01-27 09:00:50

环球最资讯丨上海造老银元价格(2023年01月26日)

金投白银网提供上海造老银元价格(2023年01月26日),上海​银元最新消息(2023年01月26日)。

01-26 21:40:22

世界观点:日本立宪民主党抨击日本发展“对敌基地攻击能力”违反国际法

新华社东京1月25日电(记者郭丹姜俏梅)日本最大在野党立宪民主党党首泉健太25日在国会众议院会议上抨击...

01-26 15:33:47

罗梅罗:若由我决定,我会把梅西绑在阿根廷直到下届世界杯

罗梅罗:里奥是最好的球员,这会是个人的决定。如果梅西要离开,我们也会支持他的决定。就个人而言,我...

01-26 09:53:56

T300L通过国六b认证,众泰正式宣告回归_天天日报

日前,关于众泰T300L已经通过国六b排放认证,满足当前国内任意城市上牌需求的消息不胫而走。众泰T300L定...

01-25 23:43:08

【气象资讯】双预警齐发!持续低温,大风降雪,北京明天气温预计创新低—— 环球速看料

北京市气象台1月22日16时5分发布持续低温蓝色预警信号:受冷空气影响,预计22日夜间至25日,本市大部分...

01-25 15:56:38

家有儿女宁丹琳照片-家有儿女宁丹琳照片|天天速看

1、我认为曾在出演《家有儿女》的宁丹琳现在过得不怎么好,娱乐圈里有许多著名的童星。2、我们的许多朋...

01-25 09:59:49

当干员怀孕了要当妈妈了(风笛篇)

说真的,现在的我看着手中的单子还是有些不可置信,因为我的妻子,风笛她怀孕了,而且一次性是四个,如...

01-24 23:51:37

热点!西城园协会智慧城市产业联盟 |【成员】恒华科技:获评“2022北京软件核心竞争力企业”

(以下内容来自公众号:恒华科技)近日,北京软件和信息服务业协会(以下简称“北京软协”)发布了《202...

01-24 17:12:55

及笄是多少岁_古代男子需及笄吗|世界观速讯

1、  解释:笄:拼音jī,束发用的簪子。古时女子十五岁时许配的,当年就束发戴上簪子;未许配的,二...

01-23 03:52:13

驻站执勤消防员人均日巡逻4万步 全球今亮点

春运期间,在北京七大火车站区内,有一抹“火焰蓝”带装巡查,引导客流,帮扶老幼,闻警而动——他们是...

01-22 18:41:08

湘西翠翠登上央视春晚 全球报道

湘西翠翠登上央视春晚

01-22 12:41:49

给宝宝的句子(精选202句) 世界焦点

给宝宝的句子精选93句1 晨曦出现的第一缕阳光是爸爸妈妈对你深深的爱恋,夕阳收起的最后一抹嫣红是爸爸...

01-22 03:49:56

永兴县文联组织开展春联艺术“百千万”光大工程

永兴县文联组织开展春联艺术“百千万”光大工程

01-21 17:47:18

胃为何越养越糟糕?医生提醒:这4个养胃误区,你或许没少犯
外媒:粮食安全问题依旧困扰世界 今日讯
环球热文:齐齐哈尔:聚焦“四个农业” 打造农业强市
紫金矿业(ZIJMF.US)2月1日收盘报1.7美元/股,涨3.34%
世界即时:云山峰境四期_关于云山峰境四期简述
【BTS闵玧其】我的爱人,永远年轻 焦点快报
【焦点热闻】金盘科技(688676.SH)股东Forebright Smart累计减持2.99%股份
为什么有的人开车不累,有的人就特别容易累?
环球即时:湖北建始:氛围拉满!元宵灯会邀您来打卡
环球今头条!2月1日铁路预计发送旅客30万人次 加开上海、成都、重庆方向列车
西南证券给予三环集团买入评级,高容产品加速放量,业绩增长回暖可期,目标价格为41.65元
免税店概念板块1月31日跌0.79%,ST大集领跌,主力资金净流出6.09亿元
《爸爸去哪儿》里的“森碟”,如今带着奥运冠军基因,收获网球生涯首场积分赛胜利 看点
大理崇圣寺三塔文化旅游区门票价格
检察机关依法分别对徐从琪、苏静中、傅国平、朱用文决定逮捕
5地入选国家级文化生态保护区
世界热门:海南白沙春节接待游客总人数同比增长超两成
新余国科:1月30日获融资买入1209.20万元,占当日流入资金比例18.61%_每日热议
天房发展业绩预亏:2022年归母净利将亏损2.93亿-4.4亿
事无巨细是什么意思呢 事无巨细是什么意思 当前快看
美国:开年枪声频传 控枪分歧难弥
全球时讯:甘肃民勤:沙乡大婶有本“日记”写满村落故事
12部门:严禁任何形式的“住家家教”推介行为_世界时快讯
广州东大肛肠医院_关于广州东大肛肠医院的基本详情介绍_环球快资讯
冷空气正在路上!洛阳将迎来“蹦极式”降温_全球今热点
环球快资讯丨郑州首套房贷利率即日起降至3.8%,分析称此次下调符合预期
高乐股份:预计2022年全年亏损7500万元至9500万元,同比上年增23.98%至39.98% 当前热门
【P站美图推荐】#59 每日美图# #p站精选壁纸 #p站人气热榜 #美少女 #二次元 #制服
广西苗山深处的“归雁”:留得住人才是农村的希望|当前动态
热文:因泄露未公开信息 东方日升被出具警示函
精巧熟练的电影《满江红》,总是少了点什么|天天观速讯
全球微速讯:赖声川8小时《如梦之梦》专属版从巴黎到上海穿越百年,旗袍倪妮惊艳全场
关于中秋节英语句子加翻译中文(合集80句) 世界看热讯
如何选车牌号码50选一怎么操作_如何选车牌号|焦点热闻
你知道吗?在静安闹市街头,还藏着这样一处公园丨爱申活暖心春 焦点消息
曾濒临灭绝的野牦牛现身祁连山 成群奔跑压迫感满级|环球微资讯
环球最资讯丨上海造老银元价格(2023年01月26日)
世界观点:日本立宪民主党抨击日本发展“对敌基地攻击能力”违反国际法
罗梅罗:若由我决定,我会把梅西绑在阿根廷直到下届世界杯
T300L通过国六b认证,众泰正式宣告回归_天天日报
【气象资讯】双预警齐发!持续低温,大风降雪,北京明天气温预计创新低—— 环球速看料
家有儿女宁丹琳照片-家有儿女宁丹琳照片|天天速看
当干员怀孕了要当妈妈了(风笛篇)
热点!西城园协会智慧城市产业联盟 |【成员】恒华科技:获评“2022北京软件核心竞争力企业”
及笄是多少岁_古代男子需及笄吗|世界观速讯
驻站执勤消防员人均日巡逻4万步 全球今亮点
湘西翠翠登上央视春晚 全球报道
给宝宝的句子(精选202句) 世界焦点
永兴县文联组织开展春联艺术“百千万”光大工程
美国司法部对婴儿奶粉制造商雅培公司进行刑事调查 全球速递
X 广告
行业动态
X 广告

Copyright ©  2015-2022 每日植物网版权所有  备案号:浙ICP备2022016517号-15   联系邮箱:5 146 761 13 @qq.com