多臂老虎机问题
- 核心思想:在多个未知收益的选项间做选择,必须权衡“探索”(尝试新选项)和“利用”(使用当前最优)。最优策略由吉廷斯指数决定。
- 书里怎么解释的:伯努利老虎机(成功概率未知)可以用“取样再贪婪”或“自适应探索率”启发式。贝叶斯老虎机中,决策者先验分布已知,吉廷斯指数计算每个选项的长期价值,选择指数最高的选项。
- 书里的例子:
- 推销策略:三种话术(笃定预约、关心提问、人性感动),各试几次后,第二种成功率最高但样本少,第一种只试一次。决策者必须决定是继续用第二种(利用),还是回头试第一种(探索)。自适应策略会根据成功率平方分配后续试验次数。
- 人工肺试验:外科医生巴特莱特发现人工肺成功率远超其他方案,他立刻停止对其他方案的探索,让所有患者用人工肺。这是最优的,因为如果某个选项总是成功,探索其他无价值。
- 退休投票模型:选民像拉老虎机一样,如果执政党经济表现好(高收益),就更倾向投给他们(利用好政策),这解释了为什么经济繁荣有利于现任总统连任。
启示:
- 设置“探索预算”。书里说医生发现人工肺最好,就停止探索。普通人面对新爱好、新副业,可以给自己设个“探索期”(比如花1000块、试3个月)。如果3个月没起色,果断放弃,专心用老本行赚钱(利用)。不要永远在探索,那会饿死;也不要永远不探索,那会错过机会。
- “后悔”的数学基础。吉廷斯指数考虑了“错过高收益选项”的机会成本。生活中最大的遗憾往往不是做了错事,而是没做某事(比如没去争取那个职位、没表白的暗恋)。所以,对于试错成本低的事情(学个课程、约人吃饭),多探索;对于试错成本极高的事情(离婚、辞职),多利用(三思后行)。
- 数据记录改善生活。书中举了罗伯茨用自己身体做实验,发现站立8小时改善睡眠的例子。普通人如果失眠、头疼,可以简单做笔记(什么时间吃了什么、睡了多久),把生活当成一个多臂老虎机问题来“实验”,你会找到对自己最友好的生活方式。