贝叶斯优化
从基本原理到人类偏好
有些函数评估代价高昂,又无法写出解析式:模型训练一整天后的准确率、穿戴外骨骼行走一分钟后的舒适度、只能由人判断的设计美观程度,都属此类。贝叶斯优化能以很少的评估次数为这类函数找到好的输入。它用概率模型刻画每个尚未尝试的输入可能得到的结果,并把每一次评估安排在模型预期收获最大之处。当唯一的测量手段是由人在两个选项中做出取舍时,同样的思路便成为偏好贝叶斯优化(preferential Bayesian optimization,PBO),而做出取舍的人本身也成为被研究系统的一部分。
本书从基础讲起,不假定读者还记得学校里的概率论与线性代数;在此之上依次讲解高斯过程及其核函数背后的分析、优化循环和基于比较的学习。随后通过四个真实问题完整演示这些方法,并梳理截至 2026 年的研究:哪些结论已得到证明,这些方法用于真人时效果如何,以及心理学、经济学、神经科学与哲学如何看待偏好是否预先存在、有待发现。本书的核心论点是:算法已趋成熟,难点已转向测量,即一次比较究竟测量了什么,以及提问本身如何影响回答者。