前言
本书源于我在慕尼黑大学攻读博士学位期间关于人在回路系统的研究。这类系统所要优化的对象只能由人来评判,因而只能通过向人提问来完成优化。贝叶斯优化,以及从比较中学习的偏好贝叶斯优化,是这一问题上发展最完善的方法。然而,在有人参与的研究中使用这些方法之后,我产生了一个疑问:方法假定人具有固定不变、有待发现的偏好,而我们研究中的参与者并不总是表现出这样的偏好。
撰写本书有两个目的:一是系统梳理这一领域,从数学基础一直到“偏好是什么”这一问题;二是跟上我毕业以来快速发展的研究。相应地,全书分为前后两半。前一半从基础出发讲解方法,详细程度足以让读者自行实现。后一半综述截至 2026 年 9 月的研究,包括与方法假设不符的工作:有真人参与的研究,以及其他学科对偏好的认识。
本书的论点 #
2017 至 2026 年间,偏好贝叶斯优化的方法日趋成熟:采集函数有了决策论基础,遗憾理论达到了标量反馈下的水平,软件也形成了一条默认流程(第六部分)。算法之外的假设却很少受到检验,其中影响最大的几条都与人有关:一次比较测量的是稳定的偏好加上大小恒定的噪声;提问顺序无关紧要;会话结束时找到的偏好,就是参与者原有的偏好。瓶颈已经从算法转移到测量:一次比较究竟测量了什么,回答应当如何建模,以及提问本身如何影响回答者(第 45.1 节)。
由此可知,一次偏好优化会话既是估计,也是干预:它在学习偏好的同时也可能改变偏好;研究若不检验后者,便无法确认前者(第 45.5 节)。关于测量的知识大多来自机器学习之外,因此本书以第七部分讨论有真人参与的研究,以第九部分讨论心理学、经济学、神经科学与哲学对偏好的认识。第十部分在此基础上给出建议、未解决的问题与研究展望。
读者对象 #
本书面向希望理解贝叶斯优化及基于人类比较的学习方法的软件工程师和学生,也可供使用这些方法的机器学习与人机交互研究者参考。阅读本书需要具备编程经验和微积分基础。概率论、线性代数、高斯分布与信息论在第一部分中讲解,读者无需事先学习机器学习。已熟悉贝叶斯优化的读者可以从第四部分开始,或直接阅读第六部分至第十部分的研究内容。
阅读建议 #
第 1.5 节概述全书十个部分。第一部分至第四部分前后衔接,宜按顺序阅读;第五部分通过四个案例应用这些方法;其余各部分在熟悉第四部分之后可按任意顺序阅读。首页给出了三种阅读路线。
书中大部分图可以交互:滑块设定参数,按钮使算法逐步执行,点击图表可以添加观测。在若干图中,读者本人就是被优化的对象。
资料来源与约定 #
研究部分依据 2017 年至 2026 年 9 月间关于偏好贝叶斯优化与偏好本身的文献,以一手资料为准:论文中的定理与表格、arXiv 版本历史、会议论文集、代码仓库与软件更新日志。每个经验性论断都在提出它的句子中给出引用,未经同行评审的工作均加标注。属于本书自身推断、而非来源所述的句子,以(推断)结尾。“没有找到相关研究”是指截至 2026 年 9 月、在本书的检索范围内没有找到。
书中讨论的许多结果较新,部分为预印本,可能在评审中发生变化,本书将随之修订。欢迎读者指正。
开源 #
欢迎读者检验、复现和扩展本书的内容。本书的中英文正文、交互图及其计算代码、重新生成若干图中记录数据的脚本以及参考文献,均在 github.com/changkun/bobook 开源。欢迎在那里以 issue 或 pull request 的形式指正。
关于大语言模型的使用 #
本书完全由大语言模型撰写,作者在全过程中给出提示并加以引导,包括中英文正文及二者之间的翻译、交互图及其代码、模拟实验以及大部分核查工作;书中没有一句话由作者手工撰写或修改。作者确定了全书的范围、结构与论点,主导了每一次修订,并决定保留和修改哪些内容。核查依据一手资料并通过计算完成:每一项引用都与出版方、会议论文集或预印本页面上的记录核对过;正文引用的图中数值由测试固定,图一旦改变,测试即会失败;推导与算例在独立于撰写过程的审校中重新演算过。作者对本书的准确性、完整性与结论承担全部责任。