贝叶斯优化
第九部分：偏好是什么？
EN

社会科学与人文学科

本部分前几章着眼于个人内部，本章转向个人之外。社会学、人类学、法学、语言学、教育学及相邻学科关心这样一些问题：品味从何而来；样本由哪些人构成；测量偏好的系统同时向人展示应当选择什么时，会出现什么情况；几十年来一直收集人类判断的机构积累了哪些经验。每个问题都触及偏好贝叶斯优化的一条假设。按照第 19.1 节的表述，人具有潜在效用函数，该函数在会话期间保持不变；对“哪个更好？”的每次回答，都是对这一函数的一次带噪声的读数。

与偏好贝叶斯优化关系最直接的有三条线索。测量可能改变被测对象，这是一个古老的观察；机器学习以表演性预测（performative prediction）与诱导偏好偏移（induced preference shift）为名，将其形式化（第 42.2 节）。欧盟法律已开始禁止在效果上扭曲用户自主决策的界面设计（第 42.2.3 节）。信息检索领域积累的证据表明，评判者做偏好判断比做分级判断更快、更一致（第 42.4.1 节）。这些领域中有几种广为流传的说法，经核查是错误的或言过其实，第 42.6 节将其汇总。联系较弱的学科合为一节（第 42.5 节）。

42.1 品味从何而来 #

如果潜在效用由阶层、文化与人生事件塑造，那么为一个人的回答建立的模型，同时也是其社会位置的模型；从他人那里学到的先验，也带有这些人的社会位置。

42.1.1 品味社会学 #

经典论点认为，品味是社会的产物，并按阶层分层。Bourdieu（1984）用惯习（habitus）与文化资本（cultural capital）解释这一点。惯习是在成长经历与社会位置中习得的持久性情倾向，无需刻意计算即可产生喜好；文化资本是对正统文化的熟悉程度，其作用如同资产。Hennion 强调，品味是业余爱好者用心经营的主动实践（Hennion，2001；Hennion，2007）；由此推出每次偏好查询都在训练用户的品味，是一种外推，并非 Hennion 本人的论点。Childress 等人（2021）细化了阶层图景：地位较高的人在类型层面更包容，在具体对象（如特定的艺术家与作品）层面则更排他。Airoldi 的 Machine Habitus 把机器学习系统视为社会化的智能体：训练数据引导其分类方式，其输出又反馈到文化之中（概述见 Rödl，2022）。Webster（2021）认为，个性化接管了策划音乐的劳动，从而削弱了获得区隔的一条传统途径，即自己做选择。

对偏好贝叶斯优化的含义。在音乐、字体、视觉风格等文化领域，定义在具体参数上的代理模型无法反映类型层面的开放性，定义在类型上的代理模型又无法反映对象层面的排他性，因此特征取在哪一层面是实质性的建模决策（推断）。基于群体数据或大语言模型构建的先验，编码的是训练数据提供者的品味；使用信息性先验（第 31.2 节、第 32.5 节）时，应当审查其中编码的是谁的品味（推断）。若结果的部分价值在于由本人亲自策划，则宜采用由设计者主导的交互方式（推断；比较第 32.2 节）。

42.1.2 文化心理学与 WEIRD 样本 #

Henrich 等人（2010）引用一项针对 2003 至 2007 年顶级心理学期刊的分析指出，96% 的被试来自西方工业化国家，而这些国家的人口只占世界的 12%。他们把这类社会称为西方的、受过教育的、工业化的、富裕的、民主的（Western, Educated, Industrialized, Rich, and Democratic，WEIRD）社会。此后情况变化不大：2014 至 2018 年的六种顶级心理学期刊中，略多于 60% 的作者与样本来自美国，来自英语世界与西欧以外的仍只占 4% 至 5%（Thalmayer 等，2021）。

审美偏好方面，2025 年认知科学学会（Cognitive Science Society）年会上的一篇论文提供了范围异常广泛的数据。Lee 等人（2025b）在 10 个国家收集了 4,835 名被试的 401,403 个偏好判断，涉及形状、曲率、颜色、音乐和声与旋律，每一类都在二维参数空间中取样。对对称形式的喜爱在各文化间一致；颜色偏好在类别层面一致，“比例式”（ratio-like）偏好则存在差异；旋律的跨文化差异最大。作者提醒，在线样本接触全球媒体，这些结果还需在实验室与小规模社会中复现。嗅觉呈现类似的分化：9 个非西方社区的 225 人按愉悦程度为十种气味排序，排序方差中，气味物质本身解释了 41%，个体差异解释了 54%，文化只解释了 6%（Arshamian 等，2022）（研究机构的新闻稿给出的被试数为 235（ScienceDaily，2022））。

对偏好贝叶斯优化的含义。Lee 等人报告的模式提示可以采用分层或多任务高斯过程，即共享分量加群体偏差（第 20.5 节），偏差的预期大小因领域而异：对称性一类的视觉特征偏差小，旋律与风格偏差较大；气味方面，个体模型比文化先验更重要（推断）。多数偏好贝叶斯优化用户研究招募的是西方大学人群，“用户偏好选项 A”一类发现的适用范围局限于这一样本（推断）。评分量表易受反应风格（response styles）影响，即随文化而异的作答习惯，如偏爱量表两端或中间；成对比较受到的影响是否更小，目前尚无定论，我们没有找到检验这一点的研究。

42.1.3 人口学与生命历程 #

生命历程研究（Elder，1998）与社会情绪选择理论都预测，偏好在一生中会发生系统性的变化。后者认为，人感到余下的时间越短，就越倾向于追求情感上有意义的目标（Carstensen 等，1999）。Schildberg-Hörisch（2018）总结指出，风险偏好具有持续性，但稳定程度只属中等；他们建议把偏好参数视为一个分布，其均值相当稳定，围绕均值存在系统性的变异。Kettlewell（2019）利用澳大利亚的面板数据发现，财务变化、子女出生、亲近之人去世都会改变风险偏好，影响在事件前后最大，此后逐渐消退。重测相关（test-retest correlation）衡量同一测量日后在同一批人身上重复进行时与自身的一致程度。对风险偏好，Bagaïni 等人（2025）的元分析估计，自我报告的冒险倾向信度为 0.61，彩票选择等行为测量的信度为 0.25。

对偏好贝叶斯优化的含义。持续数月或数年的个性化，如调节助听器或外骨骼（第 33.4 节、第 33.1 节；第 24 章完整演示了外骨骼案例），所用模型可以由稳定分量与偏差两部分构成，偏差由事件触发，随后衰减。与允许偏好任意漂移的随机游走时间核相比，这种模型更符合上述证据（推断；时变模型见第 29.10 节与第 46.5 节）。对单次会话，这一联系较弱。

第 42.1 节引用的文献 16
  1. Bourdieu（1984）Distinction: A Social Critique of the Judgement of Taste
  2. Hennion（2001）Music Lovers: Taste as Performance
  3. Hennion（2007）Those Things That Hold Us Together: Taste and Sociology
  4. Childress 等人（2021）Genres, Objects, and the Contemporary Expression of Higher-Status Tastes
  5. Rödl（2022）Airoldi Massimo (2022) Machine Habitus: Toward a Sociology of Algorithms
  6. Webster（2021）The promise of personalisation: Exploring how music streaming platforms are shaping the performance of class identities and distinction
  7. Henrich 等人（2010）The weirdest people in the world?
  8. Thalmayer 等人（2021）The neglected 95% revisited: Is American psychology becoming less American?
  9. Lee 等人（2025b）Visual and Musical Aesthetic Preferences Across Cultures
  10. Arshamian 等人（2022）The perception of odor pleasantness is shared across cultures
  11. ScienceDaily（2022）People around the world like the same kinds of smell
  12. Elder（1998）The Life Course as Developmental Theory
  13. Carstensen 等人（1999）Taking Time Seriously: A Theory of Socioemotional Selectivity
  14. Schildberg-Hörisch（2018）Are Risk Preferences Stable?
  15. Kettlewell（2019）Risk preference dynamics around life events
  16. Bagaïni 等人（2025）A systematic review and meta-analyses of the temporal stability and convergent validity of risk preference measures

42.2 当测量改变被测对象 #

本章最强的联系集中在这一组。这些学科从不同侧面研究同一个回路：系统观察人们的选择，依据所学采取行动，行动又改变了此后将观察到的选择。一次偏好贝叶斯优化会话，就是这一回路的小规模实例。

42.2.1 舆论动力学与推荐系统的反馈 #

在舆论动力学的有界信任（bounded confidence）模型中，只有当他人观点与自身观点之差不超过某一信任界时，智能体才会向他人的观点靠拢。信任界大，群体达成共识；信任界居中，群体出现极化；信任界小，群体分裂为碎片（Deffuant 等，2000）。服务于众多用户的偏好贝叶斯优化系统，应当预期会出现多个聚类，而非一个共同的最优点。

有两项著名的实证论断需要审慎对待。Christakis 与 Fowler（2007）发现肥胖会经由社会网络传播：朋友变得肥胖时，本人变得肥胖的几率上升 57%。这一发现面临识别问题。同质性（homophily，相似的人彼此建立联系）与传染（contagion，有联系的人变得相似）在观测性网络数据中留下相同的痕迹，Shalizi 与 Thomas（2011）证明，二者在这类数据中一般是混杂的。另有一种流传的概述称，在 Facebook 上，个人选择使人们接触意识形态多样内容的机会减少了 70%，排序算法使之减少了 15%。原文献中并没有这些数字。Bakshy 等人（2015）分析了 1,010 万名美国用户，发现算法排序使跨立场内容减少 5%（保守派）和 8%（自由派），个人选择则分别使之减少 17% 和 6%：对保守派，选择的影响超过算法；对自由派则不然。

2017 年以来，理论研究把偏好动态纳入了推荐系统的目标。Dean 与 Morgenstern（2022）假设，用户的偏好会向其消费且喜欢的内容靠拢，并远离其消费但不喜欢的内容。他们证明，在这种动态下，标准的奖励最大化是“一个几乎平凡的目标”（an almost trivial goal）：一大类简单算法都能达到常数遗憾。（遗憾的定义见第 13 章：因推荐系统选定的选项而非最优选项所损失的效用。）他们认为，更有意义的目标是使用户的偏好保持近似平稳。Carroll 等人（2022）指出，在长时域上优化的推荐系统有动机把用户偏好推向更容易满足的方向；他们提出把系统限制在由“安全偏移”（safe shifts）构成的信赖域内，例如没有该系统时本来也会发生的偏移。Kleinberg 等人（2023）证明，用户偏好不一致时，平台可以在提高参与度的同时降低用户效用。Carroll 等人（2024）与 Williams 等人（2025）则表明，静态的偏好目标会隐含地奖励对用户施加影响，基于用户反馈的优化可能学会有针对性的操纵。

“几乎平凡的目标”背后的机制并不复杂，可以直接观察。图 42.1 让一个偏好可塑的模拟人面对一个刻意简化的优化器，并按两种标准为结果评分。

一次模拟会话会话前的偏好40 次比较之后系统的最终选择0.00.51.0效用0.00.20.40.60.81.0设计 x人移动了 0.40系统移动了 0.24200 次会话的平均按此刻的偏好评判按最初的偏好评判同一优化器，偏好固定0.00.20.40.60.81.0遗憾010203040已回答的比较40 次比较之后：按当前偏好的遗憾为 0.014，按最初偏好的遗憾为 0.76。平均而言，人的理想点移动了 0.36；系统的选择移动了 0.24。
一次模拟会话会话前的偏好40 次比较之后系统的最终选择0.00.51.0效用0.00.20.40.60.81.0设计 x人移动了 0.40系统移动了 0.24200 次会话的平均按此刻的偏好评判按最初的偏好评判同一优化器，偏好固定0.00.20.40.60.81.0遗憾010203040已回答的比较40 次比较之后，遗憾为按当前偏好：0.014，按最初偏好：0.76。人移动了 0.36；系统移动了 0.24。
图 42.1 谁在移动，人还是系统？模拟人的理想设计为 x = 0.75，在概率单位噪声下回答 40 次当前最优点对挑战者的比较。每次回答后，其理想点向所选设计移动比例 η，这是 Dean 与 Morgenstern（2022）所假设的偏好动态的一维形式。上图为一次会话：人在会话前后的效用、系统的起始设计（空心圆）与最终选择（星形）。下图为系统当前选择的遗憾，取 200 次会话的平均，并按两种标准评判：按人在当时的偏好（蓝色，即基准测试所报告的数值），以及按人最初的偏好（品红色）。灰色虚线是同一优化器面对偏好不变者时的结果。该优化器是简单的局部搜索，而非高斯过程，所有数值仅作示意；能够确定 η 的测量见第 42.7 节。

可以尝试以下几点：

  • 按“偏好固定”。蓝色曲线与品红色曲线重合，这正是偏好贝叶斯优化所假设的情形；简单的局部搜索在 40 次比较后仍离理想点很远，平均遗憾为 0.43。
  • 把 η 调回 0.1。蓝色曲线降到约 0.014：按基准测试的标准，同一个弱优化器此时显得非常出色，远好于面对偏好固定者时的表现；但按人最初的偏好评判，其遗憾为 0.76。人向系统移动了约 0.36，超过系统向人移动的距离。
  • 把“挑战者”设为“任意位置”。人尚未移动多远，系统就已到达其所在区域，两种评分之间的差距随之缩小（η = 0.1 时约为 0.006 对 0.14）。人移动多远，取决于系统提出哪些查询。
  • 把“系统起点”设为 0.75。系统从人原本所在的位置出发，可引导的余地就很小。

模拟之外也会出现这种情况吗？证据因研究设计与时间尺度而异（表 42.1）。模拟、观察性研究与短期实验发现了同质化，例如写作者采用生成式人工智能提供的构思后，故事彼此变得更加相似（Doshi 与 Hauser，2024）。持续数周至数月的大型随机现场实验则大多发现，对态度的影响很小或为零（Guess 等，2023）。其中八项态度测量经过预注册（preregistered），即在收集数据之前就已声明，可以防止事后寻找阳性结果（Nyhan 等，2023）。

表 42.1 推荐系统是否改变人们想要的东西？按研究设计与时间尺度划分的证据。
研究 设计 规模 发现
Chaney 等人（2018） 模拟 模拟用户 在混杂的反馈上训练会使行为同质化，却不提高效用
Anderson 等人（2020） 观察性研究 Spotify 听众 由算法驱动的收听与较低的消费多样性相伴
Doshi 与 Hauser（2024） 实验 故事作者 人工智能提供的构思提高了个人创造力，却使故事更相似
Glickman 与 Sharot（2025） 实验 人与人工智能的交互 有偏的人工智能比有偏的人更能放大人的偏差
Huszár 等人（2022） 平台审计 七个国家 七国中有六国的主流右翼比左翼得到更多放大；未测量态度
Guess 等人（2023） 随机现场实验 Facebook 与 Instagram 用户，3 个月 按时间倒序排列的信息流改变了使用时长和所见内容；极化等关键态度没有显著变化
Nyhan 等人（2023） 随机现场实验 23,377 名用户 接触观点相近内容的比例减少约三分之一；对八项预注册的态度测量均无影响
Hosseinmardi 等人（2024） 反事实机器人账号 YouTube 推荐平均而言较温和；用户自身的偏好占主导
Aridor 等人（2026）（预印本；作者隶属 Netflix） 随机实验 850 万名 Netflix 订阅用户 更好的推荐使集中度降低 5.7%（推荐）和 1.2%（播放）

对偏好贝叶斯优化的含义。按照 Dean 与 Morgenstern 的结果，移动用户的偏好也能获得低遗憾，因此仅凭遗憾或收敛速度不足以判断成功。研究还应报告偏好在会话期间移动了多少，并设置采用随机或平衡查询顺序的对照组，对此人早先拒绝的选项做延迟重测；这在偏好贝叶斯优化中对应于 Carroll 等人的“安全偏移”基线（推断）。不过，两者的时间尺度不同。平台研究关注的是数周至数月，单次偏好贝叶斯优化会话则更接近会话内的再评价。例如，Zylberberg 等人（2024）在单次实验会话中观察到主观价值的漂移，并将其归因于价值在审慎思考过程中的建构方式。因此，这一联系对持续数月的个性化较强，对一次性的设计会话较弱（推断）。用户众多时，有界信任模型的结果支持采用混合或聚类效用模型，并主张在引出用户偏好时不向其展示他人的选择（推断）。第 36.4 节在推荐系统文献中考察了同一回路。

42.2.2 科学技术研究 #

科学技术研究（STS）考察技术人造物与社会秩序如何相互塑造。常用来说明人造物带有政治性的一个故事是：Robert Moses 在通往 Jones Beach 的公园大道上修建低矮的跨线桥，使公共汽车无法到达那里（Winner，1980）。这个故事存在争议（Joerges，1999），复述时若不附带这一说明，就不应当作事实。一般性的论点依然成立：测量工具参与生产其所测量的对象。例如，交易员运用期权定价理论，促使市场价格趋于符合该理论（MacKenzie 与 Millo，2003）。

2017 年以来最重要的进展，是机器学习为这一思想建立了形式化理论。Perdomo 等人（2020）把会影响其预测对象的预测称为表演性的预测，并为之定义了一种稳定性概念。

定义 42.1 表演性稳定

部署参数为 θ\theta 的模型，记 D(θ)\mathcal{D}(\theta) 为世界对此作出反应而产生的数据 ZZ 的分布。给定损失 ℓ(Z;θ)\ell(Z; \theta)，若下式成立，则称模型 θPS\theta_{\text{PS}} 是表演性稳定的（performatively stable）：

θPS=arg min⁡θ  EZ∼D(θPS) ℓ(Z;θ).\theta_{\text{PS}} = \argmin_\theta \; \E_{Z \sim \mathcal{D}(\theta_{\text{PS}})} \, \ell(Z; \theta).
(42.1)

即：在已部署模型自身诱导的数据上重新训练，得到的仍是同一个模型。

一种自然的算法是重复风险最小化（repeated risk minimization）：部署模型，收集部署所诱导的数据，重新训练，如此反复。Perdomo 等人给出了该算法收敛到损失近乎最小的稳定点的充分必要条件。通俗地说，若参数移动距离 dd 时，所诱导的数据分布在 Wasserstein 距离下至多移动 εd\varepsilon d，则称分布映射是 ε\varepsilon-敏感的（sensitive）。若损失的曲率至少为 γ\gamma（γ\gamma-强凸），梯度的变化速率至多为 β\beta（β\beta-光滑），则当 ε<γ/β\varepsilon < \gamma / \beta 时，重复风险最小化以线性速率收敛到唯一的表演性稳定点；当 ε≥γ/β\varepsilon \ge \gamma / \beta 时，则可能不收敛。也就是说，相对于损失对模型的约束强度，世界对模型的敏感度必须足够小。Hardt 与 Mendler-Dünner（2025）将这一概念与经济学和社会科学中的表演性联系起来，并区分了两种机制：学习（learning，更准确地预测世界）与引导（steering，把世界推向预测）。询问行为本身也会改变行为。一项涵盖 116 项检验的提问-行为效应（question-behavior effect）元分析发现，询问人们的意图或请其预测自己的行为，会使其之后的行为发生轻微改变，Cohen's d=0.24d = 0.24，即以标准差为单位的组间差异（Wood 等，2016）。

对偏好贝叶斯优化的含义。这是本章最强的形式化联系。若查询会改变人的偏好，偏好贝叶斯优化循环就是一个表演性预测问题：代理模型的不动点，是在代理模型自身所诱导的查询下保持稳定的偏好，未必是不施加影响的程序所能找到的偏好。图 42.1 中的局部优化器正是停在这样的点上。偏好由系统与人共同建构时，Perdomo 等人的条件可以作为判断循环是否仍然收敛的候选标准，学习与引导的区分也可以直接用于评估偏好贝叶斯优化（推断）。成功指标的选择本身就具有表演性：以最终推断出的效用计算的遗憾，以及后验的集中程度，都会奖励把人引向可预测状态的做法；延迟重测时的认可、与随机顺序对照组的比较，则难以引导得多（推断；第 46.7 节）。

42.2.3 法律 #

Alexy 的比例原则检验及其权重公式（Alexy，2024）一类法律模板，容易让人联想到偏好聚合；但实质性的进展是欧盟针对操纵与暗黑模式（dark patterns）的立法。暗黑模式指引导用户做出本来不会做出的选择的界面设计，如预先勾选的复选框，或比注册更难完成的取消流程。

在 Planet49 案（C-673/17，2019 年 10 月 1 日）中，欧盟法院认定，预先勾选的复选框不构成有效同意，有效同意需要主动的行为（Etteldorf，2019）。《数字服务法》（Regulation (EU) 2022/2065）第 25 条第 1 款规定：“在线平台的提供者不得以欺骗或操纵其服务接收者的方式，或以其他实质性扭曲或损害其服务接收者作出自由且知情之决定的能力的方式，设计、组织或运营其在线界面”（“providers of online platforms shall not design, organise or operate their online interfaces in a way that deceives or manipulates the recipients of their service or in a way that otherwise materially distorts or impairs the ability of the recipients of their service to make free and informed decisions”）（European Union，2022a）；第 2 款排除了已由《不公平商业行为指令》或《通用数据保护条例》涵盖的做法。序言第 67 条将暗黑模式定义为这样一类做法：实质性扭曲或损害用户作出自主且知情之选择的能力，“无论是有意为之还是在效果上如此”（either on purpose or in effect）（European Union，2022b）。《人工智能法》（Regulation (EU) 2024/1689）第 5 条第 1 款 (a) 项禁止下述人工智能系统：使用潜意识技术，或有目的的操纵性、欺骗性技术，其目标或效果是通过明显削弱人作出知情决定的能力来实质性扭曲其行为，且造成或合理地可能造成重大损害。第 5 条第 1 款 (b) 项针对的是利用因年龄、残疾或特定社会、经济处境而产生的脆弱性。这些禁令自 2025 年 2 月 2 日起适用（European Union，2024）；欧盟委员会于 2025 年 2 月 4 日发布的相关指南不具约束力（European Commission，2025）。涵盖暗黑模式、成瘾性设计与不公平个性化的《数字公平法》尚未通过；据欧洲议会的立法追踪页面（2026 年 6 月 20 日更新），该提案预计于 2026 年第四季度提出（European Parliament，2026）。

这些规则所针对的效应可能很大。在 Luguri 与 Strahilevitz（2021）的实验中，温和的暗黑模式使人们注册一项可疑服务的比率增至原来的两倍以上，激进的暗黑模式则使之增至近四倍。Mathur 等人（2019）在约 11,000 个购物网站上发现了 1,818 个暗黑模式实例，分属 15 种类型。另一方面，Esposito 等人（2026）认为，第 25 条含义模糊、适用范围狭窄，其第 2 款的排除规定又进一步削弱了它的效力。

对偏好贝叶斯优化的含义。以下是依据法律条文所作的推断，不构成法律意见。部署在在线平台上的偏好贝叶斯优化系统，决定用户看到哪些选项、以何种顺序看到，因而属于在线界面设计的一部分。若其采集函数系统性地引导用户，例如反复强化当前最优点，或偏向使用户更可预测的选项，那么“在效果上”（in effect）这一措辞意味着，依据第 25 条无须证明存在意图。《人工智能法》第 5 条的门槛要高得多，须有有目的的操纵或潜意识技术，并造成重大损害，普通的设计调整不太可能达到；《数字公平法》则可能直接涵盖通过优化实现的个性化（推断）。按照 Planet49 案的逻辑，若查询序列具有引导性，用户在一长串由系统主导的查询结束时“接受”的选项，只是偏好的微弱证据。记录平衡的查询顺序，并以明确的认可检查收尾，可以同时满足科学效度与合规的要求（推断；第 46.8 节）。我们没有审阅欧盟委员会 2025 年指南的全文，也没有找到任何法院或监管决定将第 25 条适用于推荐算法或偏好引出算法，而非静态界面元素。

42.2.4 修辞与论证 #

修辞学认为，偏好会因对话中交换的理由而改变，固定效用的模型忽略了这一机制。（Mercier 与 Sperber（2011）的推理论证理论常被简化为一个论断：推理是为说服他人而演化出来的。实际上，该理论既涉及提出论证，也涉及评估论证。）经典的偏好贝叶斯优化没有传递理由的通道，但借助大语言模型加入这一通道的贝叶斯优化系统已经出现（第 35.2 节），而对话系统确实能改变人的看法。Costello 等人（2024）让 2,190 名相信某种阴谋论的人与 GPT-4 Turbo 进行三轮个性化对话，信念下降了约 20%，效果持续至少 2 个月。Tessler 等人（2024）借助奖励模型训练了一个语言模型调解者，即“Habermas Machine”，目标是使群体对陈述的认可最大化。被试（N=5,734N = 5{,}734，在英国）更偏好它写出的群体陈述，而非人类调解者所写的陈述；经过调解，讨论者的观点趋于一致，异议观点也被纳入了胜出的陈述。

对偏好贝叶斯优化的含义。界面若给出解释（“这个选项更亮，因为……”），或通过语言模型呈现选项，本身就构成一条说服通道。因此，是否给出解释应当随机化，至少应当记录在案，以便将其影响与比较数据区分开来（推断；第 32.7 节）。Tessler 等人的流程（生成候选、收集认可、改进）接近面向群体的偏好贝叶斯优化。其收敛既可以解读为达成了共同立场，也可以解读为优化器造成的同质化；因此，群体偏好贝叶斯优化需要“少数派立场是否得以保留”一类的标准，Tessler 等人也测量过这一点（推断）。

第 42.2 节引用的文献 38
  1. Deffuant 等人（2000）Mixing beliefs among interacting agents
  2. Christakis 与 Fowler（2007）The Spread of Obesity in a Large Social Network over 32 Years
  3. Shalizi 与 Thomas（2011）Homophily and Contagion Are Generically Confounded in Observational Social Network Studies
  4. Bakshy 等人（2015）Exposure to ideologically diverse news and opinion on Facebook
  5. Dean 与 Morgenstern（2022）Preference Dynamics Under Personalized Recommendations
  6. Carroll 等人（2022）Estimating and Penalizing Induced Preference Shifts in Recommender Systems
  7. Kleinberg 等人（2023）The Challenge of Understanding What Users Want: Inconsistent Preferences and Engagement Optimization
  8. Carroll 等人（2024）AI Alignment with Changing and Influenceable Reward Functions
  9. Williams 等人（2025）On Targeted Manipulation and Deception when Optimizing LLMs for User Feedback
  10. Doshi 与 Hauser（2024）Generative AI enhances individual creativity but reduces the collective diversity of novel content
  11. Guess 等人（2023）How do social media feed algorithms affect attitudes and behavior in an election campaign?
  12. Nyhan 等人（2023）Like-minded sources on Facebook are prevalent but not polarizing
  13. Chaney 等人（2018）How algorithmic confounding in recommendation systems increases homogeneity and decreases utility
  14. Anderson 等人（2020）Algorithmic Effects on the Diversity of Consumption on Spotify
  15. Glickman 与 Sharot（2025）How human–AI feedback loops alter human perceptual, emotional and social judgements
  16. Huszár 等人（2022）Algorithmic amplification of politics on Twitter
  17. Hosseinmardi 等人（2024）Causally estimating the effect of YouTube’s recommender system using counterfactual bots
  18. Aridor 等人（2026）Recommendation Quality and the Concentration of Consumption: Experimental Evidence from Netflix
  19. Zylberberg 等人（2024）Value construction through sequential sampling explains serial dependencies in decision making
  20. Winner（1980）Do Artifacts Have Politics?
  21. Joerges（1999）Do Politics Have Artefacts?
  22. MacKenzie 与 Millo（2003）Constructing a Market, Performing Theory: The Historical Sociology of a Financial Derivatives Exchange
  23. Perdomo 等人（2020）Performative Prediction
  24. Hardt 与 Mendler-Dünner（2025）Performative Prediction: Past and Future
  25. Wood 等人（2016）The Impact of Asking Intention or Self-Prediction Questions on Subsequent Behavior: A Meta-Analysis
  26. Alexy（2024）Abwägung und Argumentation
  27. Etteldorf（2019）Court of Justice of the European Union: Users must actively consent to cookies
  28. European Union（2022a）Digital Services Act, Article 25: Online interface design and organisation (reprint of the text)
  29. European Union（2022b）Regulation (EU) 2022/2065 on a Single Market for Digital Services (Digital Services Act)
  30. European Union（2024）Regulation (EU) 2024/1689 (AI Act), Article 5: Prohibited AI Practices (reprint of the text)
  31. European Commission（2025）Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act
  32. European Parliament（2026）Legislative Train Schedule: Digital Fairness Act (updated 20 June 2026)
  33. Luguri 与 Strahilevitz（2021）Shining a Light on Dark Patterns
  34. Mathur 等人（2019）Dark Patterns at Scale: Findings from a Crawl of 11K Shopping Websites
  35. Esposito 等人（2026）Back to the Future-Proof: Four Reforms for the Better Regulation of Dark Patterns Under the Unfair Commercial Practices Directive and Article 25 of the Digital Services Act
  36. Mercier 与 Sperber（2011）Why do humans reason? Arguments for an argumentative theory
  37. Costello 等人（2024）Durably reducing conspiracy beliefs through dialogues with AI
  38. Tessler 等人（2024）AI can help humans find common ground in democratic deliberation

42.3 语言学 #

反馈以言语给出时，语言会影响所测量的内容。言语遮蔽效应（verbal overshadowing）指这样一个发现：描述某一对象，可能损害之后对它的再认。在 Schooler 与 Engstler-Schooler（1990）的研究中，描述过劫匪面孔的被试，从列队中指认出劫匪的表现差了约 25%。这一数字对原始研究是正确的，但夸大了效应。一项多实验室注册复现（Alogna 等，2014）发现，若描述紧接在事件之后，描述过劫匪的被试指认出劫匪的可能性低 4%；若描述在 20 分钟的延迟之后进行，则低 16%。效应稳健，且高度依赖时间安排。Wilson 与 Schooler（1991）发现，内省自己的理由可能降低偏好与选择的质量。等级形容词（gradable adjectives）指“高”“暖”这类词，其含义是某一量表上的阈值。已有研究用不确定的阈值为其建模（Lassiter 与 Goodman，2017），该阈值随情境与形容词而变化（Xiang 等，2022）。

对偏好贝叶斯优化的含义。系统接受“稍暖一些”“好得多”这类分级的言语反馈时，似然应当把词语所表达的幅度视为不确定的量，并且相对于当前的比较情境而定，而不是效用的固定增量（推断）。让用户在选择之前写下理由，可能改变随后的判断，因此理由最好在选择之后收集（推断）。

第 42.3 节引用的文献 5
  1. Schooler 与 Engstler-Schooler（1990）Verbal overshadowing of visual memories: Some things are better left unsaid
  2. Alogna 等人（2014）Registered Replication Report: Schooler and Engstler-Schooler (1990)
  3. Wilson 与 Schooler（1991）Thinking too much: Introspection can reduce the quality of preferences and decisions
  4. Lassiter 与 Goodman（2017）Adjectival vagueness in a Bayesian model of interpretation
  5. Xiang 等人（2022）Pragmatic reasoning and semantic convention: A case study on gradable adjectives

42.4 已经在收集判断的机构 #

搜索引擎、学校与军队长期大规模地收集人类判断。它们的经验涉及应当提出什么问题、如何解读回答，以及何时个人偏好并不是恰当的目标。

42.4.1 信息科学 #

信息检索是与偏好贝叶斯优化渊源最近的学科。它把交互式优化表述为对决赌博机问题（Yue 与 Joachims，2009），学习者只能看到两个选项中哪一个获胜（第 21 章）。2017 年以来，该领域的评测研究为偏好判断提供了直接证据。Sakai 与 Zeng（2020）发现，最好的基于偏好的评测指标与用户对搜索结果页面的偏好相一致，一致程度至少不亚于一名普通评审员。Clarke 等人（2021）发现，评审员做偏好判断比做分级判断更快、更一致，偏好还能区分分级判断视为等同的条目；但用偏好对整个候选池完全排序，所需工作量超过线性。只识别并排序靠前条目的部分偏好判断，检测到了神经排序模型的改进，标准的分级指标（归一化折损累计增益）则未能检测到。

以语言模型充当评判者，结果有正有反。Thomas 等人（2024）报告，在 Bing，大语言模型给出的相关性标签与人工标注员同样准确，但对提示词稍加改写，准确率就会改变。一篇 2024 年的预印本（Upadhyay 等，2024）发现，在 2024 年文本检索会议（Text REtrieval Conference，TREC）的检索增强生成赛道中，自动评判者给出的系统排名与完全人工判断的排名高度相关。另一篇 2024 年的预印本（Clarke 与 Dietz，2024）构建了一个专门利用自动评测漏洞的系统，获得了虚高的分数；该文指出，若每个系统都把同一个语言模型评判者用作重排序器，所得排名就会因循环性而失真。

对偏好贝叶斯优化的含义。检索领域的证据支持偏好贝叶斯优化的核心设计：成对查询旨在找到最好的区域，而不是准确学习整个效用函数。目标是选择时，采集函数应着眼于识别排名最靠前的少数选项，而不是追求全局准确性（推断；第 19.4 节）。语言模型充当偏好的代理预言机时，最终评测必须使用独立的人类判断，否则会沿袭 Clarke 与 Dietz 所描述的循环性；语言模型对提示词敏感，说明其“偏好”在一定程度上是提示词的产物（推断；第 30.6 节、第 31.7 节）。第 36.6 节介绍排序学习，即该领域中属于机器学习的一面。

42.4.2 教育 #

人们偏好的与对其有效的可能并不一致，教育研究为此提供了最清楚的证据。在一门大型物理入门课程的随机比较中，Deslauriers 等人（2019）发现，主动学习课堂上的学生学得更多，却自觉学得更少，部分原因在于认知付出更大；作者提醒，依据学生的感受评价教学，可能会偏向效果较差的被动式教学。学习风格（learning styles）论断认为，与学生偏好的感官通道相匹配的教学效果更好。Clinton-Lisell 与 Litzinger（2024）的元分析（21 项研究，1,712 名被试）发现，匹配的总体收益为 g=0.31g = 0.31（95% 置信区间 0.05 至 0.57），Hedges' gg 是与 Cohen's dd 类似的效应量。但只有 26% 的结果指标显示出该假设所要求的交叉交互作用，即每组在与自身相匹配的教学下表现更好。作者的结论是，这些收益太小、出现太少，不足以支持广泛采用。

对偏好贝叶斯优化的含义。以学习者的偏好为目标调节教学参数，有可能优化的只是学习的感受。目标应当是学习成果，偏好则作为约束或次要目标。偏好探索贝叶斯优化（BOPE）正具有这种结构：模型把参数映射到测得的结果，人比较的是结果向量而非参数（Lin 等，2022）（推断）。若更好的选项需要付出更多努力才能体会其好处，早期的成对判断可能对其不利，延迟重测可以作为一道保障（推断）。

42.4.3 军事决策 #

专家决策研究中有一个很强的论断：处于时间压力下的专家从不比较选项。Klein 对火场指挥员的原始研究是一份 1985 年的报告，2010 年重印（Klein 等，2010），涵盖 156 个决策点。同时比较多个选项的证据出现在不到 12% 的决策点上；在超过 80% 的决策点上，指挥员把情境识别为典型情境，并直接确定了典型的行动。“从不比较”是一种过度概括。根据一份附有页码引用的二手概述（Ambur，2004），Klein 1998 年的著作报告：各项研究中，识别式决策所占比例在 46% 至 96% 之间；人们在必须为选择辩护、寻求最佳选项或遇到陌生情境时，会更多地比较选项；此外，人们使用一种“擂台”（face-off）程序，即一个选项先与第二个选项比较，胜出者再与下一个比较。

对偏好贝叶斯优化的含义。在陌生的连续设计空间中寻找最佳选项，恰恰是 Klein 预期会出现比较的情形；许多偏好贝叶斯优化系统采用的当前最优点对挑战者查询，也与擂台程序相吻合（推断）。对熟悉领域中的专家，判断单个选项是否可接受的反馈形式更为合适（推断；第 32.4 节）；专家身份也不能成为在新设计空间中调低噪声参数的理由（推断；第 32.6 节）。

第 42.4 节引用的文献 11
  1. Yue 与 Joachims（2009）Interactively optimizing information retrieval systems as a dueling bandits problem
  2. Sakai 与 Zeng（2020）Good Evaluation Measures based on Document Preferences
  3. Clarke 等人（2021）Assessing Top- Preferences
  4. Thomas 等人（2024）Large Language Models can Accurately Predict Searcher Preferences
  5. Upadhyay 等人（2024）A Large-Scale Study of Relevance Assessments with Large Language Models: An Initial Look
  6. Clarke 与 Dietz（2024）LLM-based relevance assessment still can't replace human relevance assessment
  7. Deslauriers 等人（2019）Measuring actual learning versus feeling of learning in response to being actively engaged in the classroom
  8. Clinton-Lisell 与 Litzinger（2024）Is it really a neuromyth? A meta-analysis of the learning styles matching hypothesis
  9. Lin 等人（2022）Preference Exploration for Efficient Bayesian Optimization with Multiple Outcomes
  10. Klein 等人（2010）Rapid Decision Making on the Fire Ground: The Original Study Plus a Postscript
  11. Ambur（2004）Recognition-Primed Decision-Making: Implications for Record-Keeping by Organizations

42.5 简要联系 #

另有六个学科，各为偏好贝叶斯优化提供一点启示。

博物馆。情境对喜爱程度的影响大于对排序的影响。同一展览在博物馆中比在实验室模拟中更受喜爱（Brieber 等，2015）；维也纳美景宫（Belvedere）重新布展后，观看时间延长，但 259 名参观者对具体艺术作品的兴趣、对不同艺术形式的偏好都没有改变（Reitstätter 等，2020）。在同一情境中做出的成对比较，应当比跨情境做出的绝对评分更易迁移（推断）。

地理学。人们从自己实际考虑的选项中做选择。Tsoleridis 等人（2023）把这一考虑集视为潜变量，发现忽略考虑集的约束会错估偏好。若比较涉及用户考虑范围之外的选项，回答可能接近随机，带失误成分的似然可以处理这种情况（推断；第 27.2 节）。

考古学。许多不同的文化传播过程会产生相同的群体层面频率模式，因此仅凭与某一模式吻合，只能做出较弱的推断（Kandler 与 Crema，2019）。同理，汇集自众多用户的比较无法同时确定个体效用与聚合这些效用的规则，这与 Siththaranjan 等人（2024）对隐藏情境的分析一致（推断）。

符号学。消费者文化理论研究人们如何借助商品建构身份与社会意义（Arnould 与 Thompson，2005；McCracken，1986）。若优化目标位于这类意义空间中，定义在语义嵌入上的高斯过程预测留出比较的能力，应当优于定义在物理设计参数上的高斯过程；这一对比可以检验（推断）。

叙事学。处于根本不确定性（radical uncertainty）之下，即结果无法枚举、概率无法赋值时，人们通过构建叙事做出选择（Johnson 等，2023）。典型的偏好贝叶斯优化问题不具有根本不确定性；但若用户尚不清楚设计的用途，在成对查询之前简要引出目的与受众，会有所帮助（推断）。

组织理论。适应性过程改进利用的速度快于改进探索的速度，短期内有效，长期则会自我毁灭（March，1991）（第 11.3 节）。偏重利用的采集函数与选择后的再评价相结合，会过早锁定当前最优点，正如图 42.1 中的局部优化器；设置不依赖于后验的探索预算，可以抵消这种效应（推断）。

第 42.5 节引用的文献 9
  1. Brieber 等人（2015）In the white cube: Museum context enhances the valuation and memory of art
  2. Reitstätter 等人（2020）The display makes a difference: A mobile eye tracking study on the perception of art before and after a museum’s rearrangement
  3. Tsoleridis 等人（2023）Probabilistic choice set formation incorporating activity spaces into the context of mode and destination choice modelling
  4. Kandler 与 Crema（2019）Analysing Cultural Frequency Data: Neutral Theory and Beyond
  5. Siththaranjan 等人（2024）Distributional Preference Learning: Understanding and Accounting for Hidden Context in RLHF
  6. Arnould 与 Thompson（2005）Consumer Culture Theory (CCT): Twenty Years of Research
  7. McCracken（1986）Culture and Consumption: A Theoretical Account of the Structure and Movement of the Cultural Meaning of Consumer Goods
  8. Johnson 等人（2023）Conviction Narrative Theory: A theory of choice under radical uncertainty
  9. March（1991）Exploration and Exploitation in Organizational Learning

42.6 常见说法核查 #

表 42.2 中的说法见于将这些学科应用于偏好学习与推荐的论述。每一条都已与原始文献核对，详情见上文各节。

表 42.2 来自社会科学与人文学科的说法，以及文献显示的情况。
说法 文献显示的情况 节
在 Facebook 上，个人选择使意识形态多样性减少了 70%，算法减少了 15% 论文中没有这些数字：算法使跨立场内容减少 5%（保守派）和 8%（自由派），选择分别减少 17% 和 6%；只有对保守派，选择的影响才超过算法 第 42.2.1 节
肥胖通过友谊网络传播，使风险上升 57% 这一估计确实存在，但在观测性网络数据中，同质性与传染一般是混杂的 第 42.2.1 节
Moses 修建低矮的桥梁，使公共汽车无法到达 Jones Beach 这个故事的事实基础存在争议 第 42.2.2 节
言语描述使再认能力下降约 25% 这是原始研究的数字；一项注册复现发现，视时间安排而定为 4% 或 16% 第 42.3 节
专家指挥员从不比较选项 同时比较只出现在不到 12% 的决策点上；在各项研究中，识别式决策的比例在 46% 至 96% 之间 第 42.4.3 节
推理是为说服他人而演化出来的 论证理论既涉及提出论证，也涉及评估论证 第 42.2.4 节
每次偏好查询都在训练用户的品味（引申自 Hennion） 这是一种外推，并非 Hennion 的论点 第 42.1.1 节

这些更正都没有推翻相应的一般性论点：即使没有 Moses 的故事，算法仍然包含价值选择；言语推理仍以 4% 至 16% 的幅度影响知觉判断。改变的是每个论点可以断言到什么程度，而模型先验所刻画的，正是这种把握的强弱（推断）。

42.7 已定、有争议与缺失 #

研究现状已定、有争议与缺失

已定。行为科学的样本仍绝大多数来自西方：2014 至 2018 年的顶级心理学期刊中，略多于 60% 来自美国，“多数世界”（majority world）只占 4% 至 5%。在 Dean 与 Morgenstern 所假设的偏好动态下，低遗憾是简单算法即可达到的“一个几乎平凡的目标”，因此仅凭遗憾无法表明系统找到了此人想要的东西。表演性预测给出了重新训练收敛到表演性稳定点的充分必要条件。评审员做偏好判断比做分级判断更快、更一致。欧盟《数字服务法》第 25 条规定，在线平台的提供者设计界面时，不得实质性扭曲或损害用户作出自由且知情之决定的能力；该法序言第 67 条把“无论是有意为之还是在效果上如此”的扭曲都计算在内；《人工智能法》第 5 条自 2025 年 2 月 2 日起适用。

有争议。推荐系统在多大程度上塑造偏好：模拟与观察性研究指向同质化，持续数周至数月的大型随机现场实验则大多发现对态度的影响很小或为零。语言模型相关性评判者能否取代人类评审员。按学习风格匹配教学是否有益：合并效应很小，且很少出现所需的交叉交互作用。《数字服务法》对算法驱动的界面设计（而非静态界面设计）涵盖到什么程度。

缺失。将表演性预测，或 Dean 与 Morgenstern、Carroll 等人的诱导偏移框架，应用于高斯过程偏好学习。测量一次偏好贝叶斯优化会话中偏好移动了多少，并与随机顺序对照组及延迟重测相比较。检验成对比较是否比评分更能抵御随文化而异的反应风格。在同一批比较上，对比定义在物理参数上的高斯过程与定义在语义嵌入上的高斯过程。

延伸阅读 #

参考文献

  1. Alexy, R. (2024). Abwägung und Argumentation. Archiv für Rechts- und Sozialphilosophie. 引用于 §42.2
  2. Alogna, V. K., Attaya, M. K., Aucoin, P., Bahník, Š., Birch, S., Birt, A. R., … Zwaan, R. A. (2014). Registered Replication Report: Schooler and Engstler-Schooler (1990). Perspectives on Psychological Science. 引用于 §42.3
  3. Ambur, O. (2004). Recognition-Primed Decision-Making: Implications for Record-Keeping by Organizations. Personal website. 非同行评审引用于 §42.4
  4. Anderson, A., Maystre, L., Anderson, I., Mehrotra, R., and Lalmas, M. (2020). Algorithmic Effects on the Diversity of Consumption on Spotify. Proceedings of The Web Conference 2020. 引用于 §42.2
  5. Aridor, G., Chou, W., Kallus, N., Scheid, A., Tren, A., and Zielincki, K. (2026). Recommendation Quality and the Concentration of Consumption: Experimental Evidence from Netflix. arXiv. 预印本引用于 §42.2
  6. Arnould, E. J., and Thompson, C. J. (2005). Consumer Culture Theory (CCT): Twenty Years of Research. Journal of Consumer Research. 引用于 §42.5
  7. Arshamian, A., Gerkin, R. C., Kruspe, N., Wnuk, E., Floyd, S., O’Meara, C., … Majid, A. (2022). The perception of odor pleasantness is shared across cultures. Current Biology. 引用于 §42.1
  8. Bagaïni, A., Liu, Y., Kapoor, M., Son, G., Bürkner, P.-C., Tisdall, L., and Mata, R. (2025). A systematic review and meta-analyses of the temporal stability and convergent validity of risk preference measures. Nature Human Behaviour. doi:10.1038/s41562-024-02085-2. 引用于 §42.1
  9. Bakshy, E., Messing, S., and Adamic, L. A. (2015). Exposure to ideologically diverse news and opinion on Facebook. Science. 引用于 §42.2
  10. Bourdieu, P. (1984). Distinction: A Social Critique of the Judgement of Taste. Harvard University Press. 引用于 §42.1
  11. Brieber, D., Nadal, M., and Leder, H. (2015). In the white cube: Museum context enhances the valuation and memory of art. Acta Psychologica. 引用于 §42.5
  12. Carroll, M., Dragan, A., Russell, S., and Hadfield-Menell, D. (2022). Estimating and Penalizing Induced Preference Shifts in Recommender Systems. ICML 2022. 引用于 §42.2
  13. Carroll, M., Foote, D., Siththaranjan, A., Russell, S., and Dragan, A. (2024). AI Alignment with Changing and Influenceable Reward Functions. International Conference on Machine Learning. 引用于 §42.2
  14. Carstensen, L. L., Isaacowitz, D. M., and Charles, S. T. (1999). Taking Time Seriously: A Theory of Socioemotional Selectivity. American Psychologist. 引用于 §42.1
  15. Chaney, A. J. B., Stewart, B. M., and Engelhardt, B. E. (2018). How algorithmic confounding in recommendation systems increases homogeneity and decreases utility. Proceedings of the 12th ACM Conference on Recommender Systems. 引用于 §42.2
  16. Childress, C., Baumann, S., Rawlings, C., and Nault, J.-F. (2021). Genres, Objects, and the Contemporary Expression of Higher-Status Tastes. Sociological Science. 引用于 §42.1
  17. Christakis, N. A., and Fowler, J. H. (2007). The Spread of Obesity in a Large Social Network over 32 Years. New England Journal of Medicine. 引用于 §42.2
  18. Clarke, C. L. A., and Dietz, L. (2024). LLM-based relevance assessment still can't replace human relevance assessment. arXiv. 预印本引用于 §42.4
  19. Clarke, C. L. A., Vtyurina, A., and Smucker, M. D. (2021). Assessing Top- Preferences. ACM Transactions on Information Systems. 引用于 §42.4
  20. Clinton-Lisell, V., and Litzinger, C. (2024). Is it really a neuromyth? A meta-analysis of the learning styles matching hypothesis. Frontiers in Psychology. 引用于 §42.4
  21. Costello, T. H., Pennycook, G., and Rand, D. G. (2024). Durably reducing conspiracy beliefs through dialogues with AI. Science. 引用于 §42.2
  22. Dean, S., and Morgenstern, J. (2022). Preference Dynamics Under Personalized Recommendations. EC 2022. 引用于 §42.2
  23. Deffuant, G., Neau, D., Amblard, F., and Weisbuch, G. (2000). Mixing beliefs among interacting agents. Advances in Complex Systems. 引用于 §42.2
  24. Deslauriers, L., McCarty, L. S., Miller, K., Callaghan, K., and Kestin, G. (2019). Measuring actual learning versus feeling of learning in response to being actively engaged in the classroom. Proceedings of the National Academy of Sciences. 引用于 §42.4
  25. Doshi, A. R., and Hauser, O. P. (2024). Generative AI enhances individual creativity but reduces the collective diversity of novel content. Science Advances. 引用于 §42.2
  26. Elder, G. H. (1998). The Life Course as Developmental Theory. Child Development. 引用于 §42.1
  27. Esposito, F., Isola, C., Santos, C., and Farinha, M. (2026). Back to the Future-Proof: Four Reforms for the Better Regulation of Dark Patterns Under the Unfair Commercial Practices Directive and Article 25 of the Digital Services Act. European Journal of Risk Regulation. 引用于 §42.2
  28. Etteldorf, C. (2019). Court of Justice of the European Union: Users must actively consent to cookies. IRIS Merlin, IRIS 2019-10:1/6. 非同行评审引用于 §42.2
  29. European Commission (2025). Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act. Shaping Europe’s digital future. 非同行评审引用于 §42.2
  30. European Parliament (2026). Legislative Train Schedule: Digital Fairness Act (updated 20 June 2026). European Parliament. 非同行评审引用于 §42.2
  31. European Union (2022a). Digital Services Act, Article 25: Online interface design and organisation (reprint of the text). eu-digital-services-act.com. 非同行评审引用于 §42.2
  32. European Union (2022b). Regulation (EU) 2022/2065 on a Single Market for Digital Services (Digital Services Act). Official Journal of the European Union (EUR-Lex). 非同行评审引用于 §42.2
  33. European Union (2024). Regulation (EU) 2024/1689 (AI Act), Article 5: Prohibited AI Practices (reprint of the text). artificialintelligenceact.eu. 非同行评审引用于 §42.2
  34. Glickman, M., and Sharot, T. (2025). How human–AI feedback loops alter human perceptual, emotional and social judgements. Nature Human Behaviour. doi:10.1038/s41562-024-02077-2. 引用于 §42.2
  35. Guess, A. M., Malhotra, N., Pan, J., Barberá, P., Allcott, H., Brown, T., … Tucker, J. A. (2023). How do social media feed algorithms affect attitudes and behavior in an election campaign? Science. 引用于 §42.2
  36. Hardt, M., and Mendler-Dünner, C. (2025). Performative Prediction: Past and Future. Statistical Science. 引用于 §42.2
  37. Hennion, A. (2001). Music Lovers: Taste as Performance. Theory, Culture & Society. 引用于 §42.1
  38. Hennion, A. (2007). Those Things That Hold Us Together: Taste and Sociology. Cultural Sociology. 引用于 §42.1
  39. Henrich, J., Heine, S. J., and Norenzayan, A. (2010). The weirdest people in the world? Behavioral and Brain Sciences. 引用于 §42.1
  40. Hosseinmardi, H., Ghasemian, A., Rivera-Lanas, M., Horta Ribeiro, M., West, R., and Watts, D. J. (2024). Causally estimating the effect of YouTube’s recommender system using counterfactual bots. Proceedings of the National Academy of Sciences. 引用于 §42.2
  41. Huszár, F., Ktena, S. I., O’Brien, C., Belli, L., Schlaikjer, A., and Hardt, M. (2022). Algorithmic amplification of politics on Twitter. Proceedings of the National Academy of Sciences. 引用于 §42.2
  42. Joerges, B. (1999). Do Politics Have Artefacts? Social Studies of Science. 引用于 §42.2
  43. Johnson, S. G. B., Bilovich, A., and Tuckett, D. (2023). Conviction Narrative Theory: A theory of choice under radical uncertainty. Behavioral and Brain Sciences. 引用于 §42.5
  44. Kandler, A., and Crema, E. R. (2019). Analysing Cultural Frequency Data: Neutral Theory and Beyond. Handbook of Evolutionary Research in Archaeology. 引用于 §42.5
  45. Kettlewell, N. (2019). Risk preference dynamics around life events. Journal of Economic Behavior & Organization. 引用于 §42.1
  46. Klein, G., Calderwood, R., and Clinton-Cirocco, A. (2010). Rapid Decision Making on the Fire Ground: The Original Study Plus a Postscript. Journal of Cognitive Engineering and Decision Making. 引用于 §42.4
  47. Kleinberg, J., Mullainathan, S., and Raghavan, M. (2023). The Challenge of Understanding What Users Want: Inconsistent Preferences and Engagement Optimization. Management Science. 引用于 §42.2
  48. Lassiter, D., and Goodman, N. D. (2017). Adjectival vagueness in a Bayesian model of interpretation. Synthese. 引用于 §42.3
  49. Lee, H., Van Geert, E., Celen, E., Marjieh, R., van Rijn, P., Park, M., and Jacoby, N. (2025b). Visual and Musical Aesthetic Preferences Across Cultures. Proceedings of the Annual Meeting of the Cognitive Science Society. 引用于 §42.1
  50. Lin, Z. J., Astudillo, R., Frazier, P., and Bakshy, E. (2022). Preference Exploration for Efficient Bayesian Optimization with Multiple Outcomes. International Conference on Artificial Intelligence and Statistics. 引用于 §42.4
  51. Luguri, J., and Strahilevitz, L. J. (2021). Shining a Light on Dark Patterns. Journal of Legal Analysis. 引用于 §42.2
  52. MacKenzie, D., and Millo, Y. (2003). Constructing a Market, Performing Theory: The Historical Sociology of a Financial Derivatives Exchange. American Journal of Sociology. 引用于 §42.2
  53. March, J. G. (1991). Exploration and Exploitation in Organizational Learning. Organization Science. 引用于 §42.5
  54. Mathur, A., Acar, G., Friedman, M. J., Lucherini, E., Mayer, J., Chetty, M., and Narayanan, A. (2019). Dark Patterns at Scale: Findings from a Crawl of 11K Shopping Websites. Proceedings of the ACM on Human-Computer Interaction. 引用于 §42.2
  55. McCracken, G. (1986). Culture and Consumption: A Theoretical Account of the Structure and Movement of the Cultural Meaning of Consumer Goods. Journal of Consumer Research. 引用于 §42.5
  56. Mercier, H., and Sperber, D. (2011). Why do humans reason? Arguments for an argumentative theory. Behavioral and Brain Sciences. 引用于 §42.2
  57. Nyhan, B., Settle, J., Thorson, E., Wojcieszak, M., Barberá, P., Chen, A. Y., … Tucker, J. A. (2023). Like-minded sources on Facebook are prevalent but not polarizing. Nature. 引用于 §42.2
  58. Perdomo, J. C., Zrnic, T., Mendler-Dünner, C., and Hardt, M. (2020). Performative Prediction. ICML. 引用于 §42.2
  59. Reitstätter, L., Brinkmann, H., Santini, T., Specker, E., Dare, Z., Bakondi, F., … Rosenberg, R. (2020). The display makes a difference: A mobile eye tracking study on the perception of art before and after a museum’s rearrangement. Journal of Eye Movement Research. 引用于 §42.5
  60. Rödl, M. B. (2022). Airoldi Massimo (2022) Machine Habitus: Toward a Sociology of Algorithms. Science & Technology Studies. 引用于 §42.1
  61. Sakai, T., and Zeng, Z. (2020). Good Evaluation Measures based on Document Preferences. Proceedings of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval. 引用于 §42.4
  62. Schildberg-Hörisch, H. (2018). Are Risk Preferences Stable? Journal of Economic Perspectives. 引用于 §42.1
  63. Schooler, J. W., and Engstler-Schooler, T. Y. (1990). Verbal overshadowing of visual memories: Some things are better left unsaid. Cognitive Psychology. 引用于 §42.3
  64. ScienceDaily (2022). People around the world like the same kinds of smell. ScienceDaily. 非同行评审引用于 §42.1
  65. Shalizi, C. R., and Thomas, A. C. (2011). Homophily and Contagion Are Generically Confounded in Observational Social Network Studies. Sociological Methods & Research. 引用于 §42.2
  66. Siththaranjan, A., Laidlaw, C., and Hadfield-Menell, D. (2024). Distributional Preference Learning: Understanding and Accounting for Hidden Context in RLHF. ICLR 2024. 引用于 §42.5
  67. Tessler, M. H., Bakker, M. A., Jarrett, D., Sheahan, H., Chadwick, M. J., Koster, R., … Summerfield, C. (2024). AI can help humans find common ground in democratic deliberation. Science. 引用于 §42.2
  68. Thalmayer, A. G., Toscanelli, C., and Arnett, J. J. (2021). The neglected 95% revisited: Is American psychology becoming less American? American Psychologist. 引用于 §42.1
  69. Thomas, P., Spielman, S., Craswell, N., and Mitra, B. (2024). Large Language Models can Accurately Predict Searcher Preferences. Proceedings of the 47th International ACM SIGIR Conference on Research and Development in Information Retrieval. 引用于 §42.4
  70. Tsoleridis, P., Choudhury, C. F., and Hess, S. (2023). Probabilistic choice set formation incorporating activity spaces into the context of mode and destination choice modelling. Journal of Transport Geography. 引用于 §42.5
  71. Upadhyay, S., Pradeep, R., Thakur, N., Campos, D., Craswell, N., Soboroff, I., Dang, H. T., and Lin, J. (2024). A Large-Scale Study of Relevance Assessments with Large Language Models: An Initial Look. arXiv. 预印本引用于 §42.4
  72. Webster, J. (2021). The promise of personalisation: Exploring how music streaming platforms are shaping the performance of class identities and distinction. New Media & Society. 引用于 §42.1
  73. Williams, M., Carroll, M., Narang, A., Weisser, C., Murphy, B., and Dragan, A. (2025). On Targeted Manipulation and Deception when Optimizing LLMs for User Feedback. ICLR 2025. 引用于 §42.2
  74. Wilson, T. D., and Schooler, J. W. (1991). Thinking too much: Introspection can reduce the quality of preferences and decisions. Journal of Personality and Social Psychology. 引用于 §42.3
  75. Winner, L. (1980). Do Artifacts Have Politics? Daedalus. 引用于 §42.2
  76. Wood, C., Conner, M., Miles, E., Sandberg, T., Taylor, N., Godin, G., and Sheeran, P. (2016). The Impact of Asking Intention or Self-Prediction Questions on Subsequent Behavior: A Meta-Analysis. Personality and Social Psychology Review. 引用于 §42.2
  77. Xiang, M., Kennedy, C., Xu, W., and Leffel, T. (2022). Pragmatic reasoning and semantic convention: A case study on gradable adjectives. Semantics and Pragmatics. 引用于 §42.3
  78. Yue, Y., and Joachims, T. (2009). Interactively optimizing information retrieval systems as a dueling bandits problem. Proceedings of the 26th Annual International Conference on Machine Learning. 引用于 §42.4
  79. Zylberberg, A., Bakkour, A., Shohamy, D., and Shadlen, M. N. (2024). Value construction through sequential sampling explains serial dependencies in decision making. eLife. doi:10.7554/eLife.96997. 引用于 §42.2