WEIJIA LAB

一次通信之后

记住一个人,也要允许他改变

鲜唯佳 · 2026.11.10 · 约 4 分钟

我原本想问:AI 能不能帮助人更早识别风险?

问题从地震开始。我在成都生活多年,经历过汶川地震。后来读书,看天气预测模型,又把它延伸到战争,以及人类更长远的未来。

写信之后,我开始问自己:为什么一定是 AI?我究竟想改善什么?

有些答案来自技术,有些来自一个具体的人。

多年前,一位老同学去世了。他擅长数学和物理,也很刻苦。我还记得他叫我的那个昵称。我不知道他的离去究竟由什么造成,也不想把猜测当作解释。

Ellen Bass 的《Inquest》让我重新想起这些没有答案的问题。

金门大桥塔下的旧日照片
金门大桥步道上的行人与骑行者
金门大桥与海湾全景

2013 年 8 月 5 日 · 旧金山,金门大桥

我也想起自己去过的金门大桥。后来读到一项关于曾在桥上被阻止轻生者的追踪研究,它挑战了一个听起来很有道理的假设:阻止这一次,也不过是让同一件事换个地方发生。

观察研究不能告诉我们,没有干预时每个人会怎样。但它留下一个值得认真想的问题:

我们是否有时要求先把人完全理解,才愿意给他另一次机会?

改变环境也许已经能有所帮助。预测很重要,却不必成为一切行动的前提。

使用 GPT-3,以及读到 LaMDA 对故事里人物情绪的推断,让我开始认真思考机器理解的可能性。那些例子当然没有证明机器拥有人的感受。

我更在意另一件事:印刷术、大学、互联网,以及可能的 AI,让知识能够超过一个人的寿命,继续帮助后来的人。

这是我很珍惜的一种善。

但保存知识,也会保存误解。

我发现,AI 记得我做过一些项目,于是不断把我引回那些项目。它记住了过去的我,却可能没有留意现在的我已经想走向别处。

这让我想做一个小实验:当一个人明确改变目标后,比较 AI 有、没有旧记忆时给出的建议。旧记忆究竟帮助了理解,还是让它更确信一个已经过时的判断?

我还没有答案。

我希望被记住,也希望被允许改变。

阅读线索

鲜唯佳 · 个人实验室蜀ICP备2026073130号-1

独立静态版:博客、故事及指定站内互动可直接访问。登录、评论与联网联奏未迁入;标示站外的作品仍在原部署。