最后的防线，是人性

1.

大家坐飞机的时候，有没有想过一个问题： 现在的飞机，自动驾驶技术已经非常成熟了。 起飞、巡航、降落，电脑都能自动完成。 那为什么，驾驶舱里还必须坐着两个年薪百万的机长？

他们坐在那里，大部分时间什么都不用干，只是盯着仪表盘。 航空公司是不是傻？省下这两个人的工资不好吗？

航空公司不傻。 机长坐在那里，不是为了在正常飞行时操作飞机。 而是为了在电脑发疯、引擎起火、需要在哈德逊河上迫降的那一瞬间。 做出只有人类敢做的决定。

2.

这个机制，在 AI 领域有一个专业术语，叫 人在回路中 (Human in the loop，HITL)。 意思就是：不管系统多智能，在关键环节，必须有人类介入。

在之前的 12 篇文章里，我一直在教大家怎么用 AI 偷懒，怎么用 AI 提效。 但在系列的最后一篇，我要泼一盆冷水： AI 越强大，人类的责任就越重。

未来，我们可能会把 99% 的工作都交给 AI。 但那剩下的 1%，就是定义我们之所以为人的东西。

特别地，现在还有人说，这个说法应该改为 人在回路上（Human on the loop, HOTL）。也就是，你不是整个过程中的一环，你是一个领导者，你设计整个过程，你全面掌控整个流程。

3.

举个发生在孩子身上的例子。 班里要搞联欢会。你的孩子用 AI 写了一段相声脚本。 AI 很幽默，根据大数据，生成了一个嘲笑胖子的段子，因为它“算出”这个段子笑果最好。

如果你的孩子没有“人在回路中”的意识，他可能会照着念，引得全场哄堂大笑。 但他也会深深地伤害班上那个胖乎乎的同学。

但如果你的孩子是一个有责任感的人。 他会在看到那个段子的一瞬间，按住暂停键。 他会划掉那一行，对自己说：“这不好笑，这很刻薄。”

AI 只有算法，它不懂什么叫刻薄，什么叫尊严。 只有人类懂。

4.

我特别害怕听到孩子说一句话： “是 AI 让我这么写的。” “是 AI 让我这么干的。”

不。 AI 是一把刀。刀杀了人，警察不会抓刀，只会抓拿刀的人。

在未来，当孩子用 AI 写论文、做设计、做决策时。 他必须时刻记着： 你是最后的签字人。 所有的荣誉归你，所有的责任也归你。 你不能甩锅给算法。

5.

我们为什么要学习 AI？ 是为了变成机器吗？ 是为了像机器一样算得快、记得准吗？ 不。 我们把那些机械的、冰冷的、重复的工作交给 AI。 是为了腾出时间，来做那些更温暖、更道德、更具人性的事。

未来的教育，归根结底，是人性的教育。 当机器已经聪明到能通过图灵测试。 只有良知，是我们最后的防线。

亲爱的家长和孩子们。 在 AI 的浪潮里，请握好手中的方向盘。 利用它，驾驭它，但永远不要盲从它。

因为在这场人机共生的伟大的旅程中。

机器负责计算。

你，负责爱。