自 动 行 驶 的 汽 车 可 能 会 自 己 决 定 人 的 生 死

这 倒 不 完 全 是 坏 事 本 文 由 Medium 授 权 《 好 奇 心 日 报 》 发 布 。 “ 电 车 难 题 ” 是 一 个 古 老 而 熟 悉 的 伦 理 学 思 想 实 验 。 最 近 ， 它 的 曝 光 率 异 乎 寻 常 地 高 。 其 中 绝 大 部 分 原 因 是 由 于 记 者 们 将 这 个 难 题 应 用 在 了 自 动 驾 驶 汽 车 上 。 这 些 讨 论 让 人 觉 得 很 遥 远 ， 而 且 纯 粹 是 在 讨 论 理 论 。 然 而 ， 只 要 稍 微 改 变 一 下 ， 这 个 问 题 就 能 导 致 一 场 关 于 自 动 驾 驶 汽 车 既 现 实 而 又 紧 迫 的 辩 论 …… 这 正 是 我 在 这 篇 文 章 中 准 备 讨 论 的 问 题 。 Google Trend 上 “ 电 车 难 题 ” 的 显 示 结 果 。 很 显 然 ， 假 日 季 使 人 们 变 得 真 的 、 真 的 很 爱 思 考 。 首 先 让 我 们 保 证 每 个 人 都 步 调 一 致 。 下 面 我 重 复 一 下 最 初 的 电 车 难 题 。 版 本 1 ： 一 辆 失 控 的 电 车 正 高 速 驶 向 五 个 站 在 轨 道 上 的 人 ， 五 个 人 都 没 有 意 识 到 电 车 正 在 驶 近 。 假 如 没 有 人 将 电 车 扳 到 另 外 一 条 轨 道 上 的 话 ， 他 们 肯 定 会 被 电 车 碾 死 。 但 是 在 那 另 外 的 一 条 轨 道 上 站 着 一 个 人 ， 你 刚 好 站 在 可 以 拉 拉 杆 的 位 置 ， 而 且 是 唯 一 一 个 可 以 改 变 电 车 轨 道 、 使 它 只 碾 死 一 个 人 而 不 是 五 个 人 的 人 。 那 么 ， 你 会 拉 拉 杆 吗 ？ 版 本 2 ， “ 胖 子 ” ： 由 于 我 们 中 的 大 部 分 人 都 会 认 为 答 案 显 而 易 见 —— 应 该 拉 拉 杆 ， 于 是 出 现 了 另 外 一 个 版 本 的 难 题 ， 以 此 来 向 公 众 灌 输 一 种 更 加 现 实 的 责 任 感 ， 以 及 挑 战 另 外 一 种 功 利 性 的 反 应 。 在 另 外 这 个 版 本 中 ， 没 有 另 外 一 条 轨 道 ， 也 没 有 拉 杆 可 以 让 你 拯 救 这 五 个 人 。 你 能 够 使 电 车 停 下 来 的 唯 一 方 法 ， 就 是 将 一 个 特 别 胖 的 人 推 到 电 车 轨 道 上 ， 这 会 使 电 车 安 全 地 停 下 来 —— 但 是 显 然 这 个 胖 子 会 被 碾 死 。 现 在 这 个 问 题 显 得 不 再 那 么 非 黑 即 白 了 ： 为 了 大 多 数 人 的 利 益 而 有 意 地 伤 害 一 个 人 ， 这 么 做 是 否 合 适 ？ 或 者 说 最 好 的 做 法 是 不 要 让 自 己 对 情 况 的 判 断 来 决 定 其 他 人 的 命 运 ？ 那 么 请 等 一 下 ： 为 了 拯 救 五 个 跟 我 家 没 仇 的 人 ， 我 是 否 应 该 将 亲 爱 的 家 族 仇 人 路 易 · 安 德 森 （Louie Anderson） 推 上 电 车 轨 道 ？ 我 不 能 同 意 这 种 做 法 。 我 来 建 议 一 个 新 的 版 本 吧 。 我 认 为 在 我 们 准 备 将 责 任 交 给 机 器 人 时 ， 这 个 思 考 显 得 异 常 重 要 。 想 象 有 一 辆 “ 无 穷 的 电 车 ” 。 你 现 在 是 电 车 司 机 ， 正 沿 着 一 条 单 一 轨 道 将 电 车 驶 向 轨 道 上 一 个 即 将 被 撞 上 的 人 。 你 可 以 拉 动 车 闸 使 车 停 下 ， 救 下 这 个 人 。 当 然 ， 情 况 并 非 如 此 简 单 。 你 的 电 车 有 无 限 长 ， 车 上 的 乘 客 多 得 会 让 你 重 新 考 虑 停 车 的 问 题 。 几 千 人 ？ 几 百 万 人 ？ 几 十 亿 人 ？ 所 有 这 些 人 ， 他 们 每 个 人 都 有 自 己 的 需 求 、 期 望 和 责 任 ， 一 旦 你 停 车 ， 所 有 这 些 都 将 不 同 程 度 地 化 为 泡 影 。 那 么 现 在 ， 你 停 车 的 代 价 是 多 大 呢 ？ 如 果 为 了 许 多 人 的 便 利 而 压 倒 那 一 个 生 命 ， 你 的 电 车 需 要 有 多 长 ？ 到 目 前 为 止 ， 我 向 四 个 非 常 聪 明 的 人 提 出 过 这 个 难 题 。 尽 管 他 们 的 反 应 和 结 论 都 各 不 相 同 ， 但 是 没 有 一 个 人 愿 意 将 它 看 成 一 个 现 实 世 界 中 会 发 生 的 问 题 来 考 虑 。 然 而 它 却 是 一 个 会 真 实 发 生 的 问 题 。 美 国 人 每 年 开 车 出 行 的 次 数 大 约 是 两 千 五 百 亿 次 。 在 这 个 过 程 中 ， 有 超 过 三 万 人 因 车 祸 丧 生 —— 这 意 味 着 在 享 受 汽 车 便 利 的 同 时 ， 每 八 百 万 次 开 车 出 行 ， 便 有 一 个 人 因 车 祸 而 死 ， 而 这 个 代 价 被 认 为 是 可 以 接 受 的 。 或 者 为 了 让 本 文 的 意 思 更 清 楚 ， 我 们 可 以 说 八 百 万 人 同 时 坐 在 一 辆 非 常 大 的 汽 车 上 。 这 样 一 来 ， 只 需 一 点 模 糊 的 数 学 知 识 ，“ 无 穷 的 电 车 ” 难 题 就 解 决 了 ： 如 果 你 的 电 车 上 有 超 过 八 百 万 人 ， 你 就 会 选 择 把 那 个 可 怜 的 家 伙 压 死 。 而 我 在 说 “ 你 会 ” 的 时 候 ， 我 的 意 思 是 “ 你 正 在 做 ”。 现 在 别 跟 我 说 你 拒 绝 承 担 责 任 ， 理 由 是 碾 压 人 这 个 动 作 涉 及 主 观 意 图 ， 而 且 这 与 单 纯 意 识 到 有 人 会 因 为 你 而 受 到 碾 压 是 两 码 事 。 如 果 你 要 这 么 说 ， 我 就 只 能 以 动 画 片 《 南 方 公 园 》（South Park） 里 的 智 慧 来 回 答 ： 得 了 便 宜 还 能 卖 乖 真 是 好 啊 。 那 些 看 过 我 早 些 时 候 的 文 章 《 我 发 觉 你 对 自 动 驾 驶 汽 车 缺 乏 信 心 让 人 非 常 不 安 》 的 人 ， 可 能 会 知 道 我 说 这 些 的 目 的 是 什 么 ， 但 请 告 诉 我 ： 如 果 你 是 那 些 选 择 拉 动 拉 杆 或 者 停 止 火 车 的 许 多 人 中 的 一 个 ， 那 你 为 什 么 不 大 力 支 持 自 动 驾 驶 汽 车 呢 ？ 事 实 上 ， 所 有 的 证 据 和 逻 辑 推 理 都 显 示 ： 使 用 自 动 驾 驶 的 车 辆 系 统 以 后 ， 因 车 祸 而 丧 生 的 人 数 将 会 大 大 降 低 —— 尽 管 现 在 这 项 技 术 仍 然 处 于 起 步 阶 段 。 只 要 稍 微 阅 读 一 下 相 关 话 题 你 就 会 发 现 ， 许 多 的 既 得 利 益 者 ， 从 政 客 、 汽 车 制 造 商 到 与 Google 相 关 的 各 方 ， 他 们 都 做 出 了 含 有 如 下 意 思 的 声 明 ： “ 自 动 驾 驶 的 汽 车 技 术 必 须 达 到 非 常 完 美 ， 我 们 才 会 将 它 投 放 市 场 。 99% 是 不 够 的 。” 除 了 在 数 字 上 误 导 我 们 中 的 大 多 数 人 之 外 ， 这 个 声 明 实 际 上 体 现 了 一 种 完 全 出 于 自 私 的 理 由 而 不 拉 动 拉 杆 的 决 策 ： 他 们 拒 绝 将 一 种 更 加 安 全 的 技 术 公 之 于 众 ， 除 非 它 “ 臻 于 完 美 ”， 这 实 际 上 是 告 诉 我 们 ， 他 们 不 愿 意 为 只 杀 死 一 个 人 的 决 策 承 担 责 任 ， 因 为 全 社 会 都 已 经 学 会 了 不 假 思 索 地 接 受 五 个 人 死 去 的 结 果 。 假 如 在 发 表 声 明 之 后 ， 他 们 这 样 说 倒 也 合 理 ：“ 所 以 ， 让 我 们 将 大 量 的 资 金 投 入 到 自 动 汽 车 的 研 发 上 ， 并 快 速 将 其 投 放 市 场 吧 。” 但 是 从 我 有 生 之 年 看 来 ， 我 都 没 有 在 我 们 国 家 交 通 战 略 图 的 雷 达 上 发 现 那 个 信 号 。 假 如 Google 或 者 Uber 抱 以 这 个 观 点 ， 我 觉 得 我 还 可 以 理 解 ， 因 为 他 们 以 前 从 未 参 加 过 开 车 造 成 人 员 伤 亡 的 困 境 和 成 本 的 讨 论 。 通 过 染 指 这 件 事 ， 他 们 冒 了 很 大 的 风 险 ， 因 为 这 使 他 们 看 起 来 像 是 每 年 制 造 了 大 量 新 的 死 亡 人 数 ， 而 不 是 在 阻 止 那 些 我 们 毫 不 在 乎 的 “ 正 常 的 ” 死 亡 。 但 是 对 于 那 些 需 要 对 每 年 三 万 多 人 死 亡 负 责 的 机 构 —— 美 国 公 路 交 通 安 全 管 理 局 （NHTSA）、 美 国 运 输 部 （DOT）、 汽 车 制 造 商 和 持 反 对 意 见 的 公 众 们 —— 我 真 为 你 们 感 到 羞 耻 。 正 是 你 们 造 成 了 每 年 成 千 上 万 的 人 死 亡 ， 而 你 们 仅 仅 由 于 错 误 的 信 息 而 逍 遥 法 外 。 这 样 的 时 期 很 快 就 会 到 来 ， 届 时 自 动 驾 驶 技 术 将 会 证 明 它 们 在 某 些 道 路 上 或 者 在 某 些 城 市 里 行 驶 是 非 常 安 全 的 ， 这 对 那 些 忽 视 或 者 阻 碍 这 一 技 术 发 展 的 当 权 者 来 说 将 会 是 一 个 悲 剧 ， 这 些 人 忽 视 或 者 阻 碍 这 项 技 术 的 原 因 ， 仅 仅 是 因 为 这 需 要 他 们 承 认 自 己 曾 做 出 一 个 决 定 ， 并 且 要 将 公 众 从 惯 性 思 维 中 摇 醒 ， 让 他 们 不 再 麻 痹 ， 开 始 参 与 到 自 动 驾 驶 汽 车 的 谈 论 中 来 。 好 了 ， 让 我 冷 静 一 下 ， 因 为 我 还 没 有 说 到 我 们 为 什 么 需 要 解 决 “ 无 穷 的 电 车 ” 这 个 难 题 。 通 过 我 们 上 面 小 小 的 数 学 练 习 可 以 看 出 ，“ 无 穷 的 电 车 ” 设 置 了 一 种 情 境 ， 这 种 情 境 迫 使 你 意 识 到 ， 我 们 所 看 重 的 东 西 其 实 都 是 由 货 币 价 值 累 积 起 来 的 。 大 概 来 说 就 是 ， 我 们 的 例 子 把 一 个 人 的 生 命 价 值