科 技 公 司 在 商 量 如 何 规 范 人 工 智 能 ， 它 的 伦 理 该 是 什 么 ？

就 业 、 运 输 、 战 争 ， 这 些 地 方 机 器 人 会 影 响 人 类 什 么 ？ ＊ 本 文 只 能 在 《 好 奇 心 日 报 》 发 布 ， 即 使 我 们 允 许 了 也 不 许 转 载 ＊ 旧 金 山 电 — 多 年 来 ， 科 幻 电 影 制 作 人 反 复 强 调 人 工 智 能 机 器 可 能 对 他 们 的 人 类 制 造 者 做 出 什 么 坏 事 ， 令 人 心 生 恐 惧 。 但 在 接 下 来 的 一 二 十 年 ， 我 们 最 关 心 的 更 有 可 能 是 机 器 人 会 不 会 抢 走 我 们 的 饭 碗 ， 或 是 在 公 路 上 撞 到 我 们 。 现 在 ， 全 球 五 大 科 技 巨 头 正 试 图 建 立 人 工 智 能 创 造 过 程 中 的 一 套 伦 理 规 范 。 科 幻 小 说 关 注 的 多 是 人 工 智 能 对 人 类 生 存 的 威 胁 ， 而 来 自 Google 母 公 司 Alphabet 以 及 亚 马 逊 、 Facebook 、 IBM 和 微 软 的 研 究 员 聚 在 一 起 讨 论 的 则 是 更 实 在 的 问 题 ， 比 如 人 工 智 能 对 就 业 、 运 输 甚 至 战 争 的 影 响 。 二 月 ，Facebook 总 裁 马 克 · 扎 克 伯 格 出 席 颁 奖 典 礼 。Facebook、 亚 马 逊 、IBM 等 公 司 研 究 员 汇 聚 一 堂 ， 讨 论 人 工 智 能 对 就 业 、 运 输 甚 至 战 争 的 影 响 。 图 片 版 权 ：Kay Nietfeld / 法 新 社 — 盖 蒂 图 片 社 长 期 以 来 ， 科 技 公 司 对 人 工 智 能 机 器 的 用 途 夸 下 海 口 ， 却 少 有 兑 现 。 然 而 近 几 年 ， 从 自 动 驾 驶 车 和 理 解 对 话 的 机 器 （ 比 如 亚 马 逊 的 Echo 智 能 音 箱 ）， 到 可 以 进 行 自 动 化 作 战 的 新 一 代 武 器 系 统 ， 人 工 智 能 在 诸 多 领 域 取 得 了 飞 速 的 进 展 。 这 一 行 业 集 团 具 体 会 怎 么 做 或 怎 么 说 ， 甚 至 是 这 套 规 范 的 名 字 都 尚 未 敲 定 。 但 它 基 本 的 意 图 很 明 显 ： 根 据 参 与 这 一 行 业 伙 伴 关 系 建 立 、 但 未 被 授 权 公 开 谈 论 此 事 的 四 位 人 士 透 露 ， 他 们 是 要 确 保 人 工 智 能 研 究 专 注 于 造 福 人 类 ， 而 非 危 害 人 类 。 这 一 行 业 努 力 的 重 要 性 ， 在 周 四 发 布 的 一 份 报 告 中 得 到 了 进 一 步 强 调 。 报 告 出 自 斯 坦 福 大 学 一 个 研 究 团 体 ， 该 团 体 由 微 软 研 究 员 埃 里 克 · 霍 维 茨 （Eric Horvitz） 资 助 。 埃 里 克 同 时 也 是 出 席 这 次 行 业 大 讨 论 的 高 管 之 一 。 这 个 名 为 “ 人 工 智 能 百 年 研 究 ”（One Hundred Year Study on Artificial Intelligence） 的 斯 坦 福 项 目 制 定 了 一 项 计 划 ， 试 图 在 接 下 来 的 一 百 年 里 每 五 年 制 作 一 份 详 细 的 报 告 ， 论 述 人 工 智 能 对 社 会 的 影 响 。 科 技 行 业 人 士 关 心 的 主 要 问 题 之 一 ， 大 概 是 是 否 需 要 有 监 管 者 介 入 其 中 ， 制 定 人 工 智 能 工 作 的 法 则 。 于 是 他 们 试 图 建 立 一 个 自 律 性 组 织 的 框 架 ， 不 过 目 前 还 不 清 楚 其 将 如 何 运 转 。 斯 坦 福 报 告 的 作 者 之 一 、 得 克 萨 斯 大 学 奥 斯 汀 分 校 计 算 机 科 学 家 彼 得 · 斯 通 （Peter Stone） 说 ：“ 我 们 不 是 说 不 用 定 什 么 规 矩 。 我 们 是 说 如 何 定 是 有 对 错 之 分 的 。” 尽 管 众 所 周 知 ， 科 技 行 业 竞 争 激 烈 ， 然 而 在 一 些 时 候 ， 如 果 能 实 现 利 益 最 大 化 ， 公 司 之 间 还 是 可 以 携 手 合 作 的 。 比 如 1990 年 代 ， 各 科 技 公 司 就 电 子 商 务 交 易 加 密 标 准 达 成 共 识 ， 为 接 下 来 二 十 年 里 互 联 网 业 务 的 突 飞 猛 进 打 下 了 基 础 。 这 份 斯 坦 福 报 告 名 为 《2030 年 人 工 智 能 及 生 活 展 望 》（Artificial Intelligence and Life in 2030）。 报 告 作 者 主 张 ， 规 范 人 工 智 能 是 不 可 能 的 。 报 告 称 ：“ 研 究 小 组 一 致 认 为 ， 在 总 体 上 规 范 人 工 智 能 的 尝 试 可 能 是 错 误 的 。 因 为 我 们 没 有 对 人 工 智 能 的 明 确 定 义 （ 很 难 一 言 以 概 之 ）， 而 在 不 同 的 领 域 ， 其 风 险 和 考 虑 事 项 有 着 很 大 的 不 同 。” 左 起 ， 亚 马 逊 的 杰 夫 · 贝 佐 斯 、IBM 的 弗 吉 尼 亚 · 罗 曼 提 、 微 软 的 萨 蒂 亚 · 纳 德 拉 、Google 的 桑 达 尔 · 皮 查 伊 和 Facebook 的 马 克 · 扎 克 伯 格 。 图 片 版 权 ：Eric Risberg / 美 联 社 斯 通 博 士 说 ， 报 告 给 出 的 一 个 建 议 是 ， 提 高 各 级 政 府 对 人 工 智 能 的 警 觉 ， 丰 富 他 们 的 专 业 知 识 。 报 告 还 呼 吁 增 加 公 共 及 私 人 对 人 工 智 能 的 支 出 。 IBM Watson 人 工 智 能 部 门 经 理 大 卫 · 肯 尼 （David Kenny） 说 ：“ 政 府 在 其 中 有 它 自 己 的 作 用 ， 我 们 对 此 表 示 尊 重 ……（ 问 题 是 ） 很 多 时 候 ， 政 策 制 定 都 落 在 了 技 术 的 后 面 。” 从 五 大 巨 头 之 间 传 阅 的 一 份 备 忘 录 上 可 以 看 到 ， 初 步 的 设 想 是 在 九 月 中 旬 宣 布 成 立 新 组 织 。 据 一 位 参 与 谈 判 的 人 士 透 露 ， 一 个 尚 未 解 决 的 问 题 是 ， Alphabet 旗 下 人 工 智 能 公 司 Google DeepMind  要 求 以 独 立 身 份 参 加 。 一 位 未 被 授 权 公 开 发 言 的 人 士 从 行 业 组 织 者 口 中 得 知 ， 人 工 智 能 行 业 集 团 仿 照 的 是 类 似 人 权 组 织 全 球 网 络 倡 议 （ Global Network Initiative ） 的 模 式 ， 该 倡 议 组 织 中 的 各 个 企 业 和 非 政 府 组 织 主 要 关 注 于 言 论 自 由 和 隐 私 权 的 保 护 。 此 外 ，LinkedIn 创 始 人 、 人 工 智 能 专 业 出 身 的 雷 德 · 霍 夫 曼 （Reid Hoffman） 与 麻 省 理 工 学 院 媒 体 实 验 室 （MIT Media Lab） 也 在 进 行 相 关 讨 论 。 他 们 计 划 资 助 一 个 项 目 ， 探 索 人 工 智 能 的 社 会 和 经 济 影 响 。 麻 省 理 工 的 努 力 和 行 业 合 作 都 试 图 进 一 步 密 切 技 术 进 步 和 社 会 经 济 政 策 问 题 之 间 的 联 系 。 麻 省 理 工 的 团 队 一 直 在 讨 论 是 否 可 以 在 新 型 人 工 智 能 和 机 器 人 系 统 的 设 计 中 纳 入 “ 社 会 因 素 ”。 这 就 牵 涉 到 了 一 个 长 期 争 论 不 休 的 问 题 ： 计 算 机 和 机 器 人 系 统 是 否 还 需 要 人 类 的 介 入 。 比 如 ， 美 国 国 防 部 最 近 开 始 制 定 一 项 军 事 战 略 ， 需 要 用 到 人 工 智 能 ， 但 生 杀 大 权 并 没 有 委 托 给 机 器 ， 而 是 仍 掌 握 在 人 类 手 中 。 麻 省 理 工 大 学 媒 体 实 验 室 主 任 、《 纽 约 时 报 》 董 事 会 成 员 伊 藤 穰 一 （Joichi Ito） 说 ：“ 我 要 指 出 的 关 键 问 题 是 ， 计 算 机 科 学 家 一 直 不 擅 长 与 社 会 科 学 家 和 哲 学 家 打 交 道 。 我 们 想 要 做 的 是 支 持 那 些 正 在 做 可 以 影 响 政 策 制 定 的 研 究 的 社 会 科 学 家 ， 并 向 其 提 供 援 助 。” 斯 坦 福 报 告 试 图 明 确 一 个 问 题 ， 不 久 之 后 ， 典 型 的 北 美 城 市 的 公 民 将 面 对 能 模 仿 人 类 能 力 的 计 算 机 和 机 器 人 系 统 。 报 告 作 者 探 讨 了 现 代 生 活 的 八 个 方 面 ， 包 括 医 疗 、 教 育 、 娱 乐 和 就 业 ， 不 过 特 意 避 开 了 战 争 。 他 们 说 ， 军 事 人 工 智 能 应 用 超 出 了 他 们 现 在 的 研 究 范 围 和 专 业 知 识 ， 不 过 他 们 不 排 除 未 来 会 关 注 武 器 领 域 。 报 告 也 没 有 考 虑 “ 奇 点 ” 的 可 能 性 。 一 些 计 算 机 科 学 家 深 信 ， 一 旦 到 达 奇 点 ， 机 器 可 能 比 人 类 更 聪 明 ， 并 且 很 可 能 对 人 类 构 成 威 胁 。 斯 通 博 士 说 ：“ 该 报 告 没 有 接 受 这 点 假 设 ， 这 是 个 理 性 的 决 定 。” 翻 译 熊 猫 译 社 陈 晓 斐 题 图 来 自 medium.com © 2016 THE NEW YORK TIMES