杀 手 机 器 人 会 被 禁 止 吗 ？ 26 个 国 家 呼 吁 制 定 明 确 禁 令

尽 管 倡 导 组 织 一 再 要 求 推 进 针 对 人 工 智 能 武 器 的 禁 令 ， 它 短 期 内 不 太 可 能 达 成 ＊ 本 文 只 能 在 《 好 奇 心 日 报 》 发 布 ， 即 使 我 们 允 许 了 也 不 许 转 载 ＊ 伦 敦 电 — 美 国 国 防 部 正 在 开 发 一 种 自 主 式 导 弹 ， 能 使 用 软 件 自 主 选 择 目 标 。 英 国 军 方 的 一 种 人 工 智 能 无 人 机 可 以 自 己 识 别 射 击 点 。 俄 罗 斯 也 展 示 过 不 需 要 士 兵 在 里 面 作 战 的 坦 克 。 多 年 来 ， 人 工 智 能 技 术 促 使 军 方 领 导 人 思 考 一 种 几 乎 无 需 人 类 参 与 的 未 来 战 争 。 但 随 着 作 战 能 力 的 提 高 ， 自 主 武 器 投 入 战 场 越 来 越 不 再 是 个 假 想 。 软 件 和 算 法 可 能 做 出 生 死 攸 关 的 决 定 ， 这 给 一 个 名 为 “ 阻 止 杀 手 机 器 人 运 动 ”（Campaign To Stop Killer Robots） 的 组 织 增 添 了 新 的 紧 迫 感 。 该 组 织 召 集 了 军 备 控 制 倡 导 者 、 人 权 组 织 和 技 术 专 家 ， 敦 促 联 合 国 起 草 一 份 全 球 条 约 ， 禁 止 在 无 人 操 控 的 情 况 下 使 用 武 器 。 就 像 在 网 络 空 间 ， 网 络 攻 击 没 有 明 确 的 交 战 规 则 一 样 ， 在 使 用 自 动 化 武 器 方 面 目 前 也 还 没 有 划 定 红 线 。 一 些 外 交 官 担 心 ， 如 果 没 有 防 扩 散 协 议 ， 世 界 将 陷 入 一 场 由 算 法 驱 动 的 军 备 竞 赛 。 9 月 25 日 ， 在 纽 约 联 合 国 大 会 开 幕 时 的 一 次 演 讲 中 ， 联 合 国 秘 书 长 安 东 尼 奥 · 古 特 雷 斯 （Antonio Guterres） 将 人 工 智 能 武 器 与 气 候 变 化 、 日 益 加 剧 的 收 入 不 平 等 一 道 列 为 了 全 球 风 险 。 古 特 雷 斯 说 ，“ 让 我 们 如 实 地 看 待 这 个 问 题 ： 机 器 拥 有 夺 走 人 类 生 命 的 自 由 裁 量 权 和 权 力 ， 这 种 前 景 在 道 德 上 令 人 反 感 。” 两 周 前 ， 欧 盟 负 责 外 交 和 安 全 政 策 的 高 级 代 表 费 德 丽 卡 · 莫 盖 里 尼 （Federica Mogherini） 表 示 ， 这 些 武 器 “ 影 响 了 我 们 全 体 人 类 的 安 全 ”， 决 定 生 死 的 权 力 必 须 掌 握 在 人 类 手 中 。 共 有 26 个 国 家 呼 吁 制 定 明 确 的 禁 令 ， 要 求 在 使 用 武 力 时 必 须 施 以 某 种 形 式 的 人 为 控 制 。 但 禁 止 人 工 智 能 武 器 的 可 能 性 很 小 。 包 括 美 国 在 内 的 几 个 有 影 响 力 的 国 家 都 不 愿 意 在 该 技 术 仍 处 于 发 展 阶 段 时 对 其 加 以 限 制 。 外 交 官 们 一 直 未 能 就 如 何 实 施 或 执 行 全 球 政 策 达 成 共 识 。 一 些 人 呼 吁 达 成 自 愿 协 议 ， 另 一 些 人 则 希 望 制 定 具 有 法 律 约 束 力 的 规 则 。 今 年 8 月 ， 联 合 国 在 日 内 瓦 为 此 举 行 了 一 次 会 议 ， 有 70 多 个 国 家 参 加 ， 但 进 展 甚 微 。 因 为 美 国 和 其 他 国 家 表 示 ， 在 全 面 限 制 人 工 智 能 武 器 之 前 ， 需 要 更 好 地 了 解 这 项 技 术 。 另 一 轮 会 谈 预 计 将 于 今 年 晚 些 时 候 举 行 。 一 些 人 担 心 禁 令 会 影 响 民 用 研 究 。 在 人 工 智 能 和 机 器 学 习 领 域 ， 最 前 沿 的 工 作 大 多 来 自 各 所 大 学 和 Google、Facebook 等 公 司 。 但 这 些 技 术 大 多 可 以 用 于 军 事 用 途 。 “ 很 多 人 工 智 能 技 术 都 是 在 政 府 之 外 开 发 出 来 并 向 公 众 发 布 的 ，” 硅 谷 组 织 OpenAI 的 发 言 人 杰 克 · 克 拉 克 （Jack Clark） 说 ， 该 组 织 提 倡 更 慎 重 地 采 用 人 工 智 能 。“ 这 些 技 术 具 有 可 应 用 于 许 多 不 同 领 域 的 通 用 能 力 ， 包 括 武 器 化 。” 在 任 何 人 工 智 能 武 器 投 入 战 场 之 前 ， 主 要 的 技 术 挑 战 仍 然 存 在 。 欧 洲 研 究 所 （Institute for European Studies） 专 门 研 究 新 兴 军 事 和 安 全 技 术 的 研 究 员 马 艾 克 · 维 尔 布 鲁 根 （Maaike Verbruggen） 说 ， 人 类 和 机 器 之 间 的 交 流 沟 通 仍 然 有 限 ， 这 使 得 人 类 很 难 理 解 人 工 智 能 机 器 如 何 做 出 决 定 。 她 表 示 ， 我 们 还 需 要 制 定 更 好 的 防 护 措 施 ， 以 确 保 机 器 人 的 行 动 符 合 预 期 。 不 过 ， 为 伦 敦 的 市 场 研 究 公 司 Jane’s by IHS Markit 研 究 军 事 支 出 的 分 析 师 德 里 克 · 梅 普 （Derrick Maple） 认 为 ， 未 来 20 年 ， 相 关 技 术 将 取 得 重 大 进 展 。 他 说 ， 随 着 技 术 变 化 ， 任 何 国 际 协 议 都 可 能 是 徒 劳 的 ； 一 旦 发 生 战 争 ， 各 国 就 会 把 协 议 撕 成 碎 片 。 “ 你 不 能 制 定 交 战 规 则 ，” 梅 普 尔 说 ，“ 如 果 敌 人 要 做 什 么 ， 那 么 你 也 不 得 不 做 些 什 么 。 不 管 你 制 定 了 什 么 规 则 并 落 实 到 位 ， 一 旦 发 生 冲 突 ， 这 些 规 则 都 会 被 抛 到 九 霄 云 外 。” 因 为 发 现 了 一 个 新 的 收 入 来 源 ， 国 防 承 包 商 们 急 于 建 造 下 一 代 的 机 器 。 去 年 ， 波 音 重 组 了 其 国 防 业 务 ， 其 中 一 个 部 门 的 工 作 重 心 便 是 无 人 机 和 其 他 无 人 武 器 。 该 公 司 还 收 购 了 自 主 飞 行 器 制 造 商 Aurora Flight Sciences。 洛 克 希 德 · 马 丁 公 司 （Lockheed Martin）、BAE 系 统 公 司 和 雷 神 公 司 （Raytheon） 等 其 他 国 防 承 包 商 也 在 进 行 类 似 的 调 整 。 在 该 领 域 工 作 了 40 多 年 的 梅 普 尔 估 计 ， 未 来 10 年 ， 无 人 机 和 舰 船 等 无 人 驾 驶 军 用 车 辆 的 军 费 支 出 将 超 过 1200 亿 美 元 。 目 前 尚 未 发 现 有 国 家 在 战 场 上 部 署 完 全 自 主 的 武 器 ， 但 军 方 多 年 来 一 直 在 使 用 自 动 化 技 术 。 以 色 列 的 “ 铁 穹 ”（Iron Dome） 防 空 系 统 可 自 动 探 测 并 摧 毁 来 犯 的 火 箭 弹 。 韩 国 使 用 自 主 设 备 探 测 朝 鲜 边 境 的 动 向 。 梅 普 尔 希 望 在 将 责 任 完 全 移 交 给 机 器 人 之 前 ， 人 类 和 机 器 之 间 能 有 更 多 的 合 作 。 例 如 ， 研 究 人 员 正 在 研 究 如 何 用 人 工 智 能 无 人 机 舰 队 来 支 援 飞 机 和 坦 克 。 2016 年 ， 五 角 大 楼 在 莫 哈 韦 沙 漠 （Mojave Desert） 的 一 次 测 试 中 强 调 了 它 的 能 力 。100 多 架 无 人 机 被 从 一 架 战 斗 机 上 胡 乱 扔 下 ， 之 后 它 们 迅 速 聚 集 ， 冲 向 并 包 围 目 标 。 从 五 角 大 楼 分 享 的 雷 达 视 频 来 看 ， 这 些 无 人 机 看 起 来 就 像 一 群 迁 徙 的 椋 鸟 。 当 这 些 无 人 机 在 头 顶 上 空 飞 行 时 ， 没 有 人 在 驾 驶 它 们 ， 而 且 这 些 机 器 看 上 去 与 任 何 人 都 能 从 消 费 电 子 产 品 商 店 买 到 的 机 器 没 有 太 大 区 别 。 按 照 设 定 的 程 序 ， 这 些 无 人 机 可 以 相 互 独 立 地 进 行 沟 通 ， 集 体 行 动 、 达 到 目 标 。 五 角 大 楼 战 略 能 力 办 公 室 主 任 威 廉 · 罗 珀 （William Roper） 当 时 表 示 ：“ 它 们 是 一 个 集 体 有 机 体 ， 共 享 一 个 分 布 式 大 脑 进 行 决 策 ， 并 能 像 自 然 界 中 的 动 物 群 体 一 样 相 互 适 应 。” 对 于 那 些 为 自 主 武 器 发 展 深 感 担 忧 的 人 来 说 ， 其 含 意 是 显 而 易 见 的 。 “ 你 是 在 把 杀 人 的 决 定 交 给 一 台 机 器 ，” 奥 地 利 政 府 裁 军 部 门 的 负 责 人 托 马 斯 · 哈 吉 诺 奇 （Thomas Hajnoczi） 说 ，“ 但 机 器 没 有 任 何 道 德 评 判 准 则 ， 而 且 毫 无 怜 悯 之 心 。” 翻 译 ： 熊 猫 译 社 刘 溜 题 图 来 自 Martin Sanchez on Unsplash © 2018 THE NEW YORK TIMES