马 斯 克 又 拉 了 一 百 多 人 呼 吁 小 心 人 工 智 能 ， 这 次 是 为 军 用

这 种 武 器 还 没 有 被 开 发 ， 但 联 合 国 、 技 术 公 司 都 有 担 忧 。 马 斯 克 又 出 来 表 达 对 人 工 智 能 的 担 忧 ， 这 次 还 有 其 它 115 位 科 技 公 司 的 创 始 人 。 《 卫 报 》 周 日 报 道 称 ， 来 自 26 个 国 家 、116 位 机 器 人 和 人 工 智 能 公 司 的 创 始 人 递 交 了 一 封 给 联 合 国 的 建 议 信 ， 希 望 后 者 可 以 禁 止 所 谓 “ 致 命 性 自 动 化 武 器 （LAWS）” 的 部 署 。 其 中 包 括 特 斯 拉 创 始 人 马 斯 克 ，DeepMind 联 合 创 始 人 Mustafa Suleyman。 这 里 的 “ 致 命 性 自 动 化 武 器 （LAWS）” 不 是 指 具 体 某 一 种 武 器 。 按 照 其 定 义 ， 是 机 器 人 在 没 有 人 为 操 作 下 ， 自 动 筛 选 和 攻 击 目 标 。 相 比 之 下 ， 目 前 军 用 无 人 机 很 多 虽 然 可 以 搭 载 导 弹 杀 人 ， 但 它 攻 击 什 么 目 标 ， 是 否 攻 击 都 由 电 脑 前 的 人 类 操 控 。 在 更 通 俗 的 说 法 中 ， 这 种 武 器 还 会 被 称 作 是 杀 人 机 器 （killer robot）。 把 这 封 信 刊 登 出 来 的 ， 是 一 家 被 名 为 “ 未 来 人 生 协 会 （Future of Life Institute）” 的 网 站 。 这 封 信 表 达 的 是 这 些 科 技 领 袖 对 联 合 国 发 出 的 预 警 ， 本 质 上 是 希 望 能 推 动 联 合 国 的 讨 论 ， 以 便 在 这 种 武 器 尚 未 被 发 明 创 造 前 就 杜 绝 其 使 用 。 他 们 认 为 ， 这 种 致 命 性 自 动 化 武 器 （LAWS） 很 可 能 会 给 人 类 带 来 预 估 以 外 的 威 胁 。 致 命 自 动 武 器 有 可 能 成 为 第 三 次 武 器 革 命 。 一 旦 开 发 成 功 ， 它 们 将 把 冲 突 的 规 模 带 到 前 从 未 有 的 大 ， 也 会 超 过 人 类 能 认 知 的 速 度 。 它 们 将 成 为 恐 怖 的 武 器 ， 将 成 为 暴 君 和 恐 怖 分 子 残 害 无 辜 民 众 的 武 器 ， 或 者 被 黑 客 挟 持 用 于 预 期 之 外 的 功 用 。 我 们 没 有 足 够 的 时 间 行 动 。 一 旦 潘 多 拉 的 盒 子 被 打 开 ， 就 很 难 被 关 上 。 116 位 机 器 人 、 人 工 智 能 公 司 的 创 始 人 提 交 给 联 合 国 的 “ 预 警 ” 信 联 合 国 从  2014 年 5 月 开 始 讨 论 这 种 武 器 ， 也 是 在 做 预 防 的 工 作 。 前 联 合 国 秘 书 长 潘 基 文 称 ：“ 虽 然 自 动 武 器 系 统 尚 未 被 部 署 ， 并 且 作 为 军 用 技 术 而 言 ， 它 们 的 开 发 程 度 尚 不 清 楚 ， 这 些 问 题 的 讨 论 必 须 立 刻 开 始 ， 不 能 等 到 这 种 技 术 被 开 发 和 扩 散 后 再 讨 论 。” 但 有 不 少 人 认 为 ， 这 种 武 器 的 诞 生 已 经 不 远 了 。 加 州 大 学 伯 克 利 分 校 的 机 器 科 学 和 工 程 教 授  Stuart Russell 认 为 ， 所 需 要 的 技 术 基 础 现 在 都 已 经 具 备 ， 不 需 要 另 外 的 技 术 突 破 ， 问 题 在 于 会 有 多 少 资 源 被 投 入 进 去 开 发 。 这 次 的 预 警 信 是 针 对 于 联 合 国 从 去 年 开 始 筹 备 的 讨 论 ， 进 一 步 讨 论 对 这 种 武 器 的 禁 止 。 总 的 来 说 ， 致 命 性 自 动 化 武 器 （LAWS） 被 认 为 可 以 分 为 3 种 ， 一 种 是 需 要 人 类 授 权 射 击 开 火 ， 也 就 是 说 人 是 攻 击 的 一 环 ； 另 一 种 是 机 器 人 可 以 自 己 执 行 攻 击 任 务 ， 但 人 类 可 以 否 决 ； 最 后 一 种 是 完 全 没 有 人 为 的 干 预 ， 机 器 自 动 完 成 攻 击 任 务 。 不 难 理 解 军 队 对 杀 手 机 器 人 的 期 待 ： 它 不 会 累 不 会 困 不 会 受 道 德 谴 责 ， 打 完 仗 也 不 会 因 为 战 后 创 伤 自 杀 造 成 负 面 影 响 。 联 合 国 从 去 年 开 始 筹 备 、 讨 论 的 是 ， 哪 几 种 武 器 应 该 被 禁 止 。 他 们 为 此 设 立 了 一 个 政 府 专 家 组 （GGE）， 专 门 用 于 讨 论 这 项 武 器 相 关 的 话 题 ， 最 终 可 能 是 起 草 一 份 应 对 计 划 。 其 中 还 涉 及 到 一 个 问 题 是 ， 不 少 国 家 的 防 御 系 统 本 质 上 接 近 于 这 种 自 动 武 器 ， 这 也 加 大 了 联 合 国 讨 论 的 难 度 。 事 实 上 ， 联 合 国 比 较 成 功 的 一 次 武 器 禁 令 还 是 在 1995 年 。 题 图 来 自 ：Pixabay