人 工 智 能 专 家 签 署 了 保 护 人 类 声 明 ， 问 题 来 了

就 像 那 些 看 起 来 很 有 用 的 “ 哄 女 朋 友 的 二 十 一 条 ”， 但 首 先 你 得 有 个 女 朋 友 。 距 离 科 幻 小 说 家 阿 西 莫 夫 提 出 “ 机 器 人 三 定 律 ” 已 经 过 去 了 七 十 多 年 。 近 日 ， 又 一 封 以 保 护 人 类 为 目 的 的 声 明 出 现 了 。 这 封 声 明 由 人 工 智 能 研 究 领 域 内 的 专 家 联 合 签 署 ， 而 不 是 出 自 科 幻 小 说 家 或 是 科 技 社 会 学 家 之 手 。 这 封 公 开 信 呼 吁 人 工 智 能 （AI） 领 域 的 研 究 在 技 术 的 提 升 之 外 ， 还 要 关 注 人 工 智 能 的 社 会 效 应 ， 将 其 尽 可 能 地 最 大 化 ， 建 议 接 下 来 的 相 关 研 究 同 时 保 证 AI 系 统 的 智 能 和 社 会 效 益 ， 也 就 是 说 ， 保 证 人 工 智 能 只 做 人 类 想 要 它 们 做 的 事 。 在 公 开 信 之 外 ， 还 附 加 了 一 份 研 究 优 先 文 件 ， 涉 及 法 律 、 哲 学 、 经 济 、 信 息 安 全 、 范 式 以 及 人 工 智 能 研 究 的 多 个 研 究 分 支 。 已 经 在 这 封 公 开 信 上 签 名 的 专 家 包 括 物 理 学 家 史 蒂 夫 · 霍 金 、《 人 工 智 能 ： 一 种 现 代 方 法 》 的 作 者 Stuart Russell、 美 国 人 工 智 能 主 席 Tom Dietterich、 微 软 雷 蒙 研 究 院 院 长 Eric Horvitz、 人 工 智 能 开 发 公 司 DeepMind 创 始 人 、Facebook 人 工 智 能 实 验 室 负 责 人 Yann LeCun、Space X 创 始 人 Elon Musk， 此 外 还 有 在 人 工 智 能 、 机 器 学 习 等 领 域 进 行 研 究 的 教 授 、 学 生 和 研 究 者 。 公 开 联 署 仍 在 继 续 ， 加 入 这 项 宣 言 的 研 究 者 为 数 不 少 ， 至 少 鼠 标 往 下 拉 了 一 屏 又 一 屏 也 没 有 到 头 。 如 果 你 也 认 同 这 样 的 想 法 ， 可 以 在 生 命 未 来 研 究 所 （Future of Life Institute ，FLI） 的 网 站 上 留 下 签 名 。 自 人 工 智 能 这 个 概 念 出 现 以 来 ， 人 们 就 一 直 在 担 心 人 工 智 能 的 侵 袭 ， 就 像 人 们 从 机 器 人 远 未 成 型 之 前 就 开 始 担 心 机 器 可 能 会 占 领 世 界 。 在 这 一 点 上 ， 研 究 者 和 从 业 人 士 的 未 雨 绸 缪 几 乎 都 反 应 在 类 似 《 终 结 者 》 之 类 的 电 影 、 文 学 作 品 上 。 比 如 Space X 和 特 斯 拉 的 创 始 人 Elon Musk 就 多 次 在 推 特 和 演 讲 中 强 调 人 工 智 能 的 未 来 发 展 中 存 在 着 巨 大 的 威 胁 ，“ 它 们 也 许 比 核 武 器 更 加 危 险 ”。 提 出 声 明 的 生 命 未 来 研 究 所 就 是 在 这 样 的 背 景 下 ， 由 一 群 数 学 家 和 计 算 机 学 家 倡 议 成 立 的 志 愿 研 究 组 织 ， 它 们 的 研 究 目 的 就 是 减 轻 人 工 智 能 发 展 中 可 能 存 在 的 危 险 。 人 工 智 能 可 能 具 有 强 大 的 能 力 ， 却 缺 失 如 人 类 一 般 的 应 急 判 断 能 力 、 人 情 味 以 及 爱 。 那 些 伦 理 学 、 社 会 学 的 问 题 相 应 而 来 ， 在 电 影 Her 中 ， 那 位 人 工 智 能 主 角 这 样 表 达 “ 她 ” 的 爱 ：“ 我 爱 的 越 多 ， 才 能 爱 你 越 多 。” 机 器 智 能 通 过 深 度 学 习 来 获 得 关 于 “ 爱 ” 的 信 息 ， 她 可 以 同 时 “ 爱 ” 六 百 多 个 人 ， 而 人 却 很 难 接 受 这 一 点 。 比 起 这 些 文 艺 的 问 题 ， 人 们 更 担 心 超 级 智 能 或 是 超 级 机 器 可 能 带 来 的 危 险 ， 问 题 是 ， 现 在 的 人 们 是 不 是 有 些 担 心 地 过 头 了 ？ 在 考 虑 “ 人 工 智 能 可 能 多 危 险 ” 之 前 ， 也 许 应 该 先 考 虑 “ 人 工 智 能 离 我 们 还 有 多 远 ” 这 个 更 基 础 的 问 题 。 如 日 本 大 阪 大 学 智 能 机 器 人 实 验 室 的 Hiroshi Ishiguro 教 授 来 说 ， 机 器 人 就 应 该 越 像 人 类 越 好 ， 东 芝 在 刚 刚 结 束 的 美 国 消 费 电 子 展 上 也 推 出 了 高 仿 真 机 器 人 ， 尽 管 活 动 的 灵 活 性 和 沟 通 能 力 并 不 高 ， 这 些 以 “ 模 仿 人 类 外 表 ” 为 目 的 的 机 器 人 已 经 走 上 了 “ 复 活 蜡 像 馆 ” 一 般 的 不 归 路 。 至 于 让 机 器 像 人 脑 一 样 思 考 ， 还 不 在 它 们 的 学 习 范 围 内 。 On Intelligence 一 书 的 作 者 Jeff Hawkins 则 认 为 那 些 试 图 用 中 央 处 理 器 去 模 拟 大 脑 “ 计 算 ” 的 研 究 基 本 上 都 走 错 了 路 ， 现 有 的 研 究 离 理 解 “ 大 脑 是 如 何 工 作 ” 以 及 制 造 出 “ 像 大 脑 一 样 工 作 的 机 器 ” 也 还 远 得 很 。 现 在 ， 我 们 也 许 可 以 看 到 构 成 真 正 智 能 的 一 些 方 面 有 了 一 定 的 进 展 ， 比 如 图 像 识 别 、 语 音 识 别 、 文 字 识 别 等 等 ， 从 手 机 、 家 居 、 工 具 、 自 行 车 乃 至 平 底 锅 都 被 冠 上 了 “ 智 能 ” 的 名 字 ， 却 没 有 一 个 完 全 的 智 能 体 将 这 些 割 裂 开 的 系 统 组 合 起 来 。 我 们 已 经 用 上 了 机 械 手 臂 组 装 部 件 ， 用 上 了 能 够 预 置 轨 迹 的 机 器 人 进 行 运 输 ， 用 上 了 大 型 科 学 计 算 软 件 帮 助 我 们 更 快 的 搜 索 ， 但 是 那 个 帮 助 人 类 将 这 些 感 官 、 手 足 、 感 觉 联 系 起 来 的 “ 大 脑 ” 仍 未 出 现 。 换 句 话 说 这 些 令 人 担 心 的 人 工 智 能 还 没 什 么 智 能 ， 不 过 是 工 具 而 已 。 人 工 智 能 专 家 签 署 这 个 声 明 就 和 研 究 汽 车 的 专 家 一 起 签 署 汽 车 将 保 护 人 类 声 明 一 样 。 15 世 纪 时 ， 阿 兹 克 特 人 将 从 未 见 过 的 西 班 牙 人 当 作 “ 白 色 的 天 神 ”， 在 火 车 刚 刚 出 现 的 时 候 ， 人 们 将 它 称 为 “ 铁 马 ”， 也 许 在 人 类 真 正 害 怕 的 那 种 “ 智 能 ” 出 现 的 时 候 ， 我 们 会 忘 记 ， 它 们 曾 经 被 叫 做 “ 人 工 智 能 ”。 在 此 之 前 ， 我 们 已 经 想 象 过 无 数 次 人 工 智 能 可 以 做 些 什 么 以 及 可 能 做 些 什 么 不 利 于 人 类 的 事 ， 那 么 ， 首 先 ， 让 我 们 期 待 一 下 真 正 的 “ 人 工 智 能 ” 出 现 的 那 一 天 。 题 图 来 自 Boston Magazine