想 靠 讲 故 事 让 人 工 智 能 拥 有 人 性 ， 你 们 也 是 naive

虽 然 这 讲 故 事 的 方 法 其 实 还 挺 科 学 ， 但 是 科 学 家 们 ， 你 们 也 是 太 藐 视 人 性 的 复 杂 了 。 不 管 你 对 未 来 持 何 观 点 ， 有 一 批 人 的 想 法 是 这 样 的 ： 鉴 于 AI 的 智 慧 很 可 能 在 几 十 年 内 全 面 超 过 我 们 ， 为 了 让 到 时 候 已 不 可 控 制 的 人 工 智 能 不 至 于 “ 野 蛮 地 屠 杀 我 们 ” ， 它 们 必 须 得 到 “ 教 化 ”。 基 于 这 样 的 观 点 ， 来 自 乔 治 亚 理 工 的 Mark Riedl 和 Brent Harrison 正 尝 试 用 讲 故 事 的 方 式 来 教 化 AI 的 “ 人 性 ”。 这 个 叫 做 Quixote 的 项 目 是 Riedl 另 一 个 早 期 项 目 的 Scheherezade 的 续 集 和 再 版 。Scheherezade 旨 在 通 过 任 务 众 包 的 合 作 方 式 将 一 个 个 故 事 分 解 成 情 节 变 化 和 发 展 的 逻 辑 节 点 —— 这 件 事 要 给 文 学 爱 好 者 知 道 ， 恐 怕 又 是 一 场 纷 纷 的 争 议 。 在 我 们 评 论 这 个 做 法 是 否 可 行 之 情 ， 我 们 县 看 看 它 的 具 体 原 理 。 在 Quixote 中 ， 他 们 先 利 用 Scheherezade 将 许 多 案 例 故 事 绘 制 成 包 含 各 个 情 节 元 素 的 结 构 图 ， 然 后 再 通 过 不 同 元 素 组 合 绘 制 出 一 条 “ 最 可 靠 ”（ 也 就 是 最 道 德 、 最 人 性 ） 的 路 径 。 基 于 此 ， 情 节 元 素 的 不 同 选 择 被 转 换 成 了 一 个 个 “ 节 点 事 件 ”， 而 这 些 节 点 最 终 构 成 一 个 节 点 树 。 在 每 棵 节 点 树 上 ，Riedl 和 Harrison 都 会 给 每 个 节 点 赋 予 不 同 的 奖 励 点 数 ， 从 而 引 导 并 训 练 人 工 智 能 始 终 走 在 “ 正 确 ” 的 道 路 上 。 也 就 是 说 ， 教 机 器 人 做 一 个 游 戏 ， 善 良 点 的 那 些 呢 ， 得 分 更 高 ， 恶 的 那 些 呢 ， 就 不 太 高 。 为 了 成 为 学 霸 ， 机 器 人 必 须 选 择 善 良 。 啊 ， 这 或 许 是 一 个 比 较 肤 浅 的 解 读 ， 但 就 目 前 获 得 的 信 息 来 看 ， 的 确 也 是 一 个 肤 浅 的 项 目 。 如 果 人 性 可 以 转 化 成 逻 辑 问 题 从 而 规 避 恶 的 那 一 面 ， 那 这 个 世 界 怎 么 会 变 成 今 天 的 样 子 ！ 人 性 最 著 名 的 特 点 ， 难 道 不 是 “ 这 个 不 好 说 ” 吗 ， 一 些 从 前 认 为 是 恶 的 东 西 ， 现 在 早 就 转 换 了 观 念 ， 最 经 典 的 就 是 LGBT 问 题 。 有 些 人 或 许 会 建 议 仅 仅 从 普 世 价 值 的 角 度 去 看 待 这 个 机 器 人 培 训 课 ， 但 是 我 们 进 行 这 个 探 讨 的 前 提 ， 恰 恰 是 人 类 的 智 商 不 足 以 控 制 人 工 智 能 的 时 候 。 所 以 不 仅 要 考 虑 普 世 问 题 ， 还 要 考 虑 大 量 灰 色 地 带 。 这 样 的 话 ， 就 好 像 人 类 抓 着 头 发 要 离 开 地 球 一 样 。 如 果 机 器 人 的 善 恶 都 是 你 教 的 ， 你 自 己 都 没 搞 清 楚 的 事 情 ， 怎 么 能 指 望 它 们 能 守 规 矩 呢 ？ 讲 故 事 就 更 帮 不 上 忙 了 。 图 片 来 源 ： engadget