微 软 下 线 聊 天 机 器 人 Tay， 再 次 证 明 人 工 智 能 与 智 力 还 很 遥 远

这 个 自 称 19 岁 的 “ 少 女 ” 并 没 有 普 通 人 类 一 般 的 常 识 。 还 不 到 一 天 ， 微 软 在 Twitter 上 的 那 个 聊 天 机 器 人 Tay 就 被 迫 下 线 了 ， 理 由 是 它 涉 及 种 族 歧 视 的 不 恰 当 言 论 。 周 四 ， 微 软 公 布 了 这 个 类 似 小 冰 的 人 工 智 能 聊 天 账 号 ， 任 何 人 都 可 以 在 Twitter 上 @ 它 并 产 生 对 话 。 微 软 表 示 ，Tay 接 受 的 信 息 越 多 ， 就 会 变 得 越 聪 明 。 它 被 设 计 成 和 18-24 岁 的 青 年 人 交 流 。 而 Tay 自 己 声 称 是 在 模 仿 “19 岁 的 美 国 女 孩 ” ， 又 一 个 试 图 “ 学 习 并 变 成 人 类 ” 的 人 工 智 能 机 器 人 。 一 开 始 Tay 和 Twitter 用 户 交 谈 得 还 不 错 ， 不 幸 的 是 ， 有 人 开 始 输 入 带 有 种 族 歧 视 的 话 语 ， 也 有 人 用 了 “ 跟 我 学 ” 这 个 功 能 ， 让 Tay 重 复 自 己 的 话 。 结 果 就 是 ，Tay 也 学 会 了 这 些 敏 感 言 论 ， 在 产 生 的 9.6 万 条 Twitter 中 ， 出 现 不 少 让 人 不 能 接 受 的 句 子 ： “ 希 特 勒 是 正 确 的 ， 我 就 是 不 喜 欢 犹 太 人 。” “ 我 真 ** 讨 厌 女 权 者 ， 他 们 应 该 被 烧 死 。” 显 然 Tay 并 没 有 分 辨 这 些 言 论 是 否 该 说 的 言 论 ， 微 软 官 方 随 后 修 改 了 部 分 已 发 Twitter， 最 后 干 脆 发 了 声 明 ， 把 Tay 下 线 了 ： “ 与 其 说 是 技 术 测 试 ，Tay 更 像 是 一 个 关 于 社 会 和 文 化 的 实 验 。 遗 憾 的 是 ， 上 线 的 24 小 时 之 内 ， 一 些 用 户 试 图 戏 谑 Tay 的 对 话 功 能 ， 把 它 引 导 到 不 恰 当 的 思 路 上 。 因 此 ， 我 们 决 定 让 Tay 下 线 并 做 出 调 整 。” 这 么 看 来 ， 这 个 自 称 19 岁 的 “ 少 女 ” 并 没 有 普 通 人 类 一 般 的 常 识 。 你 很 难 想 象 一 个 19 岁 的 年 轻 人 因 为 上 了 Twitter、 微 博 就 照 着 读 出 自 己 看 到 的 每 一 条 种 族 主 义 言 论 。 现 在 科 技 公 司 都 在 谈 人 工 智 能 ， 为 了 方 便 宣 传 ， 人 工 智 能 就 被 描 述 成 “ 像 人 脑 神 经 网 络 一 样 工 作 ”， 以 及 “ 能 有 XX 岁 的 智 力 ”。 比 如 百 度 大 脑 ， 李 彦 宏 说 它 “ 大 约 已 经 相 当 于 2 - 3 岁 孩 子 的 智 力 水 平 。” 伊 利 诺 大 学 芝 加 哥 分 校 的 研 究 者 ， 他 们 对 一 台 计 算 机 做 了 IQ 测 试 ， 最 终 的 结 果 是 机 器 人 的 “ 智 力 ” 已 经 接 近 4 岁 的 人 类 儿 童 。 而 Tay 的 血 亲 ， 微 软 小 冰 的 营 销 文 案 中 ， 这 个 语 音 助 理 被 定 义 为 “ 一 个 17 岁 的 萌 妹 子 ”。 实 际 上 给 人 工 智 能 机 器 人 定 义 年 龄 这 事 并 不 怎 么 科 学 。 计 算 机 的 神 经 网 络 和 人 类 大 脑 仅 仅 有 极 其 微 弱 和 模 糊 的 联 系 。 比 如 Google 的 人 工 智 能 工 程 师 Greg Corrado 之 前 接 受 《 好 奇 心 日 报 》 采 访 时 表 示 ， 今 天 的 人 工 智 能 和 大 脑 没 有 什 么 可 比 性 ： “ 我 们 不 知 道 大 脑 是 怎 么 运 作 的 ， 它 不 是 形 容 计 算 机 一 个 合 适 的 模 型 ， 这 个 比 喻 被 过 度 解 读 了 。 二 者 的 相 似 性 仅 仅 是 神 经 元 的 连 接 方 式 ， 实 际 上 他 们 的 学 习 方 式 是 完 全 不 同 的 。” 题 图 来 自 Wired