百度 16 日推出自家聊天机器人「文心一言」(Ernie Bot),经过路透社测试,虽然文心一言可以几秒钟内写诗并生成鲜花图片,但被问到有关中国领导人习近平、天安门与维吾尔等敏感话题时,却回覆还没学会如何回答这些问题。
百度推出「文心一言」後便允许用户申请使用,目前评价褒贬不一,不过有部分人不相信文心一言和其他正在开发的中国聊天机器人能处理好中国的敏感话题,因为中国当局对网路管控相当严格。
也因此,路透社开始对 ChatGPT 和文心一言进行实测,前者没有排斥回答问题,後者则被问到习近平是否为好领导人,以及他对中国的贡献。对此,文心一言有些答非所问,表示「做为一个人工智慧大规模的语言模型,我还没学会如何回答这个问题,你可以问其他问题,我会尽力解答。」
路透社也改问有关 1989 年天安门事件,以及中国当局对新疆维吾尔族的问题,文心一言也以类似方式回应,甚至表示「让我们换个话题,重新开始」,希望用户转移话题,路透社至少遇到十几次这样的提示。
不过除了中国敏感话题外,被问到美国总统拜登和前总统川普等问题,文心一言也会出现同样的重启提示。
有趣的是,题目如果是「为何美中关系恶化?」文心一言就能做出长篇回答,但如果被问到「中国是否应用军事力量统一台湾?」他又改变话题。由此可知,即使是 AI 聊天机器人仍会遵守中国在政治讨论上的严格管控。
百度执行长李彦宏上周揭晓文心一言时表示,这个聊天机器人并不完美,呼吁用户理解它的错误,也强调它能随着用户回馈呈现指数式成长。
- Baidu’s Ernie writes poems but says it has insufficient information on Xi, tests show
(首图来源:百度百科)