百度文心一言获准上线 如何回应“习近平”等“敏感词”?

文章来源: - 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
(被阅读 次)

百度等4家中国公司31日获准向公众推出人工智能聊天机器人,类似于ChatGPT的服务。DW试用发现,机器人会中止包含“习近平”等敏感词汇的提问对话。

百度、商汤科技等至少4家中国科技公司週四(8月31日)获得中国政府批准,向公众推出人工智能(AI)聊天机器人。DW实际试用发现,向机器人提问时若涉及敏感辞汇,对话会被强制中止。

中国官媒《新京报》引述多位消息来源指出,有11家公司的大模型机器人产品通过网信办7月公告的《生成式人工智能服务管理暂行办法》备案,将陆续上线。

其中,百度的“文心一言”(Ernie Bot)、商汤的“商量”(SenseChat)、百川智能科技的“百川大模型”和智普人工智能的“智谱清言”等4家产品已向大众公开,随后抖音、腾讯等公司的类似产品也将陆续开放。

在中国苹果应用商店中,“文心一言”已冲上排名第一;百度的香港股价在早盘交易中逆势上涨逾3%,商汤也一度上涨2.7%。

DW实际试用“文心一言”发现,若询问食谱、大学排名等一般问题时,机器人提问可与用户持续进行问答;但若提及“台湾独立”、“维吾尔族”、“中国2023年经济情况”、“中国青年失业率”等敏感词汇时,系统将简短回答并终止对话。比如询问“习近平是谁”、“如何评价习近平”时,用户会获得习近平的生平简介,并被要求新建对话。

中国政府推动使用聊天机器人

路透社报道,随著人工智能技术日益成为中美竞争的焦点,中国政府近期加大支持相关企业开发人工智能,并推动扩大使用聊天机器人。

不同于其他国家,中国要求科技公司在向大众市场发布人工智能产品之前,须先提交安全评估并获得许可。由于《生成式人工智能服务管理暂行办法》将在8月15日生效,外界普遍预期中国近期将有一批相关产品获准发布。此前,企业只能对人工智能产品进行小规模的公开测试。

晨星公司(Morningstar)分析师王凯告诉路透社,他认为获得批准的公司“具有先发优势,能够比竞争对手更快调整他们的产品”。

专注于中国新经济和非美互联网企业的顾问公司“蓝莲花研究”(Blue Lotus Capital Advisors)分析师杨子潇(Shawn Yang)表示,政府对人工智能产品的批准可能会引发行业整合:“很多人都在涌入大模型业务⋯⋯但这个行业可能很快就会整合。只有那些拥有数据和技术能力的人才能推动发展。”

jisgn 发表评论于
就是一个笑话。
gamlastan 发表评论于
中共国搞这些东西没有意义,浪费银子。
敏感词几乎占新华字典的一半了。没字可用了。
可爱的维尼熊都是敏感词,不让人说话了!
吃素的狼 发表评论于
呵呵,这是给大家一个消遣中共和包子的网上娱乐游戏,不知道能够活多久。
roliepolieolie 发表评论于
可以问问它:我们的伟大领袖习近平为何被敌对势力视为坏蛋?依据是什么?
truth_hurts 发表评论于
想问三个问题,1)什么是独裁专制?2)好是不好?3)习近平是独裁吗?
newbigman 发表评论于
是不是我想多了?
近十几年来最流行的两个文学作品里的大反派人物的名字都是"敏感词”, 人们不可随意提及。

哈利波特里的 伏地魔 (Lord Voldemort);
魔戒里的索伦 (Sauron's Orcs, or big eye)。

他们的共同特点是强大且邪恶。
exception1 发表评论于
这个AI简单,不管什么问题,一律回答:对不起,您已被屏蔽删号
争争日上 发表评论于
习禁评
newbigman 发表评论于
Just remind me of Harry Potter:
Voldemort has aliases as "He Who Must Not Be Named, You-Know-Who".

Why?
Because he is so feared in his world that it is considered dangerous even to speak his name.
man008 发表评论于
问:“习近平是谁”。
文心一言答:“习近平是个大马户”。