刘全稳的博客分享 http://blog.sciencenet.cn/u/liu005777 只说我拿得准的只写我理解透的

博文

ChatGPT的执拗 精选

已有 3856 次阅读 2023-2-13 07:14 |个人分类:随笔|系统分类:观点评述

——刘全稳

 

最近,ChatGPT很火,我也与它交流的几个问题。

1.  聊天记录

先看我的问题和它的回答:

 1.jpg

2. 存在的问题:

    2.1 不能区分是疑问句还是反问句 

我的问题“老聃在前621年就任甘礼官了”,明显是一个反问句,ChatGPT只当是又一个新的疑问句进行搜集资料回答问题。如果智能一些,它应该先做反问句判断。

本句属于反问句的依据:

你不是回答老聃与孔子有相当长时间的重叠吗,还指出了孔子生活在公元前551年—前479年,老聃活了大约80多岁,为什么老聃在前621年就任春秋时代甘国礼官了?

再看ChatGPT的回答,明显是当作疑问句了,首先对问句的时间问题进行了依据新资料的纠正,再依据新资料进行回答。

    2.2 组织答案“并而总之”,不能发现自身错误 

不能区别各份独立资料存在的合理性,也就是说,ChatGPT预设了一个“所有资料都是正确的,并且都等于1”前提。

“老聃生于夏朝”“老聃活了80多岁”,“在公元前621年,老聃就任甘国礼官”“老聃最早在公元前628年就任甘礼官”明显是各自独立存在的资料,ChatGPT一次只能选择一个加以呈现,当你反复就此提问时,它就露出了原形。

在公元前628年就已经取得甘国的职位的老聃显然比孔子早生,孔子生于前551年、卒于前479年,ChatGPT也做出了明确判断,可是ChatGPT还要安排他两共同出现在公元前479年。

    2.3 面对复杂问题,答案缺少逻辑性、合理性

就古人来讲,ChatGPT没有预设判断:①人的生命≤N;②人的活动时空;③人群及其朋友圈;④人的传世作品;⑤多人同名比较;⑥人的习惯用语;⑦人使用器材分类;⑧人的喜爱偏好;⑨人的特别标记等等。

这些条件搞清了,一些简单的逻辑错误、不合理现象就可以基本排除。

    2.4 只有原生数据,不见衍生数据,不够智能

如果ChatGPT拥有衍生数据,它在回答我的反问句时就应该不会再就甘国职位提供新材料了。再者,你已经回答了老聃在公元前521年去世,就不应该再回答孔子分别在公元前520年、公元前519年、公元前516年、公元前513年又问老聃。

    2.5 缺少鉴别、加权与舍弃

机器人只能根据所拥有的资料来回答资料中可以拟合出来能对应问题的答案,对资料中多次出现的相关“答案”,ChatGPT没有进行鉴别、加权与舍弃。

如不能鉴别出“老聃生于夏朝”属于孤立无援的数据,应该删减“老聃生于夏朝”“老聃死后还出现会面”等超出合理范围的答案。

    2.6 发掘资料程度明显不够深入

对司马迁《史记》、高亨、唐兰等大家作品,显得搜集、识别、整理、占有不够。尤其是对一些古典典籍资料开发不够。如老聃曾经就任周守藏室之史,是最为著名的却不见。

因而,答案的权威性不够。

3. 建议

3.1 优化资料搜索整理分析判断条件设置,尤其是对古典名人名事。

3.2 在不能做出明确判断的前提下,建议将所有搜集到的资料,按最先出现的顺序提供十条加可选择的呈现方式进行互动。

3.3 以一份资料占一个神经元计,多个神经元提供的信息应该赋予不同的权重,以“老聃”为例,《史记》所提供的信息、高亨、唐兰的观点,和现今本硕博学位论文信息,秘闻、野史信息,可信度是完全不一致的。ChatGPT目前可能在做文本分析时,神经网络结构没有区别。还有,对于10本博士学位论文和100本硕士学位论文提到的相同内容,怎么加强网络学习并加以区别,或者,对于因抄袭、引用、重发等出现同一内容增发现象,ChatGPT应该可以设计出很好的处理方法。

3.3  ChatGPT如何将自己搜寻到的相关条件资料,形成知识,再作为条件资料处理后面问题,值得考虑,绝大多数人可能多次提一组相关问题。

3.4 不要轻易回答“不对”。我提出的是反问句,是因为发现了ChatGPT答案中的“不对”,而你的回答说“不对”,是把我的反问当作是一个刚刚什么也没有发生的疑问,作为一个全新的问题,进行了以新资料为依据的判断,让人首先感觉到“反感”“执拗”“错误”,产生抵触情绪,幸好人可以思考“这是怎么产生的情况”。

3.5 图像识别文字、敏感词的归位、抄袭与重复资料,这些重要的信息、资料、知识应该加以重视利用。

4. 评论

4.1 ChatGPT目前回答问题还不具有一步到位的智能,不能先按反问句回答,再按疑问句回答,最后差一句“您对结论还算满意吧”。

4.2 对于是一组问题还是一个问题,ChatGPT明显缺少智能性,总是一味地展示它的搜集资料能力。

4.3 目前ChatGPT还不能比较与鉴别出自己答案中本身存在的问题,比如时间上的合理性,一个人不可能活着跨越3个世纪。

4.4  ChatGPT目前在消化中文资料方面还不够智能。

如果老子与孔子同时代,老子享年80多,孔子享年73,老子在公元前7世纪就已取得甘国礼官任职,那他绝对不可以出生于夏朝,也不可以覆盖孔子的卒年。

5. 结论

5.1 目前ChatGPT的“智能性”——智还可以,能还不行。

5.2  ChatGPT最大的好处就是查询资料结果相对宽广。

5.3  ChatGPT还任重道远。




https://blog.sciencenet.cn/blog-630142-1375984.html

上一篇:杂感养老
下一篇:[转载]地球动力学新理论序言
收藏 IP: 117.61.104.*| 热度|

10 许培扬 周小洁 郑永军 尤明庆 郑强 李剑超 杨顺楷 宁利中 朱林 杨正瓴

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-4-28 14:09

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部