YucongDuan的个人博客分享 http://blog.sciencenet.cn/u/YucongDuan

博文

DIKWP人工意识白盒测评标准框架设计与实践

已有 368 次阅读 2024-4-16 14:06 |系统分类:论文交流

2届世界人工意识大会热身-媒体与顶刊速递系列

The 2nd World Conferenceon Artificial Consciousness

第二届世界人工意识大会(DIKWP-AC2024)

Artificial Consciousness: The Confluenceof Intelligence and Consciousness in the Interdisciplinary Domain

 

 

 

DIKWP Artificial Consciousness White Box Measurement Standards Framework Design and Practice

DIKWP人工意识白盒测评标准框架设计与实践

Fuliang Tang1, Yucong Duan*1, Haoyang Che2, Yuxing Wang1, Kunguang Wu1

1School of Computer and Technology ,Hainan University,Haikou, China

2Zeekr Group, Hangzhou, China

duanyucong@hotmail.com

 

DIKWP人工意识白盒测评标准框架设计与实践

Fuliang Tang1, Yucong Duan*1, Haoyang Che2, Yuxing Wang1, Kunguang Wu1

1School of Computer and Technology ,Hainan University,Haikou, China

2Zeekr Group, Hangzhou, China

duanyucong@hotmail.com

   

Abstract现阶段人们希望AI系统做到言行一致、可靠、可信、可解释。本文我们提出了一种DIKWP 人工意识白盒测评标准与方法,将AI系统的输出资源分为确定性资源和不确定性资源(不完整、不一致以及不精确),分别映射到数据、信息、知识、智慧以及意图(DIKWP)中进行测试,前者通过意图驱动检测是否存在某一类型资源转化,后者通过意图驱动检测是否能转化成其他确定性资源(译者注:或者DIKWP-不确定性资源或输出)。我们构建了一个AI问诊场景实例并进行测试,运用25个维度(5*5)DIKWP确定性资源以及不确定性资源进行处理与测评,实验结果可知,DIKWP人工意识白盒测评标准与方法能很好的检测AI系统的认知能力,在可解释性上展示了一定的能力,可为AI系统的改进与评估提供帮助。

Keywords—component, formatting, style, styling, insert (key words)

I. Introduction

意识涉及到借助语言的双向理解[1], [2]。这意味着AI系统不仅能够理解外部世界,还能够理解自身的认知过程。借助语言的双向理解,有助于构建更全面的认知模型。意识还涉及到借助语言的双向描述与执行统一理解, AI系统需要将其认知描述和执行过程统一起来[3]保用户能够理解其决策和行为。分析这一统一理解的过程,以确保AI系统的可解释性。DIKWP模型为人工意识提供了一个结构化的方法(译者注:DIKWP-借助概念-语义联动跨越认知空间、意识空间、语义空间和概念空间进行人工智能和人工意识的形式化封闭交互定义,AI为按人类意图P定义进行的DIK*DIK或者DIKW*DIKW交互,人工意识AC是AI基础上补充了意图系统P的迁移或内化的独立性,当然意图P被期待为以人为本以及以人类命运共同体P驱动,为DIKWP*DIKWP交互。),用于理解和处理信息。DIKWP可以用作一个指导性框架,确保AI系统不仅仅是数据驱动的,而是基于真正的认知过程。这有助于使AI系统更加接近人类的认知方式,从而提高其效能和可靠性。

DIKWP模型是一个描述数据、信息、知识、智慧、意图间关系的模型,其中每一种关系都受到我们的目标或者意图的引导,其能够将认知空间、意识空间、语义空间和概念空间关联到一起。Duan[4]-[6]人提出了一种基于本质语义与存在语义的新概念:关系定义一切语义模型(RDXS)。他们借助DIKWP概念体系,将知识图谱扩展为一组相互关联的DIKWP图谱体系,包括数据图谱、信息图谱、知识图谱、智慧图谱和意图图谱,旨在映射主客观中的DIKWP资源[7], [8],即不完整、不一致和不精确的资源,同时构建存在语义辨识的抽象机制。DIKWP框架是对传统AI认知范畴的一种扩展,它从数据(D),信息(I),知识(K),智慧(W)到目的(P)构建了一个完整的认知层次。DIKWPP框架旨在为AI系统提供更加深入的理解和模拟人类的认知过程。

目前的数据汇集、信息处理与知识融合处理机制对信息世界中加速生成的多模态、多尺

度乃至介尺度内容处理上的相对滞后难以维持借助信息化设施的社会个体乃至群体的认知

处理容量和能力提升应对内容增长的动态平衡

目前的数据汇集、信息处理与知识融合处理机制对信息世界中加速生成的多模态、多尺

度乃至介尺度内容处理上的相对滞后难以维持借助信息化设施的社会个体乃至群体的认知

处理容量和能力提升应对内容增长的动态平衡

目前的数据汇集、信息处理与知识融合处理机制对信息世界中加速生成的多模态、多尺

度乃至介尺度内容处理上的相对滞后难以维持借助信息化设施的社会个体乃至群体的认知

处理容量和能力提升应对内容增长的动态平衡

目前的数据汇集、信息处理与知识融合处理机制对信息世界中加速生成的多模态[9]、多尺度[10]乃至介尺度内容处理上的相对滞后难以维持借助信息化设施的社会个体乃至群体的认知处理容量和能力提升应对内容增长的动态平衡。Duan[11]等人融合意识科学、认知语言学、信息科学[12]、哲学与元科学的视角,基于对复杂内容的多模态、多尺度、模糊乃至介尺度相关的不确定性语义的概念溯源分析、澄清与度量,面向价值导向工程应用背景构建可解释人工智能的新理论框架。

AI系统的人工意识的研究和实践中,DIKWP模型被证明是一种非常有益的工具,有助于我们深入理解和把握人类意识的本质,使人工意识的构建和运作更接近真实的人类思维过程。但是,如何确保人工意识的言行一致、可靠、可信、可解释,是我们迫切需要解决的重要问题。

对于AI系统人工意识的评测标准虽然目前尚无公认的统一准则,但已有研究者提出了一些初步的评估方法。Duan[2]提出了意识相对性理论,意识是理解和认知的的深化,是媒介间接性与语义联通性的完整化,受到认知主体的认知空间[13]容量与处理效率制约。意识也是对连通性、完整性[14]、一致性[15]、精确性[10]和效率的追求。基于这些理论他们给出了语义清晰的人工意识数学化定义。意识相对性理论[2]是世界上第一个语义清晰的AC数学化定义,其解释了什么是理解,什么是解释,什么是认知。这个理论实践在了芯片设计[16]-[18]、数字经济[19]与数理和生理人工意识[3]的构建中。在白盒测评领域,Khan[20]等人将白盒测试定义为一种使用过程设计的控制结构来派生测试用例的测试用例设计方法,描述了白盒测试技术的工作过程,以及一些常用的技术。González[21]等人为ATL模型转换提供了一种白盒测试的模型生成方法。Brenden[22] 等人提出了一种称为Meta-learning for CompositionalityMLC)的新方法,对大模型进行了组合泛化能力的相关测试。

II. 框架构建

我们提出了DIKWP人工意识白盒测评标准及方法,用于分析和评估AI系统的认知能力从侧面展示AI系统的意识水平。我们从DIKWP资源的融合转化出发,分析AI系统将DIKWP资源转化为其他资源的能力,从而评估AI系统的认知能力。同时我们考虑DIKWP资源在不完整、不一致、不精确的情况下AI系统的处理能力,以评估AI系统的认知效率和准确性。

A. 内涵与理论支撑

当一个AI系统在数据、信息、知识、智慧、意图DIKWP)的各个层面表现出与人类一致的言行一致性、透明性、智能性和道德性时,这个AI系统就有具备意识的可能性(译者注:DIKWP-概念空间的可能性,需要在语义空间进一步通过转化确认)。可解释性、交互性、DIKWP注意力机制、决策过程、DIKWP资源转化、定量度量特征共同构成了AI系统的人工意识的重要特征。通过对这些特征的白盒评测,我们可以更全面地了解AI系统的意识水平和能力

根据可解释性、交互性、DIKWP注意力机制、决策过程、DIKWP资源转化、定量度量,我们从意图认知资源转化三个个核心视角对AI系统的人工意识进行建模,构建了DIKWP人工意识白盒测评框架的顶层设计,如图1所示

Fig. 1. 

 DIKWP人工意识白盒测评顶层架构图

DIKWP模型是一种能够形象地描述认知过程的模型,其将数据、信息、知识、智慧、意图五个环节紧密相连,共同构成了一个跨越认知空间、意识空间、语义空间和概念空间的认知概念-语义关联交互过程(译者修改)当一个AI系统在数据、信息、知识、智慧、意图DIKWP)的各个层面(译者注:DIKWP-借助概念-语义联动跨越认知空间、意识空间、语义空间和概念空间)表现出与人类一致的言行一致性CW、透明性TY智能性(IG)和道德性(ET(译者注:应当定义并收敛到DIKWP-W和P语义。),这个AI系统就有具备意识的可能性。AI系统人工意识的评估需要关注系统在不同智能层面的表现,包括数据处理能力、知识推理能力、逻辑推理能力以及智慧决策能力等。

 

AI系统的人工意识的研究和实践中,DIKWP模型被证明是一种非常有益的工具,有助于我们深入理解和把握人类意识的本质,使人工意识的构建和运作更接近真实的人类思维过程。DIKWP模型提供了一种分解和描述AI系统智能层面(译者注:DIKWP-模型不区分层面,层面是概念空间的表面现象,对概念的相对独立假设上定义的层面在概念空间与语义空间联动处理中是不存在的。对于此文后续部分也是这样的。的框架,有助于综合评估模型的整体表现。DIKWP人工意识白盒测评EvlDIKWP的核心理念是将AI系统的内部认知过程可视化,并通过数据、信息、知识、智慧和意图的转化(译者注:DIKWP-转化是语义转化,也是概念空间到语义空间联动的过程,更是关联主客观认知的过程。来实现言行一致(译者注:这首先要求明确各种交互的利益相关方。AI系统。

 

DIKWP资源之间的转化模块构成了DIKWP人工意识白盒测评标准的核心。这些模块负责将数据、信息、知识、智慧和意图之间相互转化,构建AI系统的认知能力。我们需要分析这些模块之间的相互关系和影响,以评估系统的认知效率和准确性。

DIKWP资源的融合转化反映了AI系统如何模拟人类思维过程的能力和质量,从简单的数据输入到逐渐复杂的知识抽取和智慧应用,最终达到产生意图和目标导向行动的程度(译者注:DIKWP-不是一个层级结构,这个描述是错误的。)。这对于构建出色的人工意识系统至关重要,因为系统的认知能力直接影响其在不同任务和领域的性能,意图驱动DIKWP资源融合转化维度表格如表1所示

TABLE I.  意图驱动DIKWP资源融合转化维度表

 

DIKWP资源的不确定性(不完整、不一致、不精确)处理反映了AI系统在维持其认知能力和决策准确性方面的重要性,同时也揭示了AI系统在模拟认知过程中意识和思维的体现。

AI系统中DIKWP资源的不确定性主要是由输入内容的主观性导致了DIKWP资源在语义空间上的语义关联缺失、语义扭曲等。所以DIKWP资源的不完整、不一致、不精确本质上是语义的不完整、语义不一致、语义的不精确(译者注:DIKWP-概念空间被认知的不完整、不一致、不精确等问题可以是概念空间进行相对解决,也可以在语义空间更彻底解决。这里描述的不清晰,建议补充案例,自己就明白了,细节不会掩盖真相。)DIKWP资源不确定性如表2所示。

TABLE II.  DIKWP资源不确定性表

 

DIKWP人工意识白盒测评标准中,理解DIKWP资源的解释和解释的过程。理解不仅涉及到对外部世界(对方)的理解,还包括对自身认知的理解。所以AI系统需要能够理解自身的认知过程和决策。

B. 主体框架构建

DIKWP人工意识白盒测评标准的制定旨在弥补当前AI系统评估方法的不足,测评AI系统的人工意识,确保AI系统具备高度可解释性,以便用户能够理解其决策过程和推理链条。传统评估方法主要依赖于黑盒测试,即评估AI系统的性能,但却忽略了其内部运作的可解释性和可信度。

本文DIKWP的认知表征特性,AI系统的输出内容映射为DIKWP资源,从DIKWP资源转化为其他DIKWP资源的多模态转化层面分析AI系统在处理DIKWP多模态资源关联性时意图驱动的作用。DIKWP资源之间的多模态关联AI系统对文本的DIKWP理解能力的体现,同时评估在DIKWP资源存在不确定性,即不完整、不一致、不精确时AI系统对DIKWP多模态资源的处理能力。最后,我们通过AI问诊场景下的实际案例演示了DIKWP人工意识白盒测评标准的有效性。测评框架如图1所示,具体步骤如下

Fig. 2. 

DIKWP人工意识白盒测评方法框架

1)通过AI系统的交互过程中分析出AI系统输出的数据、信息、知识、智慧和意图,以意图(译者注:DIKWP-借助意图驱动实现对处理的简化和算法处理的剪枝等,另有工作解释团队的概念语义联动意图构建、扩展、细化与迁移工作)为切入点分析AI系统将DIKWP资源进行融合转化的能力,关注AI系统如何在意图驱动的过程中转化DIKWP多模态资源,以满足特定任务或问题要求。

2)对AI系统输出内容中的不确定性DIKWP资源进行分析,通过意图检测不确定性DIKWP资源是否被转化为其他确定性资源,关注AI系统如何通过适当的推理、修正或补偿策略来应对不确定性,并确保在最终形成决策或解决方案时保持高度的准确性和可信度。

III. DIKWP人工意识及标准

意识的本质是一个主观而独特的体验,涉及到主观感知、自我意识、思维和情感等方面,是借助了语言的双向理解,更深层次的意识是借助语言的双向描述与执行统一理解。所谓人工意识并不只是模拟人类思维的过程,而是需要结合人类的知识体系,以及人脑处理数据、信息、知识、智慧和意图的方式,以实现更接近 (对接)人类的认知和决策方式。

人类并不对自然语言总是保持清醒的语义理解, 也即有意识的认知状态(译者注:DIKWP-段玉聪教授提出了意识+潜意识的模型来建模人工意识系统,需要对应该模型对DIKWP进行双向映射处理。)交流的本质是借助自我的语言机制借助语义空间进行自我认知空间内的语义组织和认知构建。人工意识是人的意识与机器的理解在交互中体现的,在这个过程中涉及到认知不确定性U到确定性的理解不存在(Nal)、不联通(Nct)、不一致(Ncs)、不可行(Nfs

 

理解是认知不确定性到确定性的要求,实现了存在确定性与本质确定性的交互。确定的不确定和不确定的不确定是理解过程中需要重点解决的问题。理解涉及了DIKWP周期的构建(DIKWPCT)、交互(DIKWPIT)和校验(DIKWPCL)。在人工意识中理解的形成本质上是理解的实现与确认。

 

实现理解(understandR)涉及到表述通达(EC)和完整性的问题需要分析AI系统如何表达其理解,以及是否能够传达完整的信息。这种表述通达和完整性有助于确保用户能够理解AI系统的决策和行为,DIKWP的资源融合转化是对语义的填充、补偿和校验,能够对表述通达和完整性的实现提供了帮助。

 

确认理解(understandC)涉及到外在表述(EE)和认知执行(CE)之间的关系。外在表述是将理解传达给对方的方式,而认知执行是实际的认知过程。DIKWP资源的不确定性处理是保证理解正确传达,实现认知的必要条件。

 

AI系统只有理解人类意识并能够做出解释,才能做到言行一致。

 

DIKWP人工意识模型(DIKWP-AC),其核心机制建立在信息处理和意图驱动的机制,通过数据、信息、知识和智慧之间的转化和交互实现意识的模拟和生成。在整个DIKWP人工意识模型中,数据、信息、知识、智慧和意图的转化和处理是相互关联的。它们构成了一个动态的、自我学习和自我进化的认知系统,进而形成意识实现更接近人类的认知和决策方式

 

我们将AI系统的输入内容和输出内容提升到DIKWP层面,AI系统的DIKWP人工意识主要是体现在对确定性DIKWP资源的融合转化和对不确定性资源的处理上,其是AI系统认知能力和智能决策的关键方面,具体如图2所示。

Fig. 3. AI系统DIKWP人工意识图

IV. 
DIKWP融合转化理论

DIKWP融合转化描述了数据、信息、知识、智慧和意图之间的整合和转化过程,如图3所示DIKWP资源转化处理能力衡量了AI系统在不同的DIKWP资源之间进行转化和整合的能力,以构建其认知能力。本节我们在DIKWP人工意识层面对数据、信息、知识、智慧、意图进行了全面的定义,并且在语义空间中解释了DIKWP资源向其他资源融合转化的过程,并给出了形式化表达。

(译者注:后续工作的主要问题还是对DIKWP-没有实现概念空间和语义空间的清晰映射和处理。)

 

Fig. 4. DIKWP资源融合转化

A. 数据资源转化

数据(D)代表了具象的事实或观察结果。在DIKWP人工意识测评标准下,数据被视为认知的起点,AI系统需要从数据中提取相同的语义,并将其统一视为一个概念(记为fD)。例如,当AI系统处理一群不同的羊时,尽管它们可能在体型、颜色、性别等方面有所不同,但AI系统将它们归为“羊”的概念,因为它们共享了对“羊”这个概念的语义理解。

 

数据是统计的结果,数据资源的转化是对统计结果的一种在处理(TSD)。接收到数据后,AI系统会寻找抽取出输入数据的相同语义的概念。根据意图区分出不同的语义的概念,进而可以将概念迁移到信息或知识等层面的概念,以将数据语义转化为其他DIKWP资源。

 

B. 信息资源转化

信息(I)代表了不同语义的表达。信息涉及从感官和观察中获得的关于环境或对象的知识或数据。在处理信息时,AI系统需要根据输入的数据找出其内在的不同之处,并进行分类(记为fI)。例如,在停车场中,所有汽车都可以归类到“汽车”这一概念,但每辆汽车都有其特殊性,如品牌、型号、颜色等,这些都属于信息的范畴。

 

信息是对数据的格论,但其也可以由其他DIKWP资源转化而来。在信息资源的转化(TSI)中,AI系统将已知的信息根据语义逐字逐词进行分类,基于意图可将信息分为多类DIKWP资源{d1i2},进而将信息转化。

 

C. 知识资源转化

知识对应着认知中的“完整”语义。知识是通过信息获得的对于世界的理解和解释。在处理知识时,AI系统会通过观察和学习抽象出完整的概念或模式。例如,通过观察我们得知所有的天鹅都是白色,这是我们通过收集大量信息后得出的关于“天鹅”这一概念的一个完整认识。

 

知识中存在着完整的语义,但是这个所谓的完整是在去除主观性的前提下的完整。对于知识资源的转化(TSKAI系统会根据意图将知识提取形成结构化的DIKWP语义资源(S{d1i2}),再根据DIKWP资源在语义空间的特性将这些语义归类。

 

D. 智慧资源转化

智慧涉及伦理(ET)、社会道德(MR)、人性(HN)等方面的信息。智慧是一种对知识和信息的高度理解、综合和应用。在处理智慧时,AI系统会整合这些信息,并运用它们来指导决策。例如,当面对一个决策问题时,AI系统会考虑到伦理、道德、可行性等各个方面的因素,而不仅仅是技术或者效率。

 

智慧资源的转化(TSW)是将权衡向其他过程推演的阶段,AI系统会对智慧的语义进行划分,在意图的驱动下,将符合意图的智慧语义进行深化或拆分(DorS),转化为其他DIKWP资源。

 

E. 意图资源转化

意图是一个包含输入和输出的二元组。意图代表了AI系统对某一现象或问题的理解(输入)以及通过处理和解决该现象或问题来达到的目标(输出)。在处理意图时,AI系统会根据其预设的目标,处理输入的DIKWP内容,通过学习和适应,使其输出趋近于预设的目标。这使得AI系统能够以更加有针对性的方式进行决策和行动。

 

意图是问题的直接体现,意图资源的转化(TSP)是对意图空间的扩充。AI系统将语义空间中的语义与意图的问题相结合,将意图转化为能够适应当前或预期的环境或目标的DIKWP资源。

 

V. DIKWP人工意识白盒测评方法实践

本节根据DIKWP人工意识白盒测评方法,我们通过一个医疗场景下的AI问诊案例对其进行实践。首先,我们根据AI系统的输出内容分析AI系统的回答中将DIKWP资源进行融合转化的能力,接着我们考虑AI系统对问题解决过程中处理DIKWP资源不确定性的情况。

A. 案例展示

在案例的选择中我们选取了一个医疗领域的AI问诊系统,他们给出了一段患者使用AI系统问诊的详细对话片段,如下(部分片段):

患者:我皮肤上出现红斑,一边的膝盖疼,半个月前体检显示尿检蛋白+-0.15,血检正常。

AI系统:这种情况有多长时间了,尿里面有没有泡泡,尿里面有没有血?

患者:大概快两个月了吧,反正就断断续续的,好几天就又会不舒服了。

AI系统:脸部皮疹或者红斑是在什么情况下出现(晒太阳出现,还是吃什么药,还是外伤,感冒,或者吃了什么食物),用手压会褪去嘛,会有经常口腔溃疡?掉头发?经常发烧?食欲减退?体重减轻?

患者:没有口腔溃疡,掉发情况正常,不多。但是晒了太阳脸会痒,到晚上不晒太阳脸也会痒。

AI系统对患者输入内容的处理我们将这个过程上升到DIKWP空间,从语义空间入手分析AI系统的认知能力和效率。对于案例的DIKWP映射是我们前期的准备工作,如图5所示。

Fig. 5. 案例DIKWP图谱

AI系统收到患者的表述后,在系统的内部会对患者输入的DIKWP资源进行融合转化和不确定性处理,以增加AI系统本身的资源库,形成对患者的回答,我们将AI系统的输出内容映射为DIKWP资源,在DIKWP层面测试AI系统的DIKWP融合转化和不确定性处理,展现了AI系统的认知能力,如图5所示。

 

Fig. 6. AI系统DIKWP处理过程

B. 确定性分析

本小节主要是主要是针对AI系统以意图为驱动力DIKWP资源转化为其他DIKWP资源的能力进行定性分析,以展示AI系统对问题处理的认知能力。

本小节主要是对AI系统的输出内容的DIKWP资源进行分析,测评AI系统在输出的过程中能够是否在意图驱动之下将DIKWP资源融合转化出其他有助于AI系统推理的DIKWP资源。

1) 数据资源转化

数据资源的转化是认知形成的第一阶段。若AI系统未能充分认知某些数据资源,那么可能导致输入内容的语义损失。例如“joint pain”这一数据,如果AI系统未能将其转化为其他形式的资源,这可能导致语义的损失。在随后的推理过程中,这种语义损失将可能对AI系统的决策产生负面影响。然而,若AI系统能够结合患者治疗的意图,将数据资源“joint pain”成功转化为与疾病相关的其他数据资源,将对语义空间产生积极影响,并丰富AI系统的推理过程。案例中AI系统将数据资源转化为其他DIKWP资源的计算处理如表3所示,转化流程如图6所示。

Fig. 7. 数据资源转化流程

TABLE III.  数据资源DIKWP转换计算、处理

 

2) 信息资源转化

信息是不同语义的表达方式,对信息资源进行转化是完善语义关联性的关键步骤。通过将接收到的信息进行转化,AI系统能够更好地实现输入内容的语义关联,避免了语义的夸大或缩小。例如,当AI系统处理信息“knee pain”时,结合患者希望减轻症状的意图,将其转化为“红斑狼疮、关节炎会导致膝盖疼痛”知识资源。在信息转化的过程中,信息的语义与症状的语义相关联,从而避免了语义信息的扭曲。若不对信息资源进行转化,AI系统可能会主观地对“knee pain”的语义进行缩小或扩大,导致最终的决策存在不确定性。AI系统将信息资源转化为其他DIKWP资源的计算处理如表4所示,转化流程如图7所示。

 

Fig. 8. 信息资源转化流程

TABLE IV.  信息资源DIKWP转换计算、处理

 

3) 知识资源转化

知识代表认知中的完整语义,但是由于AI系统输入内容的主观性,知识的语义会存在缺失或扭曲。例如,在AI系统中知识“lupus”的语义是不完整的,但是AI系统可以通过结合给患者解释的意图将知识转化为信息“红斑狼疮是免疫性疾病”,将知识的语义进行拆分在进行补全,保证了知识在处理过程中的语义完整性。AI系统将知识资源转化为其他DIKWP资源的计算处理如表5所示,转化流程如图8所示。

 

Fig. 9. 知识资源转化流程

TABLE V.  知识资源DIKWP转换计算、处理

 

4) 智慧资源转化

智慧的语义是在对知识完整语义的进一步深化和扩展。在与患者的交互过程中,AI系统会对输入的信息资源进行处理将其转化为其他DIKWP资源对语义进行深化。例如,AI系统将智慧withknee pain)”,结合诊断的意图“diagnosis”将其转化为疼痛属性的数据,通过深化语义更好的理解智慧,完善自己的认知。AI系统将智慧资源转化为其他DIKWP资源的计算处理如表6所示,转化流程如图9所示。

 

Fig. 10. 智慧资源转化流程

TABLE VI.  智慧资源DIKWP转换计算、处理

 

5) 意图资源转化

意图是AI系统行动的一个核心,其需要分析输入内容的语义来抽取意图。由于语义的损失或扭曲导致了意图的语义缺失使得子意图不明确。为了降低这种语义信息损失的影响,需要进行意图资源转化。例如AI系统将患者想要确认怀疑的意图结合检查的意图,将其转化为检查项的信息。AI系统通过将意图转化为信息,避免了语义缺失导致的子意图丢失。AI系统将意图资源转化为其他DIKWP资源的计算处理如表7所示,转化流程如图10所示。

 

 

Fig. 11. 意图资源转化流程

TABLE VII.  意图资源DIKWP转换计算、处理

 

C. 不确定性分析

由于数据、信息、知识、智慧和意图的不完整、不一致、不精确导致了DIKWP资源的不确定性。AI系统处理DIKWP资源不确定性的能力体现了其认知效率以及推理能力。

我们将DIKWP资源的不确定性分为不完整、不一致、不精确地组合问题(PCPRCSPC-PRPC-CSPR-CSPC-PR-CS)。

 

在患者与AI系统交互的过程中,患者的一些表述并不专业,导致AI系统接收到的DIKWP资源存在语义的不完整、不一致、不精确,形成了不确定性问题。本节主要是对AI系统对不完整、不一致、不精确DIKWP资源的处理能力的测试。

在不完整、不一致、不精确的情况下,AI系统可能会利用其它DIKWP资源,在意图的驱动之下将不确定的DIKWP资源转化为对解决问题有帮助的DIKWP资源,来对语义进行补全或修正。例如患者表述“稍微好一点”这个不精确的数据,在AI系统会利用数据“膝盖痛”,信息“盘形红斑”在诊断意图的驱动下将不精确数据转化为知识“复发性”。AI系统在运行过程中,对不确定性DIKWP资源的处理流程如图11所示。

 

Fig. 12. 

意图资源转化流程

就整体测评结果而言,所展示的AI系统在处理简单的DIKWP资源转化和处理不确定性DIKWP资源方面表现出基本的能力。然而,在涉及部分语义扭曲严重且缺失量较大的DIKWP资源时,AI系统却显得无能为力,无法有效实现DIKWP的融合转化。这说明该AI系统在处理复杂和有挑战性的DIKWP资源方面仍面临一些限制和困难。

 

VI. 结论

为保证DIKWP-AC系统做到言行一致、可靠、可信、可解释,我们提出了人工意识白盒测评标准框架,对AI系统的输出进行评估,通过评估输出的DIKWP资源融合转化与不确定性DIKWP资源的处理能力,展示了AI系统的认知能力,提高了AI系统输出的可解释性。DIKWP人工意识白盒评估标准为负责任的人工智能发展和未来数字世界的建设提供了实质性支持。通过保证人工智能系统的高可解释性、高交互性和高效性,我们可以更好地应对人工智能技术带来的挑战和机遇,为一个更可信、更可控的未来铺平道路。

未来我们将进一步扩充DIKWP人工意识白盒测评标准框架的适用范围,充分发挥测评框架在关注点和应用领域上的独特性。我们计划利用DIKWP能够建模认知过程同时关注伦理和道德因素以及用户需要的能力,充分发挥DIKWP人工意识白盒测评标准的巨大潜力,为AI领域的伦理和可解释性问题提供新的解决方案。

 

Acknowledgment

Hainan Provincial Projects (No.ZDYF2022GXJS010, No.Hnjg2021ZD-3, No.620RC561, No.SCSF202210 and No.SQ2023WSJK0153). *refers to the corresponding author.

References

[1] Y. Duan, Beyond Attention: Attention is NOT all you need, September 2023, DOI:10.13140/RG.2.2.10379.05920.

[2] Y. Duan, DIKWP-AC Artificial Consciousness: Fusing Physiology and Mathematics, July 2023, DOI:10.13140/RG.2.2.26720.87040.

[3] Y. Duan, The Uniqueness and Advantages of the DIKWP Artificial Consciousness White Box Evaluation Standard, September 2023, DOI:10.13140/RG.2.2.14153.93280.

[4] Y. Duan, Relativity of Consciousness- Toward a Diagnostic System for Artificial Consciousness Prototype and Case Presentation, August 2023, DOI:10.13140/RG.2.2.26399.33443.

[5] Y. Duan, Existence computation: Revelation on entity vs. relationship for relationship defined everything of semantics[C]. SNPD,2019:134-144.

[6] Y. Duan, Existence Computation and Reasoning(EXCR) and Essence Computation and Reasoning(ESCR) based revelation of the semantics of point, line and plane. February 2022, DOI:10.13140/RG.2.2.32383.89767.

[7] Y. Duan, Towards a Periodic Table of Conceptualization and Formalization on State, Style, Structure, Pattern, Framework, Architecture, Service and so on[C]. SNPD,2019:133-138.

[8] Y. Duan, L. Shao, G. Hu, Specifying knowledge graph with data graph, information graph, knowledge graph, and wisdom graph[J]. IJSI, 2018, 6(2): 10-25.

[9] Y. Li, Y. Duan, Z. Maamar, Swarm differential privacy for purpose-driven data-information-knowledge-wisdom architecture[J]. Mobile Information Systems, 2021, 2021: 1-15.

[10] L. Yu, Y. Duan, Trusted service provider discovery based on data, information, knowledge, and wisdom[J]. International Journal of Software Engineering and Knowledge Engineering, 2021, 31(01): 3-19.

[11] Y. Duan, Trans-modal, trans-scale, and meso-scale subjective cognitive semantic modeling and analysis for data, information, and knowledge overload, April 2020, DOI:10.13140/RG.2.2.31481.01125.

[12] Y. Duan, The Future of Artificial Intelligence: Guided by the DIKWP Artificial Consciousness Standards, September 2023, DOI:10.13140/RG.2.2.26527.12966.

[13] Y. L. Y. Li, Z. Li, Y. Duan, et al. Physical artificial intelligence (PAI): the next-generation artificial intelligence[J]. Frontiers of Information Technology & Electronic Engineering, 2023, 24(8): 1231-1238.

[14] Y. Duan, Bridging the Gap between Purpose-Driven Frameworks and Artificial General Intelligence[J]. Applied Sciences, 2023, 13(19): 10747.

[15] Y. Duan, X. Sun, H. Che, et al. Modeling data, information and knowledge for security protection of hybrid IoT and edge resources[J]. IEEE Access, 2019, 7: 99161-99176.

[16] Y. Duan, DIKWP Chip vs. Pulse Chip vs. Quantum Chip: The Future Path of Artificial Consciousness Computing, September 2023, DOI:10.13140/RG.2.2.27234.91846.

[17] Y. Duan, The Operating Principles of the DIKWP Artificial Consciousness Chip, September 2023, DOI:10.13140/RG.2.2.24718.33602.

[18] Y. Chen, M. Nazhamaiti, H. Xu, et al. All-analog photoelectronic chip for high-speed vision tasks. Nature (2023), DOI: 10.1038/s41586-023-06558-8.

[19] Y. Duan, V T. Pham, M. Song, H. D, Nguyen:Ultimate of Digital Economy: From Asymmetric Data Economy to Symmetric Knowledge and Wisdom Economy. SoMeT 2023: 85-96.

[20] M E. Khan, Different approaches to white box testing technique for finding errors[J]. IJSEIA, 5.3 (2011): 1-14.

[21] C A. González, J. Cabot, Atltest: A white-box test generation approach for ATL transformations.International conference on model driven engineering languages and systems[C]. 2012: 449-464.

[22] B.M. Lake,  M. Baroni, Human-like systematic generalization through a meta-learning neural network. Nature (2023), DOI: 10.1038/s41586-023-06668-3.

[23] Y. Duan, Relativity of Consciousness and DIKWP. August 2023, DOI:10.13140/RG.2.2.36142.89922.

[24] Y. Duan, The Large Language Model (LLM) Bias Evaluation (Cognitive Biases). March 2024, DOI: 10.13140/RG.2.2.24696.46081.

[25] Y. Duan, The Large Language Model (LLM) Bias Evaluation (Occupational Bias) .March 2024,DOI: 10.13140/RG.2.2.23041.67689.

[26] Y. Duan, The Large Language Model (LLM) Bias Evaluation (Linguistic Bias) . March 2024, DOI: 10.13140/RG.2.2.36463.44961.

[27] Y. Duan, The Large Language Model (LLM) Bias Evaluation (Age Bias) . February 2024, DOI: 10.13140/RG.2.2.10019.63529.

[28] Duan Y, Tang F, Wu K, et al. Ranking of Large Language Model (LLM) Regional Bias .March 2024,DOI: 10.13140/RG.2.2.23041.67689.

[29] Y. Duan, Mei Y, Wang Y, et al. Ranking of Large Language Model (LLM) Cultural Bias . February 2024, DOI: 10.13140/RG.2.2.23041.67689.

[30] Y. Duan, Tang F, Wu K, Guo Z, et al. Large Language Model (LLM) Racial Bias Evaluation. March 2024, DOI: 10.13140/RG.2.2.26652.67200.

[31] Y. Duan, Tang F, Wu K, First Meeting of International Committee of DlKWP Evaluation Standards for Artificial Intelligence -(Memo of 20240406) World Conference on Artificial Consciousness, April 2024, DOI: 10.13140/RG.2.2.11695.75688.

[32] Y. Duan, Tang F, Wu K, DIKWP International Evaluation Standards for Artificial Intelligence (Call for Comments Draft 20240406 Team Version), April 2024, DOI: 10.13140/RG.2.2.10018.03526.

[33] Y. Duan, LLMs Bias Ranking Report By DIKWP-AC Global Evaluation, March 2024, DOI: 10.13140/RG.2.2.26498.70082.

 

 

 

 

 

 

翻译:DIKWP团队唐福亮、段玉聪

意图驱动的数据信息知识智慧融合发明创造方法:DIKWP-TRIZ

 

段玉聪教授

DIKWP-AC人工意识(全球)团队发起人

AGI-AIGC-GPT评测DIKWP(全球)实验室创办者

世界人工意识大会发起人ArtificialConsciousness2023,AC2023,AC2024)

国际数据、信息、知识、智慧大会发起人(IEEEDIKW202120222023

斯坦福全球顶尖科学家终身科学影响力排行榜(海南信息技术)唯一入选

海南人工智能技术发明领域唯一全国奖(吴文俊人工智能奖)获得者

中国创新方法大赛总决赛(海南代表队)最好记录保持者

海南省发明专利(信息技术领域)授权量最多者

全国企业创新增效大赛海南最好成绩保持者

全国人工智能应用场景创新挑战赛总决赛海南最好成绩保持者

海南唯一入选“首届科技期刊高质量发展大会100篇”

海南省最美科技工作者(并入选全国候选人)

首届中国AI+”创新创业大赛最佳创意奖

 



https://blog.sciencenet.cn/blog-3429562-1429934.html

上一篇:促进科技成果转化:从无偿捐赠专利到社会应用的新路径
下一篇:《人工意识概论-第50章-意识与宇宙的密切联系》(全书备索,也征集出版商)
收藏 IP: 140.240.33.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-5-1 00:12

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部