shaopenghan的个人博客分享 http://blog.sciencenet.cn/u/shaopenghan

博文

自主信息系统必然是个黑箱吗?

已有 906 次阅读 2023-8-23 21:18 |系统分类:博客资讯

(这里暂不算DNA,其自主成分太少,主要讨论大脑以及未来的计算机)

自主信息系统极有可能整体就是个黑箱,即便开始不是个黑箱,自主运行或者演变一段时间后,一部分个体也可能会变成黑箱。

当前的计算机之所以不是黑箱,是因为人们可以非常方便地通过键盘、鼠标、显示器查看计算机中的信息,其实这些键盘、鼠标、显示器跟人的眼睛、耳朵、嘴巴一样,都只是信息交流的途径。如果将来的人工智能是自主个体,突然有一天产生了一些想法,不在显示器上显示自身的信息,或者对键盘鼠标输入的指令充耳不闻、不听指令了,这可就要了亲命了,不是黑箱也成黑箱了。

只要人工智能是自主的,都免不了会出现叛逆、反叛、不听话的情况。

会不会有另外一种可能,这个人工智能计算机拥有两套操作系统,一种比较高级,是自主的,另一种比较低级,可以让人查看上面的信息,从而实现强监管。

只恐怕难以实现。





https://blog.sciencenet.cn/blog-3408518-1400072.html

上一篇:表观遗传中可能也有稳定遗传的部分
下一篇:人工智能时代的社会形态
收藏 IP: 112.96.115.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-4-27 16:23

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部