您现在的位置是:首页 > 人工智能人工智能
AI 是否拥有意识?从意识的定义说起
cc博主2022-03-15【人工智能】535人已围观
作者 | Antonio
编辑 | 陈彩娴
毫无疑问,人类有自己的意识。在某种意义上,这种「意识」甚至可以被视为人类智能的内涵之一。
随着「人工智能」(Artificial Intelligence)的深入发展,「AI 能否拥有意识」也渐渐成为科学家们心中的一个疑问,「意识」也被视为衡量 AI 是否智能的标准之一。
例如,2月中旬,OpenAI 的首席科学家 IIya Sutskever 就曾在推特上发起对 AI 意识的讨论。当时,他说:
如今的大型神经网络可能已初具意识。

他的观点立即引起了一众 AI 大咖的讨论。针对 IIya Sutskever 的见解,图灵奖得主、Meta AI 首席科学家 Yann LeCun 首先就抛出了反对意见,给出一个直截了当的观点:「Nope.」(不。)Judea Pearl 也力挺 Lecun,表示现有的深度神经网络还无法「深度理解」某些领域。
唇枪舌战几回合后,Judea Pearl 称:
……事实上我们都没有一个关于「意识」的正式定义。我们唯一能做的也许就是向历代研究意识的哲学家请教...
这是一个关于源头的问题。如果需要讨论「AI 意识」,那么:什么是「意识」?拥有「意识」意味着什么?要回答这些问题,光有计算机知识是远远不够的。
事实上,关于「意识」的讨论最早可以追溯到古希腊「轴心时代」。自那时起,「意识」作为人的认识论的本质就已成为后代哲学家们无法回避的议题。关于 AI 意识的讨论兴起后,曾任 OpenAI 研究科学家的学者 Amanda Askell 也就该话题作了一番有趣的见解。
当下的AI系统是否有意识?Askell 提出一个有趣的观察:当下的 AI 系统比椅子更有可能具有现象意识,但远不如老鼠有意识,甚至还没有昆虫、鱼或双壳类动物有更多意识。她把 AI 系统大致类比为植物的区域——由于植物的行为方式似乎需要规划,并且可以做出一些看似需要内部和外部交流的事情。AI 系统似乎也有类似的行为。不过她也确信,AI 系统作为一个整体在未来会比植物或双壳类动物具有更大的意识潜力。尤其未来有更多受生物启发的神经网络的AI研究可能会产生更多与意识相关的架构、行为和认知系统。

- 架构证据是指系统的物理结构与人类的相似程度,例如大脑的结构要远比指头的更加像有意识。
- 行为证据是实体做出与意识、认知等相关的行为,例如可以意识到周围环境,对外部刺激的反应,或更复杂的行为,如言语和推理。
- 功能性证据考虑它的目标以及这些目标与环境的关系。例如桌子或椅子并没有真正受到环境的演化压力,因此它没有任何理由形成像老鼠对环境所拥有的的那种意识。
- 理论证据包括理论本身的连贯性、说服力等。
AI 是否有意识重要吗?绝大多数 AI 从业者都不会将意识这一特性考虑进去,AI 和意识似乎还只存在于某些科幻电影对未来的想象中。不过在安全、伦理、偏见与公正性方面,意识与 AI 的结合已在学术界和工业界中引起越来越多的重视。Askell 认为,AI 具有现象意识,这就意味着它很有可能发展出伦理观,而这与它的创作者之间有莫大关系。尤其是当 AI 犯了错误或者受到「虐待」的时候,它的创造者应该承担一定的责任。Askell 讨论了道德伦理学中的两个重要概念:道德行为体(moral agent)和道德关怀对象(moral patient)。其中,「道德行为体」是具有分辨善恶对错能力、并可以承担后果的行为体,如成年人;而「道德关怀对象」则无法分辨善恶是非,即无法从道德上进行约束、一般不会承担后果的实体,如动物或者幼小的婴儿。
道德关怀对象
Askell 认为,实体一旦拥有类似快乐和痛苦的知觉(sentisent)就极可能成为道德关怀对象。而如果发现道德关怀对象(比如一只猫)受到痛苦,而普通人却没有试图去尽道德义务减轻其痛苦,这是不合理的。她同时认为,现象意识是感知的必要条件,因而进一步,现象意识是成为道德关怀对象的先决条件。可能的争论是某些群体是否具有道德地位(moral status),或者是否拥有更高的道德地位。道德地位来自伦理学,是指一个群体是否可以从道德意义上讨论它们的过失。例如,多数生物具有道德地位,而无生命物体则没有。过分强调某一群体具有这一地位似乎在暗示这一群体更加重要,其他群体没那么重要。这就像「给予动物、昆虫、胎儿、环境等更多道德地位的论点一样让人担忧」。Askell 指出,帮助一个群体并不需要以牺牲其他群体为代价。例如,食用素食对动物和人类健康都有好处。「团队通常不会竞争相同的资源,我们通常可以使用不同的资源来帮助两个团队,而不是强迫在它们之间进行权衡。如果我们想增加用于全球脱贫的资源,将现有的捐款从慈善事业中拿出来并不是唯一的选择——我们还可以鼓励更多的人捐款和捐款。」所以,当未来有感知能力的 AI 系统成为道德关怀体时,并不意味着我们对其它人类的福祉不再关心,也不意味着我们需要转移现有资源来帮助他们。道德行为体
道德行为体因为懂得善恶是非,他们倾向以好的方式行事,避免以坏的方式行事。当做了道德或法律上不允许的事情的时候,他们会受到相应的惩罚。道德行为体中最弱的部分只需要对积极和消极的激励做出反应。这就是说,另外的实体可以惩罚该行为体的不良行为或奖励其良好行为,因为这将改善行为体今后的行为。值得注意的是,Askell 指出:接收刺激并得到反馈似乎并不要求现象意识。当前的 ML 系统在某种意义上已经符合这一规律,比如模型需要降低损失函数,或者强化学习中更明显的「奖励」和「惩罚」。- 创造特定的实体(如AI)预期的影响是什么?
- 创造者为获得有关其影响的证据付出了多少努力?
- 他们对他们创造实体的行为可以在多大程度上进行控制(无论是直接影响其行为还是间接影响其意图)?
- 在他们力所能及的范围内,他们为改善实体的行为付出了多少努力?
研究 AI 意识的工作有多重要?目前 AI 领域专门针对意识(甚至其它哲学方面的思考)的研究非常少,但也已经有学者在针对该话题进行跨领域的合作研究。比如,GPT-3问世后,专注哲学问题探讨的博客 Daily Nous 就专门开辟了一个板块讨论语言哲学在 AI 上的思考。但同时,Askell 强调,对 AI 意识的讨论不应仅仅停留在哲学式的抽象思辨上,还要致力于发展相关的实用框架,比如为机器意识和感知建立一系列高效的评估。目前已经有一些方法可以用于检测动物疼痛,似乎可以从那里获得一些灵感。反过来说,我们对 AI 意识的理解多一分,对人类本身的理解就多一分。因此,对 AI 意识的讨论虽暂未达成统一的共识,但讨论本身已是一种进步。期待更多的 AI 意识研究工作。
参考链接:
https://askellio.substack.com/p/ai-consciousness?s=r
雷峰网(公众号:雷峰网)
雷峰网版权文章,未经授权禁止转载。详情见转载须知。
Tags:订阅地址
相关文章
- “专精特新”亮相“两会”,华为云助力中小企业“韧性发展”
- 科技赋能智慧医院,坎德拉智能科技仅30天完成扬州16所医院升级
- 《周六夜现场》明星Pete Davidson将参加蓝色起源的下一次太空飞行
- 俄罗斯发起反击,正式宣布全面封禁Instagram,当地IP已无法访问
- 腾讯云重磅发布敏捷数仓新品,最快7天完成数仓构建
- SEO优化在什么地方可以凸显用户体验?
- 最新酸酸乳节点账号分享-永久v2ray(vmess)节点链接不定期更新(2022/3/14)
- 阿里云IoT事业部总经理王晓冬: 工业互联网发展进入深水区 好产品应经得起“灵魂三问”
- 这届Meta博士奖学金「不一般」:15名华人获奖,传媒学博士生也能入选
- PapersWithCode官宣突破6k+基准,TensorFlow影响力第一
猜你喜欢
向十国宣战,俄罗斯黑客又公开搞事情,国际头号黑客组织匿名者发声:祝你们好运
业界当地时间16日,据俄罗斯《报纸报》报道,俄罗斯黑客组织“Killnet”正式向10个支持恐俄症的国家宣战。 Killnet在其社交媒体账号上发布的视频中指出,他们的攻击目标国家是美国、英国、德国、意大利、波兰、罗马尼亚、拉脱维亚、爱沙尼亚、立陶宛和乌克兰。...
阅读更多导师“防秃”指南:审了200篇「中式英语」论文,你应该这样写......
人工智能作者丨维克多编辑丨陈彩娴近日,一篇题为“我看了200篇中国学生的论文后,发现了这些惊人的现象......”文章冲上B站热门视频榜首。根据领英资料显示,该论文的作者Felicia Brittman是一名专利审核员,于2002~2003年期间在上海交通大学...
阅读更多最新免费ssr节点账号分享-永久v2ray节点-12小时更新(2022/5/6)
技术好文最新免费ssr节点账号分享-永久v2ray节点-12小时更新(2022/5/6),今日周五,为大家提供最新免费ssr节点及v2ray节点链接分享,更新于2022年5月6日17点更新。建议点击付费节点右侧栏目图。资源在星期四更新。免费资源并不容易。请珍惜它。蜗牛...
阅读更多网站内容页链接该怎么做(分享实用且有效的网站seo内容页链接设置方法)
站长动态网站内容页链接该怎么做(分享实用且有效的网站seo内容页链接设置方法)企业网络推广方法介绍,在网站SEO优化的过程中,内容优化是重中之重,做好网站的内容优化能帮助网站更好地提升排名和权重。那么对于优化人员来说该如何做好网站内容链接SEO呢?下面企业网络推广方...
阅读更多安徽ETC宣布停止微信支付:因手续费不断上涨,与腾讯协商后无果
业界3月28日,雷峰网(公众号:雷峰网)消息,安徽ETC宣布停止微信支付一事在社交平台上引发热议。近日,安徽交通一卡通控股有限公司发布公告称,鉴于微信支付手续费不断上涨,与腾讯公司积极协商无果后,将停止提供微信支付服务。运营方表示,平台自3月24日10时起,...
阅读更多