您现在的位置是:首页 > 人工智能人工智能
前OpenAI安全研究员警告:AI毁灭人类的可能性为20%
cc博主2023-05-06【人工智能】257人已围观
5月6日 消息,一位曾任 OpenAI 安全研究人员的人正在发出警告,提醒人们人工智能可能最终导致人类终结的严峻前景。
前OpenAI 基金会员工保罗·克里斯蒂亚诺在一个播客节目中说,“我认为人工智能取代人类的可能性大约为10-20%,又或者大多数人类已经死亡,需要非常严肃对待这个问题。”
克里斯蒂亚诺认为机器会逐渐地崛起,人类的终结不是一场突如其来的事件,而是人工智能逐渐地崛起,人类与机器已经透过诸如自动驾驶汽车、无人机等已经渗透到了生活中。而当AI超越人类智商阈值时,一切皆有可能。
克里斯蒂亚诺认为,AI消灭人类的最可能方式是日常生活中部署的所有AI联合起来,而不是突然消灭人类。
克里斯蒂亚诺的新非营利组织 Alignment Research Center 基于人工智能对齐的概念,该概念早在2018年就被广泛定义为让机器的动机与人类的动机保持一致。尽管 OpenAI 口头上说要对齐,声称它“旨在使人工智能 (AGI) 与人类价值观保持一致并遵循人类意图”,但仍需要进行更多的研究和开发,以确保安全和合乎道德地开发人工智能。确保机器的动机与人类的动机一致对于防止人工智能毁灭的可能性至关重要。
Tags:
相关文章
- AI理财要来?ChatGPT投资组合比英国10只主流基金表现都好
- 小米13 Ultra限量定制色今日首销:依旧6499元不加价
- 10月发布!华为Mate60系列渲染图偷跑:经典圆环四摄辨识度拿捏
- 5月10日见!谷歌Pixel Fold折叠屏手机官宣:经典Pixel相机风格
- 真我11 Pro+真机谍照曝光:奢品级工艺卷出手机质感新高度
- 广汽集团4月销量17.7万辆,同比增长42.57%
- 30%苹果税不好赚了 iOS 17允许用户侧载应用程序:第三方应用来了
- 坐飞机用5G?工信部批复5G地空通信试验频率
- IE的幽灵?微软Microsoft 365新变化激怒用户:Edge劫持应用跳转页面
- 苹果市值再增1000亿至2.7万亿美元,股价周五创11月以来最大单日涨幅