您现在的位置是:首页 > 人工智能人工智能
OpenAI邀请各领域专家加入“红队网络” 以提高其AI模型安全性
cc博主2023-09-20【人工智能】198人已围观
【CC博客】9月20日消息,据外媒报道,美国人工智能研究公司OpenAI宣布推出“红队网络”(Red Teaming Network),并邀请各领域专家加入其“红队网络”,以提高其人工智能(AI)模型的安全性。
OpenAI的这一举措旨在深化和扩大其与外部专家的合作,以确保其人工智能模型的可靠性和安全性。签约的专家将通过协助评估和减轻模型风险,在增强OpenAI人工智能系统的稳健性方面发挥关键作用。
尽管OpenAI之前通过漏洞赏金计划和研究人员访问计划与外部专家合作,但新推出的“红队网络”将这些努力正式化。
OpenAI表示,“红队网络”是一个由经验丰富且值得信赖的专家组成的社区,可以帮助公司更广泛地进行风险评估,而不是在主要模型部署之前进行一次性参与和选择过程。
据报道,“红队”在识别人工智能系统中的偏见和评估安全过滤器方面发挥着至关重要的作用,已经成为人工智能模型开发过程中的关键一步,尤其是在生成式技术得到更广泛采用的情况下。
OpenAI向不同领域的专家发出邀请,包括具有语言学、生物识别、金融和医疗保健背景的专家。该公司强调了各种专业知识对人工智能评估的重要性,包括但不限于认知科学、法律、网络安全、经济学和医疗保健等领域。(小狐狸)
Tags:
相关文章
热门文章
- 香港VPS低至6折93元/年,全场8折,香港CN2,洛杉矶CN2 GIA,洛杉矶9929,洛杉矶CMIN2,日本大阪/东京IIJ,日本BGP,韩国BGP,英国伦敦AS9929住宅IP
- 知乎直答亮相“学术酒吧”开放麦,李开复、刘知远相聚“AI上头俱乐部”
- 低至4折,2核4GB内存VPS/GPU独服 $2.99/月起,GPU VPS/GPU专用服务器 $13/月起,物理专用服务器$29/月起,可免费试用
- RISC-V要成为「显性」技术,到了关键时期
- 美国/香港VPS年付99元起,双核/2GB/15GB SSD/500GB流量@100Mbps带宽
- MIT 热门研究:AI 工具“带飞”科研,但也严重加速内卷
- 国行 iPhone 16 相机控制也接入视觉智能了!可一键调用阶跃星辰智能助手「跃问」
- 视觉模型智能涌现后, Scaling Law 不会到头
- 黄仁勋亲述创业故事:两次都差点倒闭
热评文章
「11月24日」2024年V2ray/Clash/SSR/Shadowrocke澳大利裔日本免费节点
MIT 热门研究:AI 工具“带飞”科研,但也严重加速内卷
国行 iPhone 16 相机控制也接入视觉智能了!可一键调用阶跃星辰智能助手「跃问」
知乎直答亮相“学术酒吧”开放麦,李开复、刘知远相聚“AI上头俱乐部”
黄仁勋亲述创业故事:两次都差点倒闭
低至4折,2核4GB内存VPS/GPU独服 $2.99/月起,GPU VPS/GPU专用服务器 $13/月起,物理专用服务器$29/月起,可免费试用
RISC-V要成为「显性」技术,到了关键时期
香港VPS低至6折93元/年,全场8折,香港CN2,洛杉矶CN2 GIA,洛杉矶9929,洛杉矶CMIN2,日本大阪/东京IIJ,日本BGP,韩国BGP,英国伦敦AS9929住宅IP
英伟达SC24六大技术亮点,不止加速超算500强
美国/香港VPS年付99元起,双核/2GB/15GB SSD/500GB流量@100Mbps带宽