OpenAI据称支持发牌批准AI系统开发 愿意在训练数据方面更开放

北京时间7月21日早间消息，据报道，OpenAI起草的一份互联网政策备忘录显示，该公司认为应当要求所有想要开发先进人工智能的公司必须获得政府支持。这份文件还透露，该公司愿意公开他们在训练图像生成器时使用的数据。

作为ChatGPT和DALL-E的开发者，OpenAI是在白宫官员与科技行业高管今年5月4日举行会面后，在内部文件中披露一系列人工智能政策承诺的。该公司在草案中写道：“我们致力于跟美国政府和世界各地的政策制定者合作，支持为未来最先进的基础模型开发工作制定一套牌照制度。”

如果由OpenAI等人工智能巨头参与制定政府牌照制度，有可能会与初创公司和开源开发者的利益形成冲突。后者认为，这些巨头会试图借此提高行业门槛。

这并非OpenAI首次提出这种想法：在5月的美国参议院听证会上，该公司CEO山姆·阿尔特曼（Sam Altman）就支持成立一个政府机构，负责为人工智能产品发放牌照，并在发生违规情况时收回牌照。

此时正值微软、谷歌和OpenAI响应白宫号召，预计将在周五公开承诺为人工智能开发提供保障措施之际。据知情人士透露，这些公司将承诺以负责任的态度开发和部署人工智能。

OpenAI警告称，该公司在其内部政策文件中提出的想法，将不同于白宫即将与科技公司共同发布的政策。该公司全球事务副总裁Anna Makanju表示，该公司并没有急于推动牌照制度，而是认为这是政府追踪新型系统的一种“现实”方式。

“对于政府来说，有必要了解是否会有一个可能构成潜在破坏的超强系统出现。”她说，“如果有人不愿像我们这样主动报告情况，几乎无法确保政府能够及时了解这样的系统。”

Makanju表示，OpenAI认为，这种牌照制度应当仅适用于比现有的GPT-4更强大的人工智能模型，小型创业公司不应当承受过大的监管负担。“我们不想遏制生态系统。”她说。

OpenAI还在内部政策文件中透露，他们愿意进一步开放用于训练DALL-E等图片生成器的数据，并致力于在年底前“纳入溯源方法”。数据溯源是一种让开发人员对其工作的透明度和来源负责的做法。许多政策制定者之前已经提出这种想法，他们认为，这对于防止人工智能工具传播错误信息和偏见至关重要。

OpenAI在备忘录中列出的承诺，与微软今年5月宣布的政策非常相似。但OpenAI之前曾经表示，尽管获得了微软的100亿美元投资，但他们依然是一家独立公司。

该公司在文件中披露，他们正在进行调查，了解水印（一种追踪人工智能生成图像的真实性和版权的方法）以及人工智能生成内容的检测和披露方法，并将公布调查结果。

OpenAI还在文件中表示，他们对外部“红队”持开放态度。换言之，该公司将允许人们参与测试其系统在多方面的潜在问题，包括冒犯性内容、被操纵的风险、错误信息和偏见。该公司在备忘录表示，它支持建立一个信息共享中心，就网络安全开展合作。

OpenAI在备忘录中似乎承认人工智能系统可能在就业和不平等方面带来风险。该公司还在草案中表示，他们将进行研究，并向政策制定者提出建议，以保护经济免受潜在破坏的影响。