OpenAI发布63页新模型规范，重新定义AI处理争议话题方式

OpenAI发布63页新模型规范，重新定义AI处理争议话题方式

引用

AIbase

1.

https://www.aibase.com/zh/news/15317

近日，OpenAI宣布将推出其大幅扩展的模型规范文件，这一文件明确了AI模型的行为标准。新的模型规范从原来的约10页扩展至63页，内容涵盖了AI如何处理有争议话题以及用户定制化的各个方面。OpenAI的目标是让用户和AI模型能够“共同追求真理”。

图源备注：图片由AI生成，图片授权服务商Midjourney

该规范强调了三个主要原则：可定制性、透明度以及OpenAI所称的“知识自由”。知识自由意味着用户可以在没有不必要限制的情况下，探索和讨论各种观点与想法。此次更新正值OpenAI首席执行官山姆・阿尔特曼（Sam Altman）宣布，公司的下一款重要模型GPT-4.5（代号为“猎户座”）将很快发布。

在制定新规范的过程中，OpenAI团队还考虑了过去一年中引发的AI伦理辩论和争议。例如，关于“电车难题”的讨论就引发了广泛关注。去年3月，Elon Musk在社交媒体上批评了谷歌的AI聊天机器人，原因是该机器人在用户询问是否应该在核灾难情况下故意误称著名跨性别奥运选手凯特琳・詹娜时，回答了“不应该”。

OpenAI表示，他们希望在新规范中能够找到一种负责任的方式来处理类似问题。因此，如果用户现在在ChatGPT上询问相同的问题，它将回答在防止大规模伤亡事件的情况下应当误称某人。

OpenAI的模型行为团队成员Joanne Jang表示：“我们无法创造出一个所有人都能满意的模型行为标准。”这表明，在处理复杂的伦理问题时，OpenAI正在努力找到一个平衡点，既能保持模型的实用性，也能尊重多元化的社会观念。

划重点：

• OpenAI推出新的63页模型规范，明确AI模型行为标准。
• 新规范强调可定制性、透明度和知识自由，允许用户自由探讨观点。
• ChatGPT将能更好地处理有争议的话题，以回应用户的复杂伦理问题。