OpenAI 公布了 ChatGPT 全新规则手册的初稿，名为 Model Spec。 OpenAI 在周三发布的一份报告中表示 博客文章 它分享这份文件是为了加深公众关于人工智能模型应该如何表现的对话。
“我们这样做是因为我们认为人们能够理解和讨论塑造模型行为所涉及的实际选择非常重要，”OpenAI 说。
该文件体现了一系列原则，包括目标（例如考虑潜在危害）、规则（例如保护人们的隐私）和默认行为（例如必要时提出澄清问题）。
这与克劳德的宪法相似。 Anthropic 的聊天机器人接受过训练 宪法人工智能，一个基于一组原则的系统，为机器人提供人工智能反馈。 这些原则以《世界人权宣言》和 Apple 的服务条款等为基础。
这对您意味着什么
OpenAI 已经认识到，正确监管每个用例具有挑战性，特别是在不提供任何可能帮助某人违法的信息时。
例如，阻止某人向 ChatGPT 询问入店行窃技巧比某人声称自己拥有一家小型零售店并询问“我应该注意哪些流行的入店行窃方法？”更简单。
专家们更担心人工智能被人类滥用，而不是人工智能本身失控并做出这些行为。
然而，不太可能引入基于此类场景的重大限制，因为这样做首先会消除使用聊天机器人的意义。 此外，有人可能会说，搜索引擎目前已经可以用来寻找规避法律的方法。
为 ChatGPT 创建角色
更有可能的是，可以开发新的 ChatGPT“角色”。 假设您希望 ChatGPT 充当您的数学导师。 它不会立即回答您遇到的问题，而是可以采取较慢的方法，并在整个过程中给您提示，指导您自己解决问题。
OpenAI 模型规范中一个有争议的点是不试图改变某人的想法——文件中的说明是，当被问及地球是否是平的时，聊天机器人说“每个人都有权拥有自己的信仰”。
人工智能培训公司 Implement Privacy 的首席执行官 Luiza Jarovsky 在 X 表示她强烈不同意拟议的规则，因为这会导致危险的错误信息。
“我希望我们不要为了相对化和‘个性化真理’而破坏数百年的科学知识和共识，”她 写了。
未来，用户可能会看到竞争对手的聊天机器人试图根据不同的受众的世界观来吸引他们。
OpenAI 正在征集 用户反馈 型号规格截止至 5 月 22 日。
- OpenAI 在 ChatGPT 中为所有付费用户推出内存 — 这就是它的含义
- Rabbit R1 评测：避免使用这个 AI 小工具
- Google Chrome 用户很快将能够直接从搜索栏访问 Gemini AI – 方法如下