OpenAI组建健康与福祉委员会 并逐步放宽ChatGPT成人内容限制

OpenAI于本周二宣布成立一个由健康和人工智能专家组成的委员会，成员包括来自学术界和非营利组织的领导人。该委员会将协助公司评估其产品对心理健康的影响。

该公司在一份声明中表示：“委员会的职责是为我们提供建议、提出问题，并帮助定义不同年龄段的人群如何与人工智能实现健康的互动。”

委员会由八名成员组成，其中包括来自哈佛大学、斯坦福大学、牛津大学等机构的研究人员，他们将共同制定指导方针。

OpenAI补充道：“我们将与委员会定期合作，审查我们的方法，并探讨人工智能在复杂或敏感情况下的表现方式，以及哪些保护措施能够更好地支持ChatGPT用户。”

人工智能与公共安全

随着人工智能技术的快速发展，OpenAI和其他相关企业正面临越来越多关于其产品对用户（尤其是儿童）潜在影响的质疑。一些家长指控人工智能对话导致青少年自杀，这促使OpenAI在今年早些时候推出了家长控制功能。此外，也有观点认为聊天机器人的使用加剧了人际关系的破裂和孤独感。

新成立的福祉委员会反映了科技行业长期以来的问题：企业在产品大规模流通后才开始考虑其心理和道德后果。批评者指出，这种“先创新，后问责”的循环已成为行业的常态。

非政府组织AlgorithmWatch的一位发言人向解密表示，他们对该委员会的独立性提出了质疑，并提到OpenAI过去曾发生过内部权力斗争。

发言人补充道：“我们应该记住，当之前的OpenAI董事会试图通过表达对Sam Altman的不信任来产生影响时，他们最终被撤职并替换。”

AlgorithmWatch还建议，Meta监督委员会可能是一个“稍好一点（但仍有限）的先例”，并指出尽管他们的建议“通常非常缓慢且经常被忽视”，但该委员会提供了“明确的建议，并足够公开，让人们可以看到Meta忽略了什么”。

Holonym联合创始人兼数字权利倡导者Shady El Damaty向解密表示，他觉得那些竞相部署最强大人工智能工具的公司如今却试图扮演“道德裁判”，这一现象颇具讽刺意味。

“但这些对话紧迫且早就该进行了，所以我不会否定这个委员会的存在。如果真要说的话，我希望它能为每个人争取发言权，”他补充道。

除了福祉之外，他还表示希望看到委员会也能解决隐私和身份问题。“委员会至少应该建立透明公开的指标来衡量人工智能的情感影响，并要求定期进行独立审计，”他说。“但我们确实需要强化的规章制度来保护我们的数字权利，而且越快越好。”

他补充道：“OpenAI的专家委员会有机会在安全领域进行更深入的研究。他们应该问：人们在数字空间中拥有哪些权利？他们的身份、行为和肖像归谁所有？以人为本的设计究竟是什么样的……不仅针对儿童，也针对所有人？”

OpenAI放宽ChatGPT成人内容限制

与此同时，OpenAI首席执行官Sam Altman宣布，公司将在12月逐步放宽对ChatGPT成人内容的限制。

Altman表示：“我们对ChatGPT实施了严格的限制，以确保我们能够妥善处理心理健康问题。”他在同一天发布推文称。

“我们意识到，对于许多没有心理健康问题的用户来说，这会降低它的实用性/乐趣，但考虑到问题的严重性，我们希望解决这个问题。”

Altman进一步表示，经过验证的成年人将被允许使用ChatGPT创作色情内容，这被视为“像对待成年人一样对待成年用户”这一更广泛原则的一部分。