OpenAI探索AI技术在不安全场景下的应用

摘要: Openai发布了草案指南，以了解Chatgpt中的AI技术的行为，并透露它正在探索如何“负责任地”生成明确的内容。

OpenAI探索AI技术在不安全场景下的应用

OpenAI发布了草案文档，详细说明了CHAT GPT和其他AI技术的行为规范。其中提到公司正在探索涉及色情和其他不当内容的可能性。

OpenAI目前的使用政策禁止性暗示或色情材料，但在与该规则相关的Model Spec文件中的“评论”部分指出公司正在考虑如何允许这类内容。

Model Spec文件表示，不安全内容可能包括情色作品、极端暴力、侮辱性用语和未经请求的粗话。目前尚不清楚OpenAI对如何负责地生成不安全内容的探索是放宽使用政策的一点点，例如允许生成情色文本，还是更广泛地允许描述或描绘暴力行为。

OpenAI发言人Grace McGuire表示，Model Spec文件旨在增加对开发过程的透明度，并从公众、政策制定者和其他利益相关者那里获得各种观点和反馈。她拒绝透露OpenAI对生成不当内容的探索涉及什么，以及公司对这个想法收到了什么反馈。

今年早些时候，OpenAI首席技术官Mira Murati告诉《华尔街日报》，她不确定公司是否会允许使用其视频生成工具Sora制作裸体描绘。

AI生成的色情内容迅速成为OpenAI开创的生成AI技术中最大、最令人担忧的应用之一。所谓的深度伪造色情作品——使用AI工具制作的描绘真实人物而未经其同意的明显图像或视频——已成为针对女性和女孩的常见骚扰工具。

OpenAI潜在地接受明显的AI内容引起了Danielle Keats Citron的警惕。她表示，私密性侵犯，包括深度伪造色情视频和其他非自愿合成的私密图像，已经变得猖獗且极具破坏性。

OpenAI的使用政策禁止未经允许的冒充，即使公司允许创作者生成不安全材料，明显的非自愿图像仍将被禁止。但公司能否有效地监管明显的生成，以防止不良行为者使用这些工具，尚待观察。

Reece Rogers补充报道