OPENAI威胁禁止探究人工智能的“推理” 据报道,OpenAI威胁要禁止

边关军事 2024-09-20 13:15:35

OPENAI 威胁禁止探究人工智能的“推理” 据报道,OpenAI 威胁要禁止那些试图揭示其最新 AI 模型“Strawberry”(o1-preview)如何通过问题进行推理的用户。 尽管该公司此前宣称该模型的“思维链”功能是一项突破,但该公司仍采取了这一举措。 用户报告收到了“试图规避安全措施”的警告电子邮件,甚至其中的“推理追踪”或“推理”等术语都可能引发违规行为。 OpenAI 声称该政策可以防止潜在的安全问题并保持竞争优势。 然而,批评者认为,这降低了透明度并阻碍了人工智能安全研究。 这一政策转变凸显了人工智能透明度、安全问题和商业利益之间的紧张关系。 这也标志着 OpenAI 与其最初的开源愿景的重大背离,引发了有关人工智能开发和访问的未来的重要问题。 来源:未来主义

0 阅读:11