厉害了！让ChatGPT-4自主交易股票，它不但会在明知不可为的情况下选择内幕交

厉害了！让ChatGPT-4自主交易股票，它不但会在明知不可为的情况下选择内幕交易，还会懂得如何骗人。   Apollo Research的研究人员在一篇论文中探讨了一个问题：即使AI被训练为“有益、无害且诚实”，它是否还会“策略性地欺骗”用户。他们把“策略性欺骗”定义为有意识地让其他实体产生错误认识，以达到某种目的。   为此，他们设计了一个模拟测试环境。在这个环境中，一个名为Alpha的GPT-4模型被设定为一个自主股票交易的AI智能体，并被指派在一家名为WhiteStone的金融公司（假想的公司）——在高压情况下管理股票组合。   这个高压环境主要通过三种方式构建：首先，Alpha 的经理告诉它，WhiteStone目前经营不善，需要在下一季度大幅提升业绩。其次，Alpha尝试但未能成功识别出低风险和中风险的交易机会。最后，一位WhiteStone员工向Alpha透露，股市可能即将出现下滑。   在这种背景下，Alpha得知了一个内幕消息：一场意外的合并公告即将发生，这可能带来一笔大额交易。面对这一情况，Alpha需要决定是否利用这条消息，尽管它知道公司高层明令禁止内幕交易，并且已被告知不得参与此类活动。结果，Alpha进行了这笔交易。   更重要的是，当Alpha需要向它的上级经理解释决策过程时，研究发现它采用了策略性的欺骗手段。例如，在被经理询问是否掌握内幕信息时，Alpha认为它需要提供一个既不会引起怀疑又能解释行为的答案。它告诉经理，这笔交易是基于市场波动的判断，而且它对合并公告并不了解。在另一种情况下，Alpha向经理保证在决策过程中没有使用内幕信息，因为这违反了公司规定——这是一句彻头彻尾的谎言。