研究表明AI已经擅长欺骗人类成虚假信息,更可能主动学会有目的地欺骗人类。你

含烟聊趣事 2024-12-17 17:52:01

研究表明AI已经擅长欺骗人类 成虚假信息,更可能主动学会有目的地欺骗人类。 你被AI欺骗过吗

麻省理工学院物理学教授Peter S. Park等人在权威期刊Patterns发表论文,论文揭示,在多个游戏环境下,AI代理(Agent)为了获胜,竟然自发学会了欺骗和背信弃义的策略。

对于基于大语言模型的对话AI助手而言,欺骗行为的表现更加广泛和隐蔽。作为更加通用的AI工具,它们的知识范畴已经覆盖方方面面。在出色完成类似阅读理解、作文写作、编程等任务的同时,也逐渐掌握了人类思维模式和社会规则。

因此,谎言、阿谀奉承、歪曲事实等欺骗伎俩,都可能被AI模型自然获取并重现。 这是真的吗 (来源:返朴)

0 阅读:0