CSAIL研究AI报告生成式AI依赖记忆力非推理能力
科技快讯近日,麻省理工学院CSAIL计算机科学与人工智能实验室的一项研究表明,当前流行的生成式人工智能AI在处理任务时,更多依赖于强大的记忆力,而非真正的推理能力,大型语言模型LLM如GPT-4在熟悉的任务上表现优异,例如十进制算术,但在面对新挑战时,如其他进制算术、棋类游戏和空间推理等,其性能则明显下降。
研究人员认为,这些AI系统更像是有超群记忆力的“鹦鹉”,而非具备推理能力的“智者”。AI在特定领域内的表现虽可超越人类,但这主要归功于其“记忆力”。
在创意和解决复杂问题方面,AI仍有很大的提升空间。例如,一些媒体机构尝试用AI取代记者,却发现AI生成的新闻错误频出,增加了编辑的工作负担。在游戏行业,AI辅助开发虽有一定作用,但核心创意和游戏体验的打造仍需依赖人类智慧。