神经网络内部或隐含符号结构，研究提出新解释框架

传统观点认为，基于连续向量的神经网络难以捕捉逻辑、语言等认知任务中的符号结构，但现代AI系统却在这类任务上表现优异。这构成了认知科学和人工智能领域的核心谜题。

在这篇论文中，研究团队提出了一个潜在答案：尽管表面上使用连续向量，但神经网络的内部表示可能隐式地实现了符号结构。他们展示了多种神经网络的向量表示都能被符号结构紧密近似。

这一发现同时适用于小规模神经网络和大型语言模型，覆盖算术、逻辑、代码和语言四个核心领域。研究还展示了通过精确定位内部表征的干预方式来定向修改模型行为的能力，进一步支持了模型依赖这些符号结构的判断。

该研究试图为长期存在的符号主义与连接主义提供了一个潜在的融合视角。这种近似方法也可能为解释和改进现有AI系统提供新的工具。