面向小样本、大场景激光点云的几何拓扑增强深度神经网络研究

20250630

科学研究和技术服务业

一、技术成熟程度 双曲几何在深度学习中的应用起源于对高维非线性结构数据的有效建模需求。近年来，随着图神经网络（GNN）、文本图像表示（CLIP）等技术的发展，研究者逐步认识到欧几里得空间在表示层级结构和复杂拓扑关系时的局限性。因此，双曲几何作为一种具有天然层次性的非欧几何空间，成为处理此类问题的新方向。目前，该领域的技术已从理论探索阶段进入初步工程化应用阶段。 二、工艺性能指标 各类下游任务的性能指标，包括分类任务的准确度、分割任务的交并比等指标。以数据的小样本分类性能为例，记为N-Way K-Shot Q-Query，采样大量的片段，每个片段包含N类，每类K个标记样本和Q个未标记样本，获取Q个分类结果，得到大量片段的平均准确率。 相对双曲度（Hyperbolicity），基于Gromov积和数据半径，计算数据的层次性。 其他双曲空间相关指标和度量。 三、科技成果转化所处阶段 从科技成果的转化路径来看，双曲几何增强深度神经网络目前处于“实验室验证→原型开发”的过渡阶段，尚未广泛进入商业化落地阶段。

一、资金，场地，设备 合作方需要在资金、场地、设备几方面均满足训练深度模型所需要的资源，需要有包括GPU等算力平台的部署，能够进行模型训练的场地，及足以支撑模型训练中的硬件及过程中的成本的资金支持。 二、人员 合作方人员需要具有一定的数学知识（包括优化理论、信号处理、黎曼几何等），熟练掌握各类程序设计语言。

可国（境）内外转让

本方法具有较强的通用性，有助于提升模型深度模型的效率和性能。相较于传统欧氏空间中的深度学习模型，双曲几何增强模型能够在更好地保持数据的层次性，提升模型性能。这意味着在训练和推理过程中，可以在不引入额外参数的条件下，有效提高性能，从而减少参数量和计算资源消耗，降低企业在大规模AI部署中的算力投入，在云计算平台、边缘计算设备等场景中具有明显成本和性能优势。

北京市自然科学基金本科生“启研”计划

北京市科学技术委员会;中关村科技园区管理委员会

一、科技成果来源 双曲几何增强深度神经网络的研究源于对传统欧几里得空间在处理复杂数据结构时的局限性。近年来，随着图神经网络（GNN）和高维非线性数据建模的发展，研究者逐渐认识到欧式空间难以有效表示具有层级或树状结构的数据，例如社交网络、知识图谱以及语言结构。这种情况下，双曲几何因其天然适合描述层级关系而受到关注。尤其对于点云数据这类具有强类内或类间层次性的数据类型，双曲空间的嵌入能更好地保留数据的层次性，提高类间判别性进而缓解小样本数据场景下的原型不准确问题。 二、技术原理 传统的深度神经网络主要依赖于欧几里得空间中的运算，如卷积、线性变换等。然而，当面对具有高度非线性结构的数据时，欧式空间往往无法准确捕捉其内在的拓扑特性。双曲几何作为一个具有负常数曲率的空间，提供了一种更高效的表示方式——其体积增长随着半径增长呈指数增长，而非欧氏空间的多项式增长，非常适合表达树状结构或层级关系。双曲几何增强深度神经网络的核心在于将神经网络的运算扩展到双曲流形上，这依赖于黎曼流形的算子，运作在莫比乌斯空间，使用庞加莱圆盘（Poincare Disk Model）模型，包括指数映射（Exponential Mapping）、对数映射（Logarithmic Mapping）、平行输运（Parallel Transport）、双曲均值（依赖于克莱因模型Klein Model上的爱因斯坦中点Einstein Midpoint）、双曲测地距离（Hyperbolic Geodesic）等，实现包括特征嵌入、基于距离的原型获取、双曲包裹正态分布（Hyperbolic Wrapped Normal Distribution）采样、基于分布的原型获取等。 基于系统性的双曲空间嵌入，将通过深度神经网络提取到的输入数据的特征嵌入到双曲空间中，并基于该空间上的度量进行原型校正，从而得到一个更准确的原型表示。 三、关键性技术指标 各类下游任务的性能指标，包括分类任务的准确度、分割任务的交并比等指标。以数据的小样本分类性能为例，记为N-Way K-Shot Q-Query，采样大量的片段，每个片段包含N类，每类K个标记样本和Q个未标记样本，获取Q个分类结果，得到大量片段的平均准确率。 相对双曲度（Hyperbolicity），基于Gromov积和数据半径，计算数据的层次性。 其他双曲空间相关指标和度量。 四、应用前景 本成果的主要应用为视觉小样本学习，包括图像、点云等稀少样本场景下的更准确的分类、分割结果，具有良好的应用前景。此外，未来还可拓展至其他需要处理非结构化、高维、层级化数据的任务中，双曲几何增强模型有望成为新一代人工智能的重要基础架构。同时，还可以用双曲空间来研究不同模态数据的层次性、大模型几何结构等。 五、总结 双曲几何增强深度神经网络是近年来人工智能领域的一项重要发展，它打破了传统欧几里得空间的限制，为处理复杂结构数据提供了全新的视角和工具。尽管目前仍面临优化难度大、理论体系尚未完全成熟等挑战，但其在多个领域的初步成功已经显示出巨大的潜力。随着数学理论、计算硬件以及算法设计的不断进步，双曲几何增强模型有望在理解与推理能力取得提升。