近年来,人工智能(AI)领域竞争日趋激烈,各大企业和研究机构纷纷投入巨额资源,力图在底层技术创新上取得突破。近日,九章云极DataCanvas公司传来喜讯,其两项原创AI研究成果成功入选国际顶级学术会议ICLR 2025(国际学习表征大会),再次证明了其在AI领域,特别是在底层技术创新方面的实力与潜力。
ICLR作为与NeurIPS、ICML并列的人工智能三大顶级会议之一,由深度学习领域的先驱Yoshua Bengio、Yann LeCun等人于2013年创立。它以对深度学习核心问题的深入探讨、严格的学术评审标准以及开放的社区文化而闻名。在谷歌学术的人工智能出版物中,ICLR的h5-index排名第二,是AI学者们发布重要研究成果的首选平台。2025年,ICLR共收到全球投稿11565篇,最终录用率仅为32.08%,竞争之激烈可见一斑。 因此,DataCanvas能够在此次会议上成功发表两篇论文,无疑是对其科研能力的高度认可。
此次入选ICLR 2025的两篇论文分别为《A Solvable Attention for Neural Scaling Laws》和《DyCAST: Learning Dynamic Causal Structure from Time Series》。这两项研究分别从理论和系统层面,深入探索了AI领域的核心问题。
在理论层面,《A Solvable Attention for Neural Scaling Laws》聚焦于神经网络的基础理解,尤其是Transformer架构中的Self-Attention机制的标度定律。该论文通过数学推导,首次展示了在特定条件下,Self-Attention机制与其他模型一样,也遵循类似的标度定律,并进一步揭示了数据分布等因素如何影响这些定律。这一发现对于理解并优化大模型的效率瓶颈,具有重要的理论指导意义。未来,基于此理论,或可发展出更加高效的大模型训练策略。
在系统层面,《DyCAST: Learning Dynamic Causal Structure from Time Series》则致力于动态因果系统建模,开创了时序因果推断的新方向。该论文创新性地同时考虑了同一时刻因果图内部变量之间的关系以及不同时刻因果图之间的连接,并利用NeuralODE技术在多个数据集上实现了超越或持平现有方法的性能。 更重要的是,相比于仅关注预测准确率的时序模型,DyCAST能够学习并揭示时间序列数据中潜在的动态因果关系, 这为复杂系统的分析和决策提供了全新的视角。 这项研究成果对于AI在医疗诊断、金融风险管理等高敏感性领域的应用,具有重要的潜在价值,因为它能够为决策提供更可靠的因果依据。
事实上,这并非DataCanvas首次在国际顶级学术会议上获得认可。近年来,该公司已在ICLR、NeurIPS、AAAI等多个重要会议上发表多篇高质量论文,例如《Implicit Bias of Adversarial Training for Deep Neural Networks》、《Implicit Bias of (Stochastic) Gradient Descent for Rank-1 Linear Neural Network》以及《Effects of Momentum in lmplicit Bias of Gradient Flow folDiagonal Linear Networks》等。 这些成果共同构成了DataCanvas在AI领域的坚实学术基石,也为该公司构建“理论可验证、因果可追溯”的AI技术体系提供了有力支撑。
DataCanvas此次双论文入选ICLR,不仅是对其科研实力的有力证明,也再次验证了其在AI领域持续投入和不断创新的战略方向。随着DataCanvas在AI领域的不断深入探索,其“理论可验证、因果可追溯”的AI技术体系有望不断完善,为全球人工智能的健康发展贡献力量。未来,我们期待DataCanvas能够带来更多具有突破性的创新成果。