深圳河套学院 · 人工智能理论及系统中心
陈淙靓
我目前是深圳河套学院人工智能理论及系统中心研究助理教授。本科毕业于北京大学信息科学技术学院，博士毕业于香港中文大学（深圳），导师为罗智泉教授。
我的总体研究目标，是从数学结构与理论分析出发，构建面向大模型智能体的核心方法能力，并将其转化为真实模型训练与推理任务中的可验证性能增益。
我的研究方向包括优化算法和机器学习系统。优化算法方向关注结构化拟牛顿与二阶优化方法、面向稳健泛化能力的训练算法、后训练与对齐优化、分布式优化算法，以及强化学习与智能体训练中的优化方法；机器学习系统方向关注低精度训练与推理、模型适配与参数高效调优、高性能算子生成、基准评测与性能建模。
招聘与招生
长期招收研究助理、博士研究生申请者和有科研潜力的实习生，主要包括两个方向：优化算法和机器学习系统。
请发送邮件至 chencongliang@slai.edu.cn，并附上 CV、成绩单（如有）、一段简短科研/工程经历介绍，以及论文、代码或项目链接。博士生申请还需遵循深圳河套学院官方申请要求与申请方式。
展开查看方向与适合背景
优化算法
- 结构化拟牛顿与二阶优化方法。
- 面向稳健泛化能力的训练算法与理论分析。
- 后训练与对齐优化算法。
- 面向多机与异构环境的分布式优化算法。
- 强化学习与智能体训练中的优化方法。
机器学习系统
- 低精度训练与推理系统。
- 模型适配、参数高效调优与部署导向微调系统。
- 高性能算子生成、基准评测与性能建模。
适合背景：具备优化、概率、数值线性代数或机器学习理论基础；熟悉 Python 和深度学习框架；有 CUDA/Triton/系统经验更佳。
动态
- 2026 招收优化算法和机器学习系统方向研究助理、博士研究生申请者和实习生。
- 2025 Adam-mini 和 GEM 多样性保持 SFT 被 ICLR 2025 接收。
- 2024 Why Transformers Need Adam 发表于 NeurIPS 2024。
研究方向
- 优化算法：结构化拟牛顿与二阶优化方法、面向稳健泛化能力的训练算法、后训练与对齐优化、分布式优化、强化学习与智能体训练中的优化方法。
- 机器学习系统：低精度训练与推理、模型适配与参数高效调优、高性能算子生成、基准评测与性能建模。
代表论文
(* 表示共同一作，† 表示通讯作者)。
Adam-mini: Use Fewer Learning Rates To Gain More
Yushun Zhang*, Congliang Chen*, Ziniu Li, Tian Ding, Chenwei Wu, Diederik P. Kingma, Yinyu Ye, Zhi-Quan Luo, and Ruoyu Sun. ICLR 2025.
Preserving Diversity in Supervised Fine-Tuning of Large Language Models
Ziniu Li, Congliang Chen, Tian Xu, Zeyu Qin, Jiancong Xiao, Zhi-Quan Luo, and Ruoyu Sun. ICLR 2025.
Why Transformers Need Adam: A Hessian Perspective
Yushun Zhang, Congliang Chen, Tian Ding, Ziniu Li, Ruoyu Sun, and Zhi-Quan Luo. NeurIPS 2024.
Efficient-Adam: Communication-Efficient Distributed Adam
Congliang Chen, Li Shen, Wei Liu, and Zhi-Quan Luo. IEEE Transactions on Signal Processing, 2023.
Towards Practical Adam: Non-Convexity, Convergence Theory, and Mini-Batch Acceleration
Congliang Chen*, Li Shen*, Fangyu Zou*, and Wei Liu. JMLR 2022.
展开更多论文
- Quantized Adam with Error Feedback
Congliang Chen, Li Shen, Haozhi Huang, and Wei Liu. ACM Transactions on Intelligent Systems and Technology, 2021. - A Unified Analysis of AdaGrad with Weighted Aggregation and Momentum Acceleration
Li Shen, Congliang Chen, Fangyu Zou, Zequn Jie, Ju Sun, and Wei Liu. IEEE Transactions on Neural Networks and Learning Systems, 2023. - Adam Can Converge Without Any Modification On Update Rules
Yushun Zhang, Congliang Chen, Naichen Shi, Ruoyu Sun, and Zhi-Quan Luo. NeurIPS 2022. - Communication Efficient Primal-Dual Algorithm for Nonconvex Nonsmooth Distributed Optimization
Congliang Chen, Jiawei Zhang, Li Shen, Peilin Zhao, and Zhi-Quan Luo. AISTATS 2021.
经历
教育经历
- 2018.08 - 2025.03，博士，香港中文大学（深圳）。
- 2014.09 - 2018.06，本科，北京大学。
工作与服务
- 2025 - 至今，深圳河套学院研究助理教授。
- 2019.07 - 2023.07，腾讯 AI Lab 实习生，深圳。
- ICML、NeurIPS、ICLR、ICCV、CVPR 等会议审稿人。