近日，上海交通大学区域光纤通信网与新型光通信系统国家重点实验室的义理林教授团队提出一种针对光纤通信系统的可学习数字信号处理（LDSP）技术，将传统数字信号处理（DSP）模块视为深度学习框架中的可学习结构，通过全局优化大幅提升了光纤通信系统线性损伤的补偿效果。打破了学术界通常认为当前DSP已经实现光纤通信系统线性效应完全补偿的认知，有望成为高速光纤通信系统的线性补偿新基准，为非线性补偿算法的性能评估奠定了基础。相关成果以“Learnable Digital Signal Processing: A New Benchmark of Linearity Compensation for Optical Fiber Communications”为题于2024年8月发表在国际顶尖光学期刊《Light: Science & Applications》。

研究背景

光纤通信技术的迅速发展为现代信息社会提供了强大的技术支持。随着数据传输需求的不断增加，如何在现有光纤通信系统中实现更高的传输容量，成为了研究人员关注的重点。然而，光纤通信系统中的各种线性和非线性效应严重限制了信号的传输质量。传统的数字信号处理（DSP）技术是分模块设计的，虽然在补偿各种线性效应方面已经成熟，但这种逐块最优化设计可能导致局部最优。在这种情况下，非线性补偿的性能可能由于线性残余干扰而不准确，从而影响非线性补偿算法的设计和性能评估。因此，全局优化线性DSP性能，为非线性补偿提供准确的评估基准，对大容量光传输至关重要。

此外，在实际应用中，更高性能的补偿往往意味着更大的复杂度，而复杂度的增加则会带来更高的功耗和更大的设备体积，不利于系统的集成和推广。在这种背景下，如何在保持低复杂度的同时，提高DSP的补偿性能，成为了光纤通信领域研究的一个重大挑战。

研究路径：可学习的DSP框架

为了克服上述难点，研究团队提出了一种新型的DSP框架——可学习的DSP（LDSP）。该方案在保持传统DSP框架的基础上，融入了深度学习的优化框架。在结构上，LDSP复用了传统DSP的模块，设定各个模块内参数是可学习的，进一步通过深度学习的优化算法，从而实现全局最优的性能。具体而言，LDSP是对信号分块进行处理，在处理每个信号块时，各个DSP模块通过反向传播算法计算梯度，使用随机梯度下降算法对参数进行优化，如图1所示。

图1 LDSP框架（a）信号分块处理流程（b）LDSP流程

研究成果

技术上，LDSP是一种具有在线训练功能的DSP框架，结合了光通信以往的先验知识和数据驱动的优势。通过这种方式，LDSP中的各个补偿模块能够借助梯度共享处理信息，全面利用DSP资源进行损伤补偿，提升传输性能。研究人员在400 Gb/s速率下1600 km光纤传输的实验，如图2所示，测试的长距离传输实验系统，速率达到400 Gbps，传输1600 km，采用波分复用系统，测试时，有单通道和21通道两个场景。

图2 400 Gbps 1600 km实验系统

实验结果如图3所示，LDSP在单通道和21通道传输的Q因子性能分别提高了约0.77 dB和0.56 dB，结合非线性补偿，性能提升分别可达1.21 dB和0.9 dB。结果还说明，DSP性能对非线性补偿的增益有着直接的影响，使用LDSP后，非线性补偿的增益随之增加。随着对非线性补偿的需求增加，LDSP作为一种新的算法处理范式，有变革光纤通信中DSP方案的潜力，更重要的是，它展示了传统线性DSP仍有提升的空间，为光纤通信的非线性补偿设立了新的基准。

图3 实验结果性能（a）单通道Q因子性能（b）单通道Q因子增益（c）21通道Q因子性能（d）21通道Q因子增益

LDSP可以在一个模块中实现多种不同的功能，展示了其高效性。例如，频域补偿模块可以同时补偿IQ skew、激光器频偏和色散等效应。进一步地，通过IQ skew的数值能够检测采样误差，从而降低对时钟恢复模块的需求，节省DSP资源，学习到的IQ skew如图4所示，延迟的斜率反映了采样误差。

图4 LDSP学习到的IQ skew参数特征

在传统的DSP系统中，各个模块的参数是固定的，需要根据实际情况进行手动调整，这不仅增加了系统的复杂度，还可能导致补偿效果不佳。而在LDSP中，这些参数是可学习的，可以通过反向传播算法进行自适应优化。LDSP能够在保证高性能的同时，还能够实现符号速率的信号处理，降低系统复杂度，使其更加适用于实际应用。

LDSP技术通过结合传统DSP和深度学习的优势，实现了光纤通信中线性和非线性效应的高效补偿，标志着光纤通信技术的一个重要里程碑。通过全局优化，LDSP在保证高性能的同时，降低了系统复杂度，使其更加适用于实际应用。该研究不仅为未来的光纤通信发展提供了新的思路，也为光纤非线性补偿建立了新的基准，有望推动这一领域的快速发展。

论文信息

上海交通大学电子信息与电气工程学院电子工程系博士研究生牛泽坤为论文的第一作者，义理林教授为论文的通讯作者。

LIFE课题组一直致力于光纤通信系统的算法设计、系统架构设计以及智能化发展。目前，课题组深入研究基于人工智能方法的光纤信道建模、星座整形设计、非线性补偿算法以及端到端性能全局优化工作，开发基于Python的光纤通信系统智能仿真平台并开源（ifibertrans.sjtu.edu.cn），为光传输领域持续发展贡献力量。该方向工作得到国家自然科学基金杰出青年基金项目、科技部重点研发计划项目、上海交通大学“交大2030”计划以及上海交通大学-华为先进光技术联合实验室的支持。

期刊信息

《Light: Science & Applications》是一本享有盛誉的学术期刊，该刊是自然出版集团在中国出版的第一本OA物理类期刊，致力于推动全球范围内的光学研究，刊载光学领域基础、应用基础以及工程技术研究及应用方面的高水平的最新研究成果，包括小尺度光学、特种光学、光学材料及处理、光学元件制备、光学数据传输、光学测量、光学在生命科学及环境科学等领域的应用等方面的高质量、高影响力的原创性学术论文、News & Views、快报、展望和综述文章。2023年影响因子为 20.6。

论文链接：https://www.nature.com/articles/s41377-024-01556-5