首次！GPT-2赋能无线通信物理层，北大团队提出基于预训练LLM的信道预测方案
输入“/”快速插入内容
首次！GPT-2赋能无线通信物理层，北大团队提出基于预训练LLM的信道预测方案
首次！GPT-2赋能无线通信物理层，北大团队提出基于预训练LLM的信道预测方案
2024年8月15日修改
在无线通信中，信号经由无线信道传递通常会受到能量衰减、噪声干扰等影响，导致用户侧接收到的信号与基站发出的信号存在一定程度的变化，就如同人们出行时受到实况道路影响，到达目的地的时间会与预期存在一定程度的差异。要想预期与实际情况相符，出行时就必须了解精确的道路状态信息，而在无线通信中，为保证信号传输的准确性和有效性，就需要了解精确的信道状态信息 (channel state information, CSI)，并根据接收侧信号复原始发信号。
信道预测是实现 CSI 高效获取的一项核心技术，其根据历史时刻 CSI 序列预测未来 CSI，可以极大减少信道估计与反馈开销。尤其是面向 5G /6G MIMO 无线通信系统，信道预测展现出前所未有的重要性。然而，现有的基于参数化模型和深度学习的信道预测方法尚存预测精度低和泛化性差等问题，难以应用到实际复杂信道环境。
近年来，随着大语言模型 (LLM) 在自然语言处理等领域取得的巨大成功，越来越多的研究团队将目光聚焦于此。但当前大语言模型在通信任务上的应用仍局限于语言形式的协议理解等任务，对于其能否赋能非语言形式的无线通信物理层任务尚存质疑。
首先，信道状态信息是具有复杂的「空-时-频」三维关系的高维结构化数据，这增加了处理的复杂度；其次，信道域和自然语言域的知识存在域差异 (domain gap)，进一步增大了知识迁移的难度。
为克服以上挑战，北京大学电子学院程翔团队提出了一种基于预训练大语言模型的 MIMO-OFDM 信道预测方案 LLM4CP，可应用于 TDD（时分双工）和 FDD（频分双工）通信系统。
相关成果以 「LLM4CP: Adapting Large Language Models for Channel Prediction」为题，发表于期刊 「Journal of Communications and Information Networks」上。
具体来说，研究团队构建了一个基于预训练 GPT-2 的信道预测神经网络，包含预处理模块、嵌入模块、预训练 LLM 模块和输出模块，从而提高了大语言模型在信道预测中的预测能力和泛化能力，为部署在实际应用场景中创造了更多的可能性。
研究亮点：
•
首次将预训练大语言模型应用于信道预测任务，证明了预训练大语言模型可以突破自然语言形式，赋能无线通信物理层设计 * 设计的信道特征增强神经网络，对齐信道空间与大模型特征空间，实现预训练大模型通用知识在信道预测任务上的良好迁移
•
仿真结果显示，所提方案在 TDD 和 FDD 信道预测任务上取得了最先进的全样本和少样本预测性能，频点泛化性能大幅领先于现有方案，同时具有和深度学习小模型相当的训练和推理时间成本
数据集下载：
开源项目「awesome-ai4s」汇集了百余篇 AI4S 论文解读，并提供海量数据集与工具：
数据集：完全符合 3GPP() 标准
在研究的实验阶段，团队使用 QuaDRiGa 仿真器生成了符合 3GPP 标准的时变信道数据集用于性能验证。
•
团队设置了一个 MISO-OFDM 系统，其中基站侧配备了双极化 UPA (uniform planar array)，用户侧配备了单个全向天线，天线间距为中心频率处波长的一半。上行和下行信道的带宽均为 8.64 MHz，导频频率间隔为 180 kHz。对于 TDD 和 FDD 模式，上下行通道的中心频率均设置为 2.4 GHz。对于 FDD 模式，上行和下行通道相邻。研究团队在预测实验中将导频频率间隔时间设置为 0.5 ms。
TDD：是一种通信系统的双工方式，在移动通信系统中用于分离接收和传送信道。
FDD：指上行链路（移动台到基站）和下行链路（基站到移动台）采用两个分开的频率（有一定频率间隔要求）工作。
研究考虑了 3GPP 城市宏观信道模型和非视距场景。集群数量为 21 个，每个集群的路径数为 20 条。用户的初始位置是随机化的，运动轨迹设置为线性型。