5G-A车联网确定性网络中的语义通信系统
Semantic communication system in deterministic networking for5G-advanced vehicular network
通讯作者:
收稿日期: 2024-07-12
基金资助: |
|
Received: 2024-07-12
Fund supported: | 北京市自然科学基金资助项目(L222043). |
作者简介 About authors
栾宏之(1970—),男,高级工程师,从事5G-Advanced和车联网的研究.orcid.org/0009-0002-4168-4640.E-mail:
针对现有语义通信(SC)系统编码时间较长,无法直接应用于5G-Advanced技术框架下,需要处理大量高实时性、低延迟数据的智能车联网系统(V2X)中确定性网络(DN)的问题,提出针对5G-Advanced智能车联网中确定性网络设计的截止时间敏感的语义通信系统(DDA-SC). 该系统采用截止时间敏感的语义编码器,通过控制编码深度适应数据截止时间,确保在有效时间内完成编码与传输. 为了提高各编码截止时间下的传输可靠性,提出基于编码深度的信噪比感知网络. 该网络在训练时将SNR映射为编码深度相关的相关信噪比(R-SNR),利用注意力机制进行R-SNR感知,以在不同编码截止时间下更好地抵御信道噪声. 实验结果表明,当编码截止时间< 5 μs时,该系统在CARS-196汽车识别任务上的准确度较不考虑截止时间的系统提高80.31%以上. 结果表明,DDA-SC可以在极低编码截止时间下完成一般语义通信系统无法完成的任务,验证了该方法的有效性.
关键词:
A deadline-aware semantic communication (DDA-SC) system specifically tailored for deterministic network in 5G-Advanced intelligent vehicle-to-everything (V2X) environments was proposed in order to overcome the challenge of prolonged encoding time in current semantic communication (SC) systems, which impedes their direct deployment in deterministic networking (DN) for 5G-Advanced vehicle-to-everything (V2X) networks—particularly critical for intelligent transportation systems requiring high-throughput and low-latency data processing. A deadline-aware semantic encoder (DDA-SE) was employed, which adjusted the depth of semantic encoding to meet data deadlines, ensuring timely encoding and transmission. A signal-to-noise ratio (SNR) aware network based on encoding depth was introduced in order to enhance transmission reliability across different encoding deadlines. SNR was mapped to relevant signal-to-noise ratio (R-SNR) based on encoding depth during training, using an attention mechanism to sense R-SNR and better resist channel noise under various encoding deadlines. The experimental results show that this system achieve an accuracy improvement of over 80.31% in the CARS-196 vehicle identification task compared with systems that do not consider data deadlines when encoding deadlines are shorter than 5 microseconds. Results demonstrate that DDA-SC can accomplish tasks under extremely low encoding deadlines that are unachievable by conventional semantic communication systems, thus verifying the effectiveness of the method.
Keywords:
本文引用格式
栾宏之, 李书才, 李屹, 钱传杰, 梅琼.
LUAN Hongzhi, LI Shucai, LI Yi, QIAN Chuanjie, MEI Qiong.
随着全球移动通信技术的快速发展,第5代移动通信技术[1](the fifth generation mobile communication technology, 5G)凭借高速传输、低延迟和大容量的特性,在车联网[2](vehicle to everything, V2X)和工业物联网[3-4](industrial internet of things, IIoT)中展现出变革性能力,推动了智能交通系统的发展[5]. 随着智能交通需求增加和场景复杂化,5G在网络延迟、数据处理效率及高密度通信环境下的服务质量保障面临挑战. 这些挑战催生了对5G演进(5G-Advanced)和第6代移动通信技术[6](the sixth generation of mobile communication technology, 6G)的需求. 这类技术将提供更高的传输速率、更低的延迟和更广的连接能力. 5G-Advanced通过引入边缘计算和深层次网络切片技术,支持更复杂的智能通信场景,对未来智慧车联网和工业物联网的发展至关重要. 在此背景下,语义通信[7-10](semantic communication, SC)技术日益受到关注. 相较于传统通信聚焦传输效率,语义通信更重视信息的意义传达. 在智能车联网中,系统可以根据交通环境和驾驶情境的语义需求优化数据传输,优先处理关键的安全信息,提升道路安全和交通效率.
车联网中存在大量时效性强、延迟低和可靠性高的数据,均有传输截止时间(deadline, DDL). 超出DDL的数据传输无意义,对语义通信的时间敏感性提出了更高的要求. 5G通过确定性网络[11](deterministic networking, DN)技术扩展以太网,提供确定性通信解决方案. 当前面向车联网的语义通信系统未考虑编码时间与低时延需求的矛盾,编码时间是否满足确定性传输要求尚不清楚[12-14]. 针对上述问题,本文提出截止时间敏感的语义通信方案(deadline-aware semantic communication, DDA-SC). 利用截止时间敏感的语义编码器(deadline-aware semantic encoder, DDA-SE),根据DDL控制编码深度,确保数据在有效时间内完成编码和传输. 设计基于编码深度的信噪比感知网络(coding-depth based signal-noise ratio aware network, CDSAN),通过注意力机制增强对信道噪声的鲁棒性. 实验表明,当编码截止时间<10 μs时,该系统在CIFAR-10分类任务上的准确度提升了75%以上.
1. 系统模型和问题陈述
本节介绍语义通信系统中典型的联合信源信道编码系统[15](joint source and channel coding, JSCC),指出该系统处理时间敏感数据的不足及本文所提工作的优化目标.
1.1. 系统模型
典型的联合信源信道编码系统由联合信源信道编码器(joint source and channel encoder, JSC Encoder)和联合信源信道解码器(joint source and channel decoder, JSC Decoder)组成. 当完成通信任务时,联合信源信道编码器和联合信源信道解码器分别被部署在发送端和接收端,完成信源信道编码和信源信道解码任务.
如图1所示为联合信源信道编码系统的系统结构. 在发射端,信源产生消息
图 1
1.2. 问题陈述
典型信源信道编码系统在节省面向任务的通信所需要的带宽资源方面非常有效. 由于典型信源信道编码系统未考虑时间敏感数据对快速编码传输的要求,且联合信源信道编码的计算复杂度较高,所需的时间较长,所以在处理时间敏感数据时易导致数据失效,无法满足5G-Advanced智能车联网中确定性网络进行确定性传输的要求. 对于联合信源信道编解码系统,以下问题亟待解决:
式中:
2. 截止时间敏感的语义通信系统
截止时间敏感的语义通信系统如图2所示,该系统主要由截止时间敏感的语义编码器和联合信源信道解码器组成. 截止时间敏感的语义编码器根据截止时间控制编码深度,以达到在车联网通信要求的截止时间内完成通信任务的目标.
图 2
考虑车联网通信中的传输时间和解码时间分别取决于物理信道和边端解码硬件,将传输时间和解码时间固定,即式(1)中
2.1. 截止时间敏感的语义编码器
如图2所示,截止时间敏感的语义编码器由一系列同构的编码层构成,而每个编码层都包含1个语义编码层
算法1 根据截止时间进行语义编码 输入:信源消息
需要:接收端反馈的信噪比
输出:传输符号1 初始化:
2 While (3 4 5 6 7 Return
2.2. 基于编码深度的信噪比感知网络
提出的基于编码深度的信噪比感知网络的结构如图3所示. 以第i层感知网络层为例,该感知网络接收第i层语义编码层的输出语义特征作为输入,将语义特征经过池化和线性变换后,得到每一维语义特征对应的单个语义特征. 单个语义特征与变换后的相关信噪比(relevant signal-to-noise ratio, R-SNR)拼接经线性变换和Softmax函数映射后,得到每一维度语义特征对应的缩放因子. 这些缩放因子与信噪比感知网络的输入语义特征相乘并相加后,得到信噪比感知网络的输出语义特征. 相关信噪比R-SNR是和编码深度相关的补偿SNR,其由接收端反馈的SNR映射得到. 具体而言,第i层的R-SNRi等于SNR乘以层补偿因子
图 3
浅层编码层提取的任务相关信息较深层编码层而言较少,包含的冗余信息较多. 从完成智能任务的角度而言,其包含的无用信息即噪声较多,面向完成任务的有用信息与噪声(由编码冗余信息和信道噪声2部分构成)的比值较低. 从信息论的角度考虑,较浅层语义特征
2.3. 训练过程
截止时间敏感的语义通信系统的训练过程如图4所示. 对于数据集
图 4
图 4 截止时间敏感的语义通信系统的训练过程
Fig.4 Training process of deadline-deadline aware Semantic Communication System
式中:
在算法2中,同时优化截止时间敏感的语义编码器
补偿后的R-SNR使编码层提取的任务相关信息在趋势上大致符合Transformer的“规模定律”,在编码层数较深时,
算法2 截止时间敏感的语义通信系统的训练算法
输入:训练集
需要:初始化的补偿因子
输出:
1 初始化:
2 对训练集
3 While (
4 从0 dB到20 dB中随机采样一个SNR,记为
5 For
6
7 For
8
9
10
11
12
13 Return
在得到模拟信号函数输出的接收信号
更新第
因为有
第
算法2的训练过程可以使所有编码层编码的语义特征尽量能由解码器解码得到正确的任务输出.
截止时间敏感的语义通信系统与一般语义通信系统最大的不同如下:所提系统可以根据通信时延的要求动态调整数据的编码时间,以满足在5G-Advanced智能车联网应用时的低时延要求. 基于当前车联网中的通信时延要求进行对应的信道补偿,以最大程度地提升系统的信道鲁棒性.
3. 实验结果
使用在MNIST数据集[17]、CIFAR-10数据集上的图像分类任务和CARS-196数据集上的汽车识别任务,验证所设计的截止时间敏感的语义通信系统的有效性.
3.1. 实验设置
表 1 截止时间敏感的语义通信系统的模型参数
Tab.1
组件名称 | 结构名称 | 结构尺寸 |
截止时间敏感的语义编码器 | 图像重整维度 | 224×224×3 |
图像块维度 | 32×32×3 | |
嵌入向量尺寸 | 384 | |
总编码层数 | 10 | |
多头/单头 | 单头注意力 | |
基于编码深度的信噪比感知网络 | 自适应平均池化 | 384→96 |
全连接层1 | 96×24 | |
全连接层2 | 24×1 | |
全连接层3 | 51×50 | |
联合信源信道解码器 | 线性层1 | 图像块数量×1 |
线性层2 | 嵌入向量尺寸×类别数量 |
表 2 训练超参数的设置
Tab.2
超参数 | 数值 |
学习率 | |
批量大小 | 1 000 |
优化器 | Adam |
损失函数 | 交叉熵 |
训练轮次 | 200 |
模型选择策略 | 在验证集上性能最优早停 |
3.2. 实验结果
如图5所示为编码深度对提出系统性能的影响. 图中,Acc为准确率,L为编码深度. 在MNIST数据集、CIFAR-10数据集和CARS-196数据集上,当编码层数为1时模型准确率分别为91.16%、80.71%和81.10%,当编码层数为7时模型准确率分别为98.04%、93.73%和91.13%,性能均有所提升. 这是由于编码深度越深,语义表征能力越强,对应的解码输出错误的概率越小,即编码截止时间越长,系统输出错误的概率越小.
图 5
图 6
如图6 (c)所示为在CARS-196数据集上不同编码截止时间下的模型性能. 当截止时间≤5 μs时,提出的截止时间敏感的语义通信系统的准确度比deep JSCC系统和SC系统提高了80.31%以上,有显著优势. 这主要是因为提出的系统可以根据编码的截止时间动态调整编码深度,以在截止时间内完成语义编码进行传输. deep JSCC系统和SC系统无法根据编码的截止时间动态调整,当编码截止时间小于deep JSCC系统和SC系统的编码器编码对信源信息编码所需的时间时,2个系统均处于不可用状态. 当截止时间> 7 μs时,3个系统均可正常完成语义编码,此时三者性能几乎相同. 如图6 (b)、(c)所示分别为在CIFAR-10数据集和MNIST数据集上不同编码截止时间下的模型性能,整体趋势与CARS-196数据集上类似. 当截止时间≤5 μs提出的截止时间敏感的语义通信系统在2个数据集上的准确度较deep JSCC系统和SC系统提高84.58%和91%以上.
如图7所示为在不同信道条件下(即不同信噪比下),截止时间敏感的语义通信系统和deep JSCC系统分别在编码截止时间为4、6、8和12 μs时的系统性能. 如图7 (c)所示为模型在CARS-196数据集上的性能. 在编码截止时间为12 μs,信噪比为−10 dB的情况下,提出的截止时间敏感的语义通信系统的准确率较deep JSCC系统提升了41.57%. 在此条件下,DDA-SC系统和deep JSCC系统均可以正常完成语义编码,但上述结果说明DDA-SC的抗噪能力远强于deep JSCC系统,造成该结果的原因如下. 1)提出的基于编码深度的信噪比感知网络能够有效地抵御信道噪声,尤其在训练时使用补偿后相关信噪比能够使较浅的编码层充分感知信道噪声,从而有较好的信道鲁棒性. 2)DDA-SC的语义编码层采用Transformer的编码器架构,该架构在抵抗信道噪声带来的数据扰动方面较卷积层有天然优势. 3)利用算法2所示的训练方法,DDA-SC的语义编码器的每一层都能够提取最有效的语义表征,使得深层次的语义特征在完成通信任务时更有效. 当编码截止时间≤8 μs时,编码截止时间小于deep JSCC系统的编码器编码对信源信息编码所需的时间,该系统处于不可用状态,分类准确率为0.
图 7
如图7 (b)、(c)所示分别为在CIFAR-10数据集和MNIST数据集上不同编码截止时间下的模型性能,整体趋势与CARS-196数据集上类似. 在编码截止时间为12 μs,信噪比为−10 dB的情况下,提出的截止时间敏感的语义通信系统在2个数据集上的准确率分别较deep JSCC系统提升50.69%和74.68%. 当编码截止时间≤8 μs时,deep JSCC系统不可用,分类准确率为0.
为了验证提出的基于编码深度的信噪比感知网络的有效性,设计消融实验,对比有感知网络层的DDA-SC系统和不带有感知网络层的DDA-SC系统. 如图8所示,在编码截止时间分别为8和12 μs的情况下,有感知网络层的DDA-SC系统在CIFAR-10数据集上的性能在各SNR下均优于没有感知网络层的DDA-SC系统. 当编码截止时间为8 μs时,在信噪比为−10 dB的情况下,有感知网络层的DDA-SC系统的准确率较没有感知网络层的DDA-SC系统提高了36.71%. 这证明了感知网络层在抵御信道噪声方面的有效性;在同编码截止时间下有感知网络层的DDA-SC系统的性能优势说明感知网络层带来的性能增益远超引入其而带来的额外的计算复杂度.
图 8
图 8 基于编码深度的信噪比感知网络的消融实验
Fig.8 Ablation experiment in coding-depth based signal-noise ratio aware network
4. 结 语
本文针对5G-Advanced智能车联网场景中的确定性网络,设计截止时间敏感的语义通信系统. 通过控制语义特征的编码深度,确保时间敏感数据在截止时间内完成可靠传输. 为了提升系统的抗噪能力,提出基于编码深度的信噪比感知网络(CDSAN). 利用注意力机制感知相关信噪比(R-SNR),增强在不同截止时间下的鲁棒性. 该方法为车联网低时延语义通信提供了解决方案,为相关算法的设计提供了指导,是该领域首篇考虑了编码截止时间的工作,开拓了新视角. 未来研究将探索该方法在更多车联网具体任务中的应用,验证其广泛适用性,并研究语义通信与边缘计算的融合,以提高网络的响应速度和可靠性,为5G-Advanced及6G低时延场景提供启示.
参考文献
汽车智能制造中的工业物联网技术应用
[J].
Application of industrial internet of things technology in intelligent manufacturing of automobiles
[J].
5G车联网中安全高效的组播服务认证与密钥协商方案
[J].DOI:10.11999/JEIT231118 [本文引用: 1]
A secure and efficient multicast service authentication and key agreement scheme in 5G vehicular networks
[J].DOI:10.11999/JEIT231118 [本文引用: 1]
车联网中基于有向无环图区块链的个性化联邦互蒸馏学习方法
[J].DOI:10.11999/JEIT230976 [本文引用: 1]
A personalized federated mutual distillation learning method based on directed acyclic graph blockchain in vehicular networks
[J].DOI:10.11999/JEIT230976 [本文引用: 1]
第六代WiFi技术探析及其与5G关系的探究
[J].
Analysis of sixth generation WiFi technology and its relationship with 5G
[J].
5G-Advanced扩展现实增强技术研究
[J].
Research on 5G-advanced extended reality enhancement technology
[J].
Semantic communications with artificial intelligence tasks: reducing bandwidth requirements and improving artificial intelligence task performance
[J].
第五代移动通信技术应用开发研究
[J].
Research on application development of fifth generation mobile communication technology
[J].
语义在通信中的应用综述
[J].
Overview of the application of semantics in communication
[J].
Adaptable semantic compression and resource allocation for task-oriented communications
[J].
无线时间敏感网络技术综述
[J].
Overview of wireless time-sensitive networking technology
[J].
Adaptive information bottleneck guided joint source and channel coding for image transmission
[J].DOI:10.1109/JSAC.2023.3288238 [本文引用: 1]
Learning representations by back-propagating errors
[J].
The MNIST database of handwritten digit images for machine learning research [Best of the Web]
[J].DOI:10.1109/MSP.2012.2211477 [本文引用: 1]
/
〈 |
|
〉 |
