基于双向自举蒸馏的异质云-端医疗对话联邦
刘宇鹏,林明豪,张江,姚登举
Heterogeneous cloud-end medical dialogue federation based on bi-directional bootstrapping distillation
Yupeng LIU,Minghao LIN,Jiang ZHANG,Dengju YAO
表 2
各客户端的模型参数
Tab.2
Model parameters on each client
客户端
模型
层数
隐层维度
n
p
/10
6
1
GPT-2-small
12
768
117
2
GPT-2
24
1024
345
3
BART-base
12
768
130
4
BART
24
1024
374