一种基于蒸馏BERT与改进Transformer相结合的蒙汉神经机器翻译方法

摘     要：一种基于蒸馏BERT与改进Transformer相结合的蒙汉神经机器翻译方法，从基于语境化的词向量预训练模型中提取静态的词向量表征，并将其输入到改进Transformer机器翻译模型的所有层进行蒙汉机器翻译。本发明从基于语境化的词向量预训练模型BERT中提取静态嵌入以达到蒸馏BERT的目的，同时尝试将蒸馏BERT的输出表征作为改进Transformer机器翻译模型的词嵌入。该方法主要针对BERT预训练词向量模型难训练、训练时间开销过大，以及Transformer机器翻译模型超参数化、需预热等问题，试图将动静态嵌入相融合的预训练模型与改进的Transformer机器翻译模型结合在一起，以达到提高蒙汉机器翻译效率、提升蒙汉机器翻译质量的目的。

著 录 项： 

• 1． 买家选定所需专利，确认国家手续办理方，下单，确认交易合同；
  2． 卖家确认专利可交易；
  3． 买家支付交易款项到平台；
  4． 买卖双方签订《专利转让委托书》、《转让协议》、《解除代理委托书》各一式两份并提交给办理国家手续方；
  5． 办理国家手续方提交办理官方手续，国家知识产权局1个月左右下发《著录项目变更手续合格通知书》；
  6． 买家确认收到《专利证书》、《著录项目变更手续合格通知书》；
  7． 平台把交易款项支付给卖家，至此专利转让合同完成。
  

• 交易方	企业	个人
  买家	营业执照副本复印件（需盖公章）	身份证复印件（签字）
  	专利转让委托书（需盖公章）一式两份	专利转让委托书（需签字）一式两份
  	专利转让协议（需盖公章）一式两份	专利转让协议（需签字）一式两份
  卖家	营业执照副本复印件（需盖公章）	身份证复印件（需申请人签字）
  	解除代理委托书（需盖公章）一式两份（如专利通过代理机构申请）	解除代理委托书（需签字）一式两份（如专利通过代理机构申请）
  	专利转让协议（需盖公章）一式两份	专利转让协议（需签字）一式两份
  	专利请求书或手续合格通知书、授权通知书复印件	专利请求书或手续合格通知书、专利授权通知书复印件
  	专利证原件（若授权下证）	专利证原件（若授权下证）

• 日期

  法律信息

  备注