海康威视申请一种自注意力机制计算方法推理方法专利,提高基于自注意力机制的推理任务的效率

金融界2024年7月28日消息,天眼查知识产权信息显示,杭州海康威视数字技术股份有限公司申请一项名为“一种自注意力机制计算方法、推理方法“,公开号CN202410852330.7,申请日期为2024年6月。

专利摘要显示,本申请实施例提供了一种自注意力机制计算方法、推理方法,该方法包括:基于待处理对象确定查询矩阵、键矩阵、以及值矩阵;待处理对象包括图像、文本、视频、音频、信号中的任一种或多种;并计算查询矩阵与转置后键矩阵的乘积,作为第一乘积矩阵;以自然常数e为底数,并以第一乘积矩阵为指数,得到第二乘积矩阵;若值矩阵的列数小于第一乘积矩阵的列数,计算第二乘积矩阵与值矩阵的乘积,作为第三乘积矩阵;计算第二乘积矩阵的和值,海康威视申请一种自注意力机制计算方法推理方法专利,提高基于自注意力机制的推理任务的效率作为矩阵和值;并计算第三乘积矩阵与矩阵和值的比值,作为基于自注意力机制得到的输出特征。应用本申请实施例提供的技术方案,能够提高基于自注意力机制的推理任务的效率。

免责声明:本网站部分内容由用户自行上传,若侵犯了您的权益,请联系我们处理,谢谢!联系QQ:2760375052

分享:

扫一扫在手机阅读、分享本文

晶一

这家伙太懒。。。

  • 暂无未发布任何投稿。