抖音公司取得网络模型信息生成专利,减轻超网络中的权重耦合

金融界2023年12月16日消息,据国家知识产权局公告,抖音视界有限公司取得一项名为“用于生成网络模型信息的方法、装置、设备和介质“,授权公告号CN111582456B,申请日期为2020年5月信息网络

专利摘要显示,本公开的实施例公开了用于生成网络模型信息的方法、装置、电子设备和计算机可读介质信息网络。该方法的一具体实施方式包括:对预先训练的初始超网络进行以下剪枝步骤:根据该初始超网络对应的帕累托曲线,确定该初始超网络各层的算子概率分布;基于该算子概率分布,对该初始超网络的各层的算子进行剪枝,得到子超网络;对该子超网络进行训练;响应于剪枝次数小于该预先设定的数目,将训练结束后的该子超网络作为新的初始超网络,继续执行该剪枝步骤。该实施方式通过对超网络进行剪枝,减轻了超网络中的权重耦合,对后续确定特定时延的高准确度的网络模型提供了方便。

来源:金融界

评论