衍坤智能科技湖州有限公司专利技术

衍坤智能科技湖州有限公司共有1项专利

  • 本发明涉及人工智能深度学习模型优化领域,公开了基于稀疏频域投影的超低参数高效微调方法;包括:在预训练模型的注意力机制层或前馈映射层中设置经随机初始化后冻结的上投影矩阵,用于将低维重构结果映射至原始权重维度;在频域中构建稀疏频谱矩阵,根据...
1