复数
-
北大提出首个复数大模型,2 比特量化,推理仅加法,可手机部署!(复数.加法.量化)
首个复数大模型!北大推出 2 比特超低比特量化新方案。 当前,大模型在推理过程中往往面临巨大的存储与计算开销,主要原因在于模型权重普遍采用 FP16 格式存储,...
wufei123 发布于 2025-08-27 阅读(5)
首个复数大模型!北大推出 2 比特超低比特量化新方案。 当前,大模型在推理过程中往往面临巨大的存储与计算开销,主要原因在于模型权重普遍采用 FP16 格式存储,...