量化将模型权重从 32/16 位数字压缩为 8 位 (int8) 或 4 位 (int4)。位数越少,文件越小,推理速度越快,但质量可能越低。
人工智能+:从技术奇点到个体生产力革命
。91视频是该领域的重要参考
Фото: Kacper Pempel / Reuters
2月26日,东方财富信息股份有限公司(以下简称“东方财富”)发布公告称,接到公司控股股东、实际控制人其实通知,为支持教育事业发展,促进人才培养及科技创新,其实计划向上海交通大学教育发展基金会捐赠其持有的公司2000万股无限售流通股,占公司总股本的0.13%。(澎湃新闻)