HelloWorld 开发者社区

科技资讯

全部资讯

开源项目

全部项目

推荐好文

顶会ICLR2024论文Time-LLM:基于大语言模型的时间序列预测

文青松松鼠AI首席科学家、AI研究院负责人美国佐治亚理工学院(GeorgiaTech)电子与计算机工程博士,人工智能、决策智能和信号处理方向专家,在松鼠AI、阿里、Marvell等公司超10年的技术和管理经验,近100篇文章发表在人工智能相关的顶会与顶刊,多篇文章被AI顶会(NeurIPS,

从16-bit 到 1.58-bit :大模型内存效率和准确性之间的最佳权衡

通过量化可以减少大型语言模型的大小,但是量化是不准确的,因为它在过程中丢失了信息。通常较大的llm可以在精度损失很小的情况下量化到较低的精度,而较小的llm则很难精确量化。什么时候使用一个小的LLM比量化一个大的LLM更好?在本文中,我们将通过使用GPTQ对Mistral7B、Llama

正在加载更多文章…

加载更多

已加载文章中没有匹配内容,可继续加载更多。