需求不明确的头像 ID: 15751497537

需求不明确

HelloWorld 社区成员

7681914529

文章4
个人网站0
加入社区2025

从16-bit 到 1.58-bit :大模型内存效率和准确性之间的最佳权衡

通过量化可以减少大型语言模型的大小,但是量化是不准确的,因为它在过程中丢失了信息。通常较大的llm可以在精度损失很小的情况下量化到较低的精度,而较小的llm则很难精确量化。什么时候使用一个小的LLM比量化一个大的LLM更好?在本文中,我们将通过使用GPTQ对Mistral7B、Llama

基于Redis的消息发布和订阅(广播模式)

<blockquote最近在优化一个redis的大key问题,原先的同事写法是将所有的配置都放在一个key里面,value是一个map.但是随着配置越来越多,这个map也变得很大,已经影响redis的性能.遂决定将map里面的每个配置单独出来一个key,当有配置变动的时候,通过red

html中href和src的区别?

一省:HTML3.html中href和src的区别?href:href是HypertextReference的缩写,表示超文本引用。用来建立当前元素和文档之间的链接。常用的有:link、a。例如:<pre<code&lt;linkhref&

Quartz 2D学习(三)自定义圆角按钮

Quartz2D学习(三)自定义圆角按钮导语<blockquote<pQuartz2D是一个二维图形绘制引擎,它支持iOS环境和MacOSX环境,为开发者提供了很多方便,它在绘图上的功能十分强大,如基于路径的绘图、透明度、阴影、颜色管理、反锯齿、PDF