HelloWorld 开发者社区

科技资讯

全部资讯

开源项目

全部项目

推荐好文

云原生 AI 工程化实践之 FasterTransformer 加速 LLM 推理

01背景OpenAI在3月15日发布了备受瞩目的GPT4,它在司法考试和程序编程领域的惊人表现让大家对大语言模型的热情达到了顶点。人们纷纷议论我们是否已经跨入通用人工智能的时代。与此同时,基于大语言模型的应用也如雨后春笋般出现,为我们带来了协同办公、客服对话、语言翻译、内容

Koordinator 异构资源/任务调度实践

_作者:李涛(吕风)_前言Koordinator是阿里云基于过去我们建设的统一调度系统中积累的技术和实践经验,对外开源了新一代的调度系统。Koordinator支持Kubernetes上多种工作负载的混部调度。它的目标是提高工作负载的运行时效率和可靠性(包括延迟敏感型负载和

聊聊数据库中的 savepoint

从全局二级索引讲起故事要从全局二级索引开始讲起。当我们构建了一个全局二级索引之后,一条逻辑上的数据插入,就会变成两条物理上的数据插入:一条插入到主表,另一条插入到索引表。为了保证主表和索引表数据的一致性,我们往往需要开启分布式事务,再并行地插入两条数据。如果其中一条数据插入失败了,比如

正在加载更多文章…

加载更多

已加载文章中没有匹配内容,可继续加载更多。