最新资讯

言栖资讯收录 88640 篇 AI、开发与建站文章(中文),按发布时间排序,支持搜索与按语言筛选。

什么是Paged Attention?

什么是Paged Attention?

模型部署好之后,权重占的显存基本固定。为什么并发用户一多,显存还是先告急?因为真正随用户数量线性膨胀的,是每个请求都要独占一份的 KV Cache。

中文掘金
React开发实战:从入门到精通

React开发实战:从入门到精通

去年在重构一个日均百万UV的电商活动页时,我遇到一个诡异的问题:页面在滚动时会突然卡顿,但Profiler里却找不到明显的渲染耗时异常。你猜最后发现是什么问题?——一个被滥用的事件监听器在滚动时触发了

中文掘金
学习大模型训练的分布式并行策略

学习大模型训练的分布式并行策略

在上一篇《学习大模型训练的显存管理》中,我们算过训练的显存占用:一个 7B 模型用 AdamW 全参数训练,FP32 主权重、Adam 的 m 和 v 两个状态、FP16 权重和梯度加起来大约 112

中文掘金
Harmony 7.0 这个skill帮你自动化操作AGC

Harmony 7.0 这个skill帮你自动化操作AGC

Harmony 7.0 这个skill帮你自动化操作AGC 前言 ​ 对于鸿蒙应用开发者来讲,上架一个鸿蒙应用的全过程当中,最为繁琐的其实是在 AGC 平台上进行相关的信息填写。 为什么说在AGC平台

中文掘金
科技爱好者周刊(第 417 期):不要让 AI 代表你

科技爱好者周刊(第 417 期):不要让 AI 代表你

这里记录每周值得分享的科技内容,周五发布。 本杂志 开源 ,欢迎 投稿 。另有 《谁在招人》 服务,发布程序员招聘信息。合作请 邮件联系 (yifeng.ruan@gmail.com)。 封面图 四川宜宾市的青少年发展中心,建筑中庭的透光屋顶象征一个万花筒,会有不断变化的日光效果。( via ) 不要让 AI 代表你 …

中文阮一峰博客
40.9万张照片,我们生活过的证据

40.9万张照片,我们生活过的证据

无论时代怎么变化,创作的内核都不会变——自己先被打动,才能打动别人。要建立与生活的关系,看到具体的人,及他们的情感世界。 文| 金钟 编辑| 李栗 村小、童年、滚烫的真心 坚持记录的人,会在不知不觉间,闯入时代的现场。 2019年,在山西平遥,摄影师刘建家偶然遇见一所乡村小学。这所小学很新,也很小。校舍刚完成翻修,有崭…

中文人物
08版地方 - 山地不是制约是发展底气

08版地方 - 山地不是制约是发展底气

一颗小小猕猴桃,是贵州山地特色农业提质升级、富民兴村的生动实践。30余年接续耕耘,修文猕猴桃从零星种植的山野特产,蝶变为标准化、品牌化、全链条发展的重要产业。立足喀斯特山地禀赋,修文坚持品种筑基、标准提质、强链增效、品牌赋能、法治护航,走出一条资源变产业、产业变收益、收益助振兴的特色发展之路。 特色产业要兴,必先固本培…

中文经济日报
08版地方 - 贵州修文 一桃丰产万家富

08版地方 - 贵州修文 一桃丰产万家富

贵州省修文县谷堡镇平滩村猕猴桃基地,游客采摘猕猴桃。 本报记者 王新伟摄 贵州省修文县谷堡镇平滩村猕猴桃基地一角。本报记者 王新伟摄 金秋九月,丹桂盈香,阳明故里贵州修文县群山叠翠、硕果盈枝。漫山猕猴桃藤蔓郁郁葱葱,饱满圆润的果实缀满枝头,山间采摘笑语阵阵,田间管护井然有序,一幅产业兴、乡村美、百姓富的山地丰收画卷徐徐…

中文经济日报
07版财金 - 青年学子攻坚兽用检测技术 探索宠物诊疗新路径

07版财金 - 青年学子攻坚兽用检测技术 探索宠物诊疗新路径

猫咪出现精神萎靡、食欲减退等症状,如何快速甄别是否感染致死性极强的猫细小病毒(猫瘟),是众多养宠家庭面临的现实难题。在宜春学院,有一支平均年龄不足21岁的青年学子团队,将目光聚焦于这一行业痛点,在学校的支持下开展科研攻关,探索猫瘟早筛的国产新方案。目前,该项目已全面进入中试落地阶段。 猫细小病毒俗称猫瘟,幼猫感染后死亡…

中文经济日报