《足夜》聚焦卡马乔麾下国足:巨额投入恐打水漂

NVIDIA研究人员推出一项全新技术KVTC（KV快取转换编码），颠覆能把大型语言模型（LLM）追踪对话历史的发明内存用量，最高缩减20倍，新技而且不用修改模型本身。术K缩减

这一突破有望解决大型语言模型长对话推理时的存使内存不够用问题，大大降低企业使用AI的用量免费的成品网入口硬件成本，同时还能把模型首次生成回应的颠覆时间，最高提速8倍。发明

简单来说，新技KVTC技术的术K缩减核心就是压缩大型语言模型背后的KV缓存——它相当于AI模型的“短期记忆”。我们可以把KV缓存理解成学生记笔记：模型处理对话时，存使会把关键信息（也就是用量Key和Value）记下来，下次生成回应时，颠覆不用从头重新计算整段对话，发明响应速度就能大幅提升。新技

但问题是，对话越长，91看这份“笔记”就越大，甚至会膨胀到几个GB，占用大量GPU内存，反而拖慢模型运行、限制其处理能力。

NVIDIA资深深度学习工程师Adrian Lancucki表示：“大型语言模型进行推论时，性能瓶颈往往不在运算能力，而在GPU内存。不撸帝”那些暂时不用的KV缓存，会一直占用宝贵的GPU资源，逼得系统只能把它们转移到CPU内存或硬盘里，这样不仅会增加数据传输的负担，还可能出现新的卡顿问题，这些额外成本最终也会体现在企业的使用费用中。

和现有压缩技术相比，KVTC没有那些明显的高清乱码 免费网.com局限，它借鉴了我们熟悉的JPEG图片压缩思路，通过“主成分分析、自适应量化、熵编码”三个简单步骤，就能实现高效压缩。

更方便的是，这项技术不用改动模型的核心设置和代码，属于“非侵入式”设计，GOGOGO免费看一百度完整版企业拿来就能快速部署。它的核心优势是，能抓住KV缓存“数据高度相关”的特点，在保留关键信息的同时，去掉冗余数据，而且解压时可以分块、逐层进行，不会影响模型实时回应。

多轮测试显示，KVTC的表现远超现有主流方法。在参数量从15亿到700亿的多种模型（包括Llama 3系列、R1-Qwen 2.5等）上，即便将内存压缩20倍，模型准确率也几乎不受影响，损失不到1%，与未压缩时相差无几；而传统压缩方法仅压缩5倍，就会出现明显的准确率下降。

另外，在H100 GPU上处理8000个Token的提示时，不使用KVTC需要3秒才能生成第一个回应，使用后仅需380毫秒，提速整整8倍。

需要注意的是，KVTC更适合长对话、多轮互动场景，比如编程助手、迭代式代理推理等，若对话较短，很难发挥其压缩价值。

目前，NVIDIA正计划将这项技术整合进Dynamo框架的KV块管理器，使其能与vLLM等主流开源推论引擎兼容。

业内人士认为，随着大型语言模型可处理的对话长度不断增加，KVTC这类标准化压缩技术，未来可能会像视频压缩一样普及，助力AI更广泛地落地应用。

孔卡恐随老东家征战巴乙联赛 弗鲁米嫩塞濒临降级

孔卡恐随老东家征战巴乙联赛 弗鲁米嫩塞濒临降级

字体大小：A A2013-12-02 11:36:13编辑：竹青点击: 次

巴甲积分榜截屏，弗鲁米嫩塞列倒数第五

　　90win体育讯 北京时间12月2日，弗鲁米嫩塞已经官方宣布了孔卡下赛季回归的消息，但据目前巴甲联赛的成绩来看，弗鲁米嫩塞位列积分榜倒数第五，仅仅比降级区多一分。下赛季孔卡恐怕要随老东家征战巴乙联赛。

　　巴甲联赛第37轮率先结束了两次比赛，其中一场弗鲁米嫩塞2-2战平了南美解放者杯冠军的米内罗竞技。目前的积分榜上，弗鲁米嫩塞以积43分暂列倒数第五，比排名倒数第四的科里蒂巴、倒数第三的瓦斯科达伽马多出1分、2分，但弗鲁米嫩塞要比这两支球队多赛一场。

　　巴甲的降级名额一共有4个，若如科里蒂巴将对阵Bo塔弗戈，瓦斯科达伽马对阵诺蒂卡都能拿到三分，弗鲁米嫩塞将跌入降级区。本赛季的巴甲联赛目前就剩下一轮，弗鲁米嫩塞的降级可能性非常大。

　　孔卡将于明年年初返回弗鲁米嫩塞，作为曾经带领老东家拿到过巴甲冠军和南美解放者杯冠军的功臣，孔卡表示即使弗鲁米嫩塞降级也会回去。因为他曾在那里获得过巴甲MVP等诸多荣誉，也在那里度过了职业生涯最巅峰的时期。如果弗鲁米嫩塞真不幸降级，孔卡将要跟随老东家征战巴乙联赛了。

福厦高铁全线最长万米隧道贯通

福厦高铁杨梅山隧道施工现场 （何卫东 摄）

本报讯 （记者吴志明 通讯员李翔 杨存兴）昨日，福厦高铁全线最长隧道杨梅山隧道顺利贯通，实现了我国首条跨海高铁建设的重大突破，打通了福厦高铁南北阻隔，消除了全线建设瓶颈，为2022年具备开通运营条件奠定了坚实基础。

杨梅山隧道是福厦高铁全线最长隧道，地质条件复杂，是全线重点控制的高风险隧道。隧道全长10669米，最大埋深398米，岩爆段长达2290米，洞内涌水突泥广泛分部，存在地质压力大，高地热、易塌陷等难题。

为克服地质环境给隧道施工造成的困难，建设与施工单位采用可视化钻孔、三臂凿岩台车、水压光面爆破相结合的数字化施工掘进方式，将爆破超挖控制在10毫米以内，在化解施工风险的同时，创造了月掘进200米的全线施工纪录。

福厦高铁全长约277.42公里，是福建省第一条设计时速350公里的高铁，北起福州，途经莆田、泉州，南至厦门和漳州。这条铁路北端衔接合福高铁、向莆铁路，南端衔接厦深、龙厦铁路。

福厦高铁是我国“八纵八横”高速铁路网中沿海通道的重要组成部分，开通运营后，福州至厦门列车运行时间将缩短至1小时以内，将构建京福厦高速铁路客运通道，对打通东南沿海高速铁路大通道，构建现代化综合交通运输体系，推动沿线新型城镇化建设具有重要意义。