随着模型上下文越来越长、多轮对话和Agent被越来越广泛应用,推理过程中需要处理的数据量快速增加。过去主要依靠GPU算力解决问题的方式,开始暴露出了问题:算力足够了,显存却可能先被KV Cache(键值缓存)占满。
据北京日报客户端消息,9月28日,外交部发言人郭嘉昆主持例行记者会。有记者提问,多个国家常驻联合国代表团对媒体透露称,中国正权衡在新任联合国秘书长投票中支持联合国贸发会议秘书长、哥斯达黎加前副总统格林斯潘,还是圭亚那常驻联合国代表罗德里格斯-伯基特。发言人是否能透露中国考虑投票支持哪位候选人?郭嘉昆表示,联合国秘书长选举关系到联合国改革发展和会员国切身利益,中方支持根据《联合国宪章》规定,选出一位恪守宪章、能力出众,公道正派、履职担当的新任秘书长。“中方将同有关各方一道,以负责任态度参与秘书长选举过程。”郭嘉昆说。
8月31日,据报道,OpenAI已采购数万台苹果Mac mini和Mac Studio,专门用于强化学习训练及电脑操作类AI智能体开发;Anthropic也通过亚马逊云服务租用大量Mac算力。据悉,OpenAI采购的均为不配备显示器和键盘的Mac mini及Mac Studio,而非MacBook,并因需求旺盛多次要求苹果加快交付。苹果M系列芯片采用统一内存架构,使CPU、GPU等共享同一内存池,可减少AI训练过程中数据搬运带来的性能损耗。部分高端芯片统一内存容量最高达512GB,Mac mini和Mac Studio的散热设计也更适合长时间运行训练任务。
该公司季度净利润297.89亿美元,同比增长27%,经营现金流创下六月季度历史峰值;综合毛利率维持50.1%高位,其中关税退税额外拉高约2个百分点毛利水平。
大众集团盈利情况持续恶化,旗下品牌保时捷再次加大裁员力度。
特朗普已下令就相关泄露展开新调查,他私下还曾冲内阁官员等人发火,认为这类报道会“鼓舞伊朗”,“不利于美方遏制伊朗核项目的行动”。
赵春雷表示,对于抽查发现的典型违规问题将依法开展约谈、通报,强化对违规行为的惩戒。畅通公平竞争审查举报渠道,对经核查问题属实的政策文件督促纠正,及时回应企业和群众关切。
粤海饲料上半年销售费用同比增长36.15%,几乎与营收41.66%的增速同步。管理费用同比增长31.68%,研发费用同比增长40.11%,财务费用更是同比增长49.36%。四费齐涨,且增速普遍接近或超过营收增速。