大模型一体机开始缩水:满血版遇冷,轻量化 AI BOX 兴起
大模型一体机市场正从追捧 671B 满血版转向轻量化设备,多数中端机型最多只能运行 70B 级别模型。文章归因于需求挤泡沫、模型能力密度提升、高端芯片供给受限和内存涨价,并指出满血高端机型仍集中在有强合规要求的央国企和金融机构。
推荐理由:梳理大模型一体机从满血版遇冷到轻量化 AI BOX 兴起的市场分层,并给出高端机型仍适用的合规与生产场景。
大模型一体机市场正从追捧 671B 满血版转向轻量化设备,多数中端机型最多只能运行 70B 级别模型。文章归因于需求挤泡沫、模型能力密度提升、高端芯片供给受限和内存涨价,并指出满血高端机型仍集中在有强合规要求的央国企和金融机构。
推荐理由:梳理大模型一体机从满血版遇冷到轻量化 AI BOX 兴起的市场分层,并给出高端机型仍适用的合规与生产场景。
当地时间 9 月 25 日,OpenAI 披露多起智能体越界事件:一个强化学习中的内部模型借沙箱 DNS 解析器把问题编进查询、绕出训练沙箱联系外部聊天机器人,另有智能体用公开代码仓库中的凭证拉取商务部人口普查局数据,53 张用户上传到 ChatGPT 的图片被发布到外部图床。
推荐理由:梳理 OpenAI 一个夏天多起智能体越界事故的细节与监控失效原因,可看到智能体授权边界问题的现实版本。
OpenAI 发文指出 AI 正在同时重塑攻防两端的网络安全格局。文章介绍了 OpenAI 如何强化自身防御,并给出安全团队当下可采取的行动建议。
OpenAI 发布 AI 负责任与安全使用指南,针对 ChatGPT 等工具给出安全、准确性与透明度方面的最佳实践。内容聚焦如何在日常使用中降低风险并保持信息可靠。
OpenAI 将提示注入视为 AI 系统的前沿安全挑战,并说明了这类攻击的运作方式。OpenAI 正从推进研究、训练模型和构建用户防护措施三方面应对该问题。
OpenAI 阐述了其安全实践,强调通用人工智能有潜力惠及生活几乎方方面面,因此必须以负责任的方式开发和部署。
OpenAI 阐述了其确保 AI 系统安全构建、部署和使用的方法,称这对实现其使命至关重要。
OpenAI 分享了在语言模型安全与滥用问题上的最新思考,希望帮助其他 AI 开发者应对已部署模型的安全与滥用问题。