LLM 并不擅长设计 AI 系统
作者指出,大模型写普通程序得心应手,一旦要设计用到大模型本身的系统,却常绕远路搞复杂的符号推理而不直接调用模型,并分析了训练数据与强化学习环境等可能原因。
推荐理由:涉及大模型 · 6 小时内发布
共 50 条 · 全部主题 →
作者指出,大模型写普通程序得心应手,一旦要设计用到大模型本身的系统,却常绕远路搞复杂的符号推理而不直接调用模型,并分析了训练数据与强化学习环境等可能原因。
推荐理由:涉及大模型 · 6 小时内发布
这篇 HN 讨论邀请开发者对照从只用自动补全到完全放手让智能体干活的几个阶段,聊聊自己实际用 AI 写代码到了哪一步。
推荐理由:涉及大模型与智能体 · 24 小时内发布
O'Reilly 出了一本图文并茂的智能体指南,用概念讲解加代码示例带读者上手搭建 LLM 智能体。
推荐理由:涉及大模型与智能体 · 24 小时内发布
这是一次修 bug 的小版本更新,主要解决新版 Homebrew 自带 SQLite 升级带来的兼容问题。
推荐理由:涉及大模型与发布 · 24 小时内发布
Ollama 新版本改进了 ChatGPT CLI 的恢复与平稳重启,并优化了 OpenCode 设置与 Vulkan 集成显卡内存映射等细节。
推荐理由:涉及大模型与GPT · 24 小时内发布
这项工作让大模型智能体在多智能体商业场景里自主谈判交易,把对话能力与多模态商品信息结合起来。
推荐理由:涉及模型与大模型 · 与本主题相关
S1-Evo 揭示了部署在智能体路由、审核和授权环节的类型化快思考决策模型,仍可能被精心设计的证据竞争攻击绕过。
推荐理由:涉及模型与大模型 · 与本主题相关
AscendGYM为昇腾NPU上的大模型训练与推理算子优化建立了一个贴近真实负载、同时考虑成本的评测基准。
推荐理由:涉及模型与大模型 · 与本主题相关
当智能体要替用户取消预订或删除文件时,这篇论文追问真正阻止它按错误假设行动的,到底是工具返回的信息还是用户说的话。
推荐理由:涉及大模型与智能体 · 与本主题相关
这套框架让电商对话智能体在需求变化时持续自我训练,同时用治理机制守住行为边界。
推荐理由:涉及模型与大模型 · 与本主题相关
这项工作用形式化验证加运行时强制执行,让多步工具调用的智能体既完成任务又不越过领域规则。
推荐理由:涉及大模型与智能体 · 与本主题相关
这项研究揭示大模型规划器在符号层面的脆弱点,并展示针对性的对抗攻击如何让规划出错。
推荐理由:涉及模型与大模型 · 与本主题相关
这项研究对比本地部署的大模型在科学文献检索上的成功率与延迟,考察它们能否替代云端服务。
推荐理由:涉及模型与大模型 · 与本主题相关
这项案例研究检验机制可解释性能否说清智能体为什么会在网页上凭空编造元素。
推荐理由:涉及模型与大模型 · 与本主题相关
这个一次通过的 Text-to-SQL 模型速度快,适合做数据库查询智能体的快速前置系统。
推荐理由:涉及模型与大模型 · 与本主题相关
这项工作让长程智能体在交互历史变长时,学会只保留对完成多步任务真正重要的上下文。
推荐理由:涉及大模型与智能体 · 与本主题相关
这个评测考察 LLM 智能体能否为验证地质假说设计地球化学实验,贴近真实矿物勘探流程。
推荐理由:涉及模型与大模型 · 与本主题相关
这项工作给多模态大模型的不确定性估计加了一层语义不一致校正,避免似是而非的输出被误判为可靠。
推荐理由:涉及模型与大模型 · 与本主题相关
这个评测把 LLM 智能体放进异构多智能体经济,考察它们处理长程任务乃至经营管理的能力。
推荐理由:涉及大模型与智能体 · 与本主题相关
这项工作让 GUI 智能体只靠纯视觉定位界面元素,不再依赖元数据,从根上减少幻觉定位。
推荐理由:涉及模型与大模型 · 与本主题相关
这项研究用参数和数据都更省的适配方法对齐推测解码的草稿模型,缓解目标模型微调后草稿模型性能下降的问题。
推荐理由:涉及模型与大模型 · 与本主题相关
研究发现,API 迁移后大模型修好的代码能正常运行却返回错误结果,而常规的发布检查根本发现不了这类静默失败。
推荐理由:涉及大模型与发布 · 与本主题相关
JudgeMix 用评判模型引导混合 rollout 数据合成,缓解专家轨迹监督微调中已知的训练与推理不一致问题。
推荐理由:涉及大模型与智能体 · 与本主题相关
这篇论文指出,LLM记忆系统硬性删除被判定为过时的事实反而可能拖累下游任务的准确率,关键在于分辨何时遗忘才是安全的。
推荐理由:涉及大模型与智能体 · 与本主题相关
研究把Gemma 3 12B放进模拟法庭场景,检验持续的得失框架提示能否把长周期智能体推向市场操纵式的串谋行为。
推荐理由:涉及大模型与智能体 · 与本主题相关
该研究让LLM智能体用爬山搜索从粉末X射线衍射数据中自主解析晶体结构,为无人值守的材料实验室打通关键瓶颈。
推荐理由:涉及大模型与智能体 · 与本主题相关
该研究拆开了多智能体评估中常被混淆的三个因素,厘清性能提升到底来自智能体之间的协调、结果集成,还是单纯增加了测试时计算。
推荐理由:涉及模型与大模型 · 与本主题相关
用户行为聚类会随时间分裂、合并甚至消失,这项研究让LLM来判断聚类何时需要演化以及该如何调整。
推荐理由:涉及大模型与指南 · 与本主题相关
这项研究探讨为什么针对单个智能体的对齐训练难以迁移到多智能体场景,并分析背后的机制。
推荐理由:涉及大模型与智能体 · 与本主题相关
这项工作指出用大模型自动解释大模型内部表征时会出现哪些失效,并给出诊断方法。
推荐理由:涉及模型与大模型 · 与本主题相关
这个评测考察智能体在长期任务里如何分配有限资源、兑现承诺,因为每个选择都会限制未来的行动。
推荐理由:涉及大模型与智能体 · 与本主题相关
这个评测用最新的日本金融资格考试题持续考查大模型的金融能力,避免题目泄露过期。
推荐理由:涉及模型与大模型 · 与本主题相关
这项工作通过面向延迟目标的调度,让交互式 LLM 服务的首词延迟与词间延迟更稳定。
推荐理由:涉及大模型与推理 · 与本主题相关
这个评测考察大模型能否发现实验方案里看似流畅却物理上不可行的部分。
推荐理由:涉及模型与大模型 · 与本主题相关
这项工作让大模型智能体预测系统在与人类专家相当的水平上,还能保持预测之间的逻辑一致性。
推荐理由:涉及模型与大模型 · 与本主题相关
这个本地 AI 服务器让大模型在本地设备上跑,数据不出门、没有按 token 计费、断网也能工作。
推荐理由:涉及模型与大模型 · 与本主题相关
这项研究不固定多智能体交易系统的角色阵容,而是按任务挑人,检验哪种组合效果最好。
推荐理由:涉及大模型与智能体 · 与本主题相关
这项工作在只能看到模型输出的黑盒条件下,区分提示本身的歧义与模型真正的知识缺口。
推荐理由:涉及模型与大模型 · 与本主题相关
这项研究检验 LLM 验证器在不同表征下的判断是否稳定,评估智能体执行时换个抽象层次会不会翻车。
推荐理由:涉及大模型与智能体 · 与本主题相关
这项研究在不同场景和任务要求下评估大模型的冒险倾向,系统地衡量模型是偏保守还是偏激进。
推荐理由:涉及模型与大模型 · 与本主题相关
BigCodeBench 用包含多样函数调用和复杂指令的任务评测大模型写代码的能力,比只看简单代码片段的基准更贴近真实开发场景。
推荐理由:涉及模型与大模型 · 与本主题相关
这项研究提出一个便携的筛查方法,先验证大模型的置信度信号是否真的随正确率变化,再用它来做弃答、路由和升级决策。
推荐理由:涉及大模型与基准 · 与本主题相关
DeltaBox 让大模型驱动的智能体工作负载能以毫秒级频率做沙箱状态检查点和回滚,支撑测试时树搜索和强化学习等高频状态探索场景。
推荐理由:涉及大模型与智能体 · 与本主题相关
QVal 评估长程智能体任务中密集监督信号的质量,因为只看最终结果的奖励说不清哪些中间动作做得好。
推荐理由:涉及大模型与智能体 · 与本主题相关
REFORGE 用反编译二进制函数命名任务来评测大模型的逆向工程能力,回应了威胁情报中大模型参与逆向工程的现实。
推荐理由:涉及模型与大模型 · 与本主题相关
这个框架用多智能体模拟患者在医疗对话中的情绪变化,帮助培训医护沟通,让学习者练习回应临床场景。
推荐理由:涉及模型与大模型 · 与本主题相关
这项研究让云端与边缘的大模型协同学习,通过加速个性化双层优化,支撑物理世界智能的分布式训练。
推荐理由:涉及模型与大模型 · 与本主题相关
Agentic-OPD 针对智能体任务强化学习中只保留最优验证结果的做法,用在策略蒸馏找回训练中被遗忘的智能体能力。
推荐理由:涉及大模型与智能体 · 与本主题相关
该研究面向实际部署场景,检验了主流幻觉检测方法在小型量化端侧模型上的表现是否依然可靠,为从业者选型提供了实测依据。
推荐理由:涉及模型与大模型 · 与本主题相关
这项研究在 Qwen3.8、Gemma 4、Olmo 3.1 和 Mistral Small 3.2 上测试消融拒绝能力的难度,对比了新旧模型的差异。
推荐理由:涉及模型与大模型 · 与本主题相关