研究提出Filtered Decision Logs透明度机制
先了解这件事
Sanjay Krishna Anbalagan等研究人员提出“过滤决策日志”（FDLs），旨在不暴露原始思维链的前提下，使生成式AI的决策形成过程对用户可见。该机制将响应与简洁理由、按影响力排序的支持数据点及相关性指标配对，通过重构遥测数据为溯源树并利用语义信号对证据进行排名。 研究在职业咨询、投资分析和旅行规划三个领域进行了演示。一项包含50名参与者的形成性评估显示，92%的参与者认为按影响力排序的证据有助于理解和信任系统推荐；反事实实验证实移除高排名来源更显著改变答案，验证了排名的有效性。
AI 根据报道生成 · 4 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- arXiv精选Visible Reasoning：面向用户的生成式AI决策透明化机制研究
生成式AI系统常被视为推理主体，用户关注点从结果正确性转向结论形成过程的可信度。针对这一信任缺口，研究人员提出“过滤决策日志”（Filtered Decision Logs, FDLs）作为面向用户的透明度机制，旨在在不暴露原始思维链的前提下，使决策形成过程可见。 FDLs 将每个响应与三个要素配对：简洁的决策理由、按影响力排序的支持数据点（源自工具输出），以及显示哪些来源最影响结论的相关性指标。为操作化证据选择，研究提出一种追踪方法，将可观测性遥测数据重构为溯源树，并利用四个确定性语义和结构信号——最终答案相似度、平均相关性、持久性和结构邻近性——结合自适应加权评分对证据进行排名。 该机制在职业咨询（5个工具）、投资分析（4个工具）和旅行规划（4个工具）三个领域进行了演示。在一项包含50名参与者（25名学生，25名从事AI开发的专业人士）的形成性评估中，92%的参与者认为按影响力排序的证据有助于理解和信任系统的推荐。反事实工具移除实验证实，移除排名靠前的来源比移除排名靠后的来源更显著地改变答案，验证了排名确实反映了决策依赖性。 研究表明，以证据排名为核心的透明度能帮助用户识别误导性信号和缺失上下文，从而支持用户对系统决策进行更有信心的接受、纠正或重新运行。该成果发表于《人工智能在人机交互中的应用》（Artificial Intelligence in HCI, HCII 2026）。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1010月27日 13:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。