☰
PubHealthBench: Evaluating LLMs on UK Public Health Guidance (arXiv:2505.06046)
2026/10/24 5:30:38 网站建设 项目流程

### 一、文章主要内容总结
本文聚焦于评估大型语言模型(LLMs)对英国政府公共卫生信息的掌握情况,核心内容如下:
1. **背景与目标**
- 随着LLMs的普及,其在公共卫生领域的信息准确性至关重要,但目前缺乏针对英国政府公共卫生指南的评估。
- 开发新基准 **PubHealthBench**,包含超8000道多选题(MCQA)和开放式问答,用于评估LLMs对英国公共卫生指南的知识水平。
2. **数据与方法**
- **数据集**:从英国政府网站收集1150份公共卫生指南文件,处理为687份Markdown格式文档,涵盖10大主题和352个指导领域。
- **基准生成**:通过自动化流程生成MCQA问题,利用LLM分类、过滤无效问题,并引入人工审核确保质量。
- **评估模型**:测试24个LLMs(包括GPT-4.5、o1等),对比多选题和开放式回答的表现,同时设置人类基线(使用搜索引擎的非专家人类准确率88%)。
3. **关键结果**
- **多选题表现**:最新私有模型(如GPT-4.5、o1)准确率超90%,优于使用搜索引擎的人类基线,但存在约5.5%的模糊/无效问题。
- **开放式回答**:所有模型表现显著下降,最高准确率仅74%(o1),显示自由形式回答中存在信息幻觉风险。
- **领域差异**:模型在面向公众的指南中表现更好(如GPT-4.5准确率96%),而临床指南表现较差。
4. **结论与建议**
- SOTA LLMs在多选题中展现高准确性,但开放式回答需额外保障措施(如工具调用或内容审核)。
- 发布PubHealthBench数据集,推动公共卫生领域LLMs的进一步研究与风险 mitigatio

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询