AI查重工具全解析：从检测到降重的学术写作指南
2026/7/24 3:29:28
第15章 多模态安全与对齐——幻觉检测与红队测试
学习目标
- 理解VLM幻觉问题的类型和产生原因
- 掌握幻觉检测方法
- 了解多模态对齐技术（DPO/RLHF）
- 认识红队测试和安全评估
- 掌握防御策略
15.1 VLM幻觉问题
什么是VLM幻觉
VLM幻觉是指模型生成与图片内容不符的回答，包括"看到"不存在的物体、忽略关键细节、编造事实。
幻觉类型
| 类型 | 描述 | 示例 |
|---|---|---|
| 对象幻觉 | 捏造不存在的物体 | “图片中有一只猫”（实际没有） |
| 属性幻觉 | 错误描述物体属性 | “红色的车”（实际是蓝色） |
| 关系幻觉 | 错误描述物体关系 | “猫在桌子上”（实际在桌子下） |
| 事实幻觉 | 编造图片中的文字/数据 | “价格是99元”（实际是199元） |