Google 撤回部分医疗查询的 AI 回答功能
一、新闻概述
1. 标题
Google 不再使用 AI 回答部分医疗查询，AI 摘要曾提供错误医疗建议
2. 发布时间
2026 年 1 月 12 日
3. 来源
Tom's Hardware
二、核心内容
1. 事件摘要
A. 主要内容
Google 在一项调查发现其 AI 摘要提供误导性和潜在有害的医疗建议后，已从多个健康相关搜索查询中撤回 AI 概览功能。
B. 核心问题
- AI 概览曾出现在 44.1% 的医疗查询中
- 提供了医疗专业人员绝不会给出的建议
- 胰腺癌患者被告知避免高脂肪食物，与医疗指南相悖
- 肝功能测试结果范围未考虑年龄、性别、种族等因素
2. 关键信息
A. 受影响的查询类型
- "肝血液测试的正常范围是多少"
- 类似的健康相关搜索
B. 危害案例
- 胰腺癌患者被建议避免高脂肪食物，可能增加患者死亡风险
- 肝功能测试结果显示范围不准确，可能导致严重肝病患者误认为结果正常
C. 修复进度
- 部分查询已移除 AI 概览
- 修复似乎不完整，不同措辞仍可能触发 AI 概览
- 癌症和心理健康等敏感健康话题仍显示 AI 摘要
3. 背景介绍
A. 事件起因
The Guardian 的调查揭露了 AI 概览的严重不准确之处。该工具在 44.1% 的医疗查询中出现，并经常提供有问题的指导。
B. 行业反应
Pancreatic Cancer UK 和 British Liver Trust 等健康专家组织对这些错误建议表示担忧。
三、详细报道
1. 主要内容
A. 胰腺癌饮食建议错误
AI 概览告诉胰腺癌患者避免高脂肪食物。Pancreatic Cancer UK 的健康专家称这一建议"非常危险"，因为它可能阻止患者摄入足够的热量来接受癌症治疗或手术。
B. 肝功能测试结果范围问题
AI 概览在涉及肝功能测试的查询中显示结果范围，但没有考虑年龄、性别、种族或国籍因素。British Liver Trust 警告，这可能导致患有严重肝病的人错误地认为他们的结果是正常的，从而跳过后续预约。
C. 修复不完整
尽管从某些查询中移除了 AI 概览，但 Google 的修复似乎不完整。使用不同的查询措辞（例如使用 "lft reference range"）仍然可以产生 AI 概览。此外，AI 摘要继续出现在其他敏感健康主题中，包括癌症和心理健康。
2. 技术细节
A. AI 概览在医疗查询中的问题流程
graph TD
A[用户输入医疗查询] --> B[AI 概览系统]
B --> C{医疗领域判断}
C -->|高风险| D[AI 生成摘要]
C -->|低风险| E[传统搜索结果]
D --> F[显示 AI 概览]
F --> G{医疗准确性验证}
G -->|准确| H[用户获得有用信息]
G -->|不准确| I[用户获得错误建议]
I --> J[潜在健康危害]
G -->|验证失败| K[撤回 AI 概览]
style I fill:#FF6B6B
style J fill:#FF6B6B
style K fill:#90EE90
B. Google 的医疗 AI 应用现状
graph LR
A[Google AI 搜索] --> B[通用查询]
A --> C[医疗健康查询]
B --> D[AI 概览启用]
C --> E{风险评估}
E -->|已识别高风险| F[AI 概览禁用]
E -->|未识别/低风险| G[AI 概览仍启用]
F --> H[传统搜索结果]
G --> I[潜在错误建议风险]
D --> J[正常工作]
style F fill:#90EE90
style G fill:#FFD700
style I fill:#FF6B6B
3. 数据与事实
A. AI 概览在医疗领域的覆盖率
- 医疗查询中出现比例：44.1%
- 错误建议比例：未公开具体数字
B. 专家评估
Google 发言人告诉 The Guardian，一个临床医生内部团队审查了突出显示的查询，发现在许多情况下，信息并不准确。
C. 技术应对
Google 表示已致力于减少有问题的响应，但显然仍有工作要做。
四、影响分析
1. 用户影响
A. 潜在健康风险
用户可能依赖错误的医疗建议做出健康决策，导致：
- 延迟寻求专业医疗帮助
- 采取不当的健康措施
- 加重现有疾病状况
B. 信任危机
Google 搜索作为医疗信息来源的可信度受到挑战。用户可能对 AI 生成的健康建议产生怀疑。
2. 行业影响
A. AI 在医疗领域的应用限制
此次事件凸显了 AI 在医疗健康领域的应用仍面临重大挑战：
- 医疗知识的复杂性和个体差异
- 错误建议的潜在严重后果
- 验证和监管的必要性
B. 责任认定问题
当 AI 提供错误的医疗建议导致用户健康受损时，责任如何认定成为法律和伦理难题。
3. 技术趋势
A. AI 应用边界
此次事件促使业界重新思考 AI 应用的边界：
- 哪些领域适合应用 AI
- 哪些领域需要人工干预或完全避免 AI
- 如何建立有效的验证机制
B. 医疗 AI 的未来
- AI 在医疗领域的应用仍将继续，但会更加谨慎
- 需要与医疗专业人员紧密合作
- 建立更严格的验证和审核流程
五、各方反应
1. 专家组织
A. Pancreatic Cancer UK
称 AI 建议胰腺癌患者避免高脂肪食物是"非常危险的"，可能阻止患者摄入足够的营养来接受治疗。
B. British Liver Trust
警告不准确的结果范围可能导致严重肝病患者误认为自己的结果正常，从而跳过必要的后续预约。
2. Google 回应
Google 发言人表示，一个临床医生内部团队审查了相关查询，并声称在许多情况下信息并不准确。公司已致力于减少有问题的响应。
3. 媒体观察
The Guardian 的调查揭露了 AI 概览的严重问题，引发了公众对 AI 在医疗领域应用的关注。
4. 业界担忧
尽管 Google 对某些健康相关查询使用 AI 概览的承诺令人担忧，但考虑到该工具误导用户的历史，业界对其在敏感领域的应用保持警惕。
六、相关链接
1. 官方回应
- Google 关于 AI 概览的官方声明
2. 调查报告
- The Guardian 关于 Google AI 概览医疗错误的调查
3. 相关资源
- Pancreatic Cancer UK 官方饮食指南
- British Liver Trust 肝功能测试说明