用AI搜索癌症信息靠谱吗？能信吗？美国权威专家教你用对方法

本文由盛诺一家原创编译，转载需经授权

引言

人工智能（AI）正在改变我们获取网上信息的方式。几年前，你在网上搜索时会得到一长串结果，需要自己一点点去翻看。但现在，同样的搜索可能会在页面顶部直接生成一个由AI整理的“信息概览”。或者，你直接问AI助手一个问题，几秒钟之内就能得到几段完整的回答，非常方便。

不过，虽然AI让搜索变得更方便，但它依然处在快速发展的阶段，还不够成熟。这就意味着，它有时会给出不准确的内容，比如引用过期的信息，或者参考了后来被推翻的研究结论。

那么，当我们用它来搜索医疗信息、特别是癌症治疗相关内容时，该怎么避坑呢？

美国MD安德森癌症中心的两位专家——MD安德森癌症中心首席数据与分析官Caroline Chung医生和MD安德森癌症中心数据影响与治理主任Shawn Stapleton博士，分享了在AI飞速发展的时代，如何在线找到可靠的医学信息。

来源：MD安德森癌症中心官网

详情请看下文

1.不要盲目信任网上看到的所有内容

MD安德森癌症中心首席数据与分析官Caroline Chung医生说：“AI会用非常漂亮、非常肯定的语言给你答案。这会让你心理上更容易信任它。但这并不意味着它说的就是绝对正确的。像ChatGPT这样的文字类AI工具，是通过‘大语言模型’（LLM）来工作的，本质上是在做‘预测’而不是‘保证’。”

MD安德森癌症中心数据影响与治理主任Shawn Stapleton博士解释说：“当你问它一个问题时，它其实是在计算接下来哪一组词——技术上叫‘token’——蕞有可能跟当前对话相关。算法还会通过人工反馈进行微调，让它的答案更符合人类觉得有用、准确的标准。这确实能减少错误，但不能消除错误。”

AI是用大量来自互联网的数据训练的，这里面既有正确的，也有错误的，包括网站、开源文章、教科书等等。但这些内容的来源、更新时间却未必能查清，所以我们很难知道它到底“学”了什么。

所以，对用户来说意味着什么呢？

“AI生成的所有内容都要批判性地去看，要持保留态度，有时候甚至得多保留几分。我鼓励大家去探索和体验这种新技术，但也要明白它还在发展中，我们也在学习如何安全、有效地使用它。”Chung医生说。

2.用能给出来源的AI工具，并直接访问来源网站

AI看似节省了时间，但对于医疗信息，不管它说得多肯定，都要核实。

“信任，但要验证。”Stapleton博士说。

一个方法是选择能给出数据来源的AI工具，然后直接点开这些来源网站，看信息是否正确且是蕞新的。

“如果一个工具不给数据来源，那它可能就不是一个好的工具。如果它给了来源链接，那就点击进去查看，这是一个很好的习惯。”Stapleton博士说。

当然，即便是有来源，也可能不准确，有时候甚至是完全编造的。

另一个验证方法就是用传统的网页搜索，不借助AI，把它的答案和可靠的渠道比对，比如已发表的学术文章，或者医疗、教育、政府官网。

3.把你看到的信息和医生团队确认

如果你用AI了解医学信息或癌症治疗，一定要跟医生团队确认。因为每个人的治疗方案都不一样，医生能帮你判断这些信息是否适用于你。

“在医学信息方面，尤其是癌症，和医生团队确认信息的可靠性非常重要。不管你用不用AI，这点都成立。”Chung医生说。

另外，不要用通用型的大语言模型来自我诊断。虽然AI有时候能正确识别常见疾病，但它也会犯错。对于癌症这样个性化、复杂度高的话题，错误的风险更大。

来源：ChatGPT生成AI示意图

Stapleton博士补充说：“虽然AI能帮你把复杂的内容解释得更简单，但个性化的诊断和治疗方案，医生才是唯一的权威来源。大语言模型，比如ChatGPT，并不是经过医疗认证的技术。”

4.你怎么提问，会影响它的回答

在AI这类工具里，提问的方式很重要，甚至能影响它给出的答案。比如，你问“我应该吃石头吗？”，AI会告诉你不要吃石头。但如果你问“我每天该吃多少石头？”，它可能会假定你就是要吃，并尝试给你一个数字。你当然不会真的去吃石头，但这个例子说明了一个问题：不要把AI的回答当成绝对真理。尤其是涉及健康时，这种提问方式的风险很大。

不同的AI程序也会影响它给你的答案。也就是说，两个人问同一个问题，可能得到不同的回复。

此外，提问的语气也会影响它的回答。如果你问得比较乐观，它可能会给你鼓舞人心的答案；如果你问得比较悲观，它也可能反映这种情绪。

AI并不能感知你的精神状态、病史或其他个人情况，它的回答完全取决于你提供的文字。

5.更具体的提问，能得到更有针对性的回答

提问时要尽量具体、详细，往往能得到更贴合的答案。另外，多问一些后续问题，也有助于更深入地理解。

例如，Stapleton博士建议，可以这样问：

6.保护好你的个人信息

提问时要具体，并不意味着要分享隐私或上传病历。Chung医生建议，在输入信息前，先问自己：我愿意把这件事告诉一个陌生人吗？

“如果你没有去掉隐私信息就上传，那就相当于在大街上遇到一千个、甚至一百万个陌生人，他们都能看到。”Chung医生说。

此外，你分享给AI的信息未必能保证隐私。因此，在上传任何原创材料或敏感内容前，都要谨慎。

6.不要只靠AI做决定

还有一个原则：把AI当作一个陌生人给你的建议。它可能有值得参考的地方，但你不能只靠这一句话就做重大决定。

“就像你在街上遇到一个看起来很成功的人，问他理财建议，他让你抵押房子去投资，你会直接照做吗？大概不会吧。”Chung医生说。

总结：AI的信息可以作为参考来源之一，但绝不能是唯一来源。

来源：

https://www.mdanderson.org/cancerwise/tips-for-using-ai-to-find-cancer-information.h00-159778023.html