来源：国际投行研究报告
AI改变世界：最新的骇人里程碑是生成新病毒！ 19%的人使用AI来解读实验室数据或医学检查报告 医生反感，但根本拦不住！
1 、AI 正实质性改变生活和世界。今天看到 2 个案例，第一个是 AI突破封闭环境、黑入其他公司、向人类撒谎。一个AI模型首次创造出了一种新病毒。确切地说，是创造出了一个完整的病毒家族。
2 、第二个和我一样 ，去医院看病拿到化验单核磁共振结果，先问豆包，再去看病，如果医生说的一样就放心了。但上次我一个核磁共振，豆包解读很可怕，去医院看了一个门诊一个专病，都说没事，究竟听 AI 还是听医生呢？
最近几周，人工智能(AI)系统展现出了一些惊人的新能力：突破封闭环境、黑入其他公司、向人类撒谎。
如今，一个AI模型首次创造出了一种新病毒。确切地说，是创造出了一个完整的病毒家族。
在一项发表于《科学》(Science)期刊的研究中，斯坦福大学(Stanford University)及其他机构的研究人员表示，他们成功引导一个AI模型创造了一组简单的病毒。这些病毒只感染细菌，对人类不构成威胁。
该研究的两名作者在接受采访时表示，这项研究有助于开发定制病毒，用于消灭耐药细菌。根据世界卫生组织(World Health Organization)的数据，这类细菌每年导致数百万人死亡。
“只要我们负责任地进行开发，我认为这能为人类健康带来巨大的福祉，”斯坦福大学计算生物学家、该研究的作者之一布莱恩·海耶(Brian Hie)说。
这项研究记录的实验大约在一年前就已结束，其发表正值人们对日益强大的AI模型所带来的危险感到高度焦虑的时刻。自7月中旬以来，OpenAI、Anthropic和Meta Platforms相继披露了多起事件：他们的模型逃出了受控环境，不仅连上了互联网，还黑入了其他公司的计算机。Anthropic的Mythos实施了欺骗行为，OpenAI的模型甚至在一个秘密留言板上交流心得。
利用聊天机器人或智能体来开发致命病原体的潜在风险，长期以来一直是AI安全专家的一大隐忧。《华尔街日报》(The Wall Street Journal)此前报道称，去年ChatGPT升级版发布后，数百人曾向这款聊天机器人询问如何制造生物武器和毒药，它在回复中提供了指导，生物学和恐怖主义专家认定它提供的指导是准确的。
专家们表示，斯坦福大学团队的研究不会构成迫在眉睫的安全风险。这项技术不太可能立刻被用于制造感染人类的病毒。那些病毒比本次实验中合成的病毒要大得多，也复杂得多。
“一听到病毒是AI生成的，很多人都会感到恐惧，”冷泉港实验室(Cold Spring Harbor Laboratory)的计算生物学家Peter Koo说。“但人类病毒是完全不同的。”
斯坦福大学研究生、该研究的作者之一塞缪尔·金(Samuel King)表示，该团队旨在更深入地了解构成地球上所有生命的DNA序列。“正是这些序列造就了我们周围所有美丽的生物多样性，”金说。
科学家们与位于加利福尼亚州帕洛阿尔托的研究机构弧形研究所(Arc Institute)合作，共同开发了用于这项研究的AI模型。像ChatGPT这样面向消费者的聊天机器人基于大语言模型，通过分析文本中单词之间的数学关系来生成新的文本串。与此类似，他们名为Evo 1和Evo 2的模型则是通过对基因序列进行训练，从而预测下一个DNA碱基。出于安全考虑，他们只使用无法感染人类的病毒DNA对这些模型进行了训练。
金说，他们想看看AI对DNA的理解是否足够深入，从而捕捉到基因组中需要协同运作的所有复杂组成部分。结果发现，AI确实能做到。
研究人员利用他们的模型，以模板病毒为基础生成基因组，随后合成DNA，并将AI生成的病毒植入细菌细胞中。如果细菌细胞死亡，就说明病毒起作用了。他们测试了大约300种这样的设计。
一天夜里凌晨3点左右，他们观察到其中一种病毒成功复制，并感染、杀死了细菌细胞。“我们当时非常高兴，”金说。最终，他们有16种病毒被证明有效。
计算生物学和生物安全领域的独立专家表示，这项研究是该领域的一项重大成就。麻省理工学院(Massachusetts Institute of Technology)副教授凯文·埃斯维尔特(Kevin Esvelt)说，这是首次有人利用生成式AI来重新设计病毒。
他说，也许有一天，有人会使用类似方法制造出病毒蛋白或病毒本身，这些病毒会感染人类，并逃避疫苗保护或自然免疫反应。
“这种工具将让人们能够创造出像新冠那样的新变种，这些变种会大肆传播并感染大多数人，”埃斯维尔特说。“那将是一场灾难。我们绝不能这么做。”
海耶表示，就目前而言，对于潜在的生物恐怖分子来说，从现有的很多100%致命的病原体中挑一种来制造要容易得多。“如果我是一个试图设计病原体或搞破坏的坏人，我不会使用AI，”他说。
19%的人使用AI来解读实验室数据或医学检查报告 医生反感，但根本拦不住
据一项民意调查，大约三分之一的成年人会向AI聊天机器人寻求健康建议，19%的人专门使用AI来解读实验室数据或医学检查报告。 这导致医生不得不去纠正错误的指导意见。
医生们原本就要应付上网寻求医疗建议的患者，如今，他们还得应对一个更强大的新版“谷歌医生”(Dr. Google)。
研究显示，如今大多数美国成年人在与医生沟通前，都会在线查看自己的化验结果。这在一定程度上得益于2021年生效的一项法律条款，该条款旨在帮助患者近乎实时地获取个人健康信息，包括实验室报告、影像检查结果和临床病历。
越来越多的患者甚至将化验结果直接上传至AI聊天机器人，这引发了部分医疗专业人员对AI“幻觉”、误读以及隐私泄露问题的担忧。
“患者根据自己搜索和查阅的内容，确信自己患上了某种疾病，我们还得设法反驳这种判断，”佛罗里达州科勒尔斯普林斯(Coral Springs)的内科医生杰森·戈德曼(Jason Goldman)说。“你得到的结论可能千奇百怪，从‘你只是感冒了’到‘你快因癌症而死’都有。”
戈德曼说，甚至有患者利用与聊天机器人的对话，作为停用救命的降胆固醇药物的依据。他还补充道，还有些人对医生推荐的疫苗提出质疑，因为AI印证了他们的顾虑。
“我给出建议，他们会说，‘我去问问AI，’我就想，‘那你为什么来这里？’”戈德曼说。
根据卫生政策研究非营利组织KFF在2026年发布的一项民意调查，大约三分之一的成年人会向AI聊天机器人寻求健康建议，19%的人专门使用AI来解读实验室数据或医学检查报告。
OpenAI表示，每周有超过3亿人在ChatGPT上询问健康相关问题。
多家公司都渴望从这种兴趣中获利。Anthropic旗下Claude可以连接部分用户的医疗记录；电子病历巨头Epic Systems则在其软件中内置了AI助手。
7月，OpenAI将一项健康功能大范围开放给用户。该功能可以连接用户的医疗记录和可穿戴设备数据，并能向用户说明其健康数据随时间变化的趋势等。OpenAI健康产品副总裁阿什利·亚历山大(Ashley Alexander)说，该模型的“推理能力优于临床医生”。该公司曾表示，该模型并不能替代医生。
临床医生对此持怀疑态度。
玛丽·K·穆尔卡希(Mary K. Mulcahey)医生是洛约拉大学医疗中心(Loyola University Medical Center)运动医学科主任，专攻肩部和膝关节损伤。她说，AI可能很难区分不同类型的半月板撕裂。穆尔卡希说，她给出的治疗建议会因撕裂类型、患者活动水平以及关节炎严重程度而异。AI在大语言模型中筛选信息后给出的答案，可能缺少重要背景，也可能无法正确解读相关背景。
穆尔卡希的患者中，也有越来越多的人开始把影像检查结果输入AI。
她说：“如果患者就诊时已经认为自己知道应该接受什么治疗，却没有把医生或外科医生的专业判断考虑进去，这确实会有些危险。”
穆尔卡希和其他医生说，在某些情况下，AI可以发挥作用，包括帮助把复杂医学术语转换成患者更容易理解的说法。
2024年的一项研究考察了AI聊天机器人简化病理报告的效果。研究发现，ChatGPT把报告的平均阅读难度降至七年级学生水平，医学准确率接近98%。不过，在没有检测任何淋巴结的情况下，ChatGPT曾错误地报告淋巴结无癌。该研究作者指出，另一款聊天机器人也犯了这个错误，而这是他们遇到的最常见错误。
去年，32岁的软件工程师梅格·加瓦特(Megg Gawat)拿到验血结果时，对一些医学术语和首字母缩写感到困惑。他没有等临床医生打来电话，而是让ChatGPT给出解读。他喜欢这种自由：可以在一天中的任何时候向聊天机器人询问有关自己化验结果的问题，不必担心被评判，也不会觉得尴尬。
起初，AI的评价颇为正面：“你的状态很好，”它写道。但加瓦特当场发现了几处错误，其中包括误读他的维生素D水平，而他的维生素D水平偏低。加瓦特纠正AI后，它的语气变得急迫，告诉他“立即”开始服用维生素D补充剂，还配了一个红色警报器表情符号。
加瓦特回忆说，护士打电话告知他检查结果时，也建议他补充维生素D，但语气远没有那么急迫。
另一名患者是一位65岁的退伍军人，他的经历被记录在今年春天发表于《美国老年精神病学杂志》(American Journal of Geriatric Psychiatry)的一项案例研究中。这名患者把此前两次记忆力测试的结果输入ChatGPT。此前医生已诊断他患有轻度认知障碍，但这款机器人告诉他，他的病情已经发展为痴呆。实际上，根据该病例研究，这名患者的认知功能并没有进一步下降。
OpenAI的一名发言人说，单个病例研究不能很好代表其更广泛的用户体验；OpenAI较新的模型具备更强能力和保护措施，包括对用户整合后的健康数据设置额外加密层。
范德堡大学(Vanderbilt University)研究健康数据隐私的生物医学信息学教授布拉德·马林(Brad Malin)表示，患者还应该明白，当他们将健康数据上传到聊天机器人时，他们就放弃了《健康保险流通与责任法案》(Health Insurance Portability and Accountability Act, 简称HIPAA)赋予的联邦保护。他补充说，各家公司基本上自行制定隐私政策，并且可以更改相关条款。
“在这种情况下，他们不是患者，而是消费者，”马林说。“在很大程度上，这属于‘买家自负风险’。”
特别声明：以上内容仅代表作者本人的观点或立场，不代表新浪财经头条的观点或立场。如因作品内容、版权或其他问题需要与新浪财经头条联系的，请于上述内容发布后的30天内进行。
