新浪财经 股票

总靠AI干活,你的专业能力可能正在悄悄退化

市场资讯 10.28 12:29

(来源:IT之家)

IT之家 10 月 28 日消息,人工智能已经在不少专业领域承担起助手的角色,医生、科研人员、软件开发人员都会在工作中使用它。糟糕的是,这会导致研究者所说的技能退化现象:人们把工作交给 AI 处理,自身专业能力随之下滑。

IT之家注意到,理论哲学方向的研究院研究员凯萨 · 凯尔基(Kaisa Kärki)在题为《谁应当为应对专业技能退化负责?》的研究论文中探讨了这一问题,该研究成果发表于《人类事务》期刊。

“技能退化带来的一个难题是,从业者很难在日常工作中察觉到这个变化,一部分原因来自人们对依赖 AI 这件事存在认知偏差。当我们和大语言模型对话,得到看起来很有说服力的回复时,很容易产生过度依赖。但这些模型同样会出错。”

凯尔基以医疗行业举例:如果一名医生依赖大语言模型,却没有发现模型给出的错误信息,就有可能造成医疗事故。一旦出事,责任该由谁承担?

“一般来说,责任相关的哲学理论认为,行为人只需要为自己知情情况下做出的行为负责。而伴随 AI 使用产生的、不易察觉的认知偏差,对这套观点构成了挑战:毕竟我们很难发现自身存在的偏差,或是过度依赖 AI 的倾向。因此,我们是否需要为这种悄无声息的能力退化,以及由此引发的失误承担责任,目前还没有定论。”

脱离 AI,我们还能正常工作吗?

凯尔基指出,技能退化本身很难被察觉,因此不能把相关问题的责任全部推给从业者个人,这是一个社会性、结构性的问题。

各个专业社群需要明确,哪些属于本行业的核心能力,必须牢牢掌握在人类手中。

飞行员会反复练习自动驾驶失效后的处置方案。其他行业也应当思考同样的问题:在必要的时候,如果没有 AI,从业者能否独立完成工作?

“在医学教育领域已经有观点提出,基础技能训练应当设置禁止使用 AI 的阶段。例如诊断推理是医疗工作的核心能力,对专业领域和相关业务形成整体性理解同样不可或缺。”

风险需要当下就着手应对

如果职场持续扩大 AI 的使用,却忽视技能退化带来的隐患,未来我们或许会失去脱离 AI 培养新人的能力。换句话说,人们会对技术和 AI 形成深度依赖,对它的错误失去辨别力。

人类社群的抗风险能力,建立在多元的人类技能储备之上。

凯尔基表示:“技能退化潜藏巨大风险。在行业层面出现群体性能力下滑之前,人类社会和各个专业领域就应当提前考量这个问题。”

应对技能退化的办法

加载中...