哈恩大学 AI 领域教授接受媒体采访，提出人工智能真正风险在于人类将重大决策交由机器全权代理。

把重大决策交给机器，才是人工智能真正的风险
人工智能正在从“回答问题”走向“替人行动”。它不再只是提供建议、生成文本、整理资料，而是越来越多地参与到金融交易、内容分发、公共治理、医疗辅助、自动驾驶等关键决策中。也正是在这一变化中，一个更深层的问题浮现出来：人工智能真正的风险，未必首先来自机器“觉醒”或“反叛”，而可能来自人类为了效率、便利和竞争压力，主动把重大决策权交给机器。
风险不是机器“夺权”，而是人类“交权”
人们常常把人工智能风险想象成科幻电影式的场景：机器突然失控，人类被取代。但更现实、也更值得警惕的路径，往往是缓慢发生的。起初，人类只是让 AI 帮忙筛选信息；随后，让它推荐方案；再后来，因为它更快、更准、更省力，便允许它直接执行。久而久之，人类从“决策者”退化为“审批者”，甚至退化为“旁观者”。
这种让渡并不总是以明确授权的形式出现。很多情况下，它发生在一次次“默认同意”之中：系统自动优化预算、自动推送新闻、自动匹配岗位、自动调整路线、自动生成政策简报。每一次单独看都合理，但累积起来，人类对关键流程的理解会逐渐变薄，最终可能出现无人真正掌握全局决策逻辑的局面。
当算法成为“看不见的决策者”
人工智能的危险之处，不在于它一定会拥有意识，而在于它可能在不被充分理解的情况下影响结果。金融系统就是一个典型例子。现代金融市场已经足够复杂，普通人甚至许多从业者都难以完全把握其运行机制。当 AI 被引入后，它可能创造出比股票、债券更复杂的新型工具和策略。一旦危机发生，人类决策者或许只能面对一个难以解释的建议：“执行方案 X。”我们不知道它为何有效，也不知道它为何失败，却不得不选择相信。
类似逻辑也会出现在公共治理、新闻传播、教育评估和企业运营中。AI 可以决定哪些信息被看见，哪些候选人进入面试，哪些风险被标记，哪些资源被优先分配。它未必直接下达命令，却可以通过塑造选项清单、排序结果、设置阈值，间接决定最终选择。这种“议程控制”比直接替代人类更隐蔽，也更难被察觉。
责任链条正在被拉长
当人类把决策交给机器，另一个难题随之出现：出了问题，谁负责？
如果一名医生参考 AI 诊断后作出错误判断，责任在医生、医院，还是算法提供方？如果自动驾驶汽车发生事故，责任属于乘客、制造商，还是系统开发者？如果金融 AI 引发市场波动，监管机构该追究谁的过失？当决策过程由人、算法、平台、数据提供方共同构成，责任就可能被稀释。人们可以说“是系统推荐的”“是模型生成的”“是数据导致的”，最终却找不到一个真正可追责的主体。
这正是人工智能代理带来的制度性挑战。AI 能够执行任务，却不能承担道德责任；它能优化目标，却无法真正理解后果。若人类把重大选择交给它，而又保留形式上的“最终签字权”，就会陷入一种尴尬局面：权力交给了机器，责任仍留在人类身上。
人类主体性可能被悄悄削弱
更长期的风险，是人类自身能力的退化。过度依赖 AI 会让人逐渐失去独立判断、批判性思考和复杂情境下的应变能力。一个组织如果长期依赖算法做决策，年轻员工就难以在实践中学习；一个社会如果习惯由平台决定信息可见性，公众就难以形成共同的经验基础；一个政府如果把政策评估完全交给模型，就可能失去对价值取舍和政治责任的敏感。
这种退化未必立刻显现，却可能不可逆。就像自动化交易取代人工交易员之后，市场很难再回到原来的运作方式；当人类监督能力因长期不使用而萎缩，重新建立人工审查机制将付出极高成本。
守住人类决策权，需要明确边界
面对这些风险，完全拒绝人工智能并不现实，也不明智。AI 在医疗、科研、教育、公共服务等领域确实能提升效率、扩展人类能力。关键不在于是否使用 AI，而在于哪些决策可以交给它，哪些必须保留在人类手中。
至少应确立几条底线：
重大价值选择不能完全自动化。 涉及生命、自由、公平、资源分配和公共安全的决策，必须保留人类最终裁决权。
人类必须保留可撤销、可接管的能力。 授权给 AI 不等于放弃控制，系统应允许随时中断、复核和纠正。
关键决策需要可解释与可审计。 不能因为模型复杂，就接受“无法解释但必须执行”的结果。
责任必须清晰可追。 开发者、部署者和使用者都应承担相应责任，不能让算法成为免责借口。
公共领域应建立独立评估与监管机制。 对高风险 AI 系统，需要第三方检测、事故通报和持续监督。
人工智能越强大，人类越不能放弃思考
人工智能正在改变人类做决定的方式。它可以帮助我们看见更多数据、模拟更多方案、减少低级错误，但它不能替人类回答“什么值得追求”“什么是公平”“谁应承担责任”这些根本问题。
真正的危险，并不是机器突然拥有意志，而是人类在追求效率的过程中，慢慢放弃了对自身命运的判断权。人工智能可以成为强大的工具，也可以成为隐蔽的权力中心；它最终扮演什么角色，取决于人类是否愿意在关键节点上保持清醒。技术可以替我们计算，但不能替我们选择。把重大决策交给机器，才是人工智能时代最需要警惕的风险。