法国索邦大学校友谈人工智能的负责任使用
索邦大学校友、企业家兼作家玛丽昂·卡雷在《传送带的悖论》一书中，深入探讨了人类与人工智能的关系。她立足于教学、创造与...
索邦大学校友、企业家兼作家玛丽昂·卡雷在《传送带的悖论》一书中，深入探讨了人类与人工智能的关系。她立足于教学、创造与批判性思维的交汇点，呼吁以负责任的态度运用这些技术。
作为索邦大学的毕业生，您的大学教育如何影响了您对技术——尤其是人工智能——的思考方式？
玛丽昂·卡雷： 在人工智能领域，人们常以为我毕业于某所工程师学院，但事实上我拥有人文社科背景。这或许听起来不太寻常，但我认为这一点至关重要。人工智能是一种深刻影响全社会的技术，因此不能仅由技术专家来主导。我们同样需要具备全局视野和批判思维的人才。
我在索邦大学的学习经历——尤其是在Celsa（高等信息传播学院）的培训——在这方面让我受益匪浅。通过信息科学课程，我掌握了理解日常数字工具的“思维工具箱”。这种思路对我创立Ask Mona以及后续的分析与反思工作都有很大帮助。
Celsa的一些教学理念至今仍指引着我，帮助我建立起对人工智能的“读写能力”——亦即理解、质疑并语境化这些技术系统的能力。今天，我们正需要更广泛地普及这类思维工具，使每个人都能与人工智能保持一种批判性的距离。
您创立了Ask Mona，这是一家专注于文化、教育与公众参与的人工智能初创公司。这段实践经历如何改变了您对人工智能潜力与局限的看法？
卡雷： 十年前创立Ask Mona让我得以“亲手实践”。关于人工智能的许多讨论往往两极分化，要么全盘推崇，要么彻底否定。但当我们真正开发工具时——就像我们在Ask Mona所做的那样——就会对这些技术能做什么、不能做什么，产生更加细腻的认识。
我们积极向合作伙伴与客户普及这一观念，不仅通过我们在文化机构中开展的项目，也借助与之配套的培训课程。通过Ask Mona Academy，我们为来自不同背景的学员提供人工智能应用培训。目标是帮助他们既培养批判思维，又能掌握符合自身需求的实用方法。
您身兼企业家、教师、演讲者及作家多职。是什么促使您动笔写作《传送带的悖论》这本书的？
卡雷： 通过Ask Mona初步接触人工智能后，我很快意识到必须对其社会影响进行深入反思。我将这份思考融入多种形式中：首先是教学，比如我在巴黎政治学院和Celsa的授课，以及在各国进行的演讲。
此外，我也参与了一些与人工智能相关的艺术项目和创作驻留，持续追问其意义。近年来，我更多地通过写作来表达思考，《传送带的悖论》正是这一延续。在此之前，我还出版了《谁想抹去爱丽丝·雷科克？》一书，讲述了一位被遗忘的数字与人工智能先驱的故事。
为什么选择“传送带”这个比喻来诠释我们与生成式人工智能的关系？
卡雷： 传送带的意象首先呼应了人们初遇人工智能时的普遍体验：那种创意迸发、思绪提速、灵感倍增的感觉。
然而，当我们过度依赖人工智能、任由其牵引时，悖论便浮现出来。我们最终都朝着相似的方向前进，就像站在同一条传送带上，产出的想法也越来越雷同。此时我们会发现，所期待的原创性与创造力并未真正实现。这种“前进得更快却未必走得更远”的进步幻象，正是我想通过这个隐喻来具象化的。
您在书中将“传送带”与“跑步机”作了对比。这一区分揭示了我们对思维过程中“努力”持何种态度？
卡雷： 使用“传送带”模式意味着某种认知外包。如果持续将推理与运算任务委托给人工智能，我们会逐渐减少批判性思维的使用，失去独立思考的习惯，最终导致自身能力的退化。相反，“跑步机”模式的使用方式，是不让人工智能替代我们做事，而是借助它来深化、质疑并丰富我们自己的思考。这好比在跑步机上奔跑——必须主动发力。在这种情况下，人工智能不再代替我们思考，而是帮助我们更好地进行思考、走得更远。
您的研究显示，一个人对自身能力越不自信，就越容易信任人工智能。我们应如何避免让人工智能成为不容置疑的认知权威？
卡雷： 这一点在教育领域尤其关键，关系到我们如何将人工智能融入学习实践。我常将其与计算器类比：我们总是先掌握心算，再学习使用计算器。面对人工智能，保持同样的原则至关重要。
尽管如今可以让人工智能代写论文，但我们首先必须学会如何亲自构思、组织观点并掌握写作的规范。否则就会陷入依赖与盲目信任的双重困境。如果过早习惯外包任务，我们就无法培养自身能力，进而因为缺乏实践而对自身信心不足。这种依赖又会反过来强化对人工智能的信任。更重要的是，如果没有掌握基本技能，我们根本无法进行批判性评估：如果我自己不会做某件事，我又怎能判断人工智能做得好不好？
在大学环境中，我们该如何防止人工智能中断基础学习，同时又承认它已成为学生日常生活的一部分？
卡雷： 问题不在于是否使用人工智能，而在于明确哪些情况下使用它会损害学习，哪些情况下它反而有益，以及在思维过程的具体哪个环节介入。
我认为，学生首先需要亲自培养核心能力；在这些能力扎实之后，再运用人工智能作为辅助工具，以提升思维、引导表达、激发追问、深化理解。同时也要提醒大家，在学习过程中，如果过度依赖人工智能自动化完成作业，知识的留存效果往往会大打折扣。
在巴黎政治学院，我们与学生进行了不少实验。有些课程允许他们使用人工智能完成最终作业，但评分重点不是成品，而是他们与人工智能的对话过程——就像我们评价一场演示时，关注的不只是最终答案。我认为这些是值得继续探索的方向。
具体到您个人的智力工作中，目前有哪些事情是您坚决不委托给人工智能的？
卡雷： 在专业场景中我常使用人工智能，但在生成式工具出现之前，我已积累了丰富的写作经验——我知道自己能写。然而在撰写这本书时，我却一度感到这种能力正在流失。我把写作类比为手写和打字：因为长期用电脑写作，我现在手写字已经相当生涩。在写作初期，我有种类似的感觉：仿佛不再会写作。我总不自觉地将自己与人工智能比较，觉得它写得更好，甚至忍不住反复修改它生成的内容。
但后来我意识到，那并非我真正想要的。首先，人工智能时常曲解我的原意——哪怕只是请它重述或润色，它也可能会引入偏见或不当论证。因此，我选择将它作为对话与自我质疑的工具，而非代笔。说到底，这是一场自我解放：学习如何从“传送带”转向“跑步机”，在写作中接纳必要的努力，以确保我始终是自己思想与文字的主人。
在企业环境中，应如何避免效率提升以独特性与技术传承为代价？
卡雷： 这正是我们当前面临的核心张力。企业普遍承受着强大的效率压力，而人工智能常被视为应对之道。危险在于，我们可能会让人类的工作节奏去适应人工智能的节奏，不断压缩流程以求产出更多。
长此以往，工作质量难免受损。我在书中提出“第一公里与最后一公里”的概念，正是为了在使用人工智能之前与之后，预留出宝贵的思考时间。这意味着，在求助机器前先独立构思，并在获得结果后批判性地审视——而非机械套用。如果我们真的重视并投入这样的反思时间，人工智能带来的生产率提升，可能远低于最初的乐观预期。
此外，这里还存在明显的“通货膨胀效应”。引用哈特穆特·罗萨的比喻：回复电子邮件比回信更快，但我们如今收到的邮件数量也远超从前信件。人工智能领域同样如此：正因为知道能更快完成任务，我们就想完成更多。然而，若不有意识地为思考保留呼吸空间，我们必将陷入不断加速的漩涡。
巴黎大学目前正在推进一个研究性创作项目，围绕与人工智能“以莫里哀风格”合作创作的戏剧展开。您认为，这类项目在何种条件下才能真正成为激发创意与反思的平台？
卡雷： 除了您提到的《莫里哀 Ex Machina》项目，我认为对艺术家而言，人工智能的意义在于激发思考、开启那些原本未曾设想的路径。
这些工具并无单一用法。实际上，艺术实践的方法多种多样，人工智能可在创作过程的不同阶段介入。在《莫里哀 Ex Machina》中，人工智能被用于生成文本，但艺术家也可以仅将其作为灵感来源，而不直接采用其产出作为最终作品。关键在于艺术意图本身：我们想表达什么？如何实现？为何选择此路径？方法是否贴合目标？是否使用人工智能并不重要，只要背后存在真正的思辨与坚实的艺术理念。
作为索邦大学的毕业生，您的大学教育如何影响了您对技术——尤其是人工智能——的思考方式？
玛丽昂·卡雷： 在人工智能领域，人们常以为我毕业于某所工程师学院，但事实上我拥有人文社科背景。这或许听起来不太寻常，但我认为这一点至关重要。人工智能是一种深刻影响全社会的技术，因此不能仅由技术专家来主导。我们同样需要具备全局视野和批判思维的人才。
我在索邦大学的学习经历——尤其是在Celsa（高等信息传播学院）的培训——在这方面让我受益匪浅。通过信息科学课程，我掌握了理解日常数字工具的“思维工具箱”。这种思路对我创立Ask Mona以及后续的分析与反思工作都有很大帮助。
Celsa的一些教学理念至今仍指引着我，帮助我建立起对人工智能的“读写能力”——亦即理解、质疑并语境化这些技术系统的能力。今天，我们正需要更广泛地普及这类思维工具，使每个人都能与人工智能保持一种批判性的距离。
您创立了Ask Mona，这是一家专注于文化、教育与公众参与的人工智能初创公司。这段实践经历如何改变了您对人工智能潜力与局限的看法？
卡雷： 十年前创立Ask Mona让我得以“亲手实践”。关于人工智能的许多讨论往往两极分化，要么全盘推崇，要么彻底否定。但当我们真正开发工具时——就像我们在Ask Mona所做的那样——就会对这些技术能做什么、不能做什么，产生更加细腻的认识。
我们积极向合作伙伴与客户普及这一观念，不仅通过我们在文化机构中开展的项目，也借助与之配套的培训课程。通过Ask Mona Academy，我们为来自不同背景的学员提供人工智能应用培训。目标是帮助他们既培养批判思维，又能掌握符合自身需求的实用方法。
您身兼企业家、教师、演讲者及作家多职。是什么促使您动笔写作《传送带的悖论》这本书的？
卡雷： 通过Ask Mona初步接触人工智能后，我很快意识到必须对其社会影响进行深入反思。我将这份思考融入多种形式中：首先是教学，比如我在巴黎政治学院和Celsa的授课，以及在各国进行的演讲。
此外，我也参与了一些与人工智能相关的艺术项目和创作驻留，持续追问其意义。近年来，我更多地通过写作来表达思考，《传送带的悖论》正是这一延续。在此之前，我还出版了《谁想抹去爱丽丝·雷科克？》一书，讲述了一位被遗忘的数字与人工智能先驱的故事。
为什么选择“传送带”这个比喻来诠释我们与生成式人工智能的关系？
卡雷： 传送带的意象首先呼应了人们初遇人工智能时的普遍体验：那种创意迸发、思绪提速、灵感倍增的感觉。
然而，当我们过度依赖人工智能、任由其牵引时，悖论便浮现出来。我们最终都朝着相似的方向前进，就像站在同一条传送带上，产出的想法也越来越雷同。此时我们会发现，所期待的原创性与创造力并未真正实现。这种“前进得更快却未必走得更远”的进步幻象，正是我想通过这个隐喻来具象化的。
您在书中将“传送带”与“跑步机”作了对比。这一区分揭示了我们对思维过程中“努力”持何种态度？
卡雷： 使用“传送带”模式意味着某种认知外包。如果持续将推理与运算任务委托给人工智能，我们会逐渐减少批判性思维的使用，失去独立思考的习惯，最终导致自身能力的退化。相反，“跑步机”模式的使用方式，是不让人工智能替代我们做事，而是借助它来深化、质疑并丰富我们自己的思考。这好比在跑步机上奔跑——必须主动发力。在这种情况下，人工智能不再代替我们思考，而是帮助我们更好地进行思考、走得更远。
您的研究显示，一个人对自身能力越不自信，就越容易信任人工智能。我们应如何避免让人工智能成为不容置疑的认知权威？
卡雷： 这一点在教育领域尤其关键，关系到我们如何将人工智能融入学习实践。我常将其与计算器类比：我们总是先掌握心算，再学习使用计算器。面对人工智能，保持同样的原则至关重要。
尽管如今可以让人工智能代写论文，但我们首先必须学会如何亲自构思、组织观点并掌握写作的规范。否则就会陷入依赖与盲目信任的双重困境。如果过早习惯外包任务，我们就无法培养自身能力，进而因为缺乏实践而对自身信心不足。这种依赖又会反过来强化对人工智能的信任。更重要的是，如果没有掌握基本技能，我们根本无法进行批判性评估：如果我自己不会做某件事，我又怎能判断人工智能做得好不好？
在大学环境中，我们该如何防止人工智能中断基础学习，同时又承认它已成为学生日常生活的一部分？
卡雷： 问题不在于是否使用人工智能，而在于明确哪些情况下使用它会损害学习，哪些情况下它反而有益，以及在思维过程的具体哪个环节介入。
我认为，学生首先需要亲自培养核心能力；在这些能力扎实之后，再运用人工智能作为辅助工具，以提升思维、引导表达、激发追问、深化理解。同时也要提醒大家，在学习过程中，如果过度依赖人工智能自动化完成作业，知识的留存效果往往会大打折扣。
在巴黎政治学院，我们与学生进行了不少实验。有些课程允许他们使用人工智能完成最终作业，但评分重点不是成品，而是他们与人工智能的对话过程——就像我们评价一场演示时，关注的不只是最终答案。我认为这些是值得继续探索的方向。
具体到您个人的智力工作中，目前有哪些事情是您坚决不委托给人工智能的？
卡雷： 在专业场景中我常使用人工智能，但在生成式工具出现之前，我已积累了丰富的写作经验——我知道自己能写。然而在撰写这本书时，我却一度感到这种能力正在流失。我把写作类比为手写和打字：因为长期用电脑写作，我现在手写字已经相当生涩。在写作初期，我有种类似的感觉：仿佛不再会写作。我总不自觉地将自己与人工智能比较，觉得它写得更好，甚至忍不住反复修改它生成的内容。
但后来我意识到，那并非我真正想要的。首先，人工智能时常曲解我的原意——哪怕只是请它重述或润色，它也可能会引入偏见或不当论证。因此，我选择将它作为对话与自我质疑的工具，而非代笔。说到底，这是一场自我解放：学习如何从“传送带”转向“跑步机”，在写作中接纳必要的努力，以确保我始终是自己思想与文字的主人。
在企业环境中，应如何避免效率提升以独特性与技术传承为代价？
卡雷： 这正是我们当前面临的核心张力。企业普遍承受着强大的效率压力，而人工智能常被视为应对之道。危险在于，我们可能会让人类的工作节奏去适应人工智能的节奏，不断压缩流程以求产出更多。
长此以往，工作质量难免受损。我在书中提出“第一公里与最后一公里”的概念，正是为了在使用人工智能之前与之后，预留出宝贵的思考时间。这意味着，在求助机器前先独立构思，并在获得结果后批判性地审视——而非机械套用。如果我们真的重视并投入这样的反思时间，人工智能带来的生产率提升，可能远低于最初的乐观预期。
此外，这里还存在明显的“通货膨胀效应”。引用哈特穆特·罗萨的比喻：回复电子邮件比回信更快，但我们如今收到的邮件数量也远超从前信件。人工智能领域同样如此：正因为知道能更快完成任务，我们就想完成更多。然而，若不有意识地为思考保留呼吸空间，我们必将陷入不断加速的漩涡。
巴黎大学目前正在推进一个研究性创作项目，围绕与人工智能“以莫里哀风格”合作创作的戏剧展开。您认为，这类项目在何种条件下才能真正成为激发创意与反思的平台？
卡雷： 除了您提到的《莫里哀 Ex Machina》项目，我认为对艺术家而言，人工智能的意义在于激发思考、开启那些原本未曾设想的路径。
这些工具并无单一用法。实际上，艺术实践的方法多种多样，人工智能可在创作过程的不同阶段介入。在《莫里哀 Ex Machina》中，人工智能被用于生成文本，但艺术家也可以仅将其作为灵感来源，而不直接采用其产出作为最终作品。关键在于艺术意图本身：我们想表达什么？如何实现？为何选择此路径？方法是否贴合目标？是否使用人工智能并不重要，只要背后存在真正的思辨与坚实的艺术理念。
