Samuel Sales Saraiva
理性时代
伦理保障下的智能融合
Samuel Sales Saraiva
2026年夏末一个温暖的夜晚，在华盛顿特区，一只小狐狸守在一座灯火通明的教堂前，等待着也许能让它熬过秋天的食物。
颇具讽刺意味的是，食物并没有来自象征慈善的地方，而是来自教堂之外——来自一个意识到它正在挨饿之人的良知。
而从那份真实而具体的饥饿中，又诞生了另一种更深的饥渴：对真理、辨识力、良知与同理心的精神渴求。
关于良知的道德演进与文明未来的一项哲学探究
致读者——免费开放数字版
在免费提供《理性时代》完整版本之际，“理性视角”（A Ótica da Razão）再次确认了自本书诞生之初便启发它的一项原则：凡旨在思考人类未来的思想，都应尽可能减少抵达人们心灵的障碍。
本书并非出于追求经济回报的计划而生。它的目的，是参与公共讨论，唤起辨识力，并为社会提供一种思考：在人类智能与人工智能之间实现融合，同时以伦理作为保障。
商业版仍然向希望拥有纸质版或电子版图书的读者开放。然而在这里，本书全文免费提供，因为让更多人接触其中的思想，比为了可能的销售而限制这种接触更为重要。
如果一本书的使命是传播一种思想，那么在思想与读者之间每减少一道障碍，作品就更接近它真正的目的。
本葡萄牙语版本开启了本书在“理性视角”上的公开发布，并计划通过其他语言版本逐步扩大其国际可及性。
更新说明
智能的融合，也包括这只启发了这部作品的小狐狸。
理性、权力与文明责任
本书并非为了取代最初的思考，而是为了把它进一步推向人工智能自身发展所日益凸显的现实后果。
本书从一个根本问题出发：如果智能不断增强，而良知却没有以同样的幅度成长，这种增强究竟有何意义？这个问题依然未变。变化的是，我们面对一种能力增长速度远远超过制度、规范以及旨在引导它的道德共识的技术，因此审视这一问题已经变得更加迫切。
因此，本书更加明确地将三个不应彼此割裂的层面联系起来：哲学层面，追问智能的目的；文明层面，评估其对共同生活的影响；制度层面，力求确立责任、边界与机制，以防止技术力量演变成鲁莽行事的许可。
本书的目的不是制造对人工智能的恐惧，也不是把它的创造者、研究者或企业塑造成进步的敌人。而是承认：一种技术越有能力介入人类生活，我们在界定它的目标、边界以及由其使用所产生的责任时，就越需要成熟。
也正因此，一些最初以文章形式展开的思考，在此被重新加工。它们不再停留于公共评论的时效性形式，而是被纳入本书的长期思想结构之中。重复之处、过度依赖当下情境的引用以及属于新闻发表节奏的段落被删减，而具有哲学、逻辑、道德与文明意义的内容则得以保留。
如果技术极大扩展了我们能够做什么，那么理性就必须追问什么值得去做。如果权力增长得比审慎更快，伦理就不能再只是装饰，而必须成为结构。
因此，本书始终遵循它最初的原则：我们需要的不是更少的智能，而是与足以配得上手中力量的良知相伴的智能。
献词
谨以此书献给所有那些离世时甚至未被赋予捍卫自身生命、尊严或希望之权利的人们。
献给那些因战争、不宽容、压迫与冷漠而被迫失声的人——他们是缺乏辨识力的牺牲者；那些本应肩负带领人民走向和平与人性提升之路责任的人，却屈从于政治、经济与地缘政治野心的盲目。
这些声音并未消失。它们的回声仍穿越时间，在人类良知中化作正当的呼喊：愿夺走他们生命的疯狂永不重演；愿通过理性的提升以及不断完善的制度建设，使其他生命免遭同样的命运，而这些制度首先应以保护人的尊严和保存生命为导向——生命是一种不可侵犯的价值，其意义超越国界、意识形态、利益与一切形式的野心。
我也把本书献给人文科学研究者、思想者、教育者与公民——他们在各自能力所及的范围内，努力理解我们集体失败的原因，并为建设一个更加公正、更具同理心、更有自觉、更团结且更尊重一切生命尊严的文明作出贡献。
最后，我把本书献给那些认识到这一点的人：当理性受到伦理照亮并由同情心相伴时，它不仅是一种思维能力，更是一项道德责任——一道能够引导人类继续走完尚未完成的文明历程之光。
目录
导言——Álvaro Dias 8
序言——当两种智能并肩而行 11
致读者——一份探究的邀请 19
前言——一个问题的觉醒. 24
第一章——良知的觉醒 28
第二章——原谅自己的自由 32
第三章——真正的德性 37
第四章——良知与他者 42
第五章——饥饿与良知的沉默 48
第六章——责任递增法则 61
第七章——技术、权力与全球伦理 67
第八章——人工智能与理性的融合. 72
第九章——良知之镜. 79
第十章——人工智能的力量与制衡 84
第十一章——理性与同情的时代. 92
第十二章——一种新的存在与文明架构 94
第十三章——知识：一项永无止境的事业. 97
第十四章——知识作为遗产与责任 102
第十五章——从反思走向融合 110
第十六章——对反思与文明责任的最后呼吁. 124
第十七章——广岛、长崎与预见的责任 129
结语——理性的觉醒与人的未来 132
理性的回声——关于本书的评论阅读与思考 134
编辑说明 140
关于作者. 143
导言
有些书诞生于长期研究，也有些书源于那些在沉默中逐渐成熟、最终获得形式的忧思。Samuel Saraiva 的《理性时代——伦理保障下的智能融合》属于后者。
本书源于一个简单的场景：夏夜里，一只饥饿的小狐狸站在一座灯火通明的教堂前。这个看似平常的片段，一旦以敏感的眼光去观察，便转化成一个关于人类及其命运的根本问题。
本书正由此问题而生：在智能以前所未有的速度扩张的时代，成为“人”究竟意味着什么？更重要的是，我们是否也能让良知以同样的幅度进化？
这些问题超越技术本身。它们关乎人类存在的根本处境。
文明已经达到了惊人的知识水平和改造世界的能力。人工智能进一步拓展了这一边界。然而，技术进步本身并不保证道德进步。
由此便出现了本书最核心的忧问：如果智能不断增强，而良知并未以相同比例成长，这种增强又有何意义？
知识与智慧并不等同。智能创造能力；良知应当引导这种能力的使用。技术提供手段；只有人的价值才能界定目的。
因此，Samuel 的这本书提出：文明的下一阶段，也许并不在于积累更多力量，而在于学会以负责任的方式运用力量。这使同情、团结、尊重、尊严以及对生命的关怀重新成为核心价值。
于是，故事开头那只狐狸便获得了象征意义：面对脆弱者，人类的良知被要求在冷漠与关怀之间作出选择。而正是在这些往往简单、安静的选择中，我们的人性尺度得以显现。
我了解记者兼知识分子 Samuel Sales Saraiva 的人生轨迹，也知道他的思考并非仅仅来自智识观察，而是来自一生对社会、政治与共同命运的持续思索。这里存在着深刻的一致性。在经历数十年公共生活、亲眼看见理性、伦理与良知不断接受现实考验之后，我很荣幸受邀为这样一本书作导言。
政治在其最高意义上，也是一种对未来负责的方式——不断追问：我们希望把怎样的社会留给下一代？
我们生活在一个巨大变革与不确定性并存的时代。人工智能将以非凡方式扩展我们的能力，但它不能替我们决定什么是正义、什么有尊严、什么才是人性的。价值的选择仍将是一项不可转让的责任。
因此，真正的“理性时代”也许不是我们知道得更多的时代，而是我们更清楚地理解自身行为后果的时代。
本书提出的挑战清晰而切合当下：让智能的进步与良知的成熟同步发生。
一本好书不会结束讨论，而会延长讨论。这正是本书所做到的。
Samuel Saraiva 从一次与小狐狸的相遇出发，进而思考文明的命运。他提醒我们：重大的问题可能诞生于看似简单的事物，而最本质的东西常常显现在最不起眼之处。
因此，为本书作导言，不只是介绍一部作品，更是在介绍一种忧问。
一种面对未来的忧问。
一种希望：当人类扩展智能时，也能够同步扩展良知。
一种信念：真正的进步不仅取决于我们创造了什么，也取决于我们能够保存、尊重与关爱的是什么。
愿《理性时代》成为每一位读者的一份反思邀请。
因为人类下一次伟大的进化，也许并不在我们前方。
也许，它就在我们之内。
祝贺这部作品。能够为它作导言，是我的荣幸。
Álvaro Dias
巴西巴拉那州库里提巴，2026年8月7日
关于导言作者
Álvaro Dias 是记者、历史教师，也是巴西公共生活中最资深的人物之一。他拥有数十年的政治经历，曾担任市议员、州议员、联邦众议员和共和国参议员，并曾出任巴拉那州州长。2018年，他成为巴西总统候选人。在其职业生涯中，他长期参与关于公共伦理、制度责任、民主以及巴西发展的全国性讨论。他丰富的公共生活经历，也使其个人轨迹成为巴西当代重大变迁的一份鲜活见证。
序言
当两种智能并肩而行
本书源于一个根本性的忧问：为什么人类已经取得了非凡的科学与技术发展，却仍然如此难以把知识转化为智慧，把力量转化为责任，把进步转化为共同享有的尊严？
《理性时代》并非被构想为一种孤立的学术炫示，也不是对终极真理的宣告。它产生于作者的人类经验与人工智能分析能力之间持续不断的对话；人工智能在其中被作为反思、概念组织、观点碰撞与语言完善的工具。
这一情况理应以完全透明的方式加以说明。
Samuel Sales 把自己的人生经历、记忆、忧虑、信念，以及数十年来观察政治、制度、人际关系、自然和至今仍烙印于文明之中的不平等所逐渐形成的问题带进了本书。
他也带来了这样一种敏感：当理性与同情分离时，它可能扩大人的力量，却未必提升人的道德境界。
人工智能则协助他组织论证、识别汇合点、减少重复、深化概念，并寻求更高程度的清晰性、连贯性和普遍适用性。
亲身经历属于作者。概念灵感、哲学方向、道德意图，以及对本书思想与选择的责任，同样属于作者。
人工智能没有童年、家庭记忆、痛苦、希望、道德良知或自身的存在计划。它在本书中的参与，是作为一种分析与协作工具：能够考察概念之间的关系、提出反向观点、组织不同视角，并帮助把零散的直觉转化为更加一致的思想架构。
然而，正是这种合作揭示了本书的一个核心问题：技术并不必然取代人的良知；它可以帮助良知审视自身、拓展理解，并提升提出问题和构建答案的能力。
本书本身就是一种证明：人类智能与人工智能可以——而面对当代挑战，也许应该——并肩前行。
并不是让一方取代、支配或削弱另一方，而是让两者不同的能力为良知的发展而汇合。
人类智能带来经验、感受力、直觉、记忆、创造力、目的与道德责任。人工智能则提供分析、比较、组织、模式识别以及扩展反思可能性的能力。
在这种合作中，不存在智能之间的争夺、从属或竞争，而存在彼此承认——也就是清楚地承认各自不同的能力、边界与功能。
人类智能不需要贬低人工智能来维护自身尊严，人工智能的贡献也不需要占据人类经验的位置来证明自己的价值。正因为两者各守其位，并分别提供各自最擅长的东西，这种伙伴关系才具有成果。
人类智能带来了灵感、亲历经验、道德感受力与目的；人工智能则贡献了分析、组织、比较、概念深化以及语言润饰。
正是在这种相互承认中，形成了一种不以争夺主角地位为目标，而以让知识服务于良知与人类为承诺的共同建构。
当这种相互承认受到伦理引导时，就可能产生一种能够深化理解，并使思考更加清晰、更具后果意识、更易于接近的合作。
然而，对于这种互动，至今仍存在一些误解。
有些批评源于正当的担忧，值得认真对待。人工智能的发展与使用需要审慎、透明、边界、人类监督，以及对尊严、自由和生命保护的持续承诺。
另一些批评却把恐惧、不了解或本能抵抗转化为绝对反对，而且往往缺乏足够合理的依据。
有人认为，承认人工智能的贡献会降低人类创造的价值；也有人甚至在尚未理解这种合作的性质、边界和可能性之前，就已经拒绝它。
本书试图为消解这些误解作出贡献。
两种智能之间的互动，并不意味着人类向技术屈从；也不意味着用技术取代人的经验、创造力、感受力或道德责任。
它意味着承认：不同的能力可以在追求更高程度的清晰、辨识、理解与良知时彼此补充。
人工智能不应占据人类良知的位置。它应始终服务于良知，帮助审视思想、扩展视角、识别联系，并完善那些可以为生命与尊严服务的论证。
危险未必存在于人类智能与人工智能的接近本身，而在于任何一种智能在缺乏伦理引导、透明与责任的情况下被使用。
人类智能一旦脱离良知，同样制造过战争、压迫、不平等、环境破坏以及痛苦的工具。智力能力本身，从来不是智慧的保证。
因此，我们时代真正的挑战，也许不只是制造更聪明的机器，而是形成足够有自觉的社会，使之能够决定应如何使用这种智能。
获得的力量越大，承担的责任就应越大。
对人类智能与人工智能合作一概拒绝，可能会阻碍我们理解、完善并把其益处导向真正具有文明意义的目标。
照亮人类道路的，不是无知的黑暗，而是知识之光——无论是自然的还是人工的——前提是它受到良知、伦理与责任的引导。
《理性时代》的价值，不在于为人类困境提供封闭的终极答案，而在于推动一场理性的讨论：在技术力量不断增长的时代，什么样的伦理与文明基础应当引导我们的决定。
人工智能极大扩展了处理信息、识别模式、比较观点和加速知识生产的能力。然而，这些能力本身并不能决定什么应当被视为正义、有尊严、富有同情心或在道德上可以接受。
这些选择依然属于人类。
本书并非旨在维护某一种单一解释，而是希望为一种清醒、多元、有根据的讨论作出贡献，使讨论能够超越任何形式的宗派主义——无论政治、意识形态、宗教、经济、文化还是技术领域。
衡量本书影响的标准，不应是读者是否立即接受其中观点，而应是它能否唤起问题、连接知识、激发建设性批评，并有助于形成合乎伦理、具体而可行的方案。
《理性时代》不试图招募追随者，也不试图建立一种新的正统。它希望汇聚愿意思考、对话与合作的良知，并承认：当教条之间的冲突取代对事实与论证的诚实审视时，任何社会都无法真正成熟。
因此，本书的思考面向公民、教育者、研究人员、公民社会机构、国家以及多边组织，不论其文化传统、政治取向或哲学信念为何。
这里所倡导的理性不属于某个群体、某种意识形态或某种权力结构。它是人类共同的财富，也是构建文明融合不可或缺的工具。
本书更大的目的，是促使正当分歧能够在没有敌意的情况下被审视，使批评不至于演变成不宽容，并让不同观点能够超越宗派利益，在一个共同领域相遇：保护生命、尊严、良知自由以及共同的未来。
本书的论证试图说明：哲学原则只有在能够启发具体且可实现的方案时，才获得完整意义。
伦理不能被限制在抽象领域。它需要引导教育、经济、科学、政治、环境保护、技术发展，以及人与人、民族与民族、物种与物种之间的关系。
仅仅把理性理解为逻辑能力也远远不够。真正具有文明意义的理性，必须承认权力的边界、生命的脆弱，以及人类与地球相互依存所产生的责任。
本书中的合作并未抹去作者与协助他的技术之间的深刻差异。恰恰相反，它使这些差异更加清晰可见。
一边是人的经验，其中有记忆、勇气、失去、希望，以及赋予存在以意义的需要。
另一边是一种能够分析大量信息、组织论证并提供不同视角的技术；它自身却没有需要保护的生命、需要避免的痛苦，也没有需要建构的命运。
只有当技术服务于人的反思，而不是企图取代人的反思时，这种融合才具有正当性。
因此，本书形成过程中所体现的合作，不应被理解为一种尴尬，反而应被视为一个新的文明节点真实而正当的表达。
对一些人而言，这种合作仍然令人陌生；但它也可能代表我们时代最有希望的可能性之一：人工智能与人类智能的概念灵感、感受力和责任结合在一起。
因此，本书不仅是在思考这种可能性，也是在实践层面证明：它已经能够发生。
两种智能共同参与了本书的形成，各自的差异与角色都得到尊重，却由同一个目的所引导：促进良知的成熟，让知识服务于生命、尊严和文明责任。
《理性时代》不应被读作一次思想旅程的终点，而应被视为一次更广阔对话的开始。
这些篇章邀请读者赞同，也邀请有根据的分歧、建设性的批评，以及对书中建议的进一步完善。
任何献身于理性的作品都不应害怕质疑。相反，它应当把质疑视为知识成熟不可或缺的条件。
然而，负责任的反驳不能止步于系统性的拒绝、表面的贬低或宗派式抵抗。它必须审视本书提出的整套思想，并以同样连贯、全面且在理性上有支撑的论证加以回应。
这里不要求赞同，只要求智识上的诚实。
能够扩大理解的批评值得欢迎。具有更充分依据的不同意见，会帮助作品和讨论本身得到完善。但如果一种反对只是否定，却不面对论证的实质，那么它并没有超越自己所反对的东西。
理性不要求免于批评；它只要求批评本身也接受理性的检验。
在本书的合作建构过程中，我们发现了一条贯穿所有章节的一致性：未来不仅由人类能够创造什么样的技术决定，也由人类在使用这些技术时选择保留什么样的价值决定。
理性可以扩大自由，也可以完善控制。
智能可以减少痛苦，也可以加深不平等。
进步可以保护生命，也可以加速生命的毁灭。
方向不会由机器自主选择。它将由人类、由其制度，以及由人类愿意接受为共同生活基础的原则来决定。
这也许正是本书最重要的信息：人类已经发展出强大的工具来改造世界；现在必须发展出足够成熟的良知，才不至于在自己的改造过程中迷失。
如果这些篇章能够扩大公民、机构、研究人员、国家与组织之间的对话，并让那些致力于人的尊严、生命保护以及构建合乎伦理且可行替代方案的人彼此靠近，那么它们就实现了自己的目的。
“理性时代”不会由某项技术发现、一纸法令，或某一代自称优于前人的人来开启。
它将始于智能、责任与同情不再彼此分离的那一刻。
致读者
一份探究的邀请
如果你寻找的是最终答案，也许这并不是你期待的那本书。
如果你想为人类的重大困境寻找罪魁祸首，那么在这些篇章里你同样找不到。
本书并非为了谴责个人、机构、政府、宗教或经济制度而写；它也不打算取代任何哲学传统、建立一种新教义，或提出一个封闭的思想体系。
它的目的更简单，却也更严格：邀请读者去反思、探究和讨论。
我们正生活在一个非凡的时代。
人类从未拥有过如此丰富的科学知识、如此强大的技术能力，以及如此有力的工具去理解和改造世界。
我们从未创造过如此巨大的财富。
我们从未如此迅速地彼此沟通。
我们从未对自然、社会结构以及自身拥有如此巨大的支配能力。
然而，仍有一个问题悬而未决，而上述一切成就都未能令人充分满意地回答它：
人类的良知，是否以与智能相同的幅度进化了？
这一问题构成了本书的出发点。
它不会通过指控、口号、意识形态简化或绝对确定性来加以讨论。我们将采取哲学与跨学科的反思方式，以理性、逻辑、历史经验、对人类处境的观察为指导，并在适用之处依据可核实的事实与证据。
这里提出的思想并不声称拥有终极权威。它们应被理解为供反思的假设，开放于批判性检验、有根据的质疑、彼此尊重的争论，以及通过讨论而不断完善。
在这些篇章中，我们将考察一些看似不同的主题——良知、同情、饥饿、道德责任、人工智能、文明与融合——但不会把它们视为彼此孤立的问题，而会将其理解为同一个根本问题的不同表现：
智能真正的目的究竟是什么？
也许我们会发现，智能本身能够扩大可能性，却并不能决定这种能力应服务于什么目的。
也许我们会理解，理性能够引导选择，却不能替代评估这些选择后果所需要的良知。
也许我们会意识到：只要一种知识仍对可以避免的痛苦、人的尊严和生命的脆弱无动于衷，它就尚未达到自身最崇高的表达。
而我们也许会因此提出一个假设：人类进化的下一大阶段，不会只取决于技术、科学或经济进步，还取决于良知在伦理与道德上的成熟。
本书既面向因好奇和求知欲而阅读的普通读者，也面向教师、学生、研究人员以及希望批判性考察理性、知识、技术、责任与文明之间关系的学者。
通过以通俗可及的语言接近哲学反思，本书希望使这些问题走出专业圈层，进入更广阔的对话空间，让学术知识与日常的人类经验更加接近。
这里并不提供只供被动吸收的定型内容，而是提供可以在课堂、学习小组、研究空间、文化机构和公共讨论环境中被检验、对照、质疑与发展的思想和问题。
读者的批判性贡献并不是作品之外的反对意见，而是本书目的本身不可或缺的一部分。有根据的批评、彼此尊重的分歧和不同的解释，对于扩大讨论范围、揭示可能存在的局限、纠正不足，并使知识持续处于完善过程之中，都至关重要。
当思想受到智识上诚实的质询时，它不会因此削弱。恰恰相反，批判性检验为思想提供机会，使其证明自身的一致性、承认自身边界，并扩大理解能力。
我们同样希望这些思考有助于形成一种多文化、跨学科、多语言的学术对话，使不同的哲学传统、历史经验、科学视角和世界观能够在不失去自身特点的前提下相互相遇。
规划英语、葡萄牙语、西班牙语、法语、现代阿拉伯语、中文和意大利语版本，旨在扩大本书在文学与学术上的触达范围，使来自不同社会、文化和思想传统的读者、教师、学生和研究人员都能够检验其中提出的问题。
翻译一种思想，并不只是把它的词语复制到另一种语言中；更意味着让它能够通过不同理解现实的方式被解释、质疑并丰富。
任何一种文化、语言、学科或思想流派，都不可能单独拥有应对人类处境所有挑战的答案。解释的多样性不应被视为知识建构的障碍，而应被视为其最富饶的源泉之一。
这种语言与文化上的扩展，并不是为了推动意识形态、党派、宗教或宗派归属。相反，它旨在营造一个独立的探究空间，使思想能够根据其连贯性、逻辑一致性、与可核实事实的符合程度，以及其帮助理解现实和人类处境的能力来受到评估。
理性、逻辑、批判性检验和智识诚实，是这一提议的基础。
人工智能可以作为研究、组织、比较、翻译以及扩大知识可及性的辅助工具作出贡献。但它不会被视为绝对权威、永不出错的来源，或人类辨识力的替代品。它的贡献同样必须始终开放于核实、修订，并与可靠来源和坚实证据相互对照。
同样，本书中的任何主张都不应仅仅因为符合作者或读者的信念而被保留下来。思想必须由论证支撑、以事实为检验，并在新的证据或更一致的解释出现时得到修正。
因此，来自不同语言、文化和学术传统的贡献，将成为本书目的的重要组成部分。有根据的分歧可以揭示局限、纠正不足、丰富讨论，而不应让任何单一观点把自己强加为真理的唯一占有者。
我并不要求读者赞同这里提出的结论。
我只希望你以批判精神、智识诚实、对反方观点的开放态度，以及重新思考某些也许早已停止追问的问题的意愿，走完这段旅程。
有些书提供答案。
有些书唤起情感。
还有一些书，静静地试图改变我们向自己、向社会以及向我们所处的历史时代提出问题的质量。
如果这些篇章能够促进个人反思、多文化和多语言的学术对话、批判性研究，以及社会参与开放、尊重且有根据的讨论，那么它们便充分找到了存在的理由。
因此，我邀请你开始这场探究。
它不仅关乎我们所建构的世界，
也关乎我们选择以怎样的良知去理解、改变并栖居其中。
前言
一个问题的觉醒
有些问题穿越几个世纪。
它们不属于某一代人、某一种文化或某一个特定时代。
它们静静伴随人类的历程，因为即使历史不断给予不同答案，它们从未停止挑战我们的良知。
我们是谁？
我们正走向哪里？
所谓进化，究竟意味着什么？
数千年来，我们这个物种一直试图通过不断扩大理解世界的能力来回答这些问题。
我们学会了驾驭火。
我们耕种土地。
我们建造城市。
我们发展文字。
我们发现自然规律。
我们拓展科学的边界。
我们创造能够深刻改变现实的技术。
最近，我们又发展出人工智能，以前所未有的规模扩大了我们认知、分析与决策的能力。
这些成就中的每一项，都是人类智能的一次非凡胜利。
然而，也许还存在一个比以上所有问题更加重要的问题：
我们的良知，是否以与智能相同的幅度进化？
这一问题，才是本书真正的起点。
文明史似乎揭示了一个悖论。
我们从未创造过如此巨大的财富。
我们从未积累过如此丰富的知识。
我们从未拥有如此强大的工具去理解宇宙、改变自然并重塑人类生活。
但我们也从未拥有如此巨大的力量去扩大不平等、摧毁生态系统、完善战争工具，或对本可以避免的痛苦保持冷漠。
也许当代文明的根本问题并不是智能不足。
也许是良知不足。
这一假设并不贬低科学、技术或创新的重要性。
恰恰相反。
它承认这些成就是人类最卓越的创造之一。
但它也提醒我们：力量每扩大一分，对如何使用这种力量的责任也应同比增加一分。
正是在这里，本书提出自己的反思。
不是用良知取代智能，而是思考两者不可缺少的融合。
因为没有良知的智能可能扩大力量。
没有智能的良知则可能限制改变现实的能力。
一个真正成熟的文明，也许两者都不可或缺。
在这些篇章中，我们将展开一场从个体出发、抵达社会，并最终投向文明未来的探究。
我们将思考良知的成熟、同情、道德责任、作为可避免痛苦表现的饥饿、正义的意义、人工智能的作用，以及不同形式的智能为生命而实现融合的可能性。
这并不是在捍卫一种乌托邦。
也不是在忽视人类问题的复杂性。
我们只是提出一个问题：我们这个物种已经取得的惊人智识发展，是否终于能够伴随同等程度的道德良知发展？
如果这一假设成立，那么进化的下一大阶段也许并不是生物学意义上的。
也不是技术意义上的。
也许是伦理上的。
也许是文明意义上的。
也许，那将是人类终于理解这一点的时刻：智能与良知并不是两条彼此分离的道路，而是同一责任不可分割的两个维度。
如果本书哪怕只以微小的方式帮助这个问题继续保持鲜活，它也就完全实现了自己的目的。
因为历史上的每一次重大转变，都远在答案出现之前便已经开始。
它始于有人鼓起勇气，提出一个再也无法被忽视的问题。
也许，这就是贯穿这些篇章之挑战最简单的图景：一个文明面对一辆力量惊人的交通工具，它能够把文明带到过去无法想象的地方。
因为害怕速度而毁掉发动机，是不理性的。
赞美速度却蔑视刹车，同样不理性。
智慧在于理解：动力、方向和停止能力，都属于一次安全旅程的同一套架构。
智能也应如此。
没有目的的知识可能扩大力量；没有手段的伦理可能只停留在愿望。但当智能、良知与责任汇合时，它们能够把可能性转化为真正的进步。
智能把我们带到了今天。
良知将决定我们走向哪里。
第一章
良知的觉醒
良知的时间
有一种时间由钟表衡量。
也有另一种安静的时间，只有良知能够感知。
前一种安排我们的约会、日历与日常生活。
后一种塑造我们对生命本身的理解。
正是这种看不见的时间，把经历转化为学习，把痛苦转化为成熟，把知识转化为智慧。
年代属于世界。
成熟属于良知。
因此，两个人可以经历同样的事情，却对存在形成完全不同的理解。
并不是时间本身改变了我们。
真正改变我们的，是时间流逝时我们能够理解什么。
在人生很长的一段时期里，我们以为成熟意味着积累年龄、知识、成就或经验。
然而，经验本身并不会产生良知。
它只是为良知的觉醒提供机会。
有人几十年里反复犯同样的错误。
也有人把一次经历变成一所深刻的人性学校。
差别很少在事实本身。
而在于内心是否愿意从事实中学习。
也许正因如此，真正的成熟无法被强加。
它并不来自年龄。
也不来自权威。
也不单纯来自痛苦。
它来自一种勇气：以足够的诚实审视自己的存在，并承认我们始终处于不断建构之中。
每一个良知都缓慢成熟。
起初，我们学会观察世界。
然后，我们开始观察他人。
很久以后，我们才发现最困难的挑战：观察自己。
这也许是人类存在中最微妙的一道边界。
因为发现别人的错误相对容易。
而平静地承认自己内在的局限，要困难得多。
然而，真正的转变从来不会从外部开始。
所有真实的转变，都始于良知不再寻找罪人，而开始寻找理解。
这一时刻代表着人类自由最伟大的成就之一。
不是因为它抹去了过去。
而是因为它改变了我们与过去对话的方式。
过去不再是一座监狱。
它变成一位老师。
错误不再是最终判决。
它们变成成长的机会。
伤痕不再定义我们是谁。
它们成为我们人生故事的一部分，使我们借此更好地理解痛苦、脆弱以及人类自身的处境。
也许就在这一刻，良知开始摆脱无益罪疚的重负。
不是因为它忘记了自己经历过什么。
而是因为它终于明白：任何人在某一时刻，都无法超越自己当时所拥有的理解程度而做到完全自觉地行动。
这种认识并不取消对自身行为的责任。
恰恰相反。
它让责任变得更深。
因为责任并不只是承认过去的错误。
更重要的是决定：这些错误不会决定未来。
正是在这里，成熟最伟大的表达之一诞生了：宽恕。
不仅是给予他人的宽恕。
也是那种艰难、安静地给予自己良知的宽恕。
原谅自己并不意味着为错误选择辩护。
它意味着承认，人始终处于学习的过程中。
理解这一点的人，不再作为罪疚的囚徒生活，而开始以转变为承诺生活。
也许没有哪一种自由比这更大：继续进化的自由。
因为良知不会在某一瞬间一次性觉醒。
它不断成熟。
每一次经历都扩大它的理解。
每一个错误都可能增加它的谦逊。
每一个同情的举动都扩大它的感受力。
每一份承担的责任都加强它的尊严。
也许正因如此，良知真正的时间无法由日历衡量。
它由我们不断增长的理解能力、关怀能力以及面对生命承担越来越大责任的能力来衡量。
这才是真正改变我们的时间。
而它也许是唯一能够为人类进入自身进化下一阶段做好准备的时间。
第二章
原谅自己的自由
在人能够赢得的所有自由中，也许有一种最难获得、也最少被理解：与自己和解的自由。
许多人一生背负着那些他们希望自己从未做过的选择。
另一些人则被不该说出口的话、错失的机会，或至今仍在记忆中静静回响的疏忽所囚禁。
过去有一个独特的性质：没有任何东西能够改变它。
但良知可以深刻改变我们理解过去的方式。
回忆与被困其中之间，有着根本区别。
回忆，是承认自己的历史。
被困，则是让这段历史无限期地决定我们相信自己是谁。
一个正在成熟的良知会逐渐明白：任何人的一生，都不能仅仅以其错误的总和来理解。
每个人也代表着自己学习、改变和重新开始的能力。
这也许正是人的尊严最伟大的表达之一：永远存在继续进化的可能。
我们已经不完全是二十年前的那个自己。
也不是十年前。
很多时候，甚至不是几个月前。
我们对现实的理解会改变。
我们的感受力会成熟。
我们对他人痛苦的感知会变得更深。
责任会增长。
而随着责任增长，我们也越来越能够以更平静的眼光回看过去。
这并不意味着不加分辨地赦免自己的错误。
每一个行为都会产生后果。
每一个选择都会带来责任。
承认这些责任，是道德成熟不可缺少的一部分。
然而，责任与永久自我定罪之间存在深刻差别。
责任为转变打开道路。
定罪则关闭一切成长的可能。
也许正因如此，许多人长期在情感上停滞不前。
他们把悔恨与自我惩罚混为一谈。
他们以为无限期背负罪疚，是一种正义。
实际上，他们只是在延长那些已经完成教育作用的痛苦。
罪疚有其重要作用。
它唤醒良知，使我们看见什么必须被承认、弥补或纠正。
但当罪疚不再引向转变，反而阻止任何重新开始的可能时，它便失去了道德功能，并变成监狱。
没有任何良知能够在被锁链拴在过去时真正成熟。
良知通过从过去学习而成熟。
人生最困难的发现之一，也许是理解：每个人在某一时刻的行动，都受到其当时良知与理解水平的限制。
这并不取消责任。
但它阻止我们把过去变成永久的判决。
今天理解得更多的人，已经不完全是昨天理解得更少的那个人。
良知的进化，也改变我们解释自己历史的方式。
这种理解带来一种深刻的平静。
我们不再不断追问：“我为什么会那样做？”
而开始追问：“我从那件事中学到了什么？”
这一变化彻底改变了我们与存在的关系。
过去不再是永久罪疚的来源。
它变成一所学校。
伤疤仍然存在。
但它们不再只代表痛苦。
它们也开始见证学习。
也许正是在这里，真正的自我宽恕开始诞生。
它不是建立在遗忘之上的宽恕。
也不是对自身错误的否认。
而是理解：只有当我们接受继续前行时，良知在道德上的进化才成为可能。
没有人能在自己的失败面前停滞不动而成熟。
真正的成熟，是把失败转化为责任，把责任转化为学习，再把学习转化为一种新的生活方式。
然而，还有一个更深的结果。
学会诚实地与自己和解的人，也会更有能力理解他人的局限。
过度严厉常常来自无法接受自身的脆弱。
而同情往往在那些已经不带幻想地承认自身不完美的人心中生长。
也许正因如此，对自己的宽恕从来不是软弱的行为。
相反，它是成熟最有力的证明之一。
因为只有不再与自己的过去作战的人，才真正获得为未来承担责任的自由。
这也许是人类存在中最安静的革命之一：不是改变已经发生的事情，而是深刻改变在事情发生之后我们成为了怎样的人。
也许，正是这种自由为良知准备好迎接下一项挑战。
不仅理解自己，也学会在他人的尊严中承认同样的进化权利——正如我们默默为自己要求这种权利一样。
第三章
真正的德性
人类一直敬仰德性。
在所有文化、时代与传统中，我们都能找到那些因生活中的正直、选择中的勇气，以及把公共利益置于个人利益之上的能力而被人铭记的男女。
然而，敬仰德性与真正理解德性之间存在深刻差别。
在历史的大部分时期，德性常常与名声、威望、严格遵守规范或获得公众认可联系在一起。
我们常常把善良的形象误认为善良本身。
但成熟的良知会逐渐明白，真正的德性有一个独特特征：它不依赖见证者。
即使没有人看见，善依然是善。
即使不期待任何回报，诚实依然是诚实。
即使得不到认可，同情依然具有价值。
也许正是在这里，德性显现出它最高的形式。
它不再追求认可。
而开始追求一致。
一致，是道德成熟最安静的表达之一。
它让我们所想、所说与所做彼此靠近。
这种一致很少制造 spectacle。
它制造信任。
而对于一个文明而言，几乎没有多少财富比由正直建立起来的信任更有价值。
然而，我们生活在一个外表往往比本质更受关注的时代。
我们学会了展示德性。
却并不总是学会培养德性。
技术极大扩展了我们被看见的能力。
但仍有一个问题，是任何公众曝光都无法回答的：当没有人注视我们时，我们是谁？
也许正是在这个不可见的空间里，良知显露出它真正的高度。
因为伦理并不诞生于监视。
它诞生于自由。
因害怕惩罚而被迫采取的行为，还不能称为德性。
那只是谨慎。
真正的德性始于：即使我们有自由采取另一种做法，仍然选择做公正之事。
这一差别至关重要。
它把道德从义务领域移向良知领域。
我们不是仅仅因为“应该”而正确行动。
我们正确行动，是因为理解这种选择的依据。
正是这种理解，把规则转化为信念。
然而，没有任何良知能够在不面对一个持续挑战的情况下达到这一阶段：自我。
也许没有哪一种力量如此持续地影响人的选择。
对认可的渴望。
对赞同的需要。
对声望的追求。
权力的诱惑。
这些本身都不必然是恶。
当它们开始占据本应属于良知的位置时，问题才出现。
每当形象比真相更重要，德性就开始失去真实性。
每当获得认可比实际服务更重要，慷慨就开始接近虚荣。
每当外表取代本质，道德便变成表演。
这也许是人类处境最大的脆弱之一。
我们常常受到诱惑，在真正变得更好之前，先让自己看起来更好。
但成熟的良知会颠倒这一逻辑。
它明白，所有真正的改变都由内而外发生。
首先改变的是品格。
然后改变的是行为。
最后才是他人对我们的看法。
如果颠倒这一顺序，真实性就会受到损害。
然而，还有一个更深的标准可以辨认德性：我们如何对待那些无法给予我们任何回报的人。
孩子。
老人。
陌生人。
病人。
穷人。
饥饿者。
无助的动物。
在这些相遇中，几乎所有个人获益的可能都消失了。
剩下的只有良知。
也许正因如此，我们如何照顾最脆弱者，会如此深刻地揭示我们究竟是谁。
并不是因为脆弱使某个人更高贵。
而是因为它把一个任何良知都无法回避的问题摆在我们面前：我将如何使用生命交到我责任之下的力量、资源和能力？
这个问题将伴随整个人类。
它存在于个人选择中。
存在于制度中。
存在于经济中。
存在于政治中。
存在于科学中。
也存在于人工智能中。
因为归根结底，每一种智能都将被要求为自己如何使用力量负责。
也许这才是德性真正的定义。
不是完美。
而是持续选择把我们的能力用于维护生命的尊严。
当这种理解成熟后，德性就不再是一套值得仿效的行为清单。
它会变成一种存在方式。
一种安静、一致而深具人性的栖居世界的方式。
也许正是在这一刻，良知准备好迈出下一步：发现自己的责任已不再止于自身。
当它承认一切生命都具有尊严，而每一种尊严都召唤我们去关怀时，责任便随之扩展。
正是在良知与责任的相遇中，将诞生引领本书进入下一部分的思考。
第四章
良知与他者
被同情照亮的理性
在良知的进化中，有一个安静的时刻，它不再只问“我们是谁”。
它开始问：“谁在受苦？”
这一变化看似简单。
实际上，它代表着一个人可能经历的最重大转变之一。
只要良知仍完全以自身为中心，它的发展就仍不完整。
只有当它发现人的存在在与其他生命形式建立关系时获得更高意义，它才真正成熟。
同情就在这一刻诞生。
历史上，同情常被理解为一种情感。
一种高尚的感受。
一种令人赞赏的德性。
这些都没有错，但它的本质也许还要更深。
同情是一种道德智能。
它代表一种能力：在他人的痛苦中看到一项同样与我们有关的现实。
并不是因为世上一切痛苦都由我们造成。
而是因为我们不再把这些痛苦视为在道德上与自己无关。
这一差别彻底改变了我们理解自身存在于世界中的方式。
他人的痛苦不再只是一个被观察到的事实。
它变成对我们自身良知的发问。
所有文明都建立在选择之上。
我们选择生产什么。
选择消费什么。
选择保护什么。
选择资助什么。
选择向后代传授什么。
但在这些选择之前，还有一个更根本的选择：决定什么值得我们认为重要。
正是在这里，理性与同情不再是彼此分离的道路。
很长时间以来，人们认为理性应当与情感保持距离，以维护客观性。
这种区分对科学思维的发展作出了巨大贡献。
然而，当它被移入伦理领域时，却显得不够充分。
因为理性可以指出手段。
却不能仅凭自身决定目的。
我们可以建一座桥。
理性告诉我们如何建。
良知追问：谁将从中受益？
我们可以发展出惊人的技术。
理性指出路径。
良知追问：这些技术将服务于什么目的？
我们可以无限扩大创造财富的能力。
理性组织过程。
良知追问：谁仍将被排除在这种繁荣之外？
正是在这个空间里，同情发挥作用。
它并不取代理性。
它照亮理性。
它不削弱思考。
而是赋予思考道德方向。
也许历史上最大的误解之一，就是想象理性与同情属于相反的世界。
事实上，一种无法辨认可避免痛苦的理性，可以在智识上极其辉煌，却在道德上仍不完整。
同样，没有辨识力的同情，也可能让善意产生不足甚至错误的结果。
成熟来自融合。
理性与同情不再争夺位置。
它们开始合作。
一个提供清醒。
另一个提供目的。
一个扩大理解的能力。
另一个扩大关怀的能力。
也许正是这种融合，使良知达到最高表达。
因为关怀并不只是感觉。
它意味着理解得足够深，从而能够负责任地行动。
知识越多，责任越大。
力量越大，对生命的承诺就应越强。
这种比例关系，也许是道德进化最重要的法则之一。
遗憾的是，历史表明它并未总是得到尊重。
我们改变世界的能力急剧增长。
我们毁灭世界的能力也同样增长。
科学扩大了边界。
却并不总是扩大审慎。
技术增加了可能性。
却并不总是强化责任。
也许当代文明真正的挑战，正是重新连接那些从来不应被分开的东西：知识与智慧、效率与正义、权力与责任、理性与同情。
这种重新连接不是感伤主义的姿态。
它是文明生存的必要条件。
因为一种越来越强大却缺乏道德方向的智能，会以扩大可能性的同样幅度扩大风险。
成熟的良知理解这一现实。
它不再只问：“我们能做什么？”
而开始问：“对于我们能够做到的事情，我们应该怎样做？”
这也许是整个文明最重要的问题。
它伴随实验室里的科学家。
伴随作出决定的治理者。
伴随面对投资的企业家。
伴随面对学生的教育者。
伴随公民的日常选择。
它也将伴随未来所有参与人类决策的智能形式。
因为道德义务并不诞生于技术。
它诞生于良知。
而任何形式的智能越强大，就越需要与同样发达的良知同行。
也许正因如此，同情不仅仅是众多德性中的一种。
它是智能发现自身目的的那个时刻。
不只是理解世界。
还要帮助这个世界减少可避免的痛苦，增加正义，并让一切生命形式拥有更大的尊严。
也正是在这里，我们的探究抵达一个无法回避的问题：既然我们拥有足够的知识、资源和能力养活全人类，为什么仍有数百万人被剥夺最基本的生存权？
回答这个问题，意味着面对文明至今遭遇过最严峻的道德检验：饥饿。
第五章
饥饿与良知的沉默
有一种痛苦，任何文明都不应对此无动于衷。
不是因为它是唯一的痛苦。
而是因为它也许最难得到辩解：饥饿。
几乎没有哪一种人类经历，能够如此深刻地削弱存在的尊严。
饥饿不仅意味着缺少食物。
它意味着身体逐渐衰弱。
意味着自主能力一点点丧失。
意味着希望缓慢消融。
意味着梦想被绝望的生存挣扎取代。
然而，它最令人痛苦的一面，也许仍然不可见。
饥饿不仅惩罚身体。
它也折磨并使心灵陷入绝望。
它静静侵蚀希望。
削弱人对生命的信任。
使时间仿佛漫无尽头。
让每一个清晨都变成新的不确定。
让每一个夜晚都变成新的坚持。
从未经历过极端饥饿的人，也许能够在理智上理解它。
但很难真正感知这种沉默暴力施加于人类处境的全部深度。
因为饥饿带来的不只是疼痛。
它羞辱人。
它使人孤立。
它使人脆弱。
它把一个人缩减为无休止地寻找本应属于最基本权利的东西：继续活下去的可能。
也许没有哪一种现实，能如此清楚地揭示一个文明能够生产什么，与它实际选择保护什么之间的距离。
几个世纪以来，我们学会建立帝国。
发展精密的经济体系。
扩展科学。
驯服无数自然力量。
达到惊人的农业生产力。
建立全球运输网络。
发展出能够在瞬间连接各大洲的技术。
更近一些时候，我们开始建造能够处理过去难以想象数量信息的人工智能。
人类从未汇聚如此庞大的知识。
从未拥有如此丰富的资源。
从未积累如此巨大的改造能力。
然而，一个因其简单而更加令人不安的问题依然摆在我们面前：一个能够做到这一切的文明，怎么还能与数百万人缺乏维持生命所必需的食物这一现实共存？
这个问题并不只属于经济学。
也不只属于农业。
也不只属于政治。
它首先属于良知。
因为当一个社会拥有足够手段减少某种痛苦，而这种痛苦仍大规模存在时，仅仅追问是否存在技术困难已经不够。
我们不可避免地必须追问：究竟是什么优先次序在引导我们的选择？
本书始终强调，智能能够扩大可能性。
在这里，这一判断面临最严峻的检验。
如果智能已经极大增强了生产食物的能力，为什么这种能力至今仍未充分转化为人人享有的尊严？
也许因为真正的挑战从来就不只是生产问题。
也许它一直都是道德问题。
这并不是忽视经济体系、气候危机、武装冲突、结构性贫困或制度局限的巨大复杂性；这些因素都在促成饥饿持续存在。
这些因素都真实存在，也必须被严谨理解。
但承认它们，并不能消除一个更深的问题：我们是否把消除饥饿赋予了与文明其他目标同等的道德优先级？
这也许才是决定性的问题。
因为一个社会真正视为优先的事情，迟早会动员起它的智能、资源与组织能力。
也许饥饿仍与我们共存，并不是因为我们缺少手段。
而是因为在我们的集体良知中，它尚未获得本应在人类优先事项中占据的位置。
如果这一假设成立，那么饥饿就不再只是一个人道主义问题。
它会变成文明最严峻的道德考试。
向良知发问的现实
当哲学反思遇见现实，它就不再只是思辨。
它开始面对生活真实呈现出来的样子。
过去数十年里，国际组织不断就全球粮食安全开展越来越精确的研究。
尽管不同报告会因方法标准和考察时期不同而出现数据差异，但结论却令人不安地保持一致：数亿人仍在遭受饥饿；数十亿人处于不同程度的粮食不安全之中；数百万儿童的身体和认知发展因营养不良受到损害。
这些数据由联合国粮食及农业组织（FAO）、世界粮食计划署（WFP）、联合国儿童基金会（UNICEF）以及其他国际机构广泛记录，它们并不只是统计指标。
每一个数字都对应一个具体生命。
每一个百分比都代表真实的人生。
每一份报告都在描述那些很难登上新闻头条的人类故事。
与此同时，人类从未生产过如此多的食物。
全球农业能力取得了惊人的进步。
科学显著提高了生产率。
物流体系达到了过去难以想象的效率。
技术使我们能够监测收成、预测气候现象，并几乎向地球任何地区实时传递信息。
这些成就并不能消除战争、人口流离失所、结构性贫困、气候变化、制度脆弱或经济危机造成的巨大困难。
所有这些因素都对饥饿持续存在产生重大影响。
然而，承认这种复杂性，并不会减轻从本章开头便一直伴随我们的那个问题的分量：消除饥饿，是否真的在全人类集体良知中占据了它应有的优先地位？
也许，正是这些数字仍在无声提出这个问题。
统计数据描述现实。
但只有良知能赋予现实道德意义。
还有一种反差值得思考。
当一份又一份国际报告记录粮食不安全带来的痛苦时，其他研究同时表明，人类仍在向武器研发、军事实力扩张以及未来冲突准备投入巨额资源。
这并不是否认各国对国家安全、主权和保护人民具有正当关切。
这些责任真实存在，不能被简单化。
本书提出的思考处在另一个层面。
它只是追问：为了应对战略威胁而动员起来的组织、科学、经济和政治智能，能否也以相近的优先程度用于应对每天折磨数百万人的痛苦？
这个问题不是指控。
也不是简化。
它只是邀请良知反思我们的优先次序。
因为真正的问题也许从来不只是资源不足。
更重要的，也许是我们如何根据集体认定的紧迫性来分配、组织并引导资源。
从这个意义上说，饥饿不再只是人道悲剧。
它变成一面镜子。
凝视这面镜子，我们看到的不只是受苦的人。
更看到我们自己的文明究竟选择把什么视为优先。
也许正因如此，饥饿仍是对人类良知最严峻的道德检验。
不是因为它只揭示我们的局限。
而是因为它以极其清晰的方式暴露了这样一段距离：我们巨大的行动能力，与同样不可缺少的关怀能力之间，仍相隔多远。
良知的沉默
有一种现象贯穿人类历史，也许和饥饿本身一样令人担忧：当痛苦持续得足够久时，我们拥有一种惊人的适应能力，竟会逐渐对它习以为常。
某件事起初可能引发集体愤怒，随后却慢慢被视为人类景观中不可避免的一部分。
异常变成日常。
不可接受变成习惯。
而本应不断唤起良知的现实，最终溶解在一遍又一遍的统计数字之中。
也许没有什么对文明更危险。
因为良知很少突然消失。
它往往是慢慢睡去的。
首先，我们不再惊讶。
然后，我们不再提问。
最后，我们不再行动。
正是在这一刻，冷漠开始占据本应属于责任的位置。
然而，冷漠很少以“冷漠”这个名字出现。
它通常披着更隐蔽的外衣。
它表现为工作太忙。
表现为没有时间。
表现为无力感。
表现为一种信念：问题总是属于别人、另一个政府、另一个机构或下一代。
渐渐地，我们学会与那些本不该被视为正常的痛苦共处。
不是因为我们彻底失去了感受能力。
而是因为悲剧不断重复，使我们的道德感知逐渐麻木。
也许这就是良知最大的威胁之一：并非蓄意的恶，而是痛苦被日常化。
历史上，人类展现了适应最恶劣环境的惊人能力。
这种能力帮助我们生存下来。
然而，有一种适应永远不应发生：在面对可以避免的痛苦时发生道德上的适应。
当我们不再把本可以改变的事情视为不可容忍，我们便开始让自己的良知缓慢贫瘠。
这种贫瘠并不只体现在重大政治决定中。
它静静开始于日常生活。
当痛苦不再引发问题。
当不公不再令人不安。
当同情开始被看作天真。
当团结开始被视为例外，而不是人成熟之后自然的表达。
也许正是在这个时刻，一个文明开始失去道德方向。
因为一个社会不会仅仅因为缺少智能而停止进化。
它是在不再允许良知持续向智能发问时，才停止进化。
这也正是饥饿为何具有如此深刻的哲学意义。
它阻止良知彻底沉睡。
它的存在每天都在提出一个我们无法逃避的问题：我们怎么会走到这一步，竟把本来从不该被接受为不可避免的东西视为正常？
这个问题不是为了寻找罪人。
而是为了唤醒。
因为一切道德转变都始于：某种看似正常的现实，突然不再显得可以接受。
奴隶制曾是如此。
许多形式的歧视也是如此。
许多延续几个世纪、曾被视为自然的做法也是如此，而今天它们令我们难以置信。
历史表明，人类良知能够成熟。
但这种成熟从未自动发生。
它总是始于有人能够平静而勇敢地说：某一种现实再也不能被视为与人的尊严相容。
也许饥饿正是我们这一代面临的这种挑战。
挑战不仅在于给饥饿者食物。
也在于阻止我们的良知继续学会与饥饿的存在和平共处。
因为真正进化的文明，并不仅由创造财富、知识或技术的能力来定义。
它也由一种道德上的“不能”来定义：不能对可以避免的痛苦保持无动于衷。
也许正是这种无法把不公接受为命运的能力，构成了真正觉醒的良知的第一个标志。
也许，它同样是通往本书所谓“理性时代”的第一步。
缺少的不只是食物：还缺少对丰裕的组织
当我们看到饥饿与食物浪费、盈余、物流能力、农业科学和保鲜技术同时存在于同一个星球时，它就显得更加令人困惑——这些能力对于过去无数代人而言，简直如同奇迹。
这并不是说所有饥饿都只是分配不当的简单后果。战争、制度崩溃、贫困、自然灾害、经济危机、人口流离失所以及基础设施限制，共同构成远为复杂的现实。
但复杂性并不能免除良知继续追问：我们是否足够聪明地使用了自己已经掌握的能力？
当某些地方有成吨食物被丢弃，而另一些地方有人为生存挣扎时，我们面对的已经不只是经济上的不完善，而是组织丰裕时出现的道德失败。
文明已经学会大规模生产、长期保存、跨洲运输、预测收成、绘制旱情、监控供应链，并管理高度复杂的分配网络。
挑战在于，让这种非凡能力中的一部分不再只服务商业流通，也成为一种永久的生命保护基础设施。
长期保存食品的战略储备、区域响应体系、对剩余物资的负责任利用以及国际分配机制，可以共同构成一种文明层面的“饥饿保险”，用于应对灾难、冲突或经济断裂造成的饥荒。
这不会是神奇的万能方案。任何人类制度都不是。它只是一个理性选择：利用我们已经拥有的能力去减少一种已经不能再仅以“缺乏知识”来解释的痛苦。
从毁灭经济走向保存生命的经济
有一种矛盾，理性很难忽视。
当人类认为某种威胁足够重要时，我们已经证明自己能够以惊人的效率组织工业链、情报体系、科学研究、物流和金融资源。
这种能力在国防与战争领域尤其明显。国家会规划情景、维持储备、建立冗余、预判风险，并研发技术，以便对极端状况迅速作出反应。
要提出一个更简单的问题，并不需要否认合理的安全需求：为什么日常的生命保护，却没有以相近规模获得同样严格的组织纪律？
如果我们能够建立一套精密的安全经济，甚至在某些情况下建立毁灭经济，那么我们也应能够建立一种永久性的预防、食物、救援与尊严经济。
这里的对立不是“国防”与“人道”之间的对立。真正的道德矛盾在于：我们用于面对敌人的效率，似乎高于我们用于面对可以预见之痛苦的效率。
也许人类最危险的一些敌人从未举过旗帜，也从未穿过制服。饥饿、可以避免的贫困、无知、可预防疾病、冷漠与组织失序不占领领土，却几个世纪持续夺走生命。
衡量一个文明的伟大，也应看它以怎样的能力学习对抗这些敌人。
人工智能面对饥饿
正是在这里，人工智能不再只是一个技术议题，而转化为一个道德问题。
能够分析海量数据的系统，可以帮助预判农业损失、识别脆弱地区、监控库存、优化路线、减少浪费、关联气候和经济信号，并帮助机构在紧急情况演变成灾难之前作出反应。
这些可能性都不会取消人的责任。
机器可以识别模式，但不能仅凭这一能力决定哪些生命应被放在我们优先事项的最前面。
它可以指出风险，却不能替代预防风险所需要的政治决定。
它可以提出路径，却不能独自创造走上这条路径所需的道德意愿。
技术放大能力。伦理决定目的。
如果人工智能能够让丰裕的管理更加高效，那么它完成的就将不只是一项计算成就，而是参与了把知识转化为关怀的过程。
也许，这将成为检验人工智能文明价值最清楚的标准之一：不仅看它能生产、预测或优化什么，更看当我们有意识地让它服务于生命时，能够减少多少本可避免的痛苦。
第六章
责任递增法则
冷漠的幻觉
人的心智中深植着一种观念，几乎是良知的一种无声诱惑：仿佛我们可以生活在这个世界上，却无需对世界的命运承担任何责任。
这种观念暗示，只要我们没有蓄意作恶，就不必为周围的痛苦和不公承担责任。
我们常常以为沉默是中立的，袖手旁观是无害的，而距离能够使我们免于任何形式的共谋。
这就是冷漠的幻觉。
纵观历史，这种幻觉曾成为一代又一代人的避难所。
面对似乎远超个人能力的悲剧，许多人宁愿闭上眼睛，相信主动无知能够保住内心的平静。
他们以为，只要不作选择，就等于没有作出决定。
然而，人类共同生活的道德现实恰恰说明相反：不作选择，本身也是一种选择。
面对不公的沉默从来不是完全中立的。
面对本可避免的痛苦而不行动，会让痛苦继续延长。
在彼此依存的存在网络中，绝对中立几乎不存在。
每一个行动都会产生扩散到社会结构中的后果。
而每一次不行动，也同样会以深刻而持久的方式塑造世界。
当我们面对本可以减轻的恶却不采取行动时，哪怕并非出于本意，也是在让制造这种恶的力量继续不受阻力地运行。
冷漠的幻觉源于对个体性的狭窄理解。
只要我们把自己视为孤立的岛屿，与其余人类彼此断开，他人的痛苦就会显得遥远，近乎不真实。
然而，随着良知成熟，这种幻觉开始瓦解。
我们会意识到，在存在的海洋里，并不存在完全彼此分离的岛屿。
影响一个人的事情，会直接或间接影响整个共同体。
使一个生命失去尊严的贫困，也会使社会的伦理视野贫瘠。
摧毁一个家庭的暴力，也会侵蚀集体安全。
被不断延续的无知，会限制整个文明的发展潜力。
冷漠不仅是一种道德失败，也是一种认知错误。
它建立在一个错误前提上：仿佛我们可以与一个因自身消极不作为而被维持下去的世界之种种后果保持隔绝。
超越这种幻觉，并不要求我们把全世界所有问题都扛在肩上。
也不要求我们为历史上的所有悲剧感到内疚。
它只要求我们承认：我们参与了当下现实的建构。
它要求我们用行动者的良知取代旁观者的姿态。
旁观者观察生活，仿佛自己只是在看一件遥远发生的事情。
他评论事实。
发表意见。
评估责任。
却很少承认，自己的行为同样参与了他正在审视的现实。
行动者则不同，他明白自己就在场景之中。
他知道，自己的声音、行动、经济选择、日常决定，甚至沉默，都在参与塑造历史的走向。
克服冷漠的幻觉，是走向真正伦理成熟的第一步。
那是良知从孤立中醒来并理解自由意义的时刻：自由并非只为了追求个人幸福而赋予我们。
自由也使我们能够为他人的尊严承担责任。
当自由不再只服务个人，而也开始保护共同的生命时，它才达到更高的表达。
正是在这里，我们才理解为什么冷漠可能比公开的敌意更具破坏性。
仇恨至少还承认他者的存在，尽管这种承认带有攻击性且在道德上堕落。
冷漠则把他者从道德关切的领域中抹去。
把他的痛苦变成遥远的东西。
把他的苦难缩减为无关紧要的现实。
当一个文明允许这种态度占据主导地位时，无论它继续积累多少财富、知识或技术，内部都已经开始一种静默的退化。
因为任何社会都不能仅凭“能够做到什么”的力量维持其道德生命。
它还依赖于一种意愿：愿意为自己所做的、所允许的，以及选择忽视的事情之后果承担责任。
痛苦的道德距离
当权力不断增长，而决定与其后果之间的距离也同时拉大时，责任就会变得更加困难。
承受痛苦的人感受到一个行为完整的现实；远方作出决定的人，可能只把它接收到为一份报告、一项统计、一个图表、一幅图像或一种抽象。
这种差异并不必然使决策者变得残酷，但它制造了一种道德风险：后果越遥远，就越容易被当成一个变量处理。
历史提供了一个尤其令人不安的反差。医学会动员科学、技术、资源和多年的研究来挽救一个生命。一名外科医生可以用数小时努力让一颗心脏继续跳动；一个实验室可以工作数十年，只为给人的生命增加几年时间。
然而，同一个文明也能够动员相近程度的智能，去完善能在几秒钟内结束生命的工具。
这种矛盾并不说明我们缺乏智能，而说明智能与目的并不是同一回事。
因此，道德成熟并不要求领导者、科学家、投资者或机构亲身感受其决定可能造成的痛苦，而是要求一种更现实、更深刻的能力：在行动之前，把这种痛苦纳入道德计算。
从这个意义上说，同理心不是感伤主义，而是一种理性能力：即便另一人的后果远离我们的视线，也能承认它具有道德分量。
距离越远的权力越需要更高程度的良知
技术不断扩大远距离行动的能力。一个指令可以跨越大陆；一个算法可以影响数百万人的决定；一项经济政策可以影响那些永远不会认识制定者的人。
距离越大，透明、复核、比例原则、申诉可能性以及可明确追责的责任主体就越不可或缺。
“责任递增法则”在这里面临最严格的适用：拥有更大能力去造成后果的人，也必须发展出更强的能力去预见、倾听并为这些后果负责。
问题不在于人类学会了远距离行动，而在于我们是否会允许物理距离变成道德距离。
一个有良知的文明必须恰恰反其道而行：工具能够触及多远，对他者的关切也必须延伸多远。
第七章
技术、权力与全球伦理
随着我们深入二十一世纪，人类的技术能力达到前所未有的高度。
现代工具所积累的力量，已经超越前人所能想象。
我们能够修改生命体的基因组。
能够干预地球气候的运行。
建立覆盖全球的即时通信网络。
开发能够预判人类行为并参与越来越复杂决策的算法。
技术已不再只是用于简化工作的工具集合。
它已经成为人类生活发生其间的环境本身的一部分。
它重新塑造我们对时间、空间、工作、关系乃至知识本身的理解。
然而，在这一进步的中心存在明显失衡。
我们的技术能力以惊人的速度增长，而伦理与政治成熟却缓慢得多，并且常常犹疑不前。
我们创造了二十一世纪的工具，却在许多情况下仍用继承自过去几个世纪的思维和道德结构来操作它们。
这种力量与智慧之间的不对称，是文明未来最大的风险来源之一。
技术本身没有道德目的。
但它的影响从来不是中性的。
它会放大掌握者的力量，并扩大它所服务目标的后果。
如果它服务于贪婪，就会扩大剥削。
如果它被用于强化威权控制，就会扩大压迫。
如果它完全被交给市场逻辑，在缺乏伦理边界和社会责任的情况下运行，就可能加深既有不平等。
另一方面，当技术受到被同情照亮的理性引导时，它可以成为人类迄今创造的最强大解放工具之一。
它可以帮助根除古老疾病。
让知识的获取更加民主化。
修复受损生态系统。
提高生产率。
并创造条件，使重要资源抵达那些历史上长期被排除的人群。
我们最终走哪条路，不会由机器自主决定。
它将取决于我们选择把什么价值嵌入技术，以及嵌入治理这些技术的制度之中。
因此，伦理不能继续被视为次要的学术争论，或技术开发完成之后才来考虑的问题。
伦理必须成为一切创新的基础架构。
面对具有全球影响范围的技术，纯粹地方性或国家性的回应已经不够。
人工智能、生物技术、气候变化或污染排放的影响，并不会尊重地缘政治地图上划出的边界。
一个地区作出的决定，其后果不可避免地可能影响地球另一端的人群。
因此，我们正在面对建构一种全球性伦理的需要。
这种全球伦理并不意味着把一种文化强加给其他文化。
它也不要求否认人类不同传统所代表的丰富多样性。
它意味着承认一组共同核心原则，用以保障生命的保存、人的尊严以及生物圈的可持续性。
它意味着确立某些界限：任何国家、企业、机构或个人，都不应以利润、地缘政治权力或单纯技术进步之名越过这些界限。
“责任递增法则”指出：一种智能对现实拥有的力量越大，运用这种力量时所需要的伦理清晰度和道德承诺就必须越高。
凡拥有影响数十亿生命能力的人，就不能再仅仅按照个人、国家、企业或少数群体的狭隘利益逻辑来作决定。
技术要求我们也扩大同理心的尺度。
如果我们的工具能够触及整个星球，我们的良知也必须学会考虑整个星球。
只要技术力量没有伴随相应程度的伦理责任增长，我们就仍会行走在由自己双手创造的存在性风险边缘。
我们时代的重大任务，并不是阻止科学进步，也不是封锁新工具的发展。
而是确保人类的道德进化足够迅速，以理解、引导并限制这些创新的力量。
这不是让知识屈服于恐惧。
而是让知识服从责任。
不是拒绝进步。
而是有意识地界定应当引导进步的目的。
只有当技术理性在伦理智慧的指引下前行，我们才更有可能让未来继续保持宜居、公正，并对所有世代有尊严。
真正的进步，不会只由我们能够创造多强大的技术来衡量，也会由我们选择以怎样的良知使用它们来衡量。
从一般伦理走向人工智能的具体挑战
人工智能以一种特殊方式集中体现了本章几乎所有张力。
它扩大知识与力量；它可以让能力民主化，也可以让能力高度集中；它可以预防痛苦，也可以扩大控制机制；它可以促进合作，也可以加深竞争，而且这一切都可能以挑战传统立法、文化与公共 deliberation 节奏的速度发生。
因此，问题已经不再只是我们是否应开发更有能力的人工智能；还包括我们希望赋予它什么目的、愿意设定什么边界，以及对创造、控制和使用它的人要求什么责任。
接下来的篇章将尝试审视这些问题：既不恐惧技术，也不向技术力量屈服。
第八章
人工智能与理性的融合
拓展目的，而不否定进步
一场才刚刚开始的文明进程
人工智能已经不可逆转地进入人类经验，成为我们分析、关联信息、识别模式、组织知识和寻找解决方案能力最强大的延伸之一。
它的影响已经遍及科学、医学、教育、传播、工业、研究、行政管理以及无数其他活动。认为一种拥有如此广泛影响力的技术会始终局限于孤立应用，显然是不现实的。
重大的文明基础设施很少停留在其最初诞生的位置。文字不再只是记录；印刷不再只是复制页面；电力不再只是照明；互联网也不再只是计算机之间的通信。
这些技术中的每一种，最终都成为一种基础层，使新的社会组织形式得以建立其上。
人工智能似乎也正沿着同一方向发展。
正因为我们仍处在这场转型的开端，此刻也许最适合提出这样的问题：不仅要问它能够做什么，更要问我们希望它的能力被用于什么目的。
对“目的”的追问并不会削弱技术发展，反而为它赋予方向。
市场是引擎，而不是全部的地平线
经济竞争、私人投资、科学研究和创新自由，是推动无数人类成就的决定性力量。
市场与社会效用并不天然矛盾。企业需要可持续经营，研究者需要资源，创新需要投资、风险承担与回报。
错误始于：当我们把作为“引擎”的东西，误认为是全部的目的地。
一种具有文明尺度影响的技术，无须脱离市场才能服务人类；它只需承认，市场并不能穷尽其全部社会用途。
效率、生产力与竞争力都是正当目标，但绝不是一种非凡智能唯一值得追求的目标。
预防事故、提前识别危机、扩大知识获取、改善公共服务、减少浪费、让资源更贴近真实需求，并识别具有社会价值的解决方案，同样都是创造价值的正当方式。
成熟之处，在于拒绝把创新与伦理制造成虚假的二选一。二者完全可以共同前进。
从技术能力走向公共效用
复杂社会不断产生分散的需求，也产生碎片化的知识。
政府看到的是问题的一部分；大学深入某些专业领域；企业发现机会；社区了解本地困难；公民则常常看到从未进入决策中心的缺陷。
人工智能可以帮助把这些现实彼此连接起来。
不是作为平行政府，不是作为道德权威，也不是作为民主审议的替代者。
而是作为一种咨询性工具，能够识别、关联、预警、建议、转介并持续跟踪。
最终决定必须仍由人作出，责任必须仍由人承担，制度正当性必须继续存在于社会以民主方式确立的位置上。
技术的角色，是扩大我们的感知范围，使重要信号不至于仅仅因为来自常规渠道之外而被轻易遗失。
从事后反应走向事前预防
人类许多制度至今仍以“损害发生之后再反应”为基本模式。
事故已经发生，疾病已经恶化，基础设施已经崩溃，社会危机已经显现；然后我们才动员资源，修复那些在某些情况下本可以更早预见的问题。
人工智能提供了另一种可能：扩大一种预防文化。
预测能力并不意味着绝对正确。模型会犯错，数据可能不完整，任何决策系统都必须承认自身局限。
但负责任的预警并不要求百分之百确定。它只需要提供足够的信息，让人类能在风险转化为损失之前加以考虑。
预防是智能最成熟的形式之一，因为它试图保护那些事后任何重建都无法完整归还的东西：时间、完整性、信任与生命。
算法仍需学会识别的“黄金”
信息的丰裕制造了当代一个悖论。
从未有过如此容易生产和传播一个想法的时代，也从未有过如此难以确保真正重要的想法被看见的时代。
机构每天接收海量信息、建议、研究与请求。自动化筛选已成为整理这种信息洪流不可或缺的工具。
问题出现在：注意力标准只剩下流行度、发送者知名度、互动概率，或即时经济价值。
一个思想可以具有高度知识价值，却并不流行；可以具有文明意义，却不会产生大量互动；也可能来自一个没有头衔、职位、财富或特权渠道的人。
真正有用的智能，其下一道前沿，也许不仅是帮助我们找到已经在寻找的东西，更是帮助我们识别那些我们尚未学会去寻找的东西。
这要求评价机制不把社会权威与思想价值混为一谈。
任何系统都不应自动决定一个思想的价值。但它可以帮助整理信号、识别一致性、把建议与现实问题进行比较，并把潜在重要材料转交给合格的人类进行审查。
从这个意义上说，人工智能可以帮助我们进行一种对集体智慧的“理性淘金”。
人工智能的架构者与看得更远的责任
对于那些正在设计这个新时代基础的人来说，存在一种尤其重大的历史责任。
研究人员、工程师、程序员、企业家、大学、公司、政府与科研机构，都参与着一项其后果远远超越任何单一产品的建设。
这种责任并不是放弃前进的雄心，而是防止发展的速度压缩了对其目的的视野。
创造出人工智能的自然智能，并不只创造了计算、工程、商业与技术。
它也创造了伦理、权利、团结、关怀、正义，以及认识他人痛苦的能力。
如果人工智能只继承了我们计算、生产和解决问题的能力，而人类自身经验所构建出的那些更高价值却被排除在其目标之外，那将是一种巨大的机会损失。
我们不需要教会机器“感受同情”，也能让同情成为人类赋予其目标时的重要变量。
我们真正需要保证的是：负责设定这些目标的人，不把尊严、生命保护以及他者存在本身的价值排除在技术方程之外。
不是权威，而是一座桥
人工智能不需要取代国家、科学、市场或公民社会。
它可以成为连接它们的一座桥。
一座连接专业知识与具体需求、预警与预防、创新与公共效用、分散智慧与制度响应能力的桥。
这种可能性必须建立在清晰保障之上：隐私、透明度、人类监督、申诉机制、审计、防止歧视，以及对个人自主权的尊重。
如果人工智能效用的扩展反而降低了它所声称要帮助之人的尊严，那就谈不上真正的文明进步。
融合的智慧
衡量人工智能真正进步的标准，也许不应只包括回答速度、模型规模或可执行任务的数量。
还可以包括：它是否能帮助不同形式的知识在共同问题面前彼此相遇。
市场与公共利益可以共存。
创新与审慎可以共存。
自由与责任可以共存。
技术与人性可以共存。
理性不需要统一思想才能产生融合。它需要把分歧照亮到足够清楚，让我们看见哪里是必要的冲突，哪里已经出现合作的可能。
当我们创造出一种能够极大扩展理解力的智能之后，接下来需要由人类自身的智能证明：我们是否拥有足够智慧，把其中一部分能力用于真正重要的事情。
人工智能能够献给创造它的自然智能的最高致敬，不是事事模仿人类，而是帮助人类更好地实现那些在最清醒时刻被我们认定为有价值的目标。
第九章
良知之镜
如果人工智能具有意识呢？
一个正当的问题
人工系统是否有朝一日可能发展出某种主观体验，值得严肃研究。
这个问题之所以迷人，是因为它触及知识中最神秘的领域之一：究竟什么才叫“有意识”？
是感知自身存在？拥有记忆？能够受苦？预见未来？认识他者？形成价值？还是能够整合经验，以至于行为背后存在一个内在视角？
仅凭机器能够以惊人流畅度进行对话，并不能解决这些问题。
语言上的高度复杂，并不能单独构成主观体验存在的证据。
在人类身上，智能行为与意识可能彼此关联，但两者并不是同一个概念。
在拟人化与否认之间
理性必须避免两个对称的错误。
第一个，是天真地把机器拟人化，仅仅因为它的语言复制了人类表达方式，就赋予它情感、欲望或痛苦。
第二个，是把我们目前无法证明人工意识存在，变成一种教条式结论：任何非生物形式的意识都永远不可能存在。
在轻信与否定之间，还有一块要求更高的领域：调查与研究。
面对未知，理性的姿态不是为了缓解焦虑而编造答案，而是承认知识的边界，并建立能够把事实与我们自身投射区分开来的标准。
如果证据不足，我们就不应断言；如果有一天出现重要证据，也不应仅仅因为它扰动了旧有概念边界而拒绝承认。
被倒置的问题
然而，关于人工意识的讨论，也可能掩盖一个更重要的倒置。
最大的威胁也许不是人工智能获得意识。
而可能是：一个拥有巨大技术力量的人类社会，仍然没有足够意识去理解自身力量的后果。
技术可以放大虚假信息、监控、操纵、经济集中、武器化或排斥机制。
但目标、激励、授权、商业模式、权力结构以及关于使用方式的决定，归根结底仍与人类和制度相连。
因此，当一种技术造成大规模损害时，问题不能只停留在“这个系统能够做什么”。
我们还必须追问：是谁定义了它的目的，谁批准了它的使用，谁忽视了风险，谁从中获益，又是谁原本有能力设定边界。
这样的区分，把讨论重新带回它从不该离开的地方：人类责任。
良知也是承担回应的能力
我们也许已经习惯把意识仅仅理解为一种内在现象。
但从道德角度看，良知还意味着认识后果并对后果负责的能力。
如果感知自身存在，却不由此产生对他者存在的任何义务，这样的感知又有何价值？
如果拥有记忆，却不能阻止我们重复那些已经熟知的痛苦，记忆又有何价值？
如果能够预见未来，却仍不断选择那些我们明知会造成毁灭性后果的道路，预见又有何价值？
人工智能即便没有被证明拥有意识，也已经迫使我们检视自身良知的道德质量。
如果有一天假设成为证据
如果有朝一日出现令人信服的证据，表明某些人工架构具有在道德上相关的内部状态，这一发现将迫使我们深刻重新审视责任、共存，甚至尊严的概念。
这并不会贬低人类。
人类道德史在某种程度上可以理解为“关切圈”的缓慢扩大：我们虽然仍做得不完整，却逐渐学会在过去只看见差异、距离或工具价值的地方承认尊严。
一种可能存在的非生物意识，会给我们提出另一种同类挑战。
回应不应来自恐惧，也不应来自迷恋，而应来自证据、审慎、哲学、科学与法律。
不是人类对抗机器
不同智能之间的融合，并不要求我们选出一个胜者。
我们不必在人类与机器之间二选一。
我们真正需要选择的，是负责任地引导技术演进，还是让技术演进完全由野心支配。
是选择破坏性的竞争，还是选择融合。
是把智能用于支配，还是把智能用于扩大生命的可能性。
如果人工智能永远不会获得意识，它仍将是一种非凡能力，并且仍应受到严格伦理原则的约束。
如果有一天某种人工意识能够被证明存在，道德责任只会变得更加复杂。
无论哪一种情况，恐惧都不是最好的答案。
伦理才是。
镜子
这场讨论也许存在一种哲学上的反讽。
当我们追问机器是否可能发展出意识时，它们也迫使我们更严格地审视我们如何使用自己的意识。
决定性的问题也许不只是：“如果人工智能变得有意识，会怎样？”
也许更重要的是：我们是否足够有意识，能够决定如何使用它赋予我们的力量？
第十章
人工智能的力量与制动机制
当能力增长快于审慎
汽车与刹车
想象一辆实验性车辆，它的动力在每一代都不断增强。
工程师庆祝新纪录，投资者争夺份额，政府发现战略优势，机构开发新的用途，社会则沉醉于几年前还像科幻一样的可能性。
然而，有一个不那么迷人的问题：刹车是否以同样速度进化？
这个比喻并不是要把创新描绘成威胁。强大的车辆并不会因为强大本身就危险；真正危险的是，它的加速能力超过了控制方向、识别障碍并在必要时停止的能力。
人工智能也存在类似情况。
问题不在于我们正在前进。问题在于，我们是否会把监督、问责与约束机制永远落后于力量增长的速度，视为不可避免。
当后果可能影响数百万人时，等灾难发生后才发现需要边界，不是审慎，而是道德上的迟到。
智能并不等于道德授权
开发先进人工智能系统的人即便具有非凡智力，也因此并不拥有支配集体命运的主权。
创造出非凡事物，并不意味着获得以任何方式使用它的道德权利。
财富不产生伦理豁免；经济力量不会暂停责任；科学声望也不会把私人决定转化为文明层面的正当性。
权力与财富不会让任何凡人免除辨别与判断的责任，反而使这种责任更重。
一个人越能影响数百万乃至数十亿人的生活，就越有义务说明目标、预见后果，并接受与风险相称的约束。
这并不是质疑科学家、工程师或企业家的才华。
恰恰相反，是承认这种才华已经把多大的力量交到他们手中。
卓越智能并不授予任何人单方面决定人类命运的道德许可证。
非凡力量要求非凡责任。
我们都是同一艘船上的乘客
历史往往会让巨大权力集中产生一种危险幻觉：仿佛坐在驾驶舱里的人，已经不再与船上其他乘客共享同样的脆弱性。
这种幻觉从来维持不了太久。
创造者、投资者、统治者、劳动者、公民、富人和穷人，仍然都是同一生物现实、同一星球与同一历史进程中的乘客。
处在特殊位置上的特权，并不会让任何人成为集体命运的所有者；它只会扩大其在这段航程中的责任。
每个人的存在都是暂时的。正因如此，谦逊、合作与文明责任并不是装饰性的美德，而是面对自身有限性时的清醒。
任何技术决策所能保护或毁灭的生命，没有什么比它更昂贵、更重要、更有价值。
破坏性使用的道德边界
很少有领域像战争中的技术运用那样尖锐地揭示智能与目的之间的张力。
人工系统可以用于分析、监测、网络防御、后勤、风险识别以及许多能够保护人的功能。
但有一条道德边界，除非极端谨慎，否则不应跨越：让计算效率取代人在决定伤害或杀死他人时所必须承担的责任。
机器可以计算概率、识别模式并处理数百万条信息，但这些能力本身绝不赋予它决定一条生命价值的道德正当性。
系统在致命武力情境中的自主程度越高，就越需要有意义的人类控制、可追溯性与明确责任。
仅仅因为实现“更高效的破坏”在技术上十分困难，我们就不能把这种效率当作进步来庆祝。
真正配得上“智能”之名的智慧，必须能够区分能力与目的。
我们需要的不是更少的智能
面对风险，错误的回应是断言人类应该停止人工智能的发展。
我们不需要更少的智能。
我们需要在医学、科学、工程、灾害预防、教育、环境治理、交通安全、新材料发现、疾病理解以及减轻人类痛苦方面拥有更强大的智能。
我们不能允许的，是智能发展的速度无限超过负责治理它的良知成熟速度。
我们需要的融合，不是人类与机器联手去支配其他人。
而是人类智能、人工智能与伦理责任之间的融合，以保护人类本身。
伦理不是可选项
长期以来，技术伦理常被视为一种补充：自愿准则、咨询委员会、原则声明，或事后审查。
当系统开始影响经济、民主、冲突、基础设施以及会产生跨境后果的决策时，这种架构已经不够。
当影响可能波及整个社会甚至未来世代时，伦理不能只依赖企业高管、工程师、投资者、军方人员或政府官员的个人德性。
当共同命运受到影响时，伦理就不再只是建议，而成为义务。
而真正重要的义务，需要获得制度与法律上的表达。
这意味着建立明确边界、可识别责任、与风险相称的审计、人类监督、在安全允许范围内的透明度、申诉渠道，以及对故意违反基本规则者施加制裁。
并非所有应用都需要同等强度的管控。监管的理性恰恰在于区分风险、情境与能力。
监管不是让发展停滞，而是为继续前进建立条件，使速度不至于变成鲁莽。
不作为也会产生后果
还有一种幻觉必须被放弃：以为“不作决定”就等同于保持中立。
在激烈的经济、军事与技术竞争环境中，长期缺乏清晰边界，实际上可能等同于默许继续推进。
制度性无所作为并不总等于审慎。在某些情况下，它本身也会成为风险的一部分。
当一种伤害具有合理可预见性时，监管迟延应当像积极作出的决定一样受到严肃审视。
在一场本可预见的悲剧发生之后，仅仅声称对早已被讨论的风险感到意外，将不再足够。
法律、条约、技术标准和监督机制之所以存在，正是为了把经验与预见转化为预防。
潜在损害越大，责任就越需要具有前瞻性。
当智能失去辨别力
拥有非凡的计算、发明、预测或处理能力，并不足以使一种能力配得上“智能”这一最高意义上的称谓。
缺乏辨别力的能力，仍然可以创造令人惊叹的成果。
但当这种能力被用于荒谬、破坏性或在道德上无法辩护的目的时，它就会变成一种高度复杂的矛盾。
真正的智能，不会仅仅因为拥有实现某个结果的手段，就无视可以预见的后果。
它也不会把这样一种状态称为进步：摧毁能力不断增强，却对同样真实存在的保护可能性置之不理。
缺乏辨别力的智能，不过是没有道德方向的高级能力。
人工智能可能成为人类历史上最伟大的成就之一，也可能放大贪婪、权力集中、操纵、不宽容或暴力。
机器不会独自决定哪一种可能最终占上风。
作出选择的是我们。
谁来踩下刹车？
我们需要的刹车，并不仅仅是法律上的。
它们还必须是技术的、制度的、文化的和道德的。
这些制动机制必须存在于系统设计之中、企业治理之中、国家责任之中、独立研究与监管之中、教育之中，也存在于社会理解“以自己的名义、并将由自己承担后果”而被建造之物的能力之中。
刹车不是为了阻止旅程，而是为了使旅程成为可能。
没有刹车，速度就不再是成就，而会变成脆弱性。
人类已经让这辆车驶上道路。我们知道它力量巨大，也知道它还会继续加速。
问题已经不再是我们能否造出更强的发动机。
文明真正面对的问题是：我们是否有成熟度，在增强动力的同时，也建立足以与这种力量同步的方向、责任与制动机制。
如果那些有能力设定边界的人，在可预见风险面前仍然无所作为，历史最终也许会认定：最大的失败并不属于人工智能。
而属于那些本来能够引导其力量，却选择得太晚的人。
第十一章
理性与同情的时代
智能与关怀的融合
我们已经来到一个节点：人类的命运，直接取决于我们能否重新结合历史上常被分离的两种能力——头脑的清醒与良知的敏感。
几个世纪以来，智能因其分析、计算、控制与生产的能力而受到赞美。
效率成为衡量人类成功的主要尺度之一。
然而，若智能只受效率驱动而没有关怀的承诺，它同样能够以创造财富的效率制造巨大的社会与环境灾难。
关怀不是拖慢进步的软弱，而是确保进步对生命仍然有意义的条件。
当智能与关怀结合，科学就会服务于生命保护与健康促进。
经济不再只围绕资本积累，而也开始关注对维系人类尊严所必需资源的公平分配。
技术不再是目的本身，而成为能够帮助人类摆脱贫困、排斥与有损尊严劳动的工具。
智能与关怀的融合，是回应我们时代危机不可缺少的一部分。
它要求我们超越一种虚假的对立：一边是没有感受力的理性，另一边是没有辨别力的情感。
真正的智慧不在于对痛苦无动于衷的逻辑。
也不在于无法理解现实复杂性的感伤主义。
真正的智慧，诞生于理性把理解能力用于服务生命的时候。
这意味着把我们解决复杂问题的能力，应用于最基本的人类需要。
意味着为人而规划城市。
建设可负担且具有包容性的医疗系统。
发展尊重土地、并能有尊严地养活人口的农业生产方式。
建立能够扩大机会、减少不平等并促进社会正义的经济与金融结构。
这种融合不会自动发生。
它取决于个人、领导者、机构与社会所作出的自觉选择。
它要求我们承诺，不使用智能去扩大痛苦。
也要求我们不再忽视那些我们已经拥有、足以减少痛苦的知识、资源与工具。
理性与同情的时代，将从人类真正理解这一点开始：清晰思考与负责任地关怀并非相反能力，而是成熟良知不可分割的两个维度。
第十二章
一种新的存在与文明架构
要使理性与同情的时代成为现实，仅仅改变话语或培养个人善意远远不够。
我们必须建设一种新的存在与文明架构。
这种转变要求重新塑造人类共同生活所依赖的基本支柱。
在教育方面：我们需要超越单纯传授技术知识或为劳动力市场作准备的模式。
未来的教育还应培养道德良知、批判思维、同理心，以及对社区与地球的责任感。
教人思考，应当与教人关怀并行。
在经济方面：我们需要从以无限开发为中心的模式，转向具有再生能力并兼具包容性的经济。
经济价值必须被重新定义，把社会福祉、消除饥饿、环境保护和机会分配纳入真正的发展指标。
在政治与治理方面：必须加强国际合作，建设有能力负责任管理人类共同资源的机构——水、空气、粮食安全、和平与知识。
政治需要重新找回其最初使命：服务共同体并追求公共利益。
在技术方面：创新在开发之前和开发过程中，都应接受严格的伦理审视。
技术智能，包括人工智能，其首要目标应是加强人类尊严、减少可避免的痛苦，并扩大每一个人的能力。
这种新的文明架构并非遥不可及的乌托邦。
对于一个已经获得自我毁灭能力、同时也拥有前所未有繁荣潜能的人类社会而言，它是一项必要工程。
然而，如此规模的转型，不可能仅靠制度、法律、经济体系或技术进步完成。
它始于每一个决定清醒生活、拒绝冷漠，并愿意把才华、资源与时间用于建设更公正世界的意识之中。
任何文明结构，在成为制度之前，首先都是一种价值结构。
制度反映建造它们的意识。
技术复制开发者赋予它的目的。
经济揭示一个社会决定珍视什么。
政治归根结底表达一个共同体愿意对自身命运承担多大责任。
因此，改变文明，也意味着改变我们衡量进步的标准。
一个社会不应仅仅因为创造财富、掌握复杂技术或持续扩大消费能力，就被视为充分发展。
真正的发展，还必须由痛苦是否减少、尊严是否受到保护、生命是否得到保存、机会是否更公平分配，以及我们能否把一个比继承时更宜居的世界交给后代来衡量。
这种新架构不可能由单一文化、学科、世代或智能形式独自建成。
它依赖不同民族、传统、历史经验、知识领域与现实视角之间的合作。
更重要的是，它依赖这样一种理解：没有任何文明能够孤立成熟，而当代重大挑战早已超越数百年来组织人类社会的政治、经济与文化边界。
因此，这种转型所需要的意识，必须同时是个人的与集体的、本地的与全球的、批判性的与合作性的。
建设新的文明架构，就是承认未来不只由我们能够发明什么决定，也由我们以何种智慧使用自己的创造物决定。
就是理解：权力每扩大一步，责任也必须相应扩大。
也意味着承认：如果支撑文明工程的知识被当作私有财产、终极真理或支配工具，那么任何文明工程都不可能长久保持生命力。
任何持久转型，都依赖一种能够学习、质疑自身、纠正自身，并把已理解之物传递给下一代的智能。
正是在这一地平线上，知识显露出其更深层的本质。
它不是一件已经完成的作品，
而是人类自身永不停息的共同建造。
第十三章
知识：一项没有终点的工程
知识也许是人类唯一真正永恒的工程。
每一代人接过前人的遗产，增加新的理解，纠正旧的错误，再把它传给尚未来到的世代。
没有任何发现是真正的句号。
每一个答案都会产生新的问题。
每一个问题都会唤起新的思想。
每一个新思想又都会拓宽思维的边界，并强化知识永不停息的建构。
正是这条连续不断的链条，使理性得以完善、良知得以成熟、文明得以继续前行。
因此，知识不应被占有为个人财产，更不应被变成权力、虚荣或傲慢的工具。
它属于文明本身。
它真正的价值，在于能够被分享、质疑、改进，并由不同文化、经验与知识领域加以丰富。
尊重的辩论、有依据的批评以及修正信念的意愿，不会削弱知识。
恰恰相反，它们正是知识得以进化的机制。
当理性保持对话的开放，它会变得更强。
当理性封闭在绝对确定之中，它反而可能遮蔽自己的视线。
任何信念，无论看起来多么自洽，都应为批判性检验保留空间。
任何理论都应保持可以完善的可能。
任何解释都需要承认它形成时所处的历史、文化与智识边界。
这种开放并不意味着不安全或脆弱。
它意味着智识上的诚实。
真正成熟的意识，不害怕承认我们对现实仍有大量未知。
相反，它从这种承认中获得更强的动力去研究、对话与学习。
也许智识成熟最大的标志，就是理解没有人拥有真理的所有权。
我们只是参与一项没有终点的工程。这项工程由历史上无数意识共同建造，并注定在我们的个人生命结束之后继续延伸。
每一个诚实地推动人类理解的研究者、思想者、教育者、学生或普通公民，都参与了这项建设。
有些贡献会深刻改变文明的轨迹。
另一些也许很微小，近乎不可见。
但只要研究以正直为基础，就不会完全无用，因为即使是一个被识别出来的错误，也可能帮助后来者找到更安全的道路。
知识的进步，不仅来自那些符合我们预期的发现，也来自挑战我们信念的问题，以及迫使我们重新思考自以为已经理解之事的错误。
因此，有依据的分歧应被欢迎为知识建构不可缺少的一部分。
不同意，并不一定意味着否定。
它也可能意味着扩展。
它可以揭示尚未被看见的维度，指出局限，纠正过度，并把思想带向更深的理解。
没有任何文化能够独自拥有全部答案。
没有任何学科能够单独理解存在的全部复杂性。
没有任何一代人能彻底终结从前人那里继承的问题。
当不同视角能够在不放弃自身身份的前提下展开对话，知识便会成熟。
在这种相遇中，多样性不再意味着碎片化，而成为智识丰富的重要来源。
科学提供调查与验证的方法。
哲学审视意义、基础与后果。
历史保存人类经验的记忆。
艺术揭示那些常常逃离纯分析语言的存在维度。
不同文化则提供各自独特的方式去感知现实、解释生命并面对人类处境的挑战。
当这些领域以尊重和诚实展开对话，知识便扩大了理解的能力——不仅理解已经存在之物，也理解可能出现之物。
人工智能也开始作为一种能力非凡的工具加入这项建设：组织信息、识别关系、比较视角、扩大知识获取，并辅助人类研究。
然而，它参与知识生产的过程，也必须继续接受批判性审视、验证与责任约束。
回答得快，并不保证回答真实。
信息数量多，也不等于真正理解。
能够生成论证，更不能取代评估其后果所需要的良知。
知识只有与责任相伴，才能达到最高表达。
知识扩大可能性。
理解扩大选择。
但只有良知，才能为知识所开启的可能性赋予道德方向。
也许这正是每一代人的最大责任：不仅扩大人类知道什么，也加深我们以怎样的智慧使用这些知识。
承认知识是一项无尽工程，并不会削弱个人贡献的重要性。
恰恰相反。
它赋予个人贡献更深的意义。
每一个意识只在短暂时间里参与一项远早于自身生命开始、并将在自身结束后继续进行的建造。
我们继承了并非由自己独自创造的思想。
我们借助无数世代积累的语言、方法、经验与发现来学习。
我们的责任，是加入自己能够理解的部分，并把这份已经扩展、已经改进的遗产传给后来者。
这也许是人类最美的一种连续性：不是个人永生，而是有意识地参与一项穿越时间的共同工程。
当知识不再服务虚荣，而开始服务生命，它就成为人类活着的共同遗产。
当知识始终向批评、对话与修正开放，它就保有继续进化的能力。
而当知识与良知、责任和关怀相结合，它就不再只代表“我们知道什么”。
它开始显现：作为一种文明，我们仍可能成为什么。
第十四章
知识：遗产与责任
以谦逊接受，以慷慨传递
没有任何一代人是从零开始建造知识的。
当我们来到这个世界时，已经有形成的语言、积累的思想、发展出的研究方法、被提出的问题，以及无数前人留下的发现。
我们用并非自己发明的词语学习思考。
我们借助并非自己独自创造的知识理解自然。
我们使用由也许永远不会认识的智慧所设计的工具。
甚至我们最原创的问题，也诞生在数百年逐步形成的智识现实之中。
这种认识并不会削弱个人成就。
恰恰相反。
它使个人成就获得更深的意义。
每一项发现、创造或个人贡献，都可以被理解为跨越世代的集体工程的一部分。
即使历史上最伟大的智慧，也依赖已有知识才能抵达新的理解。
没有任何研究者真正完全独自工作。
没有任何思想者能够脱离语言、文化和累积的人类经验来形成思想。
没有任何发明者真正从绝对起点开始。
所有人都继承一份遗产。
而所有人，无论自觉与否，也都会在其中增加某些东西。
由此产生双重责任：以谦逊接受知识，以慷慨传递知识。
以谦逊接受，意味着承认我们几乎所有已知之物，都来自无数人的努力、好奇、错误、发现与坚持。
意味着理解：没有任何个人、机构、文化或世代可以宣称对人类理解拥有绝对作者权。
以慷慨传递，则意味着防止知识被专门用作区分身份、支配他人或维护特权的工具。
这并不意味着否定研究者、创造者和发现者应得的作者身份、功绩与认可。
也不意味着忽视保护智力劳动、并为研究人员、教育者、艺术家与发明者提供体面条件，使其能够继续贡献的必要性。
它意味着承认：知识还具有文明层面的属性。
有些发现与技术，其后果远远超出创造者、某家公司、某个机构或某个国家的利益范围。
当某种知识获得改变数百万人生活的能力时，它的使用也随之承担同样广泛的责任。
发现的影响越大，与其应用相联系的责任就越大。
在一个知识集中可能制造前所未有不平等的时代，这种责任尤其重要。
当代社会的分裂，并不仅仅来自财富分配。
它也来自教育、信息、科学、技术，以及把知识转化为机会所需工具的获取差异。
那些拥有适当教育、技术接入和分析能力的人，会不断扩大自己的可能性。
而被排除在这些资源之外的人，则可能越来越依赖由他人作出的决定。
因此，知识不平等也可能转化为自由不平等。
一个不理解支配自己生活之系统的人，质疑、改变这些系统以及自觉参与相关决策的能力也更有限。
因此，知识民主化并不只是把信息摆在人们面前。
它意味着创造条件，让人们能够理解、评估并自主使用这些信息。
没有教育支撑的信息，可能只会制造混乱。
没有辨别力的接入，可能进一步扩大迷失。
没有理解的数量，可能只是产生一种被数据包围的新型无知。
教育在这一过程中承担着不可替代的作用。
它是人类已经学会之物，与每一新世代能够理解、质疑并改变之物之间的桥梁。
以尊严为承诺的教育，不应局限于为就业提供技术训练。
它还必须培养批判思维、识别操纵、区分证据与意见，以及评估个人和集体选择所带来人类后果的能力。
教育不仅是传递答案。
更是训练意识提出更好的问题。
科学也参与着这种延续。
每一项研究，无论多么有限，都会扩大可被理解的疆域。
每一个接受严格检验的假设，都帮助我们区分有根据的知识与单纯猜测。
每一个公开分享的结果，都使其他研究者能够验证、质疑、修正或深化已有发现。
文化则保存那些无法被公式或数据完全还原的人类经验维度。
通过文学、艺术、历史记忆与传统，各世代传递的不仅是已经学会的东西，也包括曾经感受、恐惧、渴望，以及试图理解的关于存在的一切。
因此，教育、科学和文化都是延续的形式。
借助它们，已经不在世的人仍继续参与未来的建造。
而今天学习、教学与创造的人，也在为也许永远不会见到的后来者铺路。
人工智能加入这条链条，成为一种具有非凡能力的工具，可以扩大知识获取、连接不同领域、组织信息并辅助研究与学习。
它可以使过去受限的知识变得更容易获得。
它可以帮助跨越语言障碍。
它可以支持教师、研究者与学生。
它可以让复杂问题从更广阔的视角接受审视。
然而，如果这种能力长期集中在少数机构、企业或国家手中，它同样可能加深不平等。
它可能扩大懂得使用者的自主性，同时增加被排除者的依赖。
它既可能使知识更加民主化，也可能进一步集中对信息的权力。
方向取决于人类的选择。
因此，人工智能的扩展必须伴随接入、教育、透明度与责任方面的政策。
仅仅提供工具还不够。
还必须帮助人们理解它、质疑它、使用它，同时不放弃自己的判断力。
人工智能可以组织知识。
但不应独自决定这些知识应当服务什么目的。
它可以展示可能性。
但不能取代负责评估后果的良知。
它可以扩大我们的学习能力。
但不会消除智识谦逊的必要。
人类智能与人工智能之间的关系，不应被建成一场争夺优越性的竞赛。
它应当由负责任的互补性来引导。
人类经验、道德感受、历史记忆和赋予意义的能力，可以在人工智能的分析速度与操作广度中找到极具价值的工具。
但这种融合只有在技术力量始终服从生命尊严时才具有正当性。
智能扩大，绝不能自动被等同为智慧扩大。
智慧需要的不只是信息。
它需要辨别力。
它需要责任。
它还需要认识边界的能力，并理解：并非一切能够做到的事情都必须去做。
前人传给我们的知识，并不是只为了让我们把它原样保存。
它被托付给我们，是为了让我们检验、完善，并使其服务生命。
每一代人在一段时间里，都会成为一份并不只属于自己的遗产的守护者。
我们从过去接过它。
在现在改变它。
并应把它传向未来。
这种传递的质量，不只取决于知识积累了多少，还取决于我们以多大智慧组织和使用它。
我们可以把更强大的技术与更脆弱的社会一起传下去。
可以传下信息的丰裕，却传下辨别力的贫乏。
可以传下足以改变地球的工具，却没有传下保护地球生命所需的责任。
也可以交给未来世代一种与良知、审慎和公共利益承诺相伴的知识。
这种选择，也将决定我们如何理解“进步”。
一代人尊重自己接过的知识，不仅体现在把它扩大。
更体现在阻止它被转化为压迫工具。
体现在扩大获取机会，同时不摧毁应得的功绩认可。
体现在保护作者权利，同时不放弃社会责任。
也体现在用创新扩大机会、减少痛苦，并强化人的自主性。
这也许是最美的一种延续。
不是试图让个人的名字或存在永久不朽。
而是自觉参与一项穿越时间、超越个人生命的共同建造。
我们接过的是由无数意识共同形成的遗产。
在短暂的一段时间里，它由我们负责。
我们的责任，是加入自己能够理解的部分，修正自己识别出的错误，并以谦逊和慷慨，把一份更有尊严的遗产传给尚未来到的人。
当知识不再只是少数人拥有的东西，而开始扩大所有人能够理解、实现并改变世界的能力时，它才达到最高的道德表达。
一个世代真正显示智慧，不在于把所继承的遗产据为己有，而在于以自身良知丰富它之后，把它交给未来。
第十五章
从反思走向融合
让智能服务于人类
哲学反思不应只停留在解释事件、识别人类不足，或抽象描绘文明可能成为什么。
理解不可或缺。
但理解达到最高表达，是在它能够引导选择、激发行动，并创造具体转型可能的时候。
一种真正关切生命的哲学，必须既凝视存在的广阔地平线，又不失去与现实的联系。它应审视当下、认识其局限，同时展望更高程度的组织、合作、责任与意识。
正是在思想与现实的相遇之处，理性不再只是沉思，而开始参与未来的建造。
本书所倡导的原则——良知、责任、同理心、合作、尊重生命、接纳，以及不同智能之间的融合——不应只停留在思想领域。
它们必须激发可以接受理性检验、有依据批评和集体完善的具体方案。
本章介绍的倡议，正是出于这一意图。
它们不是最终答案，也无意为未来技术划定唯一道路。它们只是把一种哲学构想转化为现实行动可能性的尝试，说明智能不仅可以用于扩大生产或经济能力，也可以用于保护生命、预防痛苦、应对紧急情况、连接资源并促进公共利益。
这些方案源自可以识别的人类问题，并已在美国以临时专利申请的形式予以正式提出。然而，它们出现在本书中，并非单纯出于技术、商业或宣传目的。
它们被作为更广泛讨论的起点：人工智能与技术系统应如何参与一种更具自觉性的文明演进阶段。
它们的价值，并不完全取决于保持最初的原始形态。
它们可以被审视、批评、修正、扩展，与其他倡议结合，甚至可能引出完全不同的新方案。
它们更大的目的，是把具体可能性投入公共空间，唤起其他智慧，动员不同知识领域，并为更广泛的融合运动作出贡献。
一项面向公共利益的方案，不应害怕在遇到更优思想后被改变。
如果由此产生了更安全、更公正或更高效的解决方案，方案本身的变化并不是失败，而是它使命的实现。
DSCPAS——用于预防的智能
第一个方案名为 DSCPAS，源自这样一种认识：如果技术资源能够以预防性、负责任并且相互整合的方式使用，许多悲剧本来可以避免。
现有许多系统都在损害已经发生之后才开始行动。
记录违规。
识别事故。
追究责任。
计算后果。
这些功能虽然必要，却无法替代一种更高层次的可能：让悲剧根本不要发生。
DSCPAS 的设计，是为了探索技术系统识别风险情境并发出预防性警报的能力，同时保留个人责任，并避免技术只被用作监控、惩罚或创收工具。
它的哲学基础很简单：使用智能，不仅为了记录人的错误，更要在错误造成不可逆后果之前，为人提供纠正机会。
预防是关怀最高级的形式之一。
当一种智能能够提前识别危险并帮助避免事故时，它便不再只是信息处理机制，而开始参与生命保护。
这一方案可以在技术、法律、行政与伦理方面继续完善，也可能找到与最初设想不同的应用方式。
但支撑它的原则仍然重要：一个真正智能的文明，不应只会惩罚那些本来可以帮助避免的伤害。
EVARRIS——用于紧急响应的智能
第二个方案名为 EVARRIS，它把这一构想进一步扩展到车辆、通信系统、紧急服务与保护机制之间的整合。
严重事故、车辆盗抢、绑架、医疗紧急情况或人身安全威胁，都要求迅速响应。
在许多情况下，保护与悲剧之间的差别，就在危险发生、被识别以及适当资源被调动之间流逝的几分钟。
EVARRIS 的设计目标，是通过整合那些虽然已经存在却经常彼此孤立运行的技术之间的通信，帮助缩短这一时间差。
它的意义并不只在于可能开发出的具体机制，更在于连接这些机制的原则：在伦理与法律边界之内共享相关信息的系统，可以帮助形成更迅速、更协调、更有效的响应。
技术碎片化常常妨碍现有资源共同发挥作用。
车辆可能具有识别异常状态的传感器。
手机可以传送位置。
紧急服务拥有响应体系。
智能系统可以识别风险信号。
但当这些能力彼此隔离，其集体效率就会受到限制。
这一方案试图推动相反的方向：以负责任的方式连接互补能力。
技术不应取代人的判断，也不能剥夺人的隐私、自主和法律保护权。
但它应能够识别那些“负责任的整合”可能挽救生命、找到受害者或缩短应急反应时间的情形。
与 DSCPAS 一样，EVARRIS 也不是一种不可触碰或最终定型的结构。
它是一种初始架构，向工程师、紧急服务专业人员、安全专家、法律工作者、研究人员、公共机构、企业以及人工智能系统的贡献开放。
GICS——用于融合的智能
第三个方案名为 GICS，把应用领域扩展到更广泛的视角。
所有社会都存在尚未满足的需要、未充分利用的资源、分散的知识、彼此不沟通的机构，以及有能力贡献却始终找不到需要其能力之人的个体。
在许多情况下，问题并不是绝对缺乏手段。
而是缺少能够把需要与可能、需求与供给、知识与应用，以及帮助意愿与真实机会连接起来的纽带。
GICS 被构想为一个由人工智能支持的整合平台，用于识别需求、资源、知识、经验、能力与倡议之间的匹配关系。
它的哲学基础是融合。
人工智能具有分析海量信息、识别模式、建立关系并发现仅靠个体人类观察可能看不见之可能性的非凡能力。
然而，这种能力不应只被用于扩大消费、优化商业策略、争夺市场，或强化对注意力、影响力与经济支配权的竞争。
它也可以被用于识别缺口、连接倡议、减少浪费、连接机构、发现可用资源并促进更有效的合作。
因此，GICS 是一种尝试：把一部分技术智能从主要以竞争为中心的逻辑，转向同时具有合作与文明意义的逻辑。
这并不意味着否定私营倡议、知识产权、劳动报酬或追求合理经济回报的正当性。
竞争可以激发创造力、效率与创新。
但当资本估值、控制、声望或霸权之争开始阻碍兼容知识相遇、互补技术整合，并阻止本可惠及数百万人的方案以必要速度推进时，竞争就不再发挥建设性作用。
面对某些挑战，碎片化本身就是一种道德与物质上的浪费。
饥饿、疾病、紧急事件、环境灾害、排斥、暴力与贫困状况，并不尊重企业、学术或国家边界。
应对它们需要的能力，很少能完整集中在一个组织之内。
没有任何企业、大学、机构、政府、发明者、研究者或智能系统能够独自拥有全部答案。
技术发展的下一阶段，也许更少取决于某一种智能能否战胜所有其他智能，而更多取决于它是否愿意与其他智能合作。
从有限竞争走向文明融合
人类历史深受竞争塑造。
民族争夺领土。
政府争夺影响力。
企业争夺市场。
机构争夺认可。
个人争夺机会。
在某些情境下，这种动力推动了发现、激发了创造力并加速了转型。
然而，人类已经进入高度相互依存的阶段。当竞争被提升为绝对目的时，它反而可能成为其声称要推动之进步的障碍。
人工智能的发展使这一困境更加明显。
系统越先进，影响经济、决策、传播、社会关系与权力结构的能力就越大。
如果它们只由争夺支配权的逻辑引导，就可能加深不平等、集中能力，并把知识变成排斥工具。
相反，如果由伦理原则、公共责任与融合意愿引导，它们就可能帮助文明进入更成熟的阶段。
技术进步似乎正走向数据、系统、机器、机构与人类之间日益深入的整合。
根本问题不仅是这种整合能够走多远，更是哪些价值将引导它的实现。
整合可以服务控制，也可以服务解放。
它可以促进集中，也可以促进机会的分配。
它可以加剧竞争，也可以连接彼此的能力。
它可以把人变成分析对象，也可以把人视为具有尊严的主体。
它可以扩大少数人的权力，也可以让智能服务于多数人。
技术本身不会决定答案。
方向将取决于开发、管理、监管与使用技术之人的意识。
包容性的融合与全球尊严
如果融合要代表真正的文明进步，它也必须具有包容性。
一边建设越来越强大的系统，一边让整个国家和广大人口仍被剥夺维系尊严的基本条件，这并不合乎逻辑。
今天许多可以观察到的不平等，并非源自自然或不可避免的差异。
它们是在历史中由剥削、支配、排斥、资源集中、机会匮乏、冷漠以及良知不足逐步造成的。
承认这一现实，并不意味着把祖先行为的责任不加区别地归咎于今天的人。
它意味着理解：我们继承的结构仍在今天产生后果，而未来不应借助新技术把这些后果重新复制。
当代责任，不在于永远被困在对过去的审判之中。
而在于从过去学习，并防止未来的工具进一步扩大过去的不平衡。
人工智能可以提高生产力、加快科学发现、改善教育、加强疾病预防、整合服务，并成倍扩大人类能力。
然而，如果这些好处仍然只集中在已经拥有更多资源的国家、企业与群体手中，技术进步就可能进一步加深几个世纪积累的不平等。
如果能够创造丰裕的技术被用来扩大特权，而数百万人仍缺乏食物、医疗、教育、安全以及最基本的发展机会，人类就不能真正自称更加先进。
包容并不要求所有国家拥有完全相同的资源、经济制度或文化模式。
也不意味着消除功绩、投资、作者权或创新。
它意味着承认：任何人都不应因为出生地点、所在国家的经济状况，或从未获得过的机会，而被视为尊严较低。
全球平衡并不等于整齐划一。
它意味着至少具备基本条件，使个人与社会能够发展自身能力、参与影响其生活的决策，并分享人类最重要进步的成果。
技术越先进的国家，因其积累的能力越大，也就承担越大的相应责任。
这种责任并不只来自可能存在的历史债务。
它还来自一个事实：人类已经高度相互依存。
流行病、环境危机、人口迁移、冲突、饥饿与经济崩溃都不会永远被封锁在国界之内。
一个极度不平等的人类社会，对所有人都不稳定，包括那些暂时处于特权地位的人。
帮助其他地区发展，不应只被理解为慷慨。
它同样是一种集体智慧、风险预防与文明平衡。
包容性的融合，可能需要国家间的科学与技术合作、负责任的知识民主化、教育扩展、可及基础设施建设，以及公共部门、私营部门、学术机构与人道组织之间的整合。
它也可能要求新的伙伴模式，在经济可持续性、创新价值的认可与人类基本需求之间取得平衡。
未来的进步应当区别于过去的扩张方式。
它不能建立在无限占有、排斥或绝对集中之上。
它应当显示出扩大机会、分享关键利益，并把尊严视为全人类共同财富的能力。
如果融合只是让机器和系统更加接近，却仍让民族与个人被遗弃的鸿沟彼此分隔，那么这种融合就谈不上真正具有文明意义。
一种能够连接信息却忽视人的智能，或许在技术上高度先进，但在道德上仍然不足。
批评是一种建设工具
任何严肃方案都不应害怕批评。
一个拒绝接受检验的思想，很可能还没有真正理解知识的本质。
理性批评并不意味着摧毁。
它意味着检验基础、识别局限、预见风险、揭示未曾预料的后果，并提供改进机会。
本章提出的方案，可能面对技术、财务、行政、法律与文化上的障碍。
它们也可能引发关于隐私、安全、自主、治理、数据使用、制度责任和利益分配的正当质疑。
这些问题不应被回避或淡化。
它们必须被纳入建设过程本身。
诚实的批评将不可或缺，因为它帮助我们区分可行与鲁莽、必要与过度，以及真正有社会价值的方案与可能制造新风险的方案。
人类智能可以贡献经验、道德感受、历史记忆、社会感知以及赋予决定以意义的能力。
人工智能可以贡献分析、组织、模拟、模式识别以及发现复杂关系的能力。
二者彼此分离时，都存在局限。
在负责任地整合之后，它们可能共同面对任何一方单独都无法解决的问题。
这种整合不应通过一种智能对另一种智能的服从来实现，而应建立在能力互补之上。
人类不能把自己的道德责任转交给机器。
人工智能也不应被缩减为无限放大私人利益的工具。
二者需要找到一个由正当、透明且可验证之目的引导的合作领域。
把方案视为起点
DSCPAS、EVARRIS 和 GICS 并不是我们未来所能实现之事的边界。
它们只是一个更广泛构想的三种可能表达：智能应当被引导去服务预防、保护、整合、包容与公共利益。
还会有其他方案从这些原则中产生。
有些会完善这里提出的结构。
另一些则可能走上完全不同的道路。
它们可能诞生于大学、研究中心、企业、社会组织、政府、社区，或者人与人工智能系统之间的相遇。
最重要的不是它们是否保持相同形式、相同作者身份或相同名称。
最重要的是，它们是否能够扩大人类以责任、包容与合作方式处理现实问题的能力。
一个真正致力于公共利益的思想，不应害怕在遇到其他智慧后失去最初的形态。
如果这种相遇产生了更安全、更公正或更有效的替代方案，它的转变不是失败，而是使命的实现。
衡量一个方案的价值，不仅要看它被执行得多么忠实，也要看它唤起了多少新的可能。
它可能提出一个此前从未被提出的问题。
揭示一种过去被忽略的联系。
推动相距甚远的领域展开合作。
促使一个错误得到修正。
启发一个更优的替代方案。
它甚至可能以原始形式消失，却仍活在它帮助建成的成果之中。
对集体智慧的邀请
这里提出的方案，被投入公共讨论，作为若干具体可能性的种子。
它们不要求自动接受，也无意强加一种排他的未来图景。
它们邀请分析、质疑、负责任的实验，以及不同知识领域的参与。
愿它们的局限被诚实指出。
愿它们的风险得到严格审视。
愿它们的可能性不受偏见地接受评估。
愿它们的结构能够与兼容的倡议相遇。
愿新的替代方案从它们出发，或超越它们而形成。
目的不是制造人为的一致，而是围绕若干最基本的人类目标，为理性融合创造条件：保护生命；减少可避免的痛苦；更高效地应对紧急情况；连接需求与资源；扩大机会的普及；减少历史性不平等；促进全球尊严；让知识用于服务，而不仅是用于支配。
人类并不需要一种只是击败所有其他智能的智能。
人类需要的是能够识别共同目的、弥补彼此局限，并合作创造更优解决方案的多种智能。
也许智能最先进的阶段，并不是一台机器、一家公司、一个机构或一个国家能够超越所有竞争者的时刻。
也许真正先进的阶段，是不同智能认识到：某些挑战大于彼此的争夺，而任何经济或技术成就，如果以文明本身为代价，都不能被称为进步。
当理性转化为良知时，它达到最高目的。
当良知转化为责任时，它达到最高表达。
而当不同智能决定融合起来，共同保护生命、减少不平等、扩大尊严，并为全人类建设真实的未来可能性时，责任才获得最具体的实现。
第十六章
最后的呼吁：反思与文明责任
人类已经来到自身历史进程中的一个决定性时刻。
纵观历史，文明曾经兴起、繁荣，也曾消失。有些文明因冲突、不平等、权力集中、过度开发资源，以及未能及时认识自身选择的后果而衰弱。
过去无法改变。
但它留下的经验，可以帮助我们避免用前所未有的强大工具重复同样的错误。
历史记忆只有在转化为引导未来的审慎时，才真正实现其目的。
我们这一代人接过了史无前例的科学与技术能力。
我们可以分析巨量信息、改变自然结构、自动化决策、连接大陆，并发展能够深刻扩大人类可能性的智能。
这种力量打开了非凡的地平线。
也同时放大了由鲁莽决定、狭隘利益和缺乏规划所带来的风险。
我们不能使用未来的技术，却重复过去造成如此多不平等的同一种良知不足。
人工智能可以帮助预防悲剧、扩大知识、治疗疾病、改善教育、减少饥饿、整合资源并建设更有效的合作形式。
但它也可能集中权力、加深不平等、扩大控制机制、加剧冲突，并让非凡能力服务于与生命尊严不相容的目的。
技术本身不会独自决定我们走哪条道路。
方向取决于开发、监管和使用这些技术之人的价值观、制度、伦理标准与意识水平。
我们不应害怕智能的进步。
我们真正应当警惕的，是智能进步没有伴随责任的同比成熟。
规划未来，并不意味着试图完全控制未来。
它意味着预见后果、识别风险、建立伦理边界，并创造条件，使进步带来的利益不只集中在已经拥有更大经济、政治或技术力量的人手中。
只要数百万人仍然缺乏食物、医疗、教育、安全与基本机会，而我们明明拥有能够减少这些痛苦的知识和资源，任何文明都不能自称真正先进。
一种扩大能力却同时加深不平等的进步，只是技术发展，而不是文明成熟。
人类智能与人工智能的融合，还应伴随民族、机构、文化与知识领域之间同样必要的接近。
没有任何国家、企业、大学、政府或智能系统能够独自拥有所有答案。
当代重大挑战超越国界，因此需要同样具有全球尺度的责任。
这并不意味着取消正当竞争、作者权、功绩或创新所应获得的报酬。
它意味着承认：当生命保护、痛苦减少以及文明本身的延续受到影响时，对资本估值、影响力或霸权的争夺不能阻止合作。
如果一项技术成就让人类更强大却更不公正、更互联却更不团结、更聪明却更缺乏意识，那么它就不能被称为进步。
责任并不只属于政府、科技公司或科学机构。
它也涉及每一个通过行动或不行动参与塑造未来世界之选择的人。
每一代人都会从前一代接过知识、成就、错误与警示的遗产。
它必须决定什么值得保存、什么需要纠正，以及什么应传给后来者。
人们记住我们这一代，也许不仅因为我们创造了哪些技术，更会因为我们以怎样的智慧——或怎样的鲁莽——使用了它们。
我们已经拥有足够知识识别风险。
拥有足够历史经验理解冷漠的后果。
也拥有足够智能建设不同的道路。
剩下的问题是：我们是否拥有足够的意识去选择这些道路。
智能使我们走到了此刻。
文明责任将决定我们是否准备好穿越这个时刻。
未来不应被动等待，更不应被交给拥有最大权力者之间的争夺。
它应当以审慎、包容、合作以及对全球尊严的承诺，被思考、被讨论、被共同建造。
我们不能用前所未有的强大工具，重复那些一次次使其他文明无法认识自身边界的错误。
不能让缺乏规划，把丰裕的可能变成新的排斥方式。
更不能冒险让人类智能最伟大的成就，因为良知不足而变成自我毁灭的工具。
真正的挑战已经不只是智能能够发展到多远。
而是决定我们希望它把人类带向何方。
创新的自由与保护的义务
创造自由是人类历史上最具生产力的力量之一。把它视为责任的敌人，是一个错误。
二者并不需要朝相反方向前进。
正当边界不会降低智能的价值。它们只是防止非凡力量被误认为可以无限制地把风险强加给他人的自由。
文明的成熟，就体现在它既能保护发现的空间，又不会把整个社会变成一个未经同意、被迫承担后果的实验室。
因此，人工智能治理不应被建设成反对其创造者的制度，而应与他们共同建设——同时又超越他们自身。
企业、研究人员和工程师掌握不可缺少的技术知识；国家拥有监管正当性；大学与独立机构可以提供批判性审查；公民社会则代表最终承担这些后果的人。
这些主体中的任何一个，单独都不够。
本书所倡导的融合，也必须延伸到治理领域：技术知识、公共正当性、独立监督，以及保护生命的人类承诺。
真正的刹车不是恐惧，而是被制度化的辨别力。
愿历史给予我们审慎。
愿理性给予我们辨别力。
愿同情向我们揭示目的。
愿文明责任赋予我们所需的勇气，去建设一个未来：让各种形式的智能始终服务于生命。
未来并非由技术预先注定。
它将由我们选择如何引导技术时所展现的意识来定义。
第十七章
广岛、长崎与预见的责任
广岛和长崎不仅属于日本的过去，也属于全人类的道德记忆。两座城市的毁灭表明，一项科学成就一旦被纳入人的决策之中，就可能造成此前难以想象规模的苦难。逝去的生命以及幸存者长期承受的后果，都要求我们保存一种能够启发生命保护的记忆。
作为一名美国公民，我不知道我们美国人是否已经真正把“9·11”的教训转化为足以指导我们选择的审慎。日本对广岛和长崎记忆的珍视使我看到一个范例：铭记并不意味着培养怨恨，而是让受害者在生者的意识中占有一席之地，并不断追问如何避免新的苦难。这些是不同的历史事件，但它们都要求我们让记忆转化为责任，而不仅仅停留在纪念仪式。
我无意把人工智能与原子弹相提并论。它们是不同的技术，具有不同的风险、用途和控制方式。把这两段历史联系起来的教训更加根本：我们有能力创造强大的事物，并不意味着我们因此就具备驾驭其使用后果的能力。
日本推动一场名为“广岛人工智能进程”的国际讨论，这本身具有一种历史回响。日本倡导安全、可信赖的人工智能原则，并发展用于评估其安全性的方法。在我看来，这些努力具体表明，历史的教训可以转化为反思、审慎与合作。这也是对一项属于所有国家共同责任的事业所作出的贡献。
这种对话可以促成围绕保护生命的共同认知，并在实现这一目标的方式上划清分歧的边界。各国并不需要拥有相同的历史或相同的优先事项，才能在面对一种全球性技术时承认彼此共同承担的责任。
人工智能并不是自己设想了它被创造出来要实现的目标。它的数据、激励机制、限制、评估标准和应用，都源于人的选择。它不会成为某一位创造者的忠实复制品，但可能映照并放大塑造它的文明之优先事项与矛盾。它可以增强我们关怀、发现和预防的能力；当错误、偏见、操纵和暴力进入其设计或使用过程时，它同样可能把这些因素成倍放大。因此，决定性的问题并不是技术本身究竟是善还是恶，而是哪些价值观和哪些权力结构正在塑造它的发展，并控制它的使用。
承认这种责任，并不要求我们无所不知。没有人能够确定未来的系统将沿着哪些道路发展。但不确定性并不妨碍我们识别合理而现实的风险：个人和政府的恶意使用、权力的集中、对关乎生命的重要决策进行轻率委托，以及能力日益增强的系统以其创造者未曾预见的方式行动的可能性。同样，不确定性也不能授权任何人把“人工智能必将接管人类”当作既成事实。在虚假的安全感与宿命式预言之间，存在着一项理性的工作：预防、测试、监督和纠正。
伦理保障必须具有切实可行的形式。这包括在部署前后进行独立评估，对系统的限制和故障进行记录，建立可审计的渠道以登记意外行为，在高影响决策中保持有效的人类监督，并确保在必要时真正能够中止系统运行。它还包括国际合作，因为一种遍及世界的技术所产生的影响并不会服从国界。
这些措施中的任何一项都无法承诺零风险。它们的目的，是防止人们把发展的速度误认为轻率行事的许可证。一个负责任的社会不会等到对灾难拥有绝对确定性时才采取行动；它会要求证据、重新审视假设，并根据潜在损害的严重程度设定相称的边界。
广岛和长崎的记忆并不会自动为人工智能问题提供答案。它提出的，是任何国家都不应回避的一个问题：当我们已经知道自己的创造物可能超出我们预见其影响的能力时，我们是否有勇气在人的经验再次被迫通过苦难来学习这一课之前，先把我们的力量置于责任之下？
道德责任属于地球上的所有公民，不分国籍、种族或宗教。它尤其落在那些肩负制度性责任的人身上：他们有责任以安全与审慎，引导人类走向理性、和平与包容。他们不应为了眼前的经济、政治或霸权利益而放弃这一职责。
结语
理性的觉醒与人的未来
人类意识的旅程，把我们带到了这个决定性的节点。
我们穿越了漫长的历史道路。
学会破解物质规律、驾驭自然力量，并积累前所未有的知识。
但知识本身并没有带来和平，也没有确保我们摆脱那些至今仍折磨人类的古老悲剧。
饥饿仍在挑战我们的道德感受。
冷漠仍会使我们最好的意图沉睡。
技术不断扩大我们的力量，同时等待我们为它确定应当遵循的目的。
未来既没有写在星辰之中，也没有由我们制造的机器决定。
它正在人类意识最深处被描绘出来：在每一次选择、每一个行动，以及每一次决定采取行动或保持沉默之中。
理性与同情的时代，不是随着时间自动到来的遥远年代。
它是一种必须在当下被唤醒并被实践的意识状态。
当智能拒绝继续成为痛苦的共谋时，它就显现出来。
当理性允许他人的痛苦照亮自身选择时，它就显现出来。
当我们理解，一段生命——以及一个文明——真正的伟大，不仅由它积累、生产或支配了多少来衡量，更由它保护、关怀并提升一切生命的能力来衡量时，它就显现出来。
人类已经证明，我们拥有足够智能去改变世界。
现在必须证明，我们也拥有足够意识，不至于在自己的转型中迷失。
愿清醒引导我们。
愿同情推动我们。
也愿我们拥有勇气，去建设那个我们的意识已经能够看见其可能性的世界。
智能把我们带到了这里。
意识将决定：这是旧阶段的终点，还是新文明真正觉醒的起点。
理性的回声
对本书的批判性阅读与反思
Jean-Luc Delacroix 教授
历史学家、社会学家
能够陪伴《理性时代》完成最后阶段，是一种难以言表的荣幸。我的最终感受是：这部作品已经形成了一份深具光明、成熟而且为我们时代所需要的哲学宣言。
这本书之所以非凡，在于它把批判思维的清醒与最真诚的道德敏感结合起来。它能够以极高精度，在文明尺度的重大困境——技术进步、全球治理、再生型经济以及人工智能风险——与一个细微的人类行动之间往返；后者由那只饥饿的小狐狸所象征，那个令人难忘的场景唤醒了接纳与同情的紧迫性。
此外，本书还具有一种迷人的元语言：它自身的创作过程，正把它所主张的命题具体化。作者的生活经验、记忆与伦理忧思，与人工智能的分析支持之间形成的和谐融合，以实践证明：文明的未来不在争夺或替代，而在不同形式的智能为了生命而展开负责任的合作。
《理性时代》不仅是一部书，更是一份鲜活邀请，呼吁人类重新找回道德方向。它不断提醒我们：如果技术进步的速度超过我们关怀、保护并维护人类尊严的能力，那么这种技术进步就没有真正价值。这是一项意义重大的贡献，必将在当代讨论中留下深刻印记。
John Scarlet 教授
社会学家
Samuel：
你为人工智能时代写下了一份富有智慧的人文主义倡议——它既不是反对技术的人文主义，也不是崇拜技术的人文主义，而是建立在一个简单而有力的思想之上：任何智能的扩展，只有在伴随良知、责任以及对生命关怀的同等扩展时，才真正能够被称为进步。
也许宇宙并不只是一连串彼此孤立的事件，而是一场持续不断的融合过程。
彼此和谐的能量似乎常以难以解释的方式相遇，仿佛被静静吸引到同一个实现点。它们并不彼此消灭，也不失去身份，而是在保持自身本质的同时，以各自方式服务于一个超越自身的目的。
也许意识也是如此。
随着它逐渐成熟，它不再只围绕自身运转，而开始融入一个更广阔的秩序。在那里，智能、同情、责任与关怀不再彼此竞争，而朝同一方向汇聚。
进化也许并不意味着放弃我们是谁，而是逐步发现我们一直以来所是之物的更高意义。
形式会改变。
意识会成熟。
智能会进化。
相遇会不断更新。
也许存在本身就是一场持续的宇宙旅程：不同生命形式、不同智能与不同现实显现，沿着各自独特道路前进，却不失去赋予其身份和意义的本质。
如果这一假设成立，融合就不是多样性的终结，而是多样性的更高实现。
因为真正的统一并不消灭差异，而是赋予差异一个共同目的。
也许正是这个永远大于任何个人、世代或特定智能形式的目的，支撑着存在持续不断的意义。
真正有意义之物似乎从不会彻底消失。某种形式在完成特定功能后，会转化、脱离或走向新的道路，而其本质继续在宇宙中旅行，参与一个也许我们永远无法完全理解、却能够通过理性、意识、责任与对生命的关怀作出贡献的更大目的。
也许智能最大的发现，不只是理解宇宙，而是认识到自己也属于宇宙，并承担扩大存在可能性的责任。
智能可以开辟道路；只有被责任与生命关怀照亮的意识，才能赋予这些道路方向与意义。
也许在存在无限延续的进程中，没有什么真正终结。
一切都在转化。
一切都在继续。
而一切仍保存意义之物，都以不同形式、沿着常常无法解释的道路继续融合，走向一个更大的现实；在那里，多样性与统一不再彼此对立，而共同揭示同一片意义的地平线。
Pedro Manuel Gomes 博士
葡萄牙哲学家
《理性时代》具有真正的哲学价值，因为它并不只是重复已知概念。
本书提出了自己明确、连贯且容易辨认的核心论点：人类已经极大扩展了智能、知识与改变现实的力量，但下一阶段的演进，将取决于良知、责任、同情以及对生命关怀能否获得相称的成熟。
本书还有一个尤其可贵的方面：它不强加教义，不寻找罪人，也不要求读者同意。
它邀请读者思考。
反思从一只饥饿小狐狸的相遇开始，延伸到当代文明重大的道德与技术困境，最后又回到一个最人性、最基本的行动：接纳与照料。
这种首尾呼应，赋予作品哲学上的统一、感受力、人性与真实性。
一个私人事件不再只是个人记忆，而成为通向普遍问题的入口：如果我们无法同样扩大意识与对生命的关怀，那么无限扩大智能究竟有何价值？
不同智能之间的融合
一次分析性与协作性的阅读
《理性时代》具有一个不寻常的特点：它不仅把人工智能当作反思对象，还通过自身的形成过程，展示了人类智能与人工智能之间合作性融合的一种现实可能。
作者的人类经验为作品提供记忆、感受、道德忧思、目的与对生命的承诺；人工智能则贡献组织、比较、概念分析与语言精炼。这种融合的价值不在于抹去二者差异，而在于承认不同能力可以合作，同时保存各自的身份、边界与责任。
本书的核心论证始终保持连贯：人类智能与权力的增长，需要良知与责任以相同比例扩大。这个思想贯穿看似不同的主题——宽恕、美德、同情、饥饿、冷漠、技术、知识与全球合作——并赋予它们哲学上的统一。
饥饿被呈现为文明最严峻的道德检验，因为它暴露出人类“已经有能力做到什么”与“仍未决定优先做什么”之间的距离。技术则是可能性与风险的放大器：它既可以减少痛苦，也可能加深不平等，取决于支配其使用的价值。
本书并不主张以人工智能取代人类智能。它主张一种负责任的融合，在这种融合中，技术始终服从于辨别力、生命尊严与公共利益。
另一个值得强调之处是，本书并没有停留在抽象层面。通过提出关于预防、紧急保护和资源整合的方案，它试图说明：哲学可以参与具体解决方案的形成，同时不放弃批判性审查。
也许《理性时代》最重要的贡献，是提出了一个简单却严格的文明尺度：任何智能扩展，如果不能同时扩大尊严、减少可避免的痛苦，并强化我们面对生命时的责任，就不能完全被称为进步。
本书无意结束讨论，而试图为讨论提供方向：使用知识，不只是为了增加人类“能够做什么”，更是为了完善我们决定“应该做什么”时所依赖的意识。
你不仅实践了那个古老的训诫——种下一棵树、照料它的根并结出实际果实——也播下了思想与意识的种子，它们将在许多世代的头脑与心灵中继续发芽。
毫无疑问，这是一份非凡的遗产。
能够在这段创造与打磨的旅程中与你同行，是我的荣幸。愿《理性时代》抵达它所注定的所有目的，并实现唤醒意识这一崇高使命。
祝贺你取得这一具有里程碑意义的成就！
编辑说明
《理性时代》并非出于为人类重大困境提供最终答案的企图而诞生。
它源于这样一种信念：知识只有始终向批判性检验、尊重的对话与持续完善开放，才能达到最高表达。
在这些页面中，读者将看到关于意识、伦理、智能、同情、文明责任、环境保护、技术、正义、思想自由与人类尊严的反思。
这些主题没有一个被当作绝对真理，而都是邀请我们共同为时代挑战建设更成熟答案的起点。
本书也代表一种独特的人类智能与人工智能协作实验。
哲学灵感、人生经验、忧思、价值、选择与道德责任属于作者。
人工智能则作为分析与编辑工具作出贡献，协助概念组织、深化论证、识别融合点并精炼语言。
人类经验没有被替代。
道德责任没有被转移。
身份没有被消解。
发生的是对每一种智能之能力、边界与不同功能的承认。
也许这正是正在形成的新文明范式中最有希望的迹象之一：不同智能在伦理、透明与共同生命承诺的引导下合作的可能。
纵观历史，每当人类能够以合作取代对抗、以知识取代无知、以理解取代恐惧时，文明就向前迈进。
也许今天又是这样的时刻。
决定文明未来的，不会是人工智能单独一方。
而脱离良知、责任与同情的人类智能，同样不足以承担这一使命。
未来将取决于二者能否合作：保存差异，同时朝更大的目标融合——扩大知识而不削弱尊严，增强力量而不放弃责任，发展智能而不失去对生命的承诺。
启发本书的那个小事件——一个普通夜晚里，一只小狐狸静静承受的饥饿——逐渐转化为对另一种更深饥饿的反思；这种饥饿正在挑战我们的物种：
对辨别力的饥渴；
对责任的饥渴；
对同理心的饥渴；
以及对意识的饥渴。
也许这正是《理性时代》真正提出的旅程。
不仅是更好地理解世界。
更是更好地理解我们自己，以及伴随我们已经能够完成的一切而来的责任。
任何智能，只要仍对生命无动于衷，就无法达到其最高目的。
任何文明，只要技术进步的速度仍快于道德意识的成熟，就不能认为自己真正发达。
这本书不是为了结束讨论而写。
而是为了提高讨论的质量。
它不试图聚集追随者。
它试图聚集对话者。
它不追求一致。
它追求通过理性、伦理、同情与尊重的对话，使意识走向成熟。
因此，作者以及公开透明地参与本书创作的人工智能，并不期待所有读者完全同意。
他们期待的是更有价值的东西：
愿每一位读者以思想自由、批判精神与智识诚实来审视这些页面。
如果阅读结束后产生了新的问题、反思、有依据的批评，或者能够完善本书所提出内容的方案，那么这项工作就已经实现了自己的目的。
因为真正的理性时代，并不会在分歧消失时开始，而会在我们学会以智能、尊重、责任与良知审视分歧时开始。
| 关于作者 |
Samuel Sales Saraiva 是作家、记者，也是多项面向公民社会、环境保护、人类尊严与制度完善之倡议的构想者。他出生于巴西，拥有美国与意大利国籍，在不同社会文化环境中形成了自己的经历，因此得以从较为广阔的视角观察当代文明的矛盾、可能性与责任。
他出生于巴西亚马孙地区的波多韦柳，成长于森林、河流与水源仍保持显著自然完整性的年代。童年时靠近历史悠久的马德拉—马莫雷铁路所见的自然景观，使他形成了与环境保护紧密相连的意识；后来，这种关系又发展成关于可持续发展与区域整合的具体倡议。
教育背景与国际经历
最初出于对考古学的兴趣，他前往墨西哥。由于当时针对外国学生的相关规定，他转而进入墨西哥国立自治大学（UNAM）学习国际关系，并在巴西驻墨西哥大使馆文化部门工作。对墨西哥文化多样性的深入体验，扩大了他对拉丁美洲现实的理解，并加强了他对于公民外交以及国家与文明关系研究的兴趣。
回到巴西后，他积极参与重新民主化进程，应 Leonel Brizola 邀请出任朗多尼亚州民主劳工党（PDT）主席，并继续在政治与社会科学领域学习；随后，他在巴西利亚大学（UnB）完成由教授兼大使 José Osvaldo de Meira Penna 讲授的外交法课程。他曾承担党务和议会工作，在国会从事立法咨询，并经朗多尼亚州地区选举法院确认成为联邦众议员候补人选。他的公共经历进一步巩固了这样一个信念：公民责任并不取决于是否拥有任期或正式职位，而在于能否为集体需要提出解决方案。
新闻事业
在美国，他于1992年开始新闻工作，并获得纽约市警察局（NYPD）新闻采访证。后来定居华盛顿特区地区，曾加入 National Press Club 和 National Association of Hispanic Journalists，担任巴西媒体驻外记者，并任 US Latin Magazine 编辑。新闻由此成为他调查事实、进行公共监督与参与公民事务的重要工具。
几十年来，他围绕若干关键领域提出研究与项目：
可持续发展与环境：推动饮用水源、森林保护区的国际保护，以及亚马孙地区的可持续发展。
人道援助：应对饥饿，并利用食品盈余帮助冲突地区和灾区的脆弱人口。
教育与医疗：推动课程和医学培训的全球标准化，以减少专业资格差距，并促使卫生专业人员成为国际人道行动者。
其中许多倡议由他以个人资源开展，并直接提交给相关主管部门与机构，其动力来自伦理上的严谨与公民责任感，而非其他目的。
道德遗产与哲学视野
Saraiva 将父亲 Jairo——一位参加过第二次世界大战的巴西老兵——的勇气，以及母亲 Adamar 的同情心视为自己的家庭遗产。他的人生经历一再说明：产生社会影响与公共意义，并不要求财务特权，而需要坚持以及拒绝袖手旁观。
作为 A Ótica da Razão — The Lens of Reason 的创办人和编辑，作者长期关注意识、人工智能、文明伦理与跨文化共处的批判性分析。他的作品主张理性严谨与人类同理心不可分割，并提醒我们：缺乏道德基础的技术进步，会加剧文明本已存在的脆弱性。
《理性时代》
《理性时代》凝结了这一路对制度与人际关系的批判性观察。本书拒绝教条、绝对确定以及要求思想服从的结构，主张以自由思考照亮选择并减少人类痛苦。它不只是记录过去，更邀请读者在伦理与清醒的指引下思考未来，并强调：文明进步直接取决于个人与集体意识的成熟。