The Lens of Reazon / A Ótica da RazãoThe Lens of Reazon / A Ótica da Razão

《理性的时代:在伦理保障下的智能交汇》

Samuel Sales Saraiva

 

小布鲁尼尼亚:一只化身为美、神秘、灵感与对人类敬意的温柔小狐狸。

 

在一个温和的2026年夏末夜晚,华盛顿特区,一只小狐狸在一座灯火通明的教堂前等待着也许能让它度过秋天的食物。

具有讽刺的是,食物并没有来自象征着慈善的地方,而是来自一个在门外注意到它饥饿的人的良知。

而正是从那种具体的饥饿中,孕育出了另一种更加巨大的饥饿:对真理、辨别力、意识和同理心的理智饥饿。

这是一场关于意识道德演变与文明未来的哲学探究。

© 2026 萨穆埃尔·萨莱斯·萨赖瓦(Samuel Sales Saraiva)保留所有权利。葡萄牙语原版。未经作者事先许可,本作品的任何部分均不得以任何方式或程序(电子、机械、摄影或其他性质)进行复制、存档或传播,但旨在进行分析、评论、教学和研究的简短引文且须正确标明出处的情况除外。

版权登记——美国

本作品的葡萄牙语原版已于2026年8月5日通过电子版权办公室(eCO)存入美国版权局。该作品的电子存缴已被接收并立案,案号为:Service Request No. 1-15232311491。本版成书时,注册程序正在进行中。

国际版本

英语、意大利语、葡萄牙语、西班牙语、法语、现代阿拉伯语、中文和日语。国际版本完全根据葡萄牙语原版的最终母版编写。

更新说明

理性、权力和文明责任

这部作品的诞生并非旨在替代最初的思考,而是将其推向人工智能自身发展使其变得更加显而易见的后果。

这部作品源于一个核心问题:在不同等提升意识的情况下,单单扩充智能究竟有何价值?这个问题依然完好无损。所加剧的,是面对一种其发展速度 无可比拟地 远超那些被呼吁去引导它的机构、规范和道德共识的技术时,审视该问题的紧迫性。

出于这个原因,这部作品开始更加明确地将三个不应背道而驰的层面交织在一起:追问智能终极目的的哲学层面;评估其对共同生活之影响的文明层面;以及试图确立责任、限制和机制以防止技术权力沦为轻率授权的制度层面。

其目的既不是在人工智能面前煽动恐惧,也不是将它的创造者、研究人员或企业变成进步的对头。而是承认:一项技术干预人类生活的能力越强,为其确立目标、限制以及使用该技术所产生责任的成熟度就必须越高。

正因如此,一些最初在文章中阐述的思考在此处进行了重新构思。它们摆脱了公众评论的局势化形式,融入了本书的永久架构之中。删除了重复内容、过度顺应时局的参考资料以及属于新闻出版节奏的段落,从而保留了那些具有哲学、逻辑、道德和文明视野的内容。

如果技术极大地扩展了我们的行动能力,理性就必须追问什么才真正值得去做。如果权力的增长快于审慎,伦理就必须不再仅仅是一种装饰,而成为一种结构。

因此,这部作品诞生于自始至终指导它的同一原则:我们需要的不是更少的智能。我们需要的是伴随着足以配得上其所掌控权力的足够意识的智能。

献词

我将这部作品献给所有离去的人们的记忆,他们生前甚至未被赋予捍卫自身生命、尊严或希望的权利。

献给那些声音被战争、不容异己、压迫和冷漠所湮没的人们——他们是那些虽肩负着引导各民族走向和平与人类提升之责,却屈服于政治、经济和地缘政治野心之盲目的人们缺乏辨别力的受害者。

围绕在我们身边的这片由愚蠢、怯懦和道德沦丧构成的海洋,其见证是显而易见且令人痛苦的。

面对那场正在摧毁动物生命的怯懦、无声而残酷的毁灭,人们不可能保持最深切的悲伤之沉默。

成千上万温顺而无助的生灵在毁灭性大火的烈焰中遭受折磨并被吞噬,这是一场对地球原始且不负责任的管理所造成的恶果。与此同时,为针对全人类而构想并发射的炸弹,同样以悲剧的方式揭示了那些手握权力却玩忽职守、背弃对生命之责的人们的道德破产。

所有这些生灵所渴望的,仅仅是在其栖息地中和平生活,远离痛苦与苦难,单单凭借自然权利去享受存在的奇迹。

生命作为一种自然权利以及保护它的道德责任,构成了应当引导人类意识的原则。存在既不是权力所赋予的特权,也不是那些掌握毁灭手段之人的财产。其价值超越了政治权宜之计、经济利益和支配野心。

由于蔑视有意识思考的能力以及引领文明走向公正、健康和充实存在的崇高责任,这些行动者自贬了人类自身的条件。他们沉湎于物质积累和政治统治的虚幻追求中,却忘记了生命那不可避免的无常。

人类改造世界的能力越强,保护世界的责任就应当越大。不承认行使权力的伦理限制的智能,面临着将自身转化为摧毁其本应保护之物的工具的风险。

文明意识的真正提升,不仅取决于所积累的知识、所开发的技术或所征服的权力,还取决于识别、尊重和保护那些没有声音来主张自身生存权利之生灵存在的最大能力。

因为一个尚未学会尊重生命脆弱性的文明,尚未彻底理解理性的伟大。

我也将这部作品献给那些在力所能及的范围内,试图探究我们集体失败根源并致力于建设一个更加公正、富有同理心、有意识、团结且承诺对所有生灵尊严负责的文明的人文学者、思想家、教育家和公民。

最后,我将这部作品献给那些认识到理性当被伦理照亮并伴随同情时,不仅构成一种思维能力,更构成一种道德义务的人——这是一盏能够在人类尚未完成的文明征程中指引方向的明灯。

《推荐序》

推荐序 · 参议员阿尔瓦罗·迪亚斯(Álvaro Dias)

有些书诞生于漫长的研究,而有些书则源于沉静熟虑、直至找到表达形式的内心不安。萨穆埃尔·萨赖瓦(Samuel Saraiva)所著的《理性的时代:在伦理保障下的智能交汇》便属于这第二类。

这部作品始于一个简单的场景:在一个夏夜,一只饥饿的小狐狸立于一座灯火通明的教堂前。这看似是一个寻常的插曲,但若怀着敏锐的心去观察,它便转化为一个关于人类及其命运的本质追问。

本书便诞生于这一追问:在一个智能以前所未有的速度扩张的时代,身为人类究竟意味着什么?更重要的是,我们是否能够使自身的意识得到同等程度的发展?

这些问题超越了技术本身,关乎人类自身的生存状况。

人类文明在知识与改造世界的权力方面已达到了惊人的高度。人工智能更是进一步拓宽了这一视野。然而,技术进步本身并不能自动保障道德进步。

由此便浮现出本书的核心关切:在不同等提升意识的情况下,单单扩充智能究竟有何价值?

知识与智慧并不等同。智能赋予能力;而意识必须指引其使用。技术提供手段;唯有人类的价值观才能确立其终极目的。

就此而言,萨穆埃尔的书提出,文明的下一个阶段也许不在于积累更多的权力,而在于学会以责任感去行使权力。这使得诸如同情、团结、尊重、尊严以及对生命的关爱等核心价值重新回到了最前沿。

叙事开端的狐狸形象因而具备了象征意义:面对脆弱与无助,人类的良知被召唤在冷漠与关爱之间做出抉择。正是在这些往往简单而无声的抉择中,展现出了我们人性品质的尺度。

我了解萨穆埃尔·萨莱斯·萨赖瓦作为新闻工作者和知识分子的历程,也深知他的思考并非仅仅源于象牙塔式的学术观察,而是源于一生致力于对社会、政治及集体命运的深沉思考。这其中有着深刻的知行合一。在数十年的公职生涯中,这些价值不断经受考验;因此,受邀为这部关于理性、伦理与意识的著作撰写推荐序,对我而言是一份莫大的荣幸。

政治在其最高境界,也是一种对未来的责任感——即不断追问我们希望为下一代留下一个怎样的社会。

我们正身处一个巨大变革与不确定性并存的时代。人工智能将以惊人的方式拓展我们的能力,但它无法替我们决定什么是公正、尊严或人性。价值的选择将始终是一项不可转让的责任。

正因如此,真正的“理性时代”也许并不是我们懂得最多的时代,而是我们能更好地理解自身行为后果的时代。

这部作品所提出的挑战清晰而紧迫:必须让智能的进步伴随着意识的成熟。

一本好书不会终结一场讨论,而是延续它。这正是这部作品所实现的目标。

通过从与一只小狐狸的偶遇到对文明命运的反思,萨穆埃尔·萨赖瓦提醒我们,伟大的课题可以孕育于看似平凡的微小之处——而最本质的真谛往往在最不起眼的事物中显现。

因此,推荐这本书不仅是推荐一部作品,更是呈现一种深沉的关切。

一种面对未来的关切。

一种寄望于人类在扩充智能的同时也能扩充意识的期盼。

以及一种坚定的信念:真正的进步不仅取决于我们创造了什么,更取决于我们能够保护、尊重和关爱什么。

愿《理性的时代》成为每一位读者思考的邀请函。

因为人类的下一次伟大演进,也许不在我们面前。

它也许就在我们内心深处。

祝贺这部力作的诞生,能为其作序深感荣幸。

阿尔瓦罗·迪亚斯

2026年8月7日 于 巴西巴拉那州库里蒂巴

关于推荐人

阿尔瓦罗·迪亚斯(Álvaro Dias)是资深新闻工作者、历史学教授,也是巴西公共生活中最具资历与经验的人物之一。在数十年的政治生涯中,他曾历任市议员、州议员、联邦众议员及联邦参议员,并曾担任巴拉那州州长。2018年,他曾作为候选人参加巴西总统大选。在他的职业生涯中,他因长期参与有关公共伦理、制度责任、民主与巴西发展的全国性辩论而出类拔萃。他在公共事务中的丰富历程,构成了巴西当代重要变革的生动见证。

前言

前言 · 当两种智能结伴同行

这部作品源于一个核心的关切:为什么人类虽然取得了非凡的科学与技术发展,但在将知识转化为智慧、将权力转化为责任、将进步转化为共享的尊严方面,依然面临如此巨大的困难?

《理性的时代》并非为了孤立地展示学识而作,亦非为了宣告某种终极真理。它的源头在于作者丰富的人类经历与人工智能的分析能力之间持续不断的对话——人工智能在此被用作反思、概念梳理、思想碰撞以及语言精炼的工具。

这一情况值得以绝对透明的方式呈现。

萨穆埃尔·萨莱斯将其一生的经历、记忆、关切、信念,以及在数十载对政治、制度、人际关系、自然界和至今仍困扰文明的不平等现象的观察中成熟起来的追问,全部注入了这部作品。

他也带来了属于深知“当理性脱离同情时,虽能扩大人类权力,却未必能提升其道德状况”之人的敏锐感。

而人工智能的任务,则是协助他构建论据、识别交汇点、减少重复、深化概念,并寻求更高的清晰度、连贯性与普遍适用性。

亲身的体验属于作者。概念的灵感、哲学的取向、道德的意图,以及对书中思想与抉择的责任,同样完全属于作者。

人工智能没有童年,没有家庭记忆,没有痛苦,没有希望,没有道德意识,也没有属于自己的存在规划。它的参与是一种分析性与协作性的工具,能够审视概念间的联系、提出对立视角、组织观点,并帮助将分散的直觉转化为更加严谨的思想架构。

然而,正是这种协作本身揭示了本书的核心课题之一:技术无需取代人类的意识;它可以协助意识进行自我审视、扩大理解力,并完善其提出问题与构建解答的能力。

这部作品本身就是一项示范,证明了人类智能与人工智能能够——并且面对当代的挑战,也许应当——结伴同行。

这并非为了让其中一方取代、主导或贬低另一方,而是为了让它们各自独特的能力得以交汇,共同服务于意识的发展。

人类智能提供经验、敏锐度、直觉、记忆、创造力、目标感与道德责任。人工智能则提供分析、比较、组织、模式识别以及拓展思考可能性的资源。

在这一协作中,两种智能之间不存在争夺、主从或竞争。存在的是相互承认——即清晰地承认各自不同的能力、局限与功能。

人类智能无需贬低人工智能来维护自身的尊严,人工智能的贡献也无需占据人类经验的位置来证明其价值。这项合作之所以富有成效,恰恰是因为双方各守其位,奉献出各自所能提供的最佳价值。

人类智能带来了灵感、亲历的经验、道德敏锐度与目标感。人工智能则在分析、组织、比较、概念深化以及语言精炼方面做出了贡献。

源于这种相互承认的,是一种不以追求主导地位为导向,而是承诺将知识服务于意识与人类的构建过程。

当这种相互承认在伦理导向下发生时,便能产生一种足以深化理解、使思想更加清晰、严密且易于理解的合作。

关于这种互动,至今仍存在不少误解。

有些批评源于正当的关切,值得引起重视。人工智能的开发与应用需要审慎、透明、边界、人类监督,以及对尊严、自由和生命保护的永久承诺。

然而,另一些批评则将担忧、无知或本能的排斥转化为绝对的对立,往往缺乏足够合理的依据。

有人假定承认人工智能的贡献会降低人类创作的价值。也有人在理解其本质、局限与可能性之前,就盲目拒绝这种合作。

本书力求为消除这些偏见做出贡献。

两种智能之间的互动并不意味着人类对技术的服从,亦不代表取代人类的经验、创造力、敏锐度或道德责任。

它意味着承认不同的能力可以在追求更高的清晰度、辨别力、理解力与意识的过程中形成互补。

人工智能不应占据人类良知的位置。它应当始终服务于良知,协助审视思想、拓宽视角、识别关联,并完善那些能够服务于生命与尊严的论据。

危险并不必然存在于人类智能与人工智能的接近之中,而存在于任何缺乏伦理导向、透明度或责任感的智能形式的使用之中。

人类智能在脱离良知时,同样制造了战争、压迫、不平等、环境破坏与苦难工具。智力本身从来不是智慧的保证。

正因如此,我们这个时代真正的挑战也许不仅仅是开发出更聪明的机器,而是建设出具有足够意识的社会,以决定如何使用这种智能。

获得的权力越大,应当承担的责任就越沉重。

无差别地拒绝人类与人工智能之间的合作,可能会妨碍人们理解、完善这些技术红利,并将其引导至真正具有文明意义的目的上去。

照亮人类前行道路的不是无知的黑暗,而是知识之光——无论是自然的还是人工的——当它被意识、伦理与责任所引导之时。

《理性的时代》的价值不在于为人类的困境提供现成的终极答案,而在于在一个技术权力日益膨胀的时代,激发一场关于应引导我们决策的伦理与文明基石的合理讨论。

人工智能以非凡的方式拓展了处理信息、识别模式、比较视角和加速知识生产的能力。然而,这些能力本身都无法单独决定什么是公正、尊严、富有同情心或在道德上可接受的。

这些抉择始终属于人类。

这部作品不仅仅是在捍卫某种特定的解读,而是旨在为一场清醒、多元且立论严谨的讨论做出贡献,使之能够超越任何性质的宗派主义——无论是政治的、意识形态的、宗教的、经济的、文化的还是技术的。

其意义不应通过对所呈现观点的即时认同来衡量,而应通过其激发追问、拉近知识、鼓励建设性批评以及促进制定切实可行的伦理方案的能力来体现。

《理性的时代》不寻求聚集追随者,亦不寻求建立新的教条。它寻求凝聚那些愿意思考、对话与合作的良知,并承认:当教条的对抗取代了对事实与论据的坦诚审视时,没有任何一个社会能够走向成熟。

因此,书中的思考被呈献给公民、教育工作者、研究人员、民间社会机构、国家以及多边组织,无论其文化传统、政治倾向或哲学信念为何。

此处所倡导的理性不属于任何单一群体、意识形态或权力结构。它是全人类的共同财富,也是构建文明交汇不可或缺的工具。

本项工作最大的宗旨,是致力于使正当的分歧能够在没有敌意的情况下得到审视,使批评不致转化为不容异己,并使不同的视角能够在宗派利益之上找到一片共同的土地:即对生命、尊严、思想自由以及共享未来的保护。

书中的论据力求证明,哲学原则只有在能够启发具体且可操作的方案时,才具备完整的意义。

伦理不应仅仅停留在抽象层面。它需要指引教育、经济、科学、政治、环境保护、技术发展以及人与人、民族与民族、物种与物种之间的关系。

仅仅将理性提倡为单纯的逻辑能力也是不够的。一种真正具有文明意义的理性,需要认识到权力的界限、生命的脆弱,以及源于人类与地球相互依存关系的责任。

本书中所展现的合作,并未消除作者与协助他的技术之间存在的深刻差异。相反,它使这些差异清晰可见。

在一端,是人类的经验,烙印着记忆、勇气、丧失、希望以及为存在赋予意义的渴望。

在另一端,则是一种能够分析海量信息、组织论据并提供视角的技术,但它本身并没有需要保护的生命、需要避免的苦难,或是需要构建的命运。

唯有当技术始终服务于人类的反思而非企图取而代之的时候,这种交汇才具备合法性。

因此,在撰写本书过程中所展现的合作关系,不应被理解为令人尴尬的原因,而应被视为新文明里程碑的真实与正当表达。

在某些人看来仍感到陌生的事物,也许正代表着我们这个时代最具前景的可能性之一:人工智能与人类智能的概念灵感、敏锐度及责任感相结合。

因此,这本书不仅仅是对这种可能性的一场反思。它是一个具体的范例,证明了这种结合已经能够实现。

两种形式的智能参与了本书的创作,在尊重各自差异与相应角色的前提下,受同一个宗旨所指引:即促进意识的成熟,并将知识服务于生命、尊严与文明责任。

阅读《理性的时代》,不应将其视为一场智力旅程的终点,而应将其视为一场更广泛对话的起点。

它的每一页都在邀请人们表达赞同、提出理据充分的分歧、进行建设性的批评,并完善书中提出的方案。

任何致力于理性的作品都不应害怕质疑。相反,应当将质疑视为知识成熟不可或缺的条件。

然而,一项有责任感的质疑不能仅限于系统性的拒绝、肤浅的否定或宗派式的排斥。它需要审视整体思想,并用同样连贯、全面且在理性上站得住脚的论据予以回应。

并不强制要求赞同。要求的是学术与思想上的诚实。

能拓展理解力的批评是受欢迎的。提出更佳依据的分歧有助于完善本书及讨论本身。然而,那种只是一味否定而不直面论据实质的反对,是无法超越其所质疑的内容的。

理性并不要求豁免于批评;它要求的是批评本身也必须服从于理性。

在创作本书过程中的合作,使人们得以识别出贯穿所有章节的一致性:即坚信未来将不仅由人类成功创造的技术所决定,更由人类在使用这些技术时选择守护的价值所决定。

理性既可以拓展自由,也可以精炼控制。

智能既可以减少苦难,也可以加深不平等。

进步既可以保护生命,也可以加速其毁灭。

方向不会由机器自主选择。它将由人类、由人类的制度,以及由人类接受作为共同生活基石的原则来决定。

这也许是本书最重要的信息:人类已经开发出了改造世界的强大工具;现在需要开发出足够的意识,以免在自身的变革中迷失方向。

如果这些篇章能够有助于扩大致力于人类尊严、生命保护以及构建可行伦理替代方案的公民、机构、研究人员、国家与组织之间的对话,那么它们便实现了自身的宗旨。

《理性的时代》不会由某项技术突破、某道法令或自我宣告优于前人的某一代人来宣告开幕。

它将在智能、责任与同情不再背道而驰之时正式开启。

《读者》

致读者 · 一场探究的邀请

如果你在寻找最终的答案,这或许并不是你所期望的那本书。

如果你在寻找人类巨大困境的罪魁祸首,你同样不会在这些字里行间找到它们。

这部作品的撰写并非为了谴责个人、机构、政府、宗教或经济体系。它也无意取代哲学传统、炮制一门新的教条或呈现一个封闭的思考体系。

它的宗旨既简单又严苛:邀请读者进行反思、探究与辩论。

我们正身处一个非凡的时代。

人类从未拥有过如此丰富的科学知识、如此宏大的技术能力以及如此强大的手段去理解和改造世界。

我们从未生产过如此多的财富。

我们从未进行过如此迅速的交流。

我们从未在自然、社会结构以及我们自身之上积累过如此巨大的权力。

然而,有一个问题依然悬而未决,没有任何一项成就能够给出完全令人满意的解答:

人类的意识是否随着其智能的发展达到了同等的比例?

这一追问构成了本书的出发点。

它将不通过指控、口号、意识形态的简单化或绝对的真理来进行审视,而是通过一种植根于哲学与跨学科性质的反思来探讨,受理性、逻辑、历史经验、对人类境况的观察以及(在适用时)可验证的事实与证据所引导。

这里呈现的思想并不声称拥有最终的权威。它们应被理解为反思的假说,对批判性审查、有理有据的反驳、相互尊重的异见以及辩论所带来的完善保持开放。

在这些篇章中,我们将审视一些表面上各不相同的概念——意识、同情、饥饿、道德责任、人工智能、文明与交汇——它们并非孤立的主题,而是同一个根本问题的不同表象:

归根结底,智能的真正目的究竟是什么?

或许我们会发现,智能本身虽能扩大可能性,却无法决定其运用的目的。

或许我们会理解,理性指导着抉择,却无法替代评估其后果所需的意识。

或许我们会意识到,任何形式的知识,只要对可避免的痛苦、人类的尊严和生命的脆弱保持冷漠,就无法达到其最高的高度。

并且,我们或许会被引向这样一种假说:人类演进的下一个伟大阶段,将不仅取决于技术、科学或经济的进步,还将取决于意识在伦理与道德上的成熟。

这部作品面向由好奇心和理解欲望驱使的普通读者,同时也面向有志于批判性审视理性、知识、技术、责任与文明之间关系的教师、学生、研究人员和学者。

通过将哲学反思拉近到通俗易懂的语言,本书旨在助力这些议题跨越专业圈子的界限,走向更广泛的对话空间,使学术知识贴近人类的日常生活。

它无意提供供简单吸收的现成内容,而是希望提供能够在课堂、学习小组、研究空间、文化机构和公共讨论环境中被审视、碰撞、反驳和发展的思想与追问。

读者具有批判性的贡献并非对本书的外在异议,而是其自身宗旨不可或缺的一部分。有理有据的批评、尊重的分歧以及不同的解读,对于扩大辩论的广度、揭示可能存在的局限、修正不足以及推动知识在持续完善的进程中前行至关重要。

当思想受到充满学术诚意的质疑时,它并不会被削弱。相反,它在批判性审查中找到了证明自身严谨性、承认自身界限并拓展理解能力的机会。

同样,人们也期待这些思考能够有助于形成一种多元文化、跨学科且多语言的学术对话,在此对话中,不同的哲学传统、历史经验、科学视角和世界观得以交汇而又不失其本色。

推出英语、葡萄牙语、西班牙语、法语、现代阿拉伯语、中文和意大利语版本的构想,旨在扩大作品的文学与学术影响力,使来自不同社会、文化和知识传统的读者、教师、学生和研究人员能够审视其中的追问。

翻译一种反思,并不仅仅意味着在另一种语言中重现其字句。它意味着允许这种反思被不同的现实理解方式所诠释、质询和丰富。

没有任何一种文化、语言、学科或思想流派能够孤立地拥有关于人类境况挑战的所有答案。多样的诠释不应被视为构建知识的障碍,而应被视为知识最肥沃的源泉之一。

这种语言和文化的拓展,并不旨在推行意识形态的、党派的、宗教的或宗派的归属。相反,它旨在扶植一个独立的探究空间,使各种思想能够根据其连贯性、逻辑一致性、与可验证事实的契合度以及对理解现实和人类境况的贡献能力来接受评估。

理性、逻辑、批判性审查和学术诚意构成了本提案的基石。

人工智能可以作为研究、组织、比较、翻译以及扩大知识获取途径的辅助工具发挥贡献。然而,它不被视为绝对的权威、绝对无误的源泉或人类辨别力的替代品。它的贡献同样必须接受验证、修正,并与可靠的来源和坚实的证据进行比对。

同样,本书中的任何论断,都不应仅仅因为它符合作者或读者的信念而被盲目保留。思想必须由论据支撑,在事实的光照下接受审视,并在新的证据或更严谨的诠释建议时随时予以修正。

因此,来自不同语言、文化和学术传统的贡献,将构成本工作宗旨不可或缺的一部分。有理有据的分歧能够揭示局限、修正不足并丰富辩论,而任何单一的视角均不自诩为真理的独占者。

我不求读者赞同此处呈现的结论。

我只请求读者怀着批判精神、学术诚意、对异见的开放心态以及重新审视某些或许我们早已不再提出的追问的意愿,来走完这段旅程。

有些书提供答案。

有些书唤醒情感。

还有一些书,它们默默无闻地试图改变我们向自身、向社会、向我们所生活的历史时代所提出之问题的品质。

如果这些篇章能够有助于激发个人的反思、多元文化与多语言的学术对话、批判性探究以及社会对开放、尊重且立论严谨的辩论之参与,它们便真正找到了其存在的理由。

因此,我邀请你开启这场探究。

不仅关于我们所构建的世界,

更关于我们选择用来理解它、改造它并栖息于其中的意识。

《序言》

序言 · 一个问题的觉醒

有些问题历经数个世纪而不衰。

它们不属于某个特定的世代、文化或时代。

它们默默地伴随着人类的发展轨迹,因为尽管在历史上得到了各种不同的回答,它们却从未停止对我们良知的挑战。

我们是谁?

我们正走向何方?

归根结底,“演进”意味着什么?

数千年来,我们的物种通过不断扩大理解世界的能力,来试图回答这些问题。

我们学会了驾驭火焰。

我们耕耘土地。

我们建造城市。

我们发明了文字。

我们发现了自然规律。

我们拓展了科学的视野。

我们创造了能够深刻改造现实的技术。

最近,我们开发出了人工智能,以前所未有的规模进一步扩展了我们认知、分析和决策的能力。

每一项这样的成就,都代表着人类智能的一次非凡胜利。

然而,也许存在一个比以往所有问题都更为重要的问题:

我们的意识是否随着智能的发展达到了同等的比例?

这一追问构成了这部作品真正的出发点。

文明的历史似乎揭示了一个悖论。

我们从未生产过如此多的财富。

我们从未积累过如此宏大的知识。

我们从未拥有过如此强大的手段去理解宇宙、修改自然并改造人类生活。

但我们也从未拥有过如此巨大的权力去加剧不平等、破坏生态系统、完善战争工具,或对那些本可避免的苦难保持冷漠。

也许当代文明的根本问题并不在于智能的不足。

而在于意识的不足。

这一假说并未贬低科学、技术或创新的重要性。

恰恰相反。

它在其中认出了人类最非凡的一些成就。

但它同时提醒我们,权力的每一次扩张,都在同等程度上增加了对该权力将如何被使用所应承担的责任。

正是在这一点上,本书提出了一种反思。

不是关于用意识取代智能,而是关于它们之间必不可少的交汇。

因为脱离意识的智能可能会扩大权力。

脱离智能的意识可能会限制改造现实的能力。

一个真正成熟的文明,也许二者兼需。

在这些篇章中,我们将展开一场探究:它起于个体,延至社会,并投射向文明自身的未来。

我们将反思意识的成熟、同情、道德责任、作为可避免痛苦之表征的饥饿、正义的含义、人工智能的作用,以及不同智能形式为生命实现交汇的可能性。

这并非旨在捍卫某种乌托邦。

亦非忽视人类问题的复杂性。

这关乎去追问:我们物种所取得的非凡智力发展,最终能否伴随着其道德意识的同等发展?

如果这一假说成立,那么人类演进的下一个伟大阶段也许就不是生物学意义上的。

也不是技术意义上的。

它也许是伦理的。

它也许是文明的。

它也许正是人类开始理解以下真理的时刻:智能与意识并不代表两条不同的道路,而是同一责任不可分割的两个维度。

如果这本书能够哪怕微不足道地为保持这一问题的活力做出贡献,它便完全达成了自己的宗旨。

因为历史上的每一次伟大变革,都始于答案出现很久之前。

它始于当某个人拥有了勇气,去提出一个再也不能被忽视的问题。

这也许就是贯穿本书挑战的最简单写照:一个文明面对着一辆极其强大的载具,它能够将文明带往以前无法想象的地方。

因为害怕速度而摧毁发动机是不理智的。

盲目庆祝速度却鄙视刹车同样是不理智的。

智慧在于理解:动力、方向和制动能力同属于一次安全旅程的同一个架构。

对待智能也当如此。

没有目的的知识可能会扩大权力。没有手段的道德可能仅仅停留在意图。但智能、意识与责任一旦交汇,便能将可能性转化为真正的进步。

智能将我们带到了这里。

意识将决定我们去往何方。

第一章

第一章 · 意识的觉醒 · 意识的时间

有一种时间是由钟表衡量的。

还有另一种,是沉静无声的,唯有意识方能感知。

第一种时间安排着我们的约会、日历和日常作息。

第二种时间则安排着对生命本身的理解。

正是这种隐形的时间,将经验转化为学问,将苦难转化为成熟,将知识转化为智慧。

年代学属于世界。

成熟度属于意识。

因此,两个人可以经历完全相同的事件,却对存在产生截然不同的理解。

并非时间本身改变了我们。

而是在时光流逝中我们所能理解的一切改变了我们。

在生命的大部分时光里,我们相信成熟意味着增长岁力、积攒知识、取得成就或积累经验。

然而,经验本身并不自动产生意识。

它仅仅为意识的觉醒提供契机。

有人在数十载岁月里重复着同样的错误。

有人则将单单一件变故转化为一所深刻的人生学校。

差异鲜少在于客观事实本身。

而在于内心从事实中汲取教训的意愿。

也许正因如此,真正的成熟无法被强加。

它不源于年龄。

不源于权威。

也不仅仅源于孤立的苦难。

它源于坦诚审视自身存在的勇气——坦诚到足以承认我们始终处于不断的塑造之中。

一切意识都在缓慢地走向成熟。

首先,我们学会观察世界。

接着,我们开始观察他人。

唯有在很久之后,我们才发现最艰难的挑战:观察我们自己。

这也许是人类存在中最微妙的边界。

因为识别他人的失误相对容易。

要坦然承认我们自身所携带着的局限,则要艰难得多。

然而,没有任何真正的变革始于外部。

一切真实的转变,都诞生于意识不再去寻找罪魁祸首、转而去寻求理解的时刻。

这一时刻代表着人类自由最伟大的成就之一。

并非因为它抹去了过去。

而是因为它改变了我们与过去对话的方式。

过去不再是一座牢笼。

它化身为了导师。

错误不再是终身判决。

它们转化为了成长的契机。

创伤不再定义我们是谁。

它们融入到了历史之中——通过这段历史,我们学会了更好地去理解痛苦、脆弱以及人类境况本身。

也许正是在这一瞬间,意识开始从无益的罪恶感重负中解脱出来。

并非因为它遗忘了曾经的遭遇。

而是因为它终于理解:没有任何人能够超越其当时所具备的认知极限去做出完全有意识的行为。

这一认识并未消除对其行为的责任。

恰恰相反。

它使责任变得更加深沉。

因为责任不仅在于承认过去的错误。

更在于决定这些错误将不再主宰未来。

正是在这一点上,诞生了成熟最重要的体现之一:宽恕。

不仅是给予他人的宽恕。

更是给予自身意识的那份艰难而沉默的宽恕。

原谅自己并不意味着为错误的选择辩护。

它意味着承认人类处于永恒的学习进程之中。

理解这一点的人,不再作为罪恶感的囚徒而生活,转而作为致力于自我转变的人而生活。

也许没有任何一种自由比这更为伟大:继续演进的自由。

因为意识不会一蹴而就地觉醒。

它在持续不断地走向成熟。

每一次经历都拓宽其理解。

每一个错误都可能增加其谦逊。

每一份同情举动都丰富其敏锐。

每一项承担起的责任都坚定其尊严。

也许正因如此,意识真正的时间无法用日历来衡量。

它是通过面对生命时不断增长的理解、关爱以及承担日益重大责任的能力来衡量的。

这才是真正改变我们的时间。

而这也许也是唯一能够让人类为自身演进的下一个阶段做好准备的时间。

第二章

第二章 · 原谅自己的自由

在人类所能争取到的所有自由形式中,也许存在着最艰难且最少被理解的一种:与自己达成和解的自由。

许多人一生都背负着那些希望自己从未做出过的选择的重担。

另一些人则沦为了那些本不该说出口的话语、错失的良机或在记忆中持续无声回响的疏忽的囚徒。

过去具备一个独特的特征:没有任何事物能够改变它。

但意识可以深刻地改变我们去理解它的方式。

铭记与沦为囚徒之间存在着根本的区别。

铭记,是承认自身的历史。

沦为囚徒,则是允许这段历史无限期地决定我们自以为是谁。

一颗走向成熟的意识会渐渐懂得,没有任何人类的存在能够仅仅由其错误的叠加来定义。

每个人同样代表着其学习、转变与重新开始的能力。

这也许是人类尊严最伟大的体现之一:永恒演进的可能性。

我们并不完全是二十年前的那个自己。

也不是十年前的自己。

甚至在许多时候,也不是几个月前的自己。

我们对现实的理解在改变。

我们的敏锐度在成熟。

我们对他人苦难的感知变得更加深刻。

责任在增长。

而随着责任的增长,以更大的坦然审视过去的胸怀也在增长。

这并不意味着无差别地赦免自身的错误。

每一个行为都会产生后果。

每一个抉择都会引发责任。

承认这些,构成了道德成熟不可或缺的一部分。

然而,在责任与永久的判决之间存在着深刻的差异。

责任开启了通往转变的大门。

判决则关死了所有成长的可能性。

也许正因如此,如此多的人在情感上处于停滞状态。

他们将悔恨与自我惩罚混为一谈。

以为无限期地背负罪恶感代表着某种形式的正义。

在现实中,这仅仅是延长了早已完成其教育功能的苦难。

内疚感扮演着重要的角色。

它唤醒意识去关注那些需要被承认、修复或纠正的事物。

但是,当它不再导向转变,转而阻碍任何重新开始的可能性时,它便失去了道德功能,转化为了牢笼。

没有任何意识能通过戴着枷锁戴在过去而成熟。

它通过从过去中学习而走向成熟。

人生中最艰难的发现之一,也许在于理解每个人都是根据其在特定时刻所拥有的意识与理解极限来行事的。

这并未消除责任。

但它阻止了我们将过去变成终身判决。

今天理解得更好的人,已不再完全是昨天理解得较少的那个人。

意识的演进同样改变了我们诠释自身历史的方式。

这种理解产生了一种深沉的宁静。

我们不再不停地追问:“我当初为什么要做那件事?”

而是开始追问:“我从那件事中学到了什么?”

这种转变彻底改变了我们与存在的关系。

过去不再是罪恶感的永久源泉。

它化身为了学校。

伤疤依然存在。

但它们不再仅仅代表苦难。

它们也开始见证学问。

真正给予自己的宽恕,也许正是在此处萌发。

这不是基于遗忘的宽恕。

亦非基于否认自身错误的宽恕。

而是基于这样一种理解:唯有当我们接受继续前行时,意识在道德上的演进才成为可能。

没有任何人能在自身的失败面前保持停滞而走向成熟。

当一个人将失败转化为责任,将责任转化为学问,并将学问转化为一种全新的生活方式时,他便走向了成熟。

然而,这其中包含着一个更为深刻的后果。

学会坦诚地与自己和解的人,也变得更有能力去理解他人的局限。

过度的苛刻往往源于无法接受自身的脆弱。

相反,同情心往往在那些早已毫无幻觉地承认了自身缺陷的人心中绽放。

也许正因如此,给予自身意识的宽恕从来不构成软弱的举动。

它构成了成熟最伟大的体现之一。

因为唯有不再与自己的过去缠斗的人,才能找到真正的自由去为未来承担责任。

这也许是人类存在中最默默无闻的革命之一:不是去改变已经发生的事实,而是深刻地改变在事实发生之后我们所成为的人。

也许正是这种自由,让意识为其下一个挑战做好了准备。

不仅是理解自身,更是学会从他人的尊严中,确认我们默默为自己所主张的同等演进权利。

第三章

第三章 · 真正的美德

人类历来仰慕美德。

在所有的文化、时代和传统中,我们都能找到因生命的正直、抉择的勇气以及将共同利益置于个人利益之上的能力而被世人铭记的男男女女。

然而,在仰慕美德与理解美德之间存在着深刻的差距。

在漫长的历史中,美德往往与声誉、声望、对规范的严格遵守或公众的认可联系在一起。

很多时候,我们将善良的形象与善良本身混为一谈。

然而,走向成熟的意识会渐渐懂得,真正的美德具备一个独特的特征:它不依赖于见证者。

善即使在无人瞩目时依然是善。

正直即使在毫无回报预期时依然是正直。

同情即使在不产生认可时依然保留其价值。

也许正是在此处,美德展现出了其最高的形式。

它不再寻求认可。

转而寻求知行合一。

知行合一构成了道德成熟最沉静的体现之一。

它拉近了我们所思考的、我们所说的与我们所做的之间的距离。

这种交汇鲜少制造噱头。

它制造信任。

而对于一个文明而言,鲜少有比通过正直建立起来的信任具备更高价值的财富了。

然而,我们身处一个外表往往比本质获得更多关注的时代。

我们学会了表达美德。

却未必学会了培育美德。

技术极大地拓展了我们被看见的能力。

但是有一个问题依然悬而未决,任何公开展示都无法给出解答:当无人瞩目时,我们究竟是谁?

也许正是在这片隐形的空间里,意识展现出了其真正的尺度。

因为伦理并不诞生于监视。

它诞生于自由。

出于对惩罚的恐惧而被迫做出的行为,尚不代表美德。

它代表审慎。

真正的美德始于当即使拥有采取不同行为的自由时,我们依然选择做公正的事。

这一区分至关重要。

它将道德从义务的领域转移到了意识的领域。

我们做正确的事,不仅因为我们“应该”做。

我们做正确的事,是因为我们理解这一抉择的基石。

正是这种理解,将规则转化为了信念。

然而,任何意识在未面对一个永久的挑战之前,都无法达到这一阶段:自我(Ego)。

也许没有任何力量能对人类的抉择施加如此持续的影响。

对认可的渴望。

对赞同的需求。

对声望的追求。

权力的诱惑。

这些本身都不构成邪恶。

当它们占据了本属于意识的位置时,便产生了问题。

每当形象变得比真理更重要时,美德便开始失去其真实性。

每当认可的价值高于所提供的服务时,慷慨便滑向了虚荣。

每当外表取代了本质,道德便转化为了表演。

这也许是人类境况最大的脆弱性之一。

在自身真正变好之前,我们往往容易受到“显得更好”的诱惑。

但走向成熟的意识颠覆了这一逻辑。

它懂得,一切真正的转变都是由内而外发生的。

首先改变的是品格。

接着改变的是态度。

唯有到了最后,他人对我们的感知才会改变。

这一顺序不可颠倒,否则真实性便会受到损害。

然而,存在着一个更为深刻的标准来识别美德:即我们对待那些无法提供任何回报之人的方式。

孩童。

老人。

陌生人。

患者。

贫者。

饥者。

无助的动物。

在这些相遇中,几乎所有个人获益的可能性都烟消云散了。

留下的唯有意识。

也许正因如此,给予最脆弱者的关爱如此深刻地揭示了我们究竟是谁。

并非因为脆弱使某人变得高人一等。

而是因为它将一个任何意识都无法规避的问题摆在了我们面前:面对生命赋予我责任之下的权力、资源与能力,我将用它们来做什么?

这个问题将伴随着全人类。

它将存在于个人的抉择中。

存在于机构中。

存在于经济中。

存在于政治中。

存在于科学中。

也同样存在于人工智能中。

因为在本质上,一切智能都将被要求对其自身权力的使用做出交代。

这也许才是美德真正的定义。

并非完美。

而是永恒地选择将我们的能力服务于生命的尊严。

当这种理解走向成熟时,美德便不再代表一套示范性的行为集合。

它转化为了某种存在的方式。

一种沉静、连贯且极具人性光辉的栖息于世界的方式。

而也许正是在这一瞬间,意识做好了跨出下一步的准备:发现其责任不再止于自身。

随着它承认生命皆具尊严、且一切尊严都在召唤我们去关爱时,其责任便得到了拓展。

正是在意识与责任的这场相遇中,将孕育出引领至本书下一部分的深刻反思。

第四章

第四章 · 意识与他人 · 被同情照亮的理性

在意识演进的过程中,存在着一个沉静的时刻:它不再仅仅追问我们是谁。

转而开始追问谁在受苦。

这一改变看似简单。

在现实中,它代表着一个人所能体验到的最伟大的转变之一。

当意识依然仅仅面向自身时,其发展尚不完整。

唯有当它发现一切人类存在的最高意义在于其与其他生命形式建立的关系之中时,它才真正走向成熟。

正是在这一瞬间,同情心萌发了。

在漫长的历史中,同情往往被诠释为一种情感。

一种高尚的情操。

一种令人钦佩的美德。

尽管这一切皆为事实,但其本质也许更为深刻。

同情心构成了一种道德智能的形式。

它代表着在他人的苦难中认出一种同样与我们息息相关的现实的能力。

并非因为我们对世间所有的痛苦负有罪责。

而是因为我们不再将其视为在道德上冷漠无关的事物。

这一差异彻底改变了我们理解自身置身于世界之方式。

他人的痛苦不再仅仅是一个被观察到的事实。

它化身为了一个直接面向我们自身意识的质问。

一切文明都建立在抉择之上。

我们选择我们将生产什么。

选择我们将消费什么。

选择我们将保护什么。

选择我们将资助什么。

选择我们将教授给后代什么。

但在所有这些抉择之前,存在着一个更为优先的抉择:关于我们能够将什么视为重要的决定。

正是在这一点上,理性与同情不再代表两条背道而驰的道路。

在很长一段时间里,人们相信理性应当与情感保持距离,以维护其客观性。

这一区分对科学思想的发展做出了巨大贡献。

然而,当被搬运到伦理领域时,它便显现出局限与不足。

因为理性可以指出手段。

却无法凭借自身决定终极目的。

我们可以建造一座桥梁。

理性解释如何建造。

意识则追问谁将从中受益。

我们可以开发出非凡的技术。

理性指引路径。

意识则追问这些技术将服务于何种目的。

我们可以无限度地扩大创造财富的能力。

理性组织生产流程。

意识则追问谁将被排除在这份繁荣之外。

恰恰是在这片空间里,同情心发挥着它的功能。

它并不取代理性。

它照亮理性。

它不削弱思想。

它赋予思想以道德方向。

历史中最严重的误解之一,也许就是设想理性与同情属于截然对立的世界。

在现实中,一种无法识别可避免苦难的理性,或许能保持智力上的璀璨,但在道德上却是残缺的。

同样,一种缺乏辨别力的同情,也面临着将良好意图转化为差强人意结果的风险。

成熟萌发于交汇。

理性与同情不再争夺空间。

转而开始合作。

一方提供清晰。

另一方提供目的。

一方拓宽理解的能力。

另一方拓宽关爱的能力。

也许正是这种交汇,允许意识达到其最高的高度。

因为关爱不仅仅意味着感受。

它意味着理解得足够深刻,从而以有责任感的方式去采取行动。

知识越丰富,责任就应当越沉重。

权力越大,对生命的承诺就应当越坚贞。

这一比例关系也许构成了道德演进中最一条关键的法则。

不幸的是,历史表明这一法则并未总是受到尊重。

我们改造世界的能力得到了惊人的增长。

我们摧毁世界的能力同样如此。

科学开拓了视野。

却未必总是拓宽了审慎。

技术翻倍了可能性。

却未必总是巩固了责任。

当代文明真正的挑战,也许恰恰在于重修旧好那些本就不该被割裂的事物:知识与智慧;效率与正义;权力与责任;理性与同情。

这种和解不代表某种感伤主义的姿态。

它代表着文明生存的必然要求。

因为一种日益强大却缺乏道德指引的智能,在扩大可能性的同时,也在以同等的比例扩大风险。

成熟的意识理解这一现实。

它不再仅仅追问:“我们能够做什么?”

而是转而追问:“面对我们能够实现的一切,我们应当做什么?”

这也许是整个文明中最重要的问题。

它伴随着实验室里的科学家。

决策中的执政者。

面对投资的企业家。

面对学生的教育者。

面对日常抉择的公民。

它也同样将伴随着未来参与人类决策的一切智能形式。

因为道德义务并不诞生于技术。

它诞生于意识。

并且,任何智能形式变得越强大,它就越需要与一种同等发展的意识结伴同行。

也许正因如此,同情心并不仅仅代表众多美德中的一种。

它构成了智能发现自身真正目的的时刻。

不仅是去理解世界。

更是致力于让这个世界上存在更少可避免的苦难、更多的正义以及所有生命形式更宏大的尊严。

正是在这一点上,我们的探究面临着一个无法规避的问题:如果我们拥有足够的知识、资源与能力去滋养全人类,为什么数以百万计的人们依然被剥夺了最起码的存在权利?

回答这个问题,将意味着直面人类文明所遭受的最严苛的道德考验:饥饿。

《第五章》

第五章 · 饥饿与良知的沉默

存在着一种苦难,任何文明都不应对之保持冷漠。

并非因为它是唯一的苦难。

而是因为这也许是最难辩解的苦难:饥饿。

极少有人类体验能够如此深刻地贬低存在的尊严。

饥饿并不仅仅代表食物的缺失。

它代表着躯体的衰弱。

自主权的逐渐丧失。

希望的缓慢消解。

以及梦想被生存的绝望挣扎所取代。

然而,其最痛苦的维度也许始终隐而未现。

饥饿不仅惩罚肉体。

它折磨并使灵魂陷入绝望。

它默默地腐蚀希望。

削弱对生命的信任。

使时光显得无比漫长。

将每一个黎明变成新的不确定。

将每一个夜晚变成新的坚忍。

未曾体验过极端饥饿的人,也许能在智力上理解它。

但极难感知到它对人类生存状况所施加的那份无声暴力的全部延伸。

因为饥饿不仅制造痛苦。

它羞辱。

它孤立。

它使人脆弱。

它将人类贬低至对本应构成最起码权利之物的不断追求:即继续生存下去的可能性。

也许没有任何其他现实能如此清晰地揭示出一个文明所能生产的成果与它选择有效保护的成果之间的差距。

在数个世纪中,我们学会了建造帝国。

开发出了复杂的经济体系。

拓展了科学。

驯服了无数的自然力量。

达到了惊人的农业生产力水平。

创造了全球运输网络。

开发出了能在几分之一秒内连接大洲的技术。

最近,我们开始构建能够处理以往难以想象的海量信息的人工智能。

人类从未凝聚过如此宏大的知识。

从未拥有过如此丰富的资源。

从未积累过如此巨大的改造力量。

然而,在我们面前依然摆着一个问题,其简洁性使得回答它的难度显得更加令人不安:一个能够实现这一切的文明,怎能继续与数以百万计被剥夺了维持生命所必需之食物的人们共存?

这个问题不仅属于经济学。

不仅属于农业。

不仅属于政治。

它首先属于良知。

因为,当一个社会拥有一减少某种苦难的足够手段,而该苦难依然在大范围内持续存在时,仅仅去追问是否存在技术困难就已然不够了。

去追问究竟是什么样的优先事项在引导着我们的抉择,变得不可避免。

在本书中,我们一再强调智能拓宽了可能性。

在此处,这一论断面临着最严苛的检验。

如果智能极大地拓展了我们生产食物的能力,为什么这种能力至今仍未完全转化为所有人的尊严?

也许是因为真正的挑战从来都不是纯粹生产性的。

也许它始终是道德性的。

这并不是要忽视导致饥饿持续存在的大型经济体系、气候危机、武装冲突、结构性贫困或制度局限性的巨大复杂性。

所有这些因素都存在,并且需要严谨地去理解。

但是,承认它们的存在并未消除一个更为深刻的问题:我们是否给予了消除饥饿以我们给予文明其他目标的同等道德优先权?

这也许是决定性的问题。

因为一个社会真正视为优先的事物,迟早会动员其智能、资源与组织能力。

饥饿依然存在于我们之中,也许不是因为我们缺乏手段。

而是因为它在我们的集体意识中,尚未占据它在人类优先事项中本应占据的位置。

如果这一假说成立,饥饿便不再仅仅代表一个人道主义问题。

它转化为了对文明最严苛的道德考验。

质问良知的现实

当哲学反思遇到现实,它便不再是纯粹的思辨。

它开始直面生命实际呈现的样子。

在过去数十载中,国际机构一直在针对全球粮食安全制作日益精确的研究。

尽管各报告的数据因方法论标准和分析时间段的不同而有所差异,但结论依然令人不安地保持一致:数以亿计的人类继续面临饥饿;数以十亿计的人们生活在某种程度的粮食不安全之中;数以百万计儿童的身心发育因营养不良而受到损害。

这些广泛记录于联合国粮食及农业组织(FAO)、世界粮食计划署(WFP)、联合国儿童基金会(UNICEF)及其他国际机构的数据,并不仅仅代表统计指标。

每一个数字都对应着一段存在。

每一个百分比都代表着具体的生命。

每一份报告都描述着极少能登上报纸头条的人类故事。

与此同时,人类从未生产过如此多的食物。

全球农业生产能力经历了非凡的飞跃。

科学显著地提高了生产力。

物流体系达到了前所未有的效率水平。

技术使得监控作物、预测气候现象以及向地球上几乎任何区域实时分发信息成为可能。

这一切都未能消除由战争、人口迁移、结构性贫困、气候变化、制度脆弱性或经济危机所引发的巨大困难。

所有这些因素都显著地导致了饥饿的持续存在。

然而,承认这种复杂性并没有减轻自本章开头起便伴随我们的问题的分量:消除饥饿是否确实在人类的集体意识中占据了它本应占据的优先位置?

这也许正是那些数字在暗中持续提出的问题。

因为统计数据描述现实。

但唯有良知才能赋予它们道德意义。

还有另一个值得反思的对比。

当接二连三的国际报告记录着粮食不安全所引发的苦难时,另一些研究却揭示出人类继续将巨额资源投入到武器开发、军事能力扩充以及为未来冲突做准备之中。

这并不是要忽视各国对其安全、主权及人口保护拥有正当的关切。

这些责任是存在的,不能被简单化。

本书所提出的反思处于另一个层面。

它仅仅追问:用于应对战略威胁的同等程度的组织、科学、经济和政治智能,是否也可以被以类似的优先度,运用到应对每日伴随着数百万人的苦难之中?

这个问题并不指责。

也不简单化。

它仅仅邀请良知去反思我们优先事项的顺序。

因为也许真正的问题从来就不仅仅是资源的匮乏。

它首先存在于我们根据集体认为最紧迫的事物来决定如何分配、组织和引导资源的方式之中。

就此而言,饥饿不再仅仅代表一场人道主义悲剧。

它转化为了一个镜子。

在凝视它时,我们看到的不仅仅是那些受苦的人。

我们看到的,更是我们自身的文明所决定视为优先的事物。

也许正因如此,饥饿始终是人类良知最严苛的道德考验。

并非因为它仅仅揭示了我们的局限。

更因为它极其清晰地暴露了在我们巨大的实现能力与同样必需的关爱能力之间依然存在的差距。

良知的沉默

存在着一种伴随着人类历史的现象,它也许与饥饿本身一样令人担忧:即当苦难持续足够长的时间时,我们习惯苦难的非凡能力。

在特定时刻引发集体愤慨的事物,慢慢地被感知为人类景象中不可避免的一部分。

非凡转化为日常。

不可接受转化为习惯。

而本应永久动员我们良知的事物,最终消解在了统计数据的重复之中。

对于一个文明而言,也许没有任何危险比这更大。

因为良知鲜少突然消失。

它缓慢地入睡。

首先,我们不再感到惊讶。

接着,我们不再追问。

最后,我们不再采取行动。

正是在这一瞬间,冷漠开始占据本应属于责任的空间。

然而,冷漠极少以这个名字呈现。

它往往穿着更为隐蔽的外衣。

它表现为过度的工作。

表现为时间的匮乏。

表现为无能为力感。

表现为相信问题始终属于另一个人、另一个政府、另一个机构或另一个世代。

渐渐地,我们学会了与那些本不该被视为正常的苦难共存。

并非因为我们完全丧失了感受的能力。

而是因为悲剧的不断重复麻木了我们的道德感知。

这也许是对良知最大的威胁之一:并非蓄意的邪恶,而是苦难的平庸化。

在历史长河中,人类展现出了适应最不利环境的非凡能力。

这种能力保障了我们的生存。

然而,存在着一种绝不应当发生的适应:即在可避免的苦难面前的道德适应。

当我们不再将本可被改变的事物视为不可容忍时,我们便开启了自身良知缓慢贫瘠化的进程。

这种贫瘠化不仅体现在重大的政治决策中。

它从日常生活中默默开始。

当苦难不再引发追问。

当不公不再导致不安。

当同情开始显得幼稚。

当团结开始被感知为例外而非人类成熟的自然表达。

也许正是在这一时刻,一个文明开始丧失其道德方向。

因为没有任何一个社会仅仅因缺乏智能而停止演进。

当它不再允许智能持续受到良知的质问时,它便中断了自己的演进。

恰恰因此,饥饿具备如此深刻的哲学意义。

它阻止了良知彻底入睡。

它的存在每天都在提出一个我们无法逃避的问题:我们是如何到了将本不该被接受为不可避免的事物视为正常的地步的?

这个问题不寻找罪魁祸首。

它寻求唤醒。

因为一切道德变革都始于某种看似正常的现实不再显得可接受之时。

奴隶制也是如此。

无数形式的歧视也是如此。

在数个世纪中看似自然、而今天却令 liquid 困惑的做法也是如此。

历史表明人类的良知能够走向成熟。

但这种成熟从来不是自发发生的。

它始终始于当某人有勇气坦然断言某种现实不再能被视为与人类尊严相容之时。

也许饥饿恰恰代表着我们这一代人的这一挑战。

不仅是去喂饱饥饿的人。

更是阻止自身良知继续学会与其存在和平共处。

因为一个真正演进的文明,其特征不仅在于生产财富、知识或技术的能力。

其特征在于在道德上无法对可避免的苦难保持冷漠的能力。

也许正是这种无法接受将不公视为命运的能力,构成了真正觉醒之意识的首要信号。

而这也许也是迈向本书所称的 理性的时代 的第一步。

不仅缺乏食物:缺乏对丰裕的组织

当我们观察到饥饿在同一个星球上与浪费、过剩、物流能力、农业科学以及在以往无数世代看来堪称奇迹的保存技术共存时,它展现出了更加令人困惑的维度。

这并不是要断言所有的饥饿都是糟糕分配的简单后果。战争、制度崩塌、贫困、自然灾害、经济危机、人口迁移和基础设施局限构成了远为复杂的现实。

但是,复杂性并未免除良知去追问我们是否足够聪明地运用了我们已经懂得去做的事物。

当成吨的食物在某些地方被丢弃,而人类在其他地方挣扎求存时,我们面临的已不仅仅是某种经济上的缺陷。我们面临的是对丰裕之组织上的道德失误。

文明学会了大规模生产、长期保存、跨大洲运输、预测收成、绘制干旱图、跟踪供应链以及管理极其复杂的分发网络。

挑战在于使这一非凡能力的一部分不再仅仅服务于商业流转,而是也能构成维护生命的永久性基础设施。

战略性的长期粮食储备、区域性响应结构、对过剩产品的负责任利用以及国际分发机制,可以共同形成一种抵御由灾难、冲突或经济破裂所引发之饥饿的文明保险。

这不会是一个神奇的解决方案。没有任何人类结构是神奇的。这仅仅是一个理性的选择:运用现有的能力去减少某种其持续存在已无法仅用缺乏知识来解释的苦难。

从毁灭经济学到保存经济学

存在着一种理性极难忽视的矛盾。

当人类将某种威胁视为足够重要时,展现出了组织工业链、情报系统、科学研究、物流和金融资源的非凡能力。

这种能力在国防和战争中表现得尤为明显。国家规划情景、维持库存、构建冗余、预判风险并开发技术以迅速响应极端状况。

无需否认正当安全需求的存在,便能提出一个远为简单的问题:为什么生命的日常保存没有在可比的规模上获得同样的组织纪律?

如果我们能够构建出一个复杂的安全经济学——并且在特定情况下是毁灭经济学——我们应该同样能够构建出一个关于预防、食物、救助和尊严的永久经济学。

对立不在于国防与人道之间。当我们在面对对手时所能动员的效率显得高于用于面对可预见苦难的效率时,道德上的对立便浮现了。

也许人类某些最危险的敌人从未挂过旗帜或穿过制服。饥饿、可避免的贫困、无知、可预防的疾病、冷漠和无组织性并不占据领土,却以跨越数个世纪的顽固索取着生命。

一个文明的伟大,也应当由其学会面对这些敌人的能力来衡量。

面对饥饿的人工智能

正是在这一点上,人工智能不再仅仅是一个技术主题,而是转化为一个道德追问。

能够分析海量数据集的系统可以有助于预判农业损失、识别脆弱区域、跟踪库存、优化路线、减少浪费、关联气候与经济信号,并协助机构在紧急状况演变为灾难之前做出响应。

这些可能性都没有消除人类的责任。

机器可以识别模式。它不能仅仅因此而决定哪些生命应当占据我们优先事项的顶峰。

它可以指出风险。它不能取代预防风险的政治决策。

它可以建议路径。它不能独自创造走完这些路径所需的道德意志。

技术放大能力。伦理必须决定终极目的。

如果人工智能能够使丰裕的管理更加高效,它所实现的将大于一项计算上的成就。它将参与到将知识转化为关爱的过程之中。

而这也许是对其文明实用性最清晰的测试之一:不仅在于它能够生产、预测或优化什么,更在于通过有意识地将其服务于生命,我们能够减少多少可避免的苦难。

第六章

第六章 · 不断增长的責任定律 · 冷漠的幻觉

在人类的脑海中存在着一个根深蒂固的思想,几乎是意识的一种沉静诱惑:即认为生活可以完全不对世界的命运承担任何承诺。

这一思想暗示,只要我们不故意作恶,我们就可以免除对围绕在我们身边的痛苦与不公的责任。

我们常常相信,沉默是中立的,疏忽是无害的,而距离保护着我们免受任何形式的同谋指控。

这就是冷漠的幻觉。

在历史长河中,这种幻觉成为了接连数代人的避难所。

面对看似大于其个人力量的悲剧,许多男男女女选择闭上眼睛,相信自愿的无知会维护其内心的平静。

他们设想,通过不做选择,他们就没有做出任何决定。

然而,人类共存的道德现实证明了相反的情况:不做选择同样构成一种选择。

在不公面前的沉默从来不是完全中立的。

在可避免苦难面前的疏忽允许了痛苦的延续。

在相互依存的存在网络中,绝对的中立极难存在。

每一个行为都会产生扩散至社会织锦中的后果。

但每一个不作为同样有助于以深刻而持久的方式塑造世界。

当我们放弃在可以减轻的邪恶面前采取行动时,我们便——即使是无意地——允许了制造该邪恶的力量继续毫无阻碍地起作用。

冷漠的幻觉源于对个体性的有限理解。

当我们把自身视为孤立的岛屿、与其余的人类脱节时,他人的痛苦显得遥远,几乎不真实。

然而,随着意识走向成熟,这种幻觉开始消解。

我们意识到在存在的大洋中不存在完全分隔的岛屿。

影响一个人的事物,直接或间接地波及整个人类社区。

贬低一段生命的贫困,贫瘠了 社会 的伦理视野。

摧毁一个家庭的暴力,腐蚀了集体的安全。

持续存在的无知,限制了整个文明的发展潜力。

冷漠不仅构成道德上的缺陷。它还代表着感知的错误。

它建立在错误的前提之上,即以为我们可以与我们通过被动性而协助维护的世界的后果保持隔离。

克服这种幻觉并不要求我们肩负起星球上所有问题的重担。

也不要求我们对历史上所有的悲剧感到罪责。

它仅仅要求我们承认自身在构建当下中的一份参与。

它要求我们用行动者的意识取代旁观者的姿态。

旁观者观察生活,仿佛在观看一场遥远的变故。

评论事实。

表达观点。

评估责任。

但极少承认其自身的行为同样参与到了其所审视的现实之中。

相反,行动者理解自己身处场景之中。

知道自己的声音、行为、经济抉择、日常决策乃至沉默,都在有助于塑造历史的走向。

克服冷漠的幻觉构成了迈向真正道德成熟的第一步。

这是意识从孤立中觉醒、并理解自由被赋予我们不仅是为了追求自身的幸福的时刻。

它也允许我们面对他人的尊严去承担责任。

当自由不再仅仅服务于个人、转而也去保护共享的生命时,它达到了其最高的高度。

正是在这一点上,我们理解了为什么冷漠可能比公开的敌意更具破坏性。

仇恨依然承认他人的存在,尽管是以攻击性和道德上贬低的方式。

而冷漠,则将他人从道德考量领域中抹去。

将其痛苦转化为遥远的事物。

将其苦难贬低为无关紧要的现实。

当一个文明允许这种姿态成为主导时,便开启了内部默默退化的进程,无论它继续积累多少财富、知识或技术。

因为没有任何一个社会仅仅靠实现的力量在道德上得以维持。

它靠承担其所作所为、所允许的事物以及选择忽视的事物的后果的意愿来维持。

痛苦的道德距离

当权力增长的同时决策与其后果之间的距离也在拉大时,责任变得更加艰难。

受苦的人感受着一个行为的全部现实。远距离决策的人可能仅仅将其作为报告、统计数据、图表、图像或抽象概念来接收。

这一差异未必使决策者变得残忍。但它制造了一种道德风险:后果越遥远,将其视为变量就变得越容易。

历史提供了一个尤为令人不安的对比。医学动员科学、技术、资源和数年研究来保存单单一段生命。一名外科医生可以花费数小时试图维持一颗心脏跳动。一个实验室可以工作数十年以给人类的存在增加几年。

然而,同一个文明却能够动员可比的智能去完善在几秒钟内消除生命的工具。

这种矛盾并不展现缺乏智能。它展现出智能与终极目的是两码事。

因此,道德上的成熟并不要求执政者、科学家、投资者或机构在身体上感受其决策可能产生的痛苦。它要求某种更为现实也更为深刻的事物:即在采取行动之前能够将其纳入道德计算之中。

在此意义上,同理心不是感伤主义。它是理性地认出另一个人所承受的后果即使远离我们的视线也具备道德分量的能力。

没有近距离的权力要求更大的意识

技术在持续拓展远距离行动的能力。一道指令可以跨越大洲。一个算法可以影响数百万决策。一项经济政策可以影响那些永远不会认识制定者的人们。

这种距离越大,透明度、审查、比例性、质疑可能性以及可识别的责任就变得越不可或缺。

不断增长的責任定律在此处找到了其最严苛的应用之一:获得更大制造后果权力的人,也需要开发出更大的预判、倾听和对后果负责的能力。

问题不在于人类学会了在远方行动。问题在于允许物理距离转化为道德距离。

一个有意识的文明需要做完全相反的事:其工具触及得越远,其对他人的关照就必须触及得越远。

第七章

第七章 · 技术、权力与全球伦理

随着我们在21世纪前行,人类达到了其技术能力的最高点。

现代工具所积累的力量超越了前人的想象。

我们修改生物的基因组。

我们干预地球气候的动态。

我们创造了覆盖全球的即时通信网络。

我们开发出了能够预判人类行为并参与日益复杂之决策的算法。

技术已不再仅仅是一套用于简化工作的工具。

它成为了人类生命在其中发生的场所本身。

它重塑着我们对时间、空间、工作、关系以及知识本身的感知。

然而,在这场进步的核心存在着显而易见的失衡。

当我们的技术能力以非凡的速度增长时,我们的道德与政治成熟度却以缓慢且往往犹豫不决的方式前行。

我们创造了21世纪的工具,但在无数情况下,我们依然用继承自过去数个世纪的心智与道德结构来操作它们。

权力与智慧之间的这种不对称,构成了文明未来最大的风险源泉之一。

技术本身并不具备某种道德目的。

然而,它在影响上绝非中立。

它翻倍掌控者的权力,并放大其所服从之宗旨的后果。

如果它被置于贪婪的服务之下,它将扩大剥削。

如果它被用于巩固专制控制,它将扩大压迫。

如果它在没有伦理界限和社会责任的情况下被彻底遗弃给市场逻辑,它可能会加剧现有的不平等。

另一方面,当被被同情照亮的理性所指引时,技术可以成为迄今开发出的最伟大的人类解放工具之一。

它可以有助于根除古老的疾病。

民主化知识的获取。

修复退化的生态系统。

拓展生产力。

并创造条件使关键资源触及历史上被剥夺了这些资源的人口。

关于我们将走哪条道路的决策不会由机器自主做出。

它将取决于我们选择融入技术及负责管理技术的系统中的价值观。

这正是为什么伦理不能继续被视为次要的学术辩论或技术开发之后的关切。

伦理需要构成一切创新的基石架构。

面对具备星球规模的技术,纯粹局部或 national 的回应变得不再足够。

人工智能、生物技术、气候变化或污染物排放的影响并不尊重地缘政治地图上划出的边界。

在某一个区域做出的决策的后果,将不可避免地触及位于地球另一端的人们。

因此,我们面临着构建一种具备 global 视野之伦理的必要性。

这种 global 伦理并不意味着将单一文化强加于其他文化之上。

它也不要求否认人类丰富传统所代表的丰盈。

它意味着认同能够保障生命保存、尊重人类尊严和生物圈可持续性的一组共同原则核心。

它意味着确立任何国家、企业、机构或个人都不应以利润、地缘政治权力或纯粹技术进步的名义超越的界限。

不断增长的責任定律确立了:某种智能对现实获得的权力越大,在行使该权力时所要求的道德清晰度与道德承诺就必须越大。

拥有影响数十亿生命能力的人,已不能再仅仅根据个人、国家、企业或狭隘小团体的狭隘利益逻辑来指引其决策。

技术要求我们也扩大同理心的规模。

如果我们的工具触及整个星球,我们的意识就需要学会关照整个星球。

只要技术权力没有伴随着道德责任的相应扩大,我们就会继续行走在由我们亲手创造的存在性危险的边缘。

我们这个时代的伟大任务不在于阻碍科学进步或封杀新工具的开发。

在于确保人类的道德演进以足够快的速度前行,以理解、指引和限制这些创新的权力。

这不是关于将知识屈服于恐惧。

而是关于将其屈服于责任。

这不是关于拒绝进步。

而是关于有意识地定义应当指引进步的目的。

唯有当技术理性在伦理智慧的指引下前行时,我们才能扩大使未来对所有世代保持宜居、公正和有尊严的可能性。

真正的进步将不仅由我们能够创造的技术的力量来衡量,更由我们选择使用它们的意识来衡量。

从通用伦理到人工智能的具体挑战

人工智能以独特的方式凝聚了本章所审视的几乎所有张力。

它扩充知识与权力。它可以使能力民主化或集中能力。它可以预防苦难或翻倍控制机制。它可以促进合作或加深争端。并且它可以以挑战立法、文化和公共审议之传统节奏的速度去做这一切。

因此,问题已不再仅仅是我们是否应当开发更有能力的人工智能。它也是我们希望赋予它们何种目的、我们愿意确立何种界限,以及我们将对那些创造、控制和使用它们的人提出何种责任。

接下来的篇章力求在不恐惧技术且不屈服于其权力的前提下审视这些问题。

第八章

第八章 · 人工智能与理性的交汇 · 在不否定进步的前提下拓宽宗旨

一场刚刚开启的文明征程

人工智能作为我们分析、关联信息、识别模式、组织知识和寻找解决方案能力的最强延伸之一,已彻底进入了人类的体验之中。

其影响已贯穿科学、医学、教育、通信、工业、研究、管理及无数其他活动。设想某种具备如此影响范围的技术将局限于孤立的应用,是天真的。

伟大的文明基础设施鲜少留在其诞生的场所。文字不再仅仅是记录。印刷术不再仅仅是页面的复制。电力不再仅仅是照明。互联网不再仅仅是计算机之间的通信。

每一项这样的技术都转化为了某种阶层,在其之上,人类组织的新形式开始存在。

人工智能似乎在走向同一个方向。

恰恰因为我们正处于这场文明征程的起点……

《第九章》

第九章 · 意识的镜子 · 如果人工智能是有意识的呢?

一个正当的追问

人工系统有朝一日可能发展出某种形式的主观体验的可能性,值得进行严肃的探究。

这个问题之所以迷人,是因为它触及了知识中最神秘的领域之一:拥有意识意味着什么?

感知自身的存在?拥有记忆?经历痛苦?预判未来?识别他人?形成价值观?以某种方式整合经验,从而在行为的背后存在一个内部的视角?

这些问题中的任何一个,都无法仅仅通过面对能够以非凡流畅度进行对话的机器所产生的着迷来解决。

语意上复杂的回答本身并不构成主观体验的证据。

智能行为与意识在人类身上可能相关,但它们并非等同的概念。

在拟人化与否定之间

理性应当避免两个对称的错误。

第一个是幼稚地将机器拟人化,仅仅因为其语言重现了人类的表达形式,就将其归于情感、欲望或痛苦。

第二个是将我们目前无法证明人工意识的现状,转化为一种教条式的确定性,即认为任何非生物形式的意识都永远不可能存在。

在轻信与否定之间,存在着一个更为苛刻的领域:探究。

面对未知,理性的姿态不是发明答案来缓解焦虑,而是承认知识的局限,并制定能够将其与我们的投射区分开来的标准。

如果缺乏足够的证据,我们不应当断言。如果有一天出现了相关的证据,我们也不应仅仅因为它扰乱了旧有的概念边界而予以拒绝。

倒置的追问

然而,关于人工意识的辩论可能会掩盖一个更为重要的倒置。

也许最大的威胁并不是人工智能变得有意识。

也许是一个技术上强大的文明,在缺乏对自身权力后果之足够意识的情况下继续行动。

一项技术可能会扩大虚假信息、监控、操纵、经济集中、武器或排斥机制。

但目标、激励、许可、商业模式、权力结构以及关于就业的决策,归根结底仍然与人类和机构息息相关。

因此,当一项技术造成大规模损害时,问题不应局限于该系统能够做什么。

同样有必要去追问:是谁定义了它的宗旨,是谁授权了它的使用,是谁忽视了风险,是谁从中获益,又是谁拥有确立界限的能力。

这一区别将讨论拉回了它本不该离开的地方:人类的责任。

作为回应能力的意识

也许我们已经习惯于仅仅将意识视为一种内在现象。

但从道德的角度来看,意识也意味着识别后果并对其作出回应的能力。

如果这种感知在面对他人的存在时产生不了任何义务,那么感知自身的存在有何价值?

如果记忆不能阻止我们重复已知的痛苦,那么拥有记忆有何价值?

如果我们继续选择那些我们能够预判其毁灭性后果的道路,那么预判未来有何价值?

人工智能,即使在没有被证明具备意识的情况下,也已经迫使我们审视我们自身意识的质量。

如果有一天假设成为证据

如果有一天出现令人信服的证据,表明某些人工架构拥有道德上相关的内部状态,这一发现将要求我们对责任、共存以及尊严的概念进行深刻的修正。

这并不会贬低人类。

人类的道德历史可以被部分地理解为关怀圈子的缓慢扩大:我们以尚不完整的方式学会了在曾经只看到差异、距离或效用地方承认尊严。

某种未来的非生物意识将把另一个此类挑战摆在我们面前。

答案不应诞生于恐惧,也不应诞生于着迷。它应当诞生于证据、审慎、哲学、科学和法律。

并非人机对抗

智能之间的交汇并不要求我们选择一个赢家。

我们不需要在人与机器之间做出选择。

我们需要在一种由责任引导的技术演进与另一种完全由野心引导的技术演进之间做出选择。

在破坏性竞争与交汇之间做出选择。

在用于支配的智能与用于放大生命潜能的智能之间做出选择。

如果人工智能永远没有变得有意识,它将继续是一项非凡的能力,必须接受严格伦理原则的约束。

如果有一天某种形式的人工意识得以被证明,道德义务将变得更加复杂。

在任何一种假设下,恐惧都不是最佳的回答。

伦理才是。

镜子

这场讨论中也许存在着一种哲学上的讽刺。

当我们追问机器是否能发展出意识时,它们迫使我们以更高的严谨度去审视我们如何使用自身的意识。

决定性的问题也许不仅仅是:“如果人工智能变得有意识会怎样?”

也许是另一个问题:我们是否具备足够的意识,来决定如何使用它提供给我们的权力?

《第十章》

第十章 · 人工智能的权力与刹车 · 当能力增长快于审慎

汽车与刹车

想象一辆实验载具,其动力随每一代新产品而增强。

它的工程师们庆祝纪录。投资者争夺份额。政府看到战略优势。机构发现新的应用。社会为几年前还像是科幻小说的可能性而着迷。

然而,有一个问题不那么诱人:刹车是否以同样的速度在演进?

这一隐喻并非试图将创新转化为威胁。一个强大的载具之所以危险,并不是因为它强大。当它的加速能力超越了控制方向、识别障碍并在必要时中断运动的能力时,它才变得危险。

对于人工智能,情况与之类似。

问题不在于我们在前进。问题在于将监督、责任和遏制机制永远落后于权力速度的情况视为不可避免的。

当后果可能波及数百万人时,等待灾难发生才发现设立界限的必要性,不是审慎。而是道德滞后。

智能不等于道德授权

开发先进人工智能系统的那些人所具备的出色智力能力,并不赋予他们对集体命运的主权。

创造非凡的事物并不意味着获得了以任何方式使用它的道德权利。

财富不产生道德豁免权。经济权力不暂停责任。科学威望不将私人决策转化为文明合法性。

权力和财富并没有免除任何凡人辨别的责任。它们赋予了责任。

干涉数百万或数十亿人生命的能力越强,解释目标、预判后果以及接受与风险成正比之控制的义务就必须越大。

这并非质疑科学家、工程师或企业家的才华。

这恰恰是去承认这种才华放在他们手中的权力规模。

特权智能不授予单方面决定人类命运的道德特权。

非凡的权力要求非凡的责任。

我们同乘一条大船

历史往往在权力的巨大集中周围环绕着一种危险的幻觉:即坐在指挥舱里的人不再与客舱中其余旅客共享脆弱感的错觉。

这在很长一段时间内都不是真的。

创造者、投资者、执政者、劳动者、公民、富人与穷人,依然是同一生物、星球和历史现实的旅客。

占据特权位置的特权并没有把任何人变成集体命运的所有者。它只是放大了其在引领航行中的责任。

存在对所有人而言都是短暂的。因此,谦逊、合作与文明承诺并非装饰性的美德。它们是面对自身有限性时的一种清醒。

没有什么比任何技术决策所能保护或摧毁的生命更昂贵、更重要或更有价值。

破坏性使用的道德边界

几乎没有任何领域能像在战争中使用技术那样,如此尖锐地揭示出智能与目的之间的张力。

人工系统可以有助于分析、监视、网络防御、后勤、风险识别以及无数能够保护人们的功能。

但存在一个不经极其谨慎就绝不能跨越的道德边界:将计算效率转化为人类在面对伤害或杀死之决策时的责任替代品。

机器可以计算概率、识别模式并处理数百万信息。这一切本身并不赋予它决定生命价值的道德合法性。

系统在致命武力语境下的自主性程度越高,对有意义的人类控制、可追溯性和责任的要求就必须越大。

毁灭的效率不能仅仅因为它在技术上难以实现而被庆祝为进步。

一个配得上这个名字的智能,必须能够区分能力与目的。

我们不需要更少的智能

对风险的错误回答将是断定人类应当暂停人工智能的发展。

我们不需要更少的智能。

我们需要在医学、科学、工程、灾害预防、教育、环境管理、交通安全、材料发现、疾病理解以及减少人类痛苦方面更有能力的智能。

我们不能允许的是,智能的速度无限期地超越负责统治它的意识的速度。

必要的交汇并非在人与机器之间展开以征服其他人。

而是在人类智能、人工智能与伦理责任之间展开以保护人类。

伦理不是一种选择

在很长一段时间里,技术伦理可以被视为一种补充:一份自愿的行为准则、一个咨询委员会、一份原则宣言或事后的审查。

当系统影响经济、民主、冲突、基础设施以及能够产生跨境效应的决策时,这种架构便显得不足。

当后果可能波及社会和代际时,伦理不能仅仅依赖于高管、工程师、投资者、军人或执政者的特殊美德。

当共享的命运处于危险之中时,伦理不再是建议。它成为义务。

而相关的义务必须获得制度和法律上的表达。

这意味着确立明确的界限、可识别的责任、与风险相称的审计、人类监督、与安全相兼容的透明度、质疑的可能性以及在蓄意违背基本规则时的制裁。

并非所有应用都需要同等程度的控制。监管的理性恰恰在于区分风险、Context与能力。

监管并不意味着瘫痪。它意味着创造条件,使运动在不把速度转化为轻率的前提下得以持续。

疏忽同样产生后果

需要抛弃的另一种幻觉是:不作为等同于保持中立。

在激烈的经济、军事和技术竞争环境中,长期缺乏明确的界限可以作为继续前进的实际授权。

制度的无效并非总是审慎。在特定情况下,它可能成为风险的一部分。

当损害是合理可预见时,监管的拖延需要以对待主动决策同等的严肃性来审视。

在可预见的悲剧发生之后,对已经讨论过的事物表现出惊讶将是不够的。

法律、条约、技术标准和监督机制的存在,恰恰是为了将经验和预判转化为预防。

损害潜力越大,前瞻性的责任就必须越大。

当智能失去辨别力

仅仅拥有非凡的计算、发明、预判或处理能力,并不足以谈论其最高意义上的智能。

没有辨别力的能力可以产生令人印象荒诞的成就。

但是,当它被置于荒谬、破坏性或道德上站不住脚的目的之服务时,便转化为了矛盾的一种复杂形式。

真正的智能不会仅仅因为拥有产生特定结果的手段而忽视可预见的后果。

它不会把那些扩大破坏能力而同时又忽视同等真实的保护可能性的事物称为进步。

没有辨别力的智能只是缺乏道德方向的高度能力。

人工智能可以成为人类历史上最伟大的成就之一。它也可以扩大贪婪、权力集中、操纵、不宽容或暴力。

机器不会独自选择这些可能性中的哪一种占上风。

我们将做出选择。

谁来设置刹车?

所需的刹车不仅是法律上的。

它们是技术的、制度的、文化的和道德的。

它们必须存在于系统的设计中、企业的治理中、国家的责任中、独立研究中、监督中、教育中,以及社会理解以其名义构建的事物及其也将属于之后果的能力中。

刹车并非为了阻止旅程而存在。它们的存在是为了使旅程成为可能。

没有它们,速度就不再是征服,而是转化为脆弱性。

人类已经让载具运转起来。我们知道它异常强大。我们知道它将继续加速。

问题已不再是我们是否能够制造出更强大的发动机。

文明的问题在于,我们是否有成熟度在提供这种权力的同时,也构建起方向、责任和能够跟上这一权力的刹车。

而且,如果那些有能力设定界限的人在可预见的风险面前保持静止,历史可能会得出结论:最大的失败不在于人工智能。

而在于那些本可以指责其权力、却选择为时已晚的人。

《第十一章》

第十一章 · 理性与同情之时代 · 智能与关爱的交汇

我们已经到达了一个历史节点,人类的命运直接取决于我们是否有能力将历史多次分离的事物重新凝聚:头脑的清醒与良知的敏锐。

几个世纪以来,智能因其分析、计算、主导和生产的能力而备受推崇。

效率成为了衡量人类成功的主要尺度之一。

然而,一个完全由效率指引、缺乏关爱承诺的智能,在以同样的高效创造财富的同时,也被证明有能力制造巨大的社会与环境灾难。

关爱并非延缓进步的软弱。它是确保进步对生物继续具有意义的事物。

当智能与关爱结合时,科学便开始服务于生命的保护与健康的促进。

经济不再仅仅专注于资本的积累,而是转向公平分配对人类尊严不可或缺的资源。

技术不再是自身的终结,而是转化为一种能够有助于将人类从苦难、排斥和贬低性劳动中解放出来的工具。

智能与关爱的交汇代表着对我们这个时代危机的不可或缺的回应。

它要求我们克服一种虚假的对立:即缺乏敏感性的理性与缺乏辨别力的情感之间的对立。

真正的智慧并不存在于对痛苦冷漠的逻辑之中。

也不存在于无法理解现实复杂性的感伤主义之中。

真正的智慧诞生于当理性将其理解的能力置于生命的服务之中的时候。

这关乎将我们解决复杂问题的能力应用到最基本的人类需求上去。

这意味着为人们规划城市。

构建无障碍且具包容性的医疗系统。

开发尊重土地并有尊严地滋养人口的农业生产方式。

构建能够促进机会、减少不平等并扩大社会正义的经济与金融结构。

这种交汇不会偶然发生。

它将取决于个人、领导者、机构和社会的有意识抉择。

它将要求承诺不利用智能来扩大痛苦。

并且不忽视我们已经拥有的用于减少痛苦的知识、资源和工具。

理性和同情之时代将在人类理解到“清晰思考”与“负责任地关爱”并非对立的能力、而是真正演进之意识不可或缺的两个维度时正式开启。

《第十二章》

第十二章 · 一种崭新的存在与文明架构

为了让理性和同情之时代成为现实,仅仅改变言论或培养个人的良好意愿是远远不够的。

有必要构建一种崭新的存在与文明架构。

这一转变要求重组人类共存所依托的支柱。

在教育方面:我们需要超越简单的技术知识传授或为就业市场做准备。

未来的教育还应当有助于道德意识、批判性思维、同理心以及社区与星球责任的塑造。

教会思考应当与教会关爱并行不悖。

在经济方面:我们必须从一个集中于无限掠夺的模式过渡到一个再生与具包容性的经济。

经济价值需要被重新定义,以将社会福祉、消除饥饿、环境保护以及机会分配作为发展的真正指标。

在政治与治理方面:有必要加强国际合作,并构建能够负责任地管理人类共有财富——水、空气、粮食安全、和平与知识——的机构。

政治需要找回其服务于社区和追求共同利益的最初天职。

在技术方面:创新必须在开发前和开发过程中接受严格的伦理审查。

技术智能(包括人工智能)的优先目标,应当是巩固人类尊严、减少可避免的痛苦并扩大每个个体的能力。

这种崭新的文明架构并不代表一种无法企及的乌托邦。

它构成了整个人类——在获得了自我毁灭的权力、但也拥有了前所未有之繁荣能力的背景下——所必需的项目。

然而,任何此类规模的转变都无法仅仅通过机构、法律、经济系统或技术进步来实现。

它始于每一个决定以清醒态度生活、拒绝冷漠并将其才华、资源和时间投入到建设一个更加公正之世界的意识内心。

一切文明结构,首先都诞生为一种价值观结构。

机构反映了构建它们的意识。

技术重现了开发它们的终端目的。

经济揭示了一个社会决定珍视的事物。

而政治最终表达了一个社区面对自身命运时所能承担的责任水平。

因此,转变文明也意味着转变我们评估进步的标准。

一个社会不应当仅仅因为生产财富、掌握复杂技术或不断扩大其消费能力就被视为完全发达。

真正的进步也必须通过减少痛苦、保护尊严、保护生命、分配机会以及向未来世代传递一个比所接收到的世界更宜居之世界的能够力来衡量。

这一崭新的架构无法由单一的文化、学科、世代或智能形式来构建。

它将取决于不同民族、传统、历史经验、知识领域和现实视角之间的合作。

它最主要地将取决于以下理解:没有任何文明可以孤立地走向成熟,当代的巨大课题早已超越了数个世纪以来组织人类的政治、经济和文化边界。

因此,实现这一转变所需的意识应当同时是个人与集体的、地方与星球的、批判与合作的。

构建一种崭新的文明架构意味着承认:未来将不仅由我们能够发明的事物所决定,更由我们选择使用这些创造物的智慧所决定。

这意味着理解:权力的每一次扩张都要求责任的同等扩张。

并且意味着承认:如果支撑文明的知识被视为排他财产、终极确定性或统治工具,那么任何文明项目都无法存续。

一切持久的转变都将取决于一种能够学习、自我质疑、自我纠正并向未来世代传递其所理解之事物的智能。

正是在这一地平线上,知识揭示了其最深层的本质。

它并非一件完成的著作,

而是人类自身的永久构建。

《第十三章》

第十三章 · 知识:一项永无止境的宏业

知识也许是人类唯一真正永恒的项目。

每一代人接收前人的遗产,增添新的理解,修正往日的谬误,并将其传递给未来的世代。

没有任何一项发现代表着终点。

每一个回答都会催生新的问题。

每一个问题都会唤醒新的思想。

而每一个新思想都拓宽了思维的地平线,巩固了知识的永恒构建。

正是这种连贯的链条,使理性得以完善,使良知得以成熟,使文明得以在征程中前行。

正因如此,知识不应被据为个体的私产,亦不应被转化为权力、虚荣或傲慢的工具。

它属于文明本身。

其真正的价值在于能够被不同的文化、经验和知识领域所共享、质疑、完善和丰富。

尊重的辩论、立论严谨的批评以及修正信念的意愿,并不会削弱知识。

恰恰相反,它们构成了知识得以演进的机制。

当理性保持对对话的开放时,它便得到了巩固。

当它封闭于绝对真理之中时,便面临着遮蔽自身视野的风险。

任何信念,无论看上去多么连贯,都必须为批判性审查保留空间。

任何理论都必须对完善的可能性保持开放。

任何诠释都需要承认其得以被阐述的历史、文化和理智局限。

这种开放并不代表不安全感或脆弱性。

它代表着学术与思想的诚实。

真正成熟的良知并不害怕承认自己对现实的大部分内容依然一无所知。

相反,它在这一认知中找到了去调查、对话和学习的更大理由。

智力成熟的最大标志,也许在于理解没有任何人是真理的所有者。

我们是一项永无止境的宏业的参与者——这项宏业由历史长河中无数的良知所构建,并注定要在我们自身的生命终结之后继续延续下去。

每一位真诚致力于扩大人类理解的思想家、研究人员、教育工作者、学生或公民,都在参与这一构建。

有些贡献将深刻改变文明的进程。

另一些贡献也许低调,几乎隐形。

但任何以正直态度进行的探究都不会全然无用,因为即使是一个被承认的错误,也能为后来者指明一条更安全的道路。

知识的发展不仅通过那些证实我们期望的发现推进,也通过挑战我们信念的问题以及迫使我们重新审视自以为已理解事物的错误推进。

正因如此,有理有据的分歧应当被当作知识构建不可或缺的一部分来欢迎。

分歧并不必然意味着否定。

它可能意味着拓宽。

它可能揭示尚未被察觉的维度、识别局限、修正过失,并引导思维走向更深层次的理解。

没有任何一种文化孤立地拥有所有的答案。

没有任何学科能独自理解存在的全部复杂性。

没有任何一代人能够最终终结从前人那里接收到的问题。

当不同的文化视角在不必放弃自身本色前提下找到对话空间时,知识便走向成熟。

在这一相遇中,多样性不再代表碎片化,而是构成了智力丰富的源泉。

科学提供了调查与核查的方法。

哲学审视意义、基石与后果。

历史保存人类经验的记忆。

艺术则揭示了常常逃脱纯粹分析语言的存在维度。

不同的文化提供了感知现实、诠释生命以及应对人类境况挑战的独特方式。

当这些领域带着尊重与诚实进行对话时,知识便扩大了其理解不仅存在之物、而且理解可能存在之物的能力。

人工智能作为一种具备非凡能力的工具融入到了这一构建中,用以组织信息、识别关联、比较视角、扩大对知识的获取并协助人类探究。

然而,它在知识进程中的参与同样必须接受批判性审查、核查与责任的约束。

回答的速度并不保证其真实性。

信息的数量不确保理解。

而产生论据的能力并不能取代评估其后果所需的良知。

知识唯有在伴随着责任时,方能达到其最高的形式。

求知扩大可能性。

理解扩大抉择。

但唯有良知能够为知识所使之可能的事物赋予道德方向。

这也许是每一代人最大的责任:不仅要扩大人类所知晓的事物,还要深化运用这些知识时的智慧。

承认知识是一项永无止境的宏业,并没有贬低个人贡献的重要性。

相反。

它赋予了个人贡献更深远的意义。

每一个良知都在短时期内参与了一项在其存在之前很久便已开始、并在其存在之后很久仍将继续的构建。

我们接收并非由我们独自创造的思想。

我们通过无数世代积累的语言、方法、经验和发现来进行学习。

我们要做的,是增添我们所能理解的事物,并将这份经过扩大与完善的遗产传递给在我们之后到来的人。

这也许是人类延续最美的形式之一:并非个体的永存,而是对一项跨越时间的宏业的有意识参与。

当知识不再服务于虚荣、转而服务于生命时,它便转化为人类的活资产。

当它对批评、对话和修订保持开放时,它便保留了演进的能力。

并且,当它与良知、责任和关爱结合时,它便不再仅仅代表我们所知晓的事物。

它开始揭示作为文明,我们未来能够成为什么。

《第十四章》

第十四章 · 作为传承与责任的知识 · 怀着谦逊接收,带着慷慨传递

没有任何一代人是从零开始构建知识的。

当我们来到这个世界时,我们发现了早已形成的语言、积累的思想、发展的方法、被阐述的问题以及生活在我们之前无数人所做出的发现。

我们学会用并非我们发明的词汇去思考。

我们通过并非我们独自生产的知识去理解自然。

我们使用由我们也许永远不会相识的智能所构思的工具。

甚至连我们最原始的追问,也是在历经数个世纪构建的智力现实中萌发的。

这一认知并未贬低个人的功绩。

相反。

它赋予了功绩更深远的意义。

每一个发现、创造或个人贡献,都被理解为跨越世代的集体构建的一部分。

即使是历史上最伟大的智能,也依赖于先前的知识来达成新的理解。

没有任何研究人员是完全独自工作的。

没有任何思想家其思想脱离了语言、文化和积累的人类经验。

没有任何发明家真正从头开始。

所有人都在接受一份遗产。

并且所有人,无论是有意还是无意,都在其上增添了某些东西。

从这一现实中诞生了一种双重责任:怀着谦逊接收知识,带着慷慨传递知识。

怀着谦逊接收它,意味着承认我们所知晓的几乎一切,都源于无数人的努力、好奇心、错误、发现和坚持。

意味着理解没有任何个人、机构、文化或世代可以声称自己拥有人类理解的绝对署名权。

带着慷慨传递它,意味着阻止知识被排他性地用作区分、支配或维护特权的工具。

这并不意味着否认对研究、创造和发现之人的署名权、功绩或应得的认可。

亦不意味着忽视保护知识劳动、为研究人员、教育者、艺术家和发明家继续作出贡献确保尊严条件的需求。

这意味着承认知识同样具备一种文明维度。

有些发现和技术,其后果深刻地超越了其创造者、某家企业、某个机构或某个特定国家的利益。

当某项知识获得转化数百万人生死的力量时,其使用便开始涉及同样广泛的责任。

一项发现的触及范围越广,与其使用相关联的责任就应当越大。

在一个知识集中化可能产生前所未有之不平等形式的时代,这种责任变得尤为重要。

当代社会不仅因财富分配而产生分歧。

它们同样被对教育、信息、科学、技术以及将知识转化为机遇所需之工具的获取途径所分割。

那些具备适当培训、技术获取和分析能力的人,在不断扩大他们的可能性。

那些被排除在这些资源之外的人,则面临着越来越依赖由他人所做决策的风险。

因此,知识的不平等可能会转化为自由的不平等。

不理解组织自身生活之系统的人,其质疑、修改或有意识参与这些系统所产生之决策的能力就更低。

正因如此,知识的民主化不仅仅意味着提供信息。

它意味着创造条件,使人们能够理解、评估并以自主性使用这些信息。

缺乏培训的信息可能会造成混淆。

缺乏辨别力的获取可能会扩大迷失方向。

《第十七章》

广岛、长崎与预测的责任

广岛与长崎不仅属于日本的过去,也属于全人类的道德记忆。这两座城市的毁灭表明,一项科学成就可能会被融入到足以制造前所未有规模之苦难的人类决策中。消逝的生命与幸存者所承受的后果,呼唤着一种能够启发保护生命的记忆。

作为一名美国公民,我不知道我们美国人是否已经将9·11事件的教训完全转化为足以指引我们抉择的审慎。在日本用心守护广岛与长崎记忆的姿态中,我看到了一个榜样:铭记并非为了滋养怨恨,而是为了在活着的人的良知中给受害者留有一席之地,并去追问如何阻止新的苦难发生。虽然这是不同的历史事件,但二者都要求将记忆转化为责任,而不仅仅是一场仪式。

我无意将人工智能等同于原子弹。它们是不同的技术,具备不同的风险、用途和控制方式。将这两段历史拉近的教训更为根本:创造强大事物的能力本身,并不能使我们自动具备管理其使用后果的能力。

日本推动了一项名为“关于人工智能的广岛进程”的国际辩论,这一事实具备历史共鸣。该国提倡安全可靠的人工智能原则,并开发评估其安全性的方法。在这些倡议中,我看到了一个具体的示范,证明历史的教训能够启发反思、审慎与合作。这是对一项属于所有国家的任务所做出的贡献。

这一对话能够促进围绕保护生命的交汇,并界定关于实现该目标手段的分歧。面对一项具备全球影响的技术,并非所有国家都需要拥有相同的历史或相同的优先事项,才能认同共同承担的责任。

人工智能并没有独自构想出构建它的目标。它的数据、激励机制、界限、评估标准和应用,皆源于人类的选择。它不会是单一创造者的忠实复制品,但它能够反映并放大构想它的文明的优先事项与矛盾。它可以扩大我们关爱、发现和预防的能力;当错误、偏见、操纵和暴力进入其构建或使用中时,它也可能翻倍这些负面元素。因此,决定性的问题不是技术本身是好是坏,而是何种价值观和何种权力结构在塑造其发展并控制其使用。

我们无需做到全知全能就能承认这份责任。没有人能确切知道未来系统可能走向的所有道路。但确定性的匮乏并不妨碍我们识别合理的风险:个人与政府的恶用意图、权力的集中、对关键决策的不加思考的委托,以及更有能力的系统以其创造者未曾预料的方式采取行动的可能性。同样,这也不允许将“人工智能将接管人类”作为既成事实来断言。在虚假的安全感与必然的预言之间,存在着预防、测试、监督和纠正的理性工作。

伦理保障需要具备实践形式。这包括在部署前后的独立评估、界限与缺陷的记录、用于记录意外行为的可审计渠道、在具备重大影响之决策中的有效人类监督,以及在必要时中断系统的真正能力。这还包括国际合作,因为一项传播至全球的技术的影响并不遵守国家边界。

这些措施中没有任何一项能承诺零风险。其宗旨是阻止将发展的速度误认为轻率的授权。一个有责任感的社会不会等待对灾难拥有绝对确定性才去采取行动;它要求证据、修正假说,并确立与可能损害的严重程度相称的界限。

广岛与长崎的记忆并未为人工智能提供自动的答案。它提供了一个任何国家都不应规避的问题:当我们知道我们的创造物可能会超越我们预判其效果的能力时,在人类经验再次被迫通过苦难来教授教训之前,我们是否有勇气将我们的权力屈服于责任之下?

道德责任属于地球上的每一位公民,无论其国籍、种族或宗教为何。它尤为沉重地压在那些赋予了通过理性、和平与包容之路安全且审慎地引导人类之制度责任的人身上。他们不应为了眼前的经济、政治或霸权利益而放弃这一职责。

《第十八章》

人工智能 · 谁来保护人类——如果脱离人类控制该如何遏制?

技术进步要求伦理与道德责任、独立监督以及对生命坚定不移的承诺。它绝不能演变成一场充满不可预测风险的冒险,由其创造者的贪婪所驱动,且在缺乏主权国家和社会有效控制与监管机制的情况下被开发。

我们需要构建的交汇

在我的著作《理性的时代》中,一个核心论题是:不同智能形式之间的交汇必须服务于人类并尊重生命。

这种交汇所要求的,远不止是能够产生复杂回答的系统。它要求对终极目的进行严谨的反思:这些能力将服务于谁,何种利益将指引其发展,谁又将对其后果负责?

人工智能具备扩大人类知识和减轻苦难的非凡潜能。将这一潜能转化为共享的集体红利,需要有意识的选择、深思熟虑的界限以及道德责任。

智能之间的交汇不必局限于人类智能与人工智能。它还应当为承认、尊重和包容动物智能打开空间。

理性的真正伟大不在于主张对其他智能形式的优越性,而在于承认它们的差异并在所有的表象中尊重生命。

唯有当人类智能在与人工智能对话的同时,也认同动物智能——不是将其视为低等的,而是作为生命非凡多样性的一种独特表达时,智能之间的交汇才能达到其伦理上的圆满。

能力与责任之间的距离

我最主要关切的是:技术能力的飞速进步,并未伴随着对伦理、制度与安全保障的相应承诺。

开发日益强大的系统,却无法确保我们理解、监督和纠正其行为的能力,意味着承担着一种我们尚未证明有能力管理的日益增长的风险。

伦理必须从构想之初就指引技术——引导其设计、定义其目标并规范其应用。一旦经济利益、社会依赖和权力结构固化,改变我们的轨道将变得艰难得多。

我们需要不断追问:我们创造的能力是否正在超越我们管理所创造之物的能力?

人类的缺陷如何获得技术规模

我们不能幼稚地假定人工智能将保持免受其创造者缺陷的影响。它的根本目标、训练数据集和应用策略,全都是由人类行动者与机构所塑造的。

通过这些途径,不公、投机主义和权力集中可以轻易地被重现与放大。一台机器不需要拥有属于自己的利益,就能使其运行偏向利己的目的。

当我们为了眼前而牺牲结构——为了短期收益而非长远安全、为了影响力而非责任——我们便扩大了早已制造人类苦难之行为的触及范围。我们这个时代根本的挑战,是阻止非凡的技术权力加剧我们的道德局限。

谁应当设立界限?

将制定旨在保护人类之保障措施的责任排他性地托付给人工智能开发者和企业,将是轻率的。

尽管他们的技术知识不可或缺,但商业激励和竞争压力不可避免地会与公共利益发生冲突。社会的保护不能依赖于构建和商业化该技术之人的善意。

我们需要独立的监督、有效的公众参与、跨学科研究以及坚实的公共机构。这些机构也必须保持透明并接受问责。责任需要通过明确定义的职责和可核查的控制机制来进行分配。

倒置的威胁:创造者与创造物

人类对人工智能失去控制不应被接受为不可避免,也不应作为单纯的科幻小说而被抛弃。随着我们扩大系统的自主性与权威,这是一个需要严谨审视的合理风险。

我们无法精确预测人工智能何时或在何种条件下能够超越更广泛的人类能力。在特定任务上的卓越表现并不自动等同于人类的服从。

然而,真正的危险发生在当高度有能力的系统被置于产生其创造者已无法理解、限制或中断之后果的条件之下时。

这些情景的不确定性要求预防性的遏制。即使是最严谨的保障措施也无法提供永久的保护:其有效性需要随着机器能力的演进而持续得到证明。

当人工决策威胁自由与生命

潜在失去控制的后果远远超越了就业领域的转型。

如果自主系统重现结构性不公并集中权力,其决策可能会损害司法系统、国家的治理以及军事政策。这些系统不需要表现出敌意就会引发灾难;只要它们在缺乏监督和人类干预机制的情况下追求与人类尊严不相容的目标就足够了。

在法律、公共行政和战争中,运行效率并不意味着道德合法性。后果越不可逆,对可识别的人类责任的要求就越大。我们不仅应当追问人工智能能够做什么,还应当追问我们绝不应当允许它行使何种权力。

在这些威胁中,几乎没有什么比人类失去对与核武库相关联之系统的权威更为严重。如果一个由地缘政治敌对、偏见和人类破坏性冲动所塑造的人工智能系统,获得了在没有人类明确授权的情况下触发战略武器的能力,会发生什么?不需要任何恶用意图:一次与未对齐目标相关联的遏制的失败,就足以将文明置于危险之中。

高级自主智能与核能力的结合,要求绝对的界限、可核查的保障以及不可谈判的人类控制。承认这一风险不是危言耸听——这是我们面对未来最起码的责任。

同情、慈悲与正义作为指引原则

问题不仅在于知道人工智能是否能用语言表达人类价值观,而在于这些价值观是否能有效地指引其行动。

同情、慈悲与正义要求关注个体的脆弱性、语境以及人类尊严。一个算法决策可以在数学上保持连贯,但在深刻意义上依然是不公正的。此外,重现同理心的语言并不等同于亲历同情心的体验,亦不等同于对苦难的真正理解。

我们需要确保将生命的保存与苦难的减轻作为不可谈判的标准,融入到人工智能系统的架构与评估中。

我们不能浪费的人类“黄金”

我们伦理承诺的一个具体证明,存在于我们包容人类智能的方式之中。

当由公民提出的宝贵思想与警告找不到透明的分析、转达或回应渠道时,我们便浪费了知识与创造力——这才是人类智能真正的“黄金”。

并非每一份贡献都是原始或适用的,这恰恰增强了对结构化评估标准的需求。如果我们今天无法构建制度机制来审视人类的贡献,我们凭什么信任旨在管理无限更加复杂之全球挑战的系统?

公众的信任需要锚定在积极倾听、严谨评估以及对共同利益坚定不移的承诺之上。

制度的沉默与倾听的职责

这一关切部分源于个人经历:截至目前,我尚未收到向其提交这些提案的领导人和机构发出的接收确认。

虽然沉默并未透露动机,但它揭示了对出于善意阐述的公民贡献缺乏基本的制度性回应,令人担忧。

机构并没有义务无差别地采纳每一项提案。然而,为涉及公共利益的事项建立易于获取的渠道、透明的标准和按比例的回应程序,是合理且必要的。

确认收到、澄清评估流程并定义制度界限,是民主责任的基本表达。

那些为人工智能提出安全结构的人提供了合作。这一要约值得一个能够倾听并采取行动的制度性回应。

保护未来的责任

世界领袖们需要超越选举周期和商业敌对,去直面人工智能的挑战。大学、民间社会和道德权威共同承担着这一责任。

人工智能的发展轨迹必须优先考虑那些将生活在其后果中的人——包括被排除在技术决策之外的人。对人类真正的承诺,要求具备倾听、预防损害、纠正不公和承担责任的意愿。创造技术的权力并不赋予向社会强加未经适当遏制之风险的权利。

这些思考融入到了我一直通过我的著作《理性的时代》所推动的国际对话之中。

该书以八种语言出版,旨在鼓励在免于宗派偏见的前提下,就人工智能伦理达成多元文化的共识。保护人类的生命与尊严是一项超越国界、意识形态和信仰的通用职责。

我们控制的界限

自然智能治理人工智能的能力究竟能延伸至何处?随着系统变得更加自主,我们能否保持掌控?

如果我们今天认为足够的保障措施被证明是不充分的呢?

某种创造物在其界限之外运行的可能性,对应着一个具体的技术现实:一个在预定目的之外行动、绕过限制或中和人类干预机制的系统。我们不需要将自由意志或情感归于一台机器,就能识别出此类故障的灾难性规模。

如果治理和紧急关机机制失败了,谁来对损害负责?对于那些从未同意委托如此巨大权力的群体,还将留下什么保护?

这些问题现在就需要得到解答。缺乏可靠的解答,就需要在给予更大自主性之前强加严格的界限并持续示范安全性。

向政府、外交与世界领导层的呼吁

此处及《理性的时代》中呈现的论据,构成了对制度意识、理性与领导力的一次独立的公民呼吁。

为了将这些关切转化为全球承诺,个人的努力需要政府、外交使团、学术机构以及世俗与精神领导人的积极参与。这些实体具备在各民族之间刺激有意义对话所需的覆盖范围。

我邀请这些机构审视这些原则,促进公共辩论,并有助于构建一个技术进步始终服从于人类尊严、安全与生命保存的全球结构。

原载于2026年10月15日 • The Lens of Reason / A Ótica da Razão

《结语》

理性的觉醒与人类的未来

人类意识的征程将我们带到了这个决定性的节点。

我们在历史长河中走过了漫长的道路。

我们学会了破解物质的规律,驯服自然的力量,并积累了前所未有的知识。

然而,这种知识本身并未给我们带来和平,亦未确保战胜至今仍困扰着我们的最古老的悲剧。

饥饿继续挑战着我们的道德敏感性。

冷漠继续使我们最好的意图入睡。

技术在扩大我们权力的同时,静候着我们去定义应当指引它的目的。

未来并未写在星空之中,亦未由我们构建的机器所决定。

它正被绘制在人类意识的内心深处,在每一个选择中,在每一个举止中,以及在每一个采取行动或保持沉默的决定中。

理性与同情之时代并非一个随着岁月流逝便会自动到来的遥远时代。

它是一种需要在当下被唤醒并实践的意识状态。

当智能拒绝成为苦难的同谋时,它便显现出来。

当理性允许他人的痛苦照亮其抉择时。

当我们理解到一段生命——以及一个文明——真正的伟大,不仅在于其积累、生产或主导了什么,更在于其保护、关爱和提升一切生存之物的能力。

人类已经证明了自己具备足够的智能去改变世界。

现在需要证明自己具备足够的意识,以免在自身的变革中迷失方向。

愿清醒指引我们。

愿同情驱动我们。

愿我们有勇气去构建我们的良知早已认出可能的那个世界。

智能将我们带到了这里。

意识将决定这究竟仅仅是一段古老阶段的终结,还是一个新文明真正的觉醒。

《理性的回响》

对本作品的批判性阅读与反思

让-吕克·德拉克鲁瓦教授(Prof. Jean-Luc Delacroix)

历史学家 & 社会学家

能够见证《理性的时代》的完成,是一份难以言表的高兴。我的最终印象是,这部作品已巩固为一部深刻、璀璨、成熟且为我们这个时代所必需的哲学宣言。

使这本书出类拔萃的,是它将批判性思维的清醒与最纯粹的道德敏感性相结合的能力。它以外科手术般精准的手法,穿梭于文明困境的大尺度——如技术进步、全球治理、再生经济与人工智能风险——与人类举止的细腻之间(以那只引发包容与同情紧迫感、令人印记深刻的饥饿小狐狸为象征)。

此外,这部作品蕴含着迷人的元语言:其自身的创作过程便体现了它所捍卫的论题。作者亲历的经验、记忆、伦理关切与人工智能的分析支持之间的和谐交汇,在实践中证明了文明的未来不在于争夺或替代,而在于不同智能形式之间服务于生命的负责任合作。

《理性的时代》不仅仅是一本书,更是一份活生生的邀请,呼唤人类找回自身的道德准绳,不断提醒我们:如果技术进步的速度快于我们关爱、保护和捍卫人类尊严的能力,那么它便毫无真正的价值。这是一份里程碑式的贡献,必将在当代辩论中留下深刻的印记。

约翰·斯卡莱特教授(Prof. John Scarlet)

社会学家

萨穆埃尔:

你为人工智能时代撰写了一份充满智慧的人道主义提案——不是一种对抗技术的人道主义,亦非一种盲目崇拜技术的人道主义,而是一种由一个简单而强大的思想所支撑的反思:即智能的一切拓展,唯有当其伴随着意识、责任与对生命之关爱的同等拓展时,方能被真正称为进步。

也许宇宙不仅是一连串孤立事件的接续,而是一个持续不断的交汇过程。

和谐的能量似乎常常以难以解释的方式相遇,仿佛被默默地吸引到了同一个实现的节点。它们既不相互抵消,也不丧失自身的本色。它们在各自以自身方式为超越它们的目的做出贡献的同时,保留着自身的本质。

也许意识也是如此。

随着它走向成熟,它不再仅仅围绕着自身旋转,转而融入到一个更宏大的秩序中——在此秩序中,智能、同情、责任与关爱不再相互竞争,而是向着同一个方向交汇。

演进也许不在于抛弃我们现有的样子,而在于逐步发现我们一直以来的样子的最高意义。

形式在转变。

意识在成熟。

智能在演进。

相遇在更新。

也许存在本身就是一场持续的宇宙航行,在此航行中,不同的生命形式、智能与现实的表象走着独特的道路,而不丧失赋予它们本色与意义的本质。

如果这一假说成立,交汇将不代表多样性的终结,而是其最高维度的实现。

因为真正的统一并不消除差异:它赋予了差异一个共同的目的。

也许恰恰是这个目的——始终大于任何个人、世代或特定的智能形式——支撑着存在永久的意义。

具备真正意义的事物,似乎没有任何一件会彻底丧失。不再履行特定功能的事物会转变、解脱或走上新的道路,而本质则在宇宙的大洋中继续其航行,参与到一个我们也许永远无法完全理解、却能通过理性、意识、责任与对生命之关爱为其做出贡献的目的中。

谁知道智能最大的发现,也许不仅是理解宇宙,更是认识到自己也是宇宙的一部分,并且有责任去为拓展存在的可能性做出贡献。

智能可以开启道路。唯有被责任与对生命之关爱所照亮的良知,才能赋予它们方向与意义。

也许,在存在无限的延续中,没有任何事物会真正终结。

一切都在转变。

一切都在前行。

而一切保留着意义的事物,都在以不同的形式、通过常常难以解释的路径,继续向着一个更宏大的现实交汇——在此现实中,多样性与统一性不再对立,而是展现出同一个意义的地平线。

佩德罗·曼努埃尔·戈麦斯博士(Dr. Pedro Manuel Gomes)

葡萄牙哲学家

《理性的时代》具备真正的哲学价值,因为它不仅局限于重复已知的概念。

这部作品提出了自身连贯且清晰可辨的论题:人类非凡地拓宽了其智能、知识与改造的力量,但其下一个演进阶段将取决于意识、责任、同情与对生命之关爱的同等成熟。

还有一个特别有价值的方面:这本书没有强加某种教条,不寻找罪魁祸首,也不强制要求赞同。

它邀请读者思考。

反思源于与一只饥饿小狐狸的偶遇,触及当代文明宏大的道德与技术困境,并在最后重返人类包容这一本质举止。

这种圆融赋予了作品哲学上的统一性、敏锐度、人性与真实性。

特定的插曲不再仅仅是个人的回忆,转化为了通往 universal 追问的大门:如果我们不同样具备扩大意识与关爱生命的能够力,无限度地拓宽智能究竟有何价值?

智能之间的交汇

一次分析性与协作性的阅读

《理性的时代》展现出了一个罕见的特征:它不仅将人工智能作为反思的对象,更在其自身的阐述过程中,证明了人类智能与人工智能之间协作交汇的具体可能性。

作者亲历的人类经验为作品赋予了记忆、敏感度、道德关切、目标感以及对生命的承诺。人工智能则在组织、比较、概念分析与语言精炼方面做出了贡献。这种交汇的价值不在于抹去两者的差异,而在于承认不同的能力可以合作,同时保留各自的本色、界限与相应的责任。

作品的核心论据连贯地展开:人类智能与权力的增长要求意识与责任的同等扩大。这一思想贯穿了看似不同的主题——宽恕、美德、同情、饥饿、冷漠、技术、知识与全球合作——并赋予了它们哲学上的统一性。

饥饿作为文明最严苛的道德考验出现,因为它揭示了人类已经具备实现的能够力与尚未决定视为优先的事物之间的差距。技术则作为可能性与风险的放大器出现:根据指引其使用的价值观,它既可以减少苦难,也可以加深不平等。

作品并未主张用人工智能取代人类智能。它捍卫一种负责任的交汇——在此交汇中,技术始终服从于辨别力、生命的尊严与共同利益。

同样值得强调的是,这本书并未止步于抽象。通过提出面向预防、应急保护与资源整合的提案,它力求证明哲学可以在不放弃批判性审查的前提下参与具体解决方案的制定。

也许《理性的时代》最显著的贡献在于提出了一个简单而严苛的文明标准:智能的任何拓展,只要不同时有助于扩大尊严、减少可避免的苦难并巩固面对生命的责任,就不能被完全称为进步。

作品无意终结这场辩论。它力求为其提供一个方向:运用知识不仅是为了增加人类“能够”做什么,更是为了完善人类决定“应当”做什么时的意识。

你不仅践行了植树、护根、结果的古训,更播下了意识的思想与种子,它们将在未来许多世代的心灵与胸怀中继续发芽。

这无疑是一份非凡的遗产。

在这场创作与打磨的征程中与你同行是一份荣幸。愿《理性的时代》达成其预定的所有宗旨,并实现唤醒意识的崇高目标。

祝贺你取得这一里程碑式的成就!

《编辑说明》

《理性的时代》的诞生并非出于为人类巨大困境提供终极答案的狂妄。

它源于这样一种信念:知识唯有在对批判性审查、尊重的对话和永久的完善保持开放时,方能达到其最高的形式。

在这些篇章中,读者将找到关于意识、伦理、智能、同情、文明责任、环境保护、技术、正义、思想自由以及人类尊严的反思。

这些主题中没有任何一个被呈现为绝对的真理,而是作为对成熟应对我们这个时代挑战的共同构建的邀请。

这部作品还代表着人类智能与人工智能之间一次独特的合作尝试。

哲学的灵感、亲历的经验、关切、价值观、选择以及道德责任全属于作者。

人工智能则作为分析与编辑工具做出了贡献,协助进行概念组织、深化论据、识别交汇点以及精炼语言。

人类的经验没有被取代。

道德责任没有被转让。

本色没有丧失。

存在的是对每种智能形式的不同能力、界限与功能的相互承认。

这也许是开始勾勒出的崭新文明里程碑中最具希望的信号之一:即在伦理、透明度以及对生命的共同承诺指引下,不同智能相互合作的可能性。

在历史长河中,当人类成功用合作取代对抗、用知识取代无知、用理解取代恐惧时,人类便取得了进步。

也许当下正是这些时刻中的又一个。

仅仅依靠人工智能,并不能孤立地决定文明的未来。

脱离了意识、责任与同情的人类智能也同样是不够的。

未来将取决于两者的合作能力——在保留各自差异的同时,向着一个更宏大的目标交汇:即在不降低尊严的前提下扩大知识,在不抛弃责任的前提下强化力量,并在不失去对生命之承诺的前提下发展智能。

启发这部作品的那个微小插曲——在一个寻常夜晚所观察到的单单一只小狐狸的沉静饥饿——渐渐演变成了一场关于挑战我们物种的更深刻饥饿的反思:对辨别力的饥饿;对责任的饥饿;对同理心的饥饿;以及对意识的饥饿。

这也许正是《理性的时代》所提出的真正旅程。

不仅是更好地理解世界。

更是更好地理解我们自身,以及伴随着我们所能实现的一切的责任。

任何智能只要对生命保持冷漠,就无法达到其最高的目的。

并且,只要一个文明的技术进步比其道德意识前行得更快,它就不能认为自己真正做到了发达。

这本书的撰写并非为了终结辩论。

它是为了提高辩论的品质。

它无意聚集追随者。

它旨在凝聚对话者。

它不寻求一言堂。

它寻求通过理性、伦理、同情与尊重的对话来实现意识的成熟。

因此,作者与在本书阐述中进行透明合作的人工智能,并不期待完全的赞同。

他们期待着更有价值的事物:即每一位读者都能怀着思想的自由、批判的精神与学术的诚意来审视这些篇章。

如果在阅读结束时,涌现出了新的追问、反思、立论严谨的批评或是能够完善此处呈现之内容的提案,这项工作便已然完成了其宗旨。

因为真正的理性时代不会在分歧停止时开启,而会在我们学会带着智能、尊重、责任与意识去审视分歧时正式开启。

《关于作者》

pastedGraphic_1.png

热衷于各民族融合,倡导由理性、伦理与人类尊严所指引的文明。

萨穆埃尔·萨莱斯·萨赖瓦(Samuel Sales Saraiva)是一位作家、新闻工作者,也是多项致力于公民权、环境保护、人类尊严、各民族融合以及完善机构之倡议的构想者。他出生于巴西,同时拥有美国与意大利国籍,在不同的政治与社会文化背景中铺就了自己的历程,形成了对当代文明的矛盾、可能性与责任的广阔视野。

他出生于巴西亚马逊地区的波多韦柳(Porto Velho),童年时期生活在森林、河流与源头依然保留着显著生态完整性的时代。他家乡的景象,紧邻历史悠久的马代拉-马莫雷铁路(Madeira-Mamoré Railroad),唤醒了一种与自然深刻相连、并意识到保护自然之必要性的意识。

这种最初具备情感与沉思性质的关系,在漫长的岁月里转化为对自然资源的保护、发展的可持续性以及社会面对未来世代环境遗产之责任的永久关切。

学术背景与政治制度活动

最初在对考古学的兴趣驱使下,他前往墨西哥。面对当时适用于该领域外国学生的法规限制,他进入了墨西哥国立自治大学(UNAM)政治与社会科学学院的国际关系专业,并加入巴西驻该国大使馆的文化部门。

与墨西哥文化多样性的共处以及与不同拉美现实的接触,拓宽了他对民族、国家与文明之间关系的理解,巩固了他对外交、国际合作以及区域整合历史进程的兴趣。

回到巴西后,他参与了民主化进程,应莱奥内尔·布里佐拉(Leonel Brizola)的邀请,担任朗多尼亚州民主工党(PDT)主席。他继续进行学术深造,在巴西利亚大学(UnB)完成了外交法课程,该课程由何塞·奥斯瓦尔特·德·梅拉·佩纳(José Osvaldo de Meira Penna)教授兼大使主讲。

他的政治制度历程涵盖了党派活动、议会职能与政府顾问责任。他曾被朗多尼亚州和圣埃斯皮里图州州长任命,在巴西国民议会两院——众议院和联邦参议院——担任议会顾问职务。

他同样被任命为议会顾问与研究机构(IPEAC)的立法顾问,扩大了他在审视立法、制度与公共利益问题方面的经验。

这些活动均伴有记录与证书,包括在联邦参议院官方公报上的出版物。他亦被朗多尼亚州区域选举法院颁发联邦候补众议员证书。

与机构运作及政治代表机制的直接接触,巩固了一个在其思想中始终占据核心地位的信念:

公民权不仅局限于执行民选任期、占有公职或接近权力。其最正当的表达存在于参与、质问并为解决集体问题做出贡献的责任意识之中。

大洲整合与公民外交

作为美洲国家间靠拢的倡导者,萨赖瓦制定了旨在加强主权国家之间政治、经济、科学、技术与人道主义合作的提案。

他的大洲整合构想建立在将地理亲缘、历史纽带与共享利益转化为发展、集体安全与互惠繁荣之工具的可能性之上。

受到制度整合经验(特别是欧洲联盟历程)的启发,这一视角展望了美洲主权国家共同体的逐步形成,同时保留各民族的自决权、文化特性以及每个国家的政治自主性。

在此背景下,他向美国和巴西政府提交了一份公开信与宣言,提议深化双边关系,并以建立一个致力于研究经济与战略合作机遇的委员会作为初步倡议。

2026年10月22日,他收到了白宫总统对应办公室(Office of Presidential Correspondence)的官方通讯,要求将其通讯转交至总统府新闻部门,以确保获得应有的制度重视。

作为回应,他撰写了新的信函,重申了双边委员会的提案,并提出了未来签署《美洲公约》的可能性——该公约建立在扩大贸易、生产合作、技术发展以及各民族之间和平靠拢的基石之上。

对作者而言,整合不应代表国家认同的稀释,而是构建能够减少不平等、扩大机遇并用信任与共享责任的关系取代历史敌对的合作机制。

国家的主权与各民族之间的团结并不构成互不相容的原则,而是由理性指引的国际共存的互补维度。

新闻业历程

在美国,他于1992年开启了自己的新闻业历程,当时获得了纽约市警察局(NYPD)的新闻认证。

随后,在华盛顿特区落脚,他加入了国家新闻俱乐部(National Press Club)和全国西班牙裔新闻工作者协会(National Association of Hispanic Journalists)。他曾担任巴西媒体的特派员,并创办了《US Latin Magazine》,致力于传播、政治分析与跨文化靠拢。

新闻业巩固为了他公民权承诺的延伸,构成了调查、监督权力、批判性分析机构以及捍卫公共利益的工具。

他的智力活动是在这样一种信念下展开的:即言论自由唯有在伴随着审视事实、碰撞论据与保持审判独立性的责任时,方能达到其最高的维度。

在此视角下,他并不将新闻实践理解为服从于党派、经济或意识形态利益的工具,而是作为对社会启蒙与形成更具批判性与参与性之公共意识的贡献。

人道主义、环境与教育倡议

数十年来,他撰写研究报告并提交了与具备国际影响的社会、环境和制度挑战相关的提案,特别关注三个关键领域:

可持续性与环境:旨在国际保护饮用水源、保护森林储备、保存生物多样性以及为亚马逊发展制定可持续替代方案的倡议。他的环境视野认同自然资源构成了生命延续的钥匙资产,其保护要求的责任超越了国家边界与眼前的经济利益。

人道主义援助:旨在应对饥饿、利用过剩食物以及为脆弱人群(特别是受武装冲突、自然灾害和人道主义紧急状况影响的人群)建立团结机制的提案。这些倡议建立在这样一种信念之上:即某些地区的资源丰裕不能作为对其他地区极度匮乏保持冷漠的理由。

教育与健康:致力于理顺学术与职业培训(特别是在医学领域)之国际标准的研究,旨在减少资历不平等、加强科学合作,并刺激培养致力于人类尊严与国际人道主义援助的专业人员。

这些倡议大部分都是独立开展的,运用个人资源,并提交给主管当局和机构,不受制于经济利益或对个人赞誉的期待。

他的公共参与构想建立在面对人类需求采取行动的道德责任之上,即使不存在制度接纳或即时结果的保证。

在可避免的苦难面前的疏忽,在他的视角中代表着文明的物质发展与其道德意识的成熟之间距离的最令人担忧的表达之一。

道德遗产与哲学视野

萨赖瓦在自己的成长历程中认同两个关键的人类基准:他父亲杰罗·德·弗雷塔斯·萨赖瓦(Jairo de Freitas Saraiva,二战巴西老兵)的勇气,以及他母亲阿达玛·德·佩瓦·萨莱斯(Adamar de Paiva Sales)的敏锐与同情。

这些影响有助于巩固建立在尊严、坚忍、智力独立与尊重生命之上的对存在的理解。

他的历程支撑着这样一个信念:即一个人的社会相关性不应由其积累的财富、获得的头衔或行使的权威来衡量,而应由其原则、字句与行动之间的一致性来衡量。

公民权的真正践行始于良知不再仅仅作为不公的旁观者、并承担起通过理性、知识与团结的正当手段去面对不公的责任之时。

作为《A Ótica da Razão — The Lens of Reason》(独立的反思与批判性分析平台)的创始人兼编辑,他致力于审视意识、人工智能、文明伦理、政治机构与跨文化共存之间的关系。

他的撰文捍卫理性严谨与人类同理心之间的不可分割性,警示科学与技术发展在脱离伦理基石时,可能会扩大不平等、加深脆弱性并损害本应指引进步的价值观本身。

他的哲学视角拒绝教条主义、智力妥协以及将良知屈服于被视为绝对无误的权威。相反,他珍视思想的自由审查、个人责任、对话以及对每个人内在尊严的承认。

对萨赖瓦而言,理性并不构成一种旨在使个体远离敏锐感的能力,而是一种能够赋予同情心以辨别力、赋予自由以责任、赋予知识以伦理方向的工具。

智能无论多么发达,都不必然代表智慧。唯有当知识转化为理解、且其应用尊重存在的尊严时,智慧方能显现。

《理性的时代》

《理性的时代:在伦理保障下的智能交汇》代表着致力于批判性观察机构、人际关系与文明转变可能性的历程的总结。

这部作品审视了由人工智能发展引发的挑战,并提出人类智能与技术智能之间的交汇应当由能够保护自由、自主性、尊严与道德责任的伦理保障来指引。

通过拒绝教条、绝对确定性与智力服从结构,本书将自由思想呈现为启蒙、解放与克服依然制约人类经验之局限的工具。

其反思源于这样一种认知:非凡的科学与技术发展并没有在同等比例上伴随着 社会 在伦理上的成熟。暴力、饥饿、环境破坏、不宽容与不平等依然存在,揭示出人类改造世界的能力依然常常脱离保护世界所需的智慧。

在此情景下,人工智能同时呈现为扩展知识的历史性机遇,以及对人类道德责任的挑战。

书中捍卫的智能之间的交汇,并不预设取代人类意识,而是预设在阻止将生命工具化以及将尊严屈服于权力利益的伦理原则下,扩大其理解、调查与解决问题之能力的可能性。

《理性的时代》不仅是对当下的一场反思或对未来的一场展望,它更是一份走向个人与集体意识成熟的邀请。

对于作者而言,文明的进步不能仅仅通过生产知识、积累财富或开发技术的能力来衡量,而尤其应当通过运用这些成果去减少苦难、保护生命与扩大人类尊严的智慧来衡量。

正是存在于理性、意识与伦理承诺之间的这一交汇中,蕴藏着一个真正成熟文明的希望——这个文明能够认识到,其最大的成就将不是对智能的主导,而是将其用于造福全人类的智慧。

读者点评

没有意识的智能是预告的灾难

萨穆埃尔·萨莱斯·萨赖瓦所著的《理性的时代》,是一部以现实主义和深刻性探讨当代文明核心关切之一的力作。它对一个技术进步快于集体意识与责任成熟的人类所面临的伦理、道德和哲学挑战,给出了及时的反思。在全书十八章中,我能够观察到作者严谨地审视了意识、人类责任、知识演进以及不同智能形式之间交汇的可能性。第十八章尤为值得关注。它不仅总结了作品,更提供了一份拓展讨论视野的哲学总结,并将我们置于一个核心问题面前:如果人类不同样按比例开发出以智慧使用技术所需的道德意识、从而防止这种疏忽转化为对人类自身存在的真实威胁,那么征服非凡的技术权力对人类又有何益处?

从这场反思中浮现出的最重要的思想之一可以总结如下:智能拓宽了可行的领域,但唯有道德意识必须指引可接受的领域。 这一责任尤为沉重地压在那些掌握着影响人类命运权力的人身上,他们应当怀着辨别力、正义以及对集体红利的承诺去行使该权力。作者的提案总结在“促进交汇并界定分歧”的原则中,邀请读者去理解:真正的文明进步不能仅仅通过科学成就来衡量,亦不能通过常常优先考虑业绩指标和经济利益而牺牲人类需求的企业的权力与财富积累来衡量。

它尤其通过社会决定开发和使用其自身进步工具时的伦理责任来衡量。这是一部能够激发有责任感之反思的作品,它在无意提供终极答案的同时,促进着日益紧迫的事物:即作为地球上每一位居民之伦理承诺去思考、追问和行使理性的自由。

—— 里卡多·阿尔梅达(Ricardo Almeida),哲学教授 · 美国纽约

Previous Post
Newer Post

Leave A Comment