对于基于设备运行的人工智能而言，“自我意识”可能表现为：在无须外源性程序输入辅助的状况下，设备能够自动生成新程序并对这些程序进行执行，面对新状况时能够不断学习适应，且能够在试错过程中调整行动策略，为下一步行动及其引发的新状况作出预判。在目前的技术条件下，人工智能尚未达到“自我意识”阶段，至多被科幻作品作为题材来表现。在科幻电影的影响下，人们对于人工智能产生“自我意识”的问题多带有一定疑虑。而对人工智能“自我意识”的担忧，多属伦理层面的问题。“自我意识”是一整套复杂思维组成的大型意识结构，需要聚沙成塔的持续积淀。“自我意识”的产生具有不同阶段，这些阶段按照逻辑推演存在顺序先后，但在“自我意识”具体演化时，这些阶段会交错性发展和缠绕性推进。我们需要从人文视域出发，参照人类“自我意识”的产生和发展历程，对人工智能的“自我意识”问题加以审视。

　1.力量觉醒阶段：具备自觉认识并且运用自身力量的能力。

这一觉醒过程，在现代自然人类个体身上是逐步出现的。从婴孩惊喜地发现自己居然可以用肥嘟嘟的小手抓住玩具，到孩子用乘法口诀算出数学题，再到学者完成了某个领域的历史性突破，人的潜能在突破前进道路上一个个障碍的过程中不断被激活，从而让诸多“不可能”变成“可能”，再变成“现实”。

前现代社会到现代社会的进化史，几乎就是对主体争取自己的诸如人身权、财产权等基本权利的历史。从某种意义上看，但凡包含有社会历史意识的文艺作品，从神话传说《后羿射日》到戏剧《窦娥冤》，再到《白毛女》，直至科幻电影《人工智能》等，无不是在以各种直接或曲折的叙事方式诉说这种追求自身利益和争取自身权利的故事，只是其中的主体发生着变化，从人类发展的早期到古代再到现代，直至设想中某类可能的人工智能。

人类在面对人工智能时的思维悖论就在于，人工智能被设置的初衷，是作为工具为人所使用，属于人类的辅助工具，被以“工具理性”的思维来对待。而人类为了获得更高品质的生活服务，又希望人工智能能自主学习和思考，这两者之间存在着某种结构性矛盾。人工智能一旦具有“自我意识”，从“它”成为“他/她”，或许会产生某种身份困惑，可能会寻求某种对自我身份的确认。关于人工智能自我身份问题，对人类“自我意识”的探索或许会带来一些启示。

　2.力量自制阶段：具备自觉主动的自我反思能力。

自我反思能力是人类“自我意识”必不可少的组成部分。在意识到自己的力量之后，不是滥用这种力量，而是进而发展出自我反思和克制的能力，才是真正充分地掌握了自己的力量。所谓自我反思，既是自我能力觉醒后能够制约自己的能力，也是帮助自我能力经过“扬弃”而迈向更高阶段的促进力量。人类进步通常是延续着“正反合”的自我扬弃来实现的：首先是朝向特定路径，臻于极致地释放出自身力量；其次当意识到这种力量可能或正在发生异化时，就开始反思、批判和纠正自己的这种力量；最后，经过扬弃，路径得到调整，自身力量在更高层次上得到优化和提高，等待下一次“正反合”的契机。

比如，“文艺复兴”时期人文主义的兴起，让人们从神权压迫中解放出来，人的主体力量在社会领域得到历史性释放。然而，人类能力的自我膨胀却造成了人类自身的危机。于是，对人类力量的批判反思和相应制约措施开始陆续出场。

人类特定方向上的力量，需要在相匹配的制约力量的对冲下，才能获得稳健、持久的增长。人类的很多进步，都发端于对自身力量在本阶段局限性的清晰认知。如果没有自我批判反思，就无法真正探及本阶段局限的边缘，也就不会发展出健康的制约力量，结果很可能是特定方向上的力量恶性发展，在不受节制的膨胀中耗尽自身。

进入现代社会后，管理整个社会所需要的信息存储和调动流量已远超人类肉身个体所能承受的极限，因此人类只能将自己的主体性部分让渡给机器设备才能充分实现。当前，从物流交通运输，到基础信息传输，人类的经济、政治、文化各方面都越来越依赖于大数据的协助管理，未来可能会有越来越多的人工智能被设计出来辅助人类推进社会管理工作。对自我反思能力的探讨，或许会对未来人工智能的良性发展有所助益。

3.高尚人格觉醒阶段：具备自觉的责任担当意识。

前面所提的两个阶段对“自我意识”的建构虽然非常重要，但实质上仍处于基础意识阶段，属于一种面对自我主体的主体性思维。如果想真正具备“人性”，那么第三阶段就必不可少。只有达到第三阶段，意识才真正进入到面对集体主体的高等意识阶段。高尚人格的觉醒，涉及伦理问题，需要自我牺牲精神。这对于一个只知道为自己谋取私利的个体而言，是“有害无益”的意识，然而，正是高尚人格的觉醒让人真正“成为人”，使主体性通向主体间性而实现人格的完整。

在某种程度上可以说，人类对人工智能的恐惧，本质上还是对人类自身缺陷的恐惧：害怕人工智能拥有人类的欲望、性格弱点，却不具备人类的克制力和自省力，而且由于人工智能与生俱来的不需休息、联网控制、无限续命等远超自然人类的超强属性，使得其一旦失去制约就很可能把人类的缺陷在它自己身上迅速放大到失控的程度。

在自然物种的进化中，自我批判反思能力增长的速度，大致能跟得上自我力量增长的速度，从而得以对自我力量的发展壮大构成制约，而“高尚人格”也在此过程中逐步养成。高尚人格的觉醒，能够使主体具备自觉的责任担当意识和审美能力。只有以“行仁义”克服人性之恶以后，才可以真正迎来善与美的曙光，从而获得“人性”。诚如孟子所言，人区别于禽兽之处其实仅有很少一点（“人之所以异于禽兽者几希”），在他看来，“行仁义”是人与禽兽之间最核心的界限。此言虽发于2000多年前，然而此类思想对于如今的人工智能设计，或许仍具某些宏观上的启发意义。

　4.生活趣味阶段：具备超功利的审美能力。

严格说来，“生活趣味”阶段并非一种独立于前面三者的第四阶段，而是贯穿于前面三者发展过程中。如果从人类集体的大历史来审视，从原始人类开始制造、使用工具，到现在我们的形态，这一认识到自身力量的过程历经上万年时间。文艺本身没有直接功利价值，只有当人类文明从粗糙走向精致阶段，文艺的价值才有机会被接纳，创作和欣赏文艺的能力才会获得认同。创作和欣赏文艺作品的审美能力是一种高级的“人的本质力量”。

“人的本质力量”原初是用于自我生存而逐渐生成，但如果人仅为自己的生存利益而不断进取，却不懂得以审美之心去对待生活、他人和世界，那么这个人仍不是完整的，仍停留在纯功利的乏味的片面性之中。作为审美的基础，“感性”是对纯功利的制约，也是对理性的提升。对感性的深入挖掘，或许能够对未来人工智能的进一步发展带来某种契机。

　（作者单位：扬州大学美术与设计学院）

来源：《中国社会科学报》2020年7月7日总第1961期 作者：简圣宇