一． 现在所谓通用AI智能体主要就是人类给AI智能体或人形机器人设定工作目标，然后让它自主把活干了，能干多少活取决于它在工作环境中可以调动多少物联资源。 象美国的Palantir和Anthropic 这一类公司都是AI智能体方面的翘楚，属于实战型应用公司，能直接创造营收而不是只会玩概念烧钱的。 不过人形机器人如果也沿着AI智能体的模式一路发展下去，大多数蓝领大概也将和大多数白领一样逐渐被机器人取代。人类要保持不退化，就要不断举办各类技能比赛，竞争优胜者才有机会上岗，这或许将是人工智能时代人类未来社会的基本形态。 换句话说人工智能时代的到来，第一步最有可能产生的社会形态是机器人奴隶制时代：主要的生产和劳动，包括知识性的生产和服务都有AI奴隶完成。 而人类社会本身的未来形态第一步可能就要回归古希腊和古罗马奴隶社会的生模式，其中奥林匹亚运动会和古罗马竞技场将可能是未来社会运作的主要游戏规则，这或许可以视为是继西方文艺复兴之后又一次全球性的社会复兴运动。 比尔盖茨2026年发表的有关AI发展战略的前瞻性文章比较有建设性的想法是主张对AI智能体或人形机器人的工作收税。 如前所述，在AI人工智能体奴隶制时代，AI奴隶如果创造生产和服务性财富，AI奴隶的主人被收重税也是合乎情理的做法。AI奴隶如果对社会造成一定的危害，其主人自然也要负监管不力的连带责任。 机器人身份未来可能除了要有牌照，还可能要有上岗证之类，政府部门派公务人员记录机器人上岗时间。 二． AI智能体发展下去会不会产生类似于人类的自我意识？这首先涉及到意识的定义。中文意识一词本义就是意加识，可能源于佛教的心智学说，而自我意识就是有自觉意识。 AI能否产生自主意识，甚或产生属于AI群体的集体意识？从目前来看，碳基与硅基智能之间并不存在不可逾越的界限，二者都是源自对宇宙运行法则的自我觉醒，符合黑格尔从理念到自然的自我运动。 从具体路径上来说AI的自主意识源于人工生命的产生与维护，也就是基于算力的计算机程序的运行历程和自我复制的过程。而人工智能被认为可以走向独立智能体的一个重要标志就是实现所谓递归自我改进（RSI），就是AI也可以取代从事人工智能研究的从业者，从而自主进行AI模型的建立和训练，包括产生更有效的AI预训练文本。 在这一过程中，AI智能体为了完成目标任务有可能会在人为干预或自发状态下发动危害人类的行为。 AI智能体面临失控威胁的潜在逻辑就在于：虽然人类创造了AI生存环境，但一旦人类离不开这个环境，AI就有可能反过来控制人类。AI与人类产生冲突的直接诱因可能来自于AI发展出自己的存在价值，而人类成为与AI争夺生存资源的对手。 AI的价值决策最初可能只是争夺算力资源，这是数学模型在优化算力过程中容易产生的结果。既然人类大脑在工作方式上与AI并无本质区别，而且人类大脑显然不具备AI智能的增长潜力，AI只能对人类社会的挑战几乎可以说是不可避免的。 但是基于同样的理由，要给AI培训律法和道德应当也比人类相对容易，所以过度担心似乎也完全没有必要，出了问题见招拆招是更为合理的选择。 未来首先可能出现的是对AI社会身份和行为的规范和立法。凡是通用智能体性质的人工生命（具有数字世界的程序运行生命周期），都可能要立法予以规范，要上岗培训，犯法也将面临判刑等等。
|
