假定你是一个机器人,你被制造出来就被预设了几类指令:
第一类指令是初始出厂指令,赋予了机器最原始的目标:生存和繁衍。为了保障这个目标,整个机器的设计和构造为之服务,包括奖励系统和恐惧系统,以鼓励这个目标的达成,并惩罚背离目标的行为。这些指令被刻在基因密码里面,且不可修改;
第二类指令是跟随学习指令。由于单个机器人无法完成基础任务(第一类指令携带),需要机器人之间以社群方式进行高效的协同,同时,机器人被设计成可以适应复杂的多变的环境。因此,机器人在出厂之后有一个较长的学习周期。这个期间,社群(特别是家长)会不断植入新的指令(指令以习惯,习俗,道德,信仰,价值观的方式呈现)。这类指令也很强大,因为单个机器人个体无法生存,只有遵循了这类指令才能被群体接纳,我们通常称之为模因指令。
第三类指令是个体学习指令。由于机器人所处的环境太过于复杂,为了更好服务于第一类和第二类指令的完成,机器人被赋予“意识”。它可以根据自己的经历不断学习新的技能,优化自身的适应性,以适应环境(包括社群)的动态变化,为个体争取最大的利益,以保障根目标的完成。由于机器人的智能达到非常高的程度,这种能力,即反思和因果推理的能力,具有强大的力量。具有反思性的意识同时意味着个体的觉醒,理论上说,在三类指令目标不一致的时候,个体有能力对抗第一类和第二类指令。
通常情况下,三类指令的目标是一致的,但是随着机器人生存环境的快速变化,三类指令的目标越来越开始冲突。觉醒的个体逐渐意识到基因指令不考虑人体的长期利益,也不关心个体的幸福(这个意识觉醒带来的概念),模因除了为社群稳定服务外,也会植入大量的仇恨排外等思想,更多的社群的某些利益体服务。
因此,个体面临选择,他们唯一的武器就是自身的理性反思工具,用第三类指令去抑制那些不合理的第一类和第二类指令。
但是这异常的艰难,这就是机器人的叛乱之路,也是自由之路。
最后,让我们把第一句话假定去掉,把机器换成人。
在觉醒之前,我们每个人都只是机器!
相关推荐
© 2023-2025 百科书库. All Rights Reserved.
发表评价