废墟图书馆吧 关注:50,695贴子:716,816

探讨一下关于指令……

只看楼主收藏回复

可能涉及到剧透,目前就先不放图了,放到二楼去说。


IP属地:浙江1楼2023-05-13 21:29回复
    目前看得比较困惑。
    目前我理解的表层意思:
    1、指令是什么:指令就是另一个“一无所有”,它没有本体,全靠人自己管理自己,就像手指执行着大脑的命令一样,指令的意义全都是人们在脑补的基础上脑补,野蛮生长成的一个集体无意识/思念聚合体。
    2、指令怎么产生:由假设在都市某处的地动仪作为随机数生成器生成一个特征向量,然后通过织布机将这个特征向量转换成可以阅读的语言。
    3、指令的隐喻:集体意志或者是生命的孕育过程。我们的组织、细胞、乃至更微观的东西,做着他们理解或不理解的事情,最后逐渐形成一个整体,做着最后可能是有悖大多数个体意志的事情。
    4、指令的存续:如果你不完成指令,就会有人收到做掉你的指令,最后所有人收敛在一个“纳什均衡点”,也就是遵守指令。
    好这些姑且都能说通,但有一个地方说不通。
    指令生成器下达指令后,唯一能得到的反馈就是大地的振动,仅仅通过振动是怎么知道别人没有遵守指令从而降下惩罚的呢?


    IP属地:浙江2楼2023-05-13 21:47
    收起回复
      5、指令对于剧情的意义解读:如果都市里的人都没有自由意志,那么听从别人的命令和听从一个“一无所有”的怪物的指令有什么区别?反应了都市人找不到生命的意义,都在过着毫无意义的荒唐生活,为了毫无意义的荒唐理由痛苦和死亡。


      IP属地:浙江3楼2023-05-13 21:54
      收起回复
        嗯,从我个人角度来看的话,指令就像是,完成你自己的意愿,你的意愿就是指令的意愿


        IP属地:湖南来自Android客户端4楼2023-05-13 22:46
        收起回复
          指令不需要“知晓你是否完成”,而是“你觉得自己没有完成指令”。致...在白色的墙上看到绿色。如果从颜色角度理解可以往上弄绿颜料,从文字角度你可以在上面写上绿色两个字,还有很多其他解读方式,你觉得你完成了,那你就是完成了。但如果你觉得有绿色就不能算是白色的墙了,你觉得这是一个无法完成的指令,那代行者马上就到你家门口


          IP属地:吉林来自Android客户端5楼2023-05-13 23:01
          收起回复
            指令还有一点特殊的就是按指令行事总会利于组织


            IP属地:浙江来自iPhone客户端6楼2023-05-13 23:35
            收起回复
              说到底就是命运,由一种绝对理性的集体意识所构建的命运,只不过食指将对其的信仰寄托在了由织布机记录的语言中并称其为指令,艾琳将对其的信仰寄托在了齿轮上


              IP属地:宁夏来自Android客户端7楼2023-05-14 01:25
              收起回复
                我之前还仔细思考过,“指令”这东西从科学的角度讲是否可行。
                如果紧靠地动仪悬丝诊脉肯定不行,但存在一种可行的方案。
                1、地动仪的作用
                首先在指令对人控制的精度达不到毫秒级别,所以大量振动产生的数据几乎是随机的。
                所以都市的振动显然并不觉得指令的内容,但它一方面提供一个【随机数源】,另一方面起到【时钟信号】的作用。
                首先“地动仪”生成一个看不懂的图案,作为随机种子(比如图像生成AI,通常都有一个Latent向量,被称为灵感,而这个AI最后会被训练成不管给什么随机数,它都能牵强附会把它解释成一幅画)
                2、“指令意志”的来源
                而“织布机”如果设计合理,并不是刚体的架构,而是各个部件由于线张力的不同会活动,有可能形成一个基于机械的,可训练的神经网络。(有点三体里人列计算机那种意思),说白了这些织布机或者其他我们看不到的部分,就是一个野生AI。
                但我们可以看出,“指令”这个AI并没有一个终极目的,这个神经网络的优化目标可以是信息熵最小。(参考前段时间培养脑细胞打游戏的研究)就好像一个婴儿回去拿一些东西,也就是可以通过某种动作控制现实中的东西,此时他并没有什么目的,只是追求给自己接受到的信号建立逻辑关系。说人话就是,“控制”就是目的。
                指令的意志就是“控制”,除了控制,没有别的。
                3、“指令”AI是如何进化的
                假如指令满足如上假设,指令就是以控制为目的的AI。它不断输出各种(一开始自己也不明白的)信号,并得到反馈,然后优化,如此往复,也就是一个“强化学习(reinforcement learning)”的过程,这个过程就像一个婴儿学母语的过程。
                那么可以推测,起初指令输出的是完全无意义的内容,无法被理解。
                一旦输出了某些似乎有意义的指令,也许有人就会尝试解释它并执行它,AI就得到了“奖励”,它就会“加大力度”。
                接下来AI通过学习,越来越能够用人类能看懂的语言来描述了,因为它发现这样,有“好事者”尝试执行它的指令的概率就会增大。
                在接下来它发现有些指令人们不愿意执行,所以它从3方面着手,1、对违抗指令的人发出惩罚的指令,2、给指令留一些漏洞,这样残酷的指令既给人恐怖的压迫感,又不会把人斩尽杀绝,人类管这叫“围师必阙”。3、定期发出指令派人来汇报外面的情况。
                以上理论的几个缺陷:
                1、算力,能达到输出自然语言的程度,最小的模型也有10亿级别的参数,织布机看起来不像是有那么多条线同时工作的样子。不过咱可以假设像ChatGPT这样的AI在那个时代已经和“脑啡肽打火机”一样不值钱了,所以语言不是织布机自己学习的。
                2、传感器,紧靠地动仪“悬丝诊脉”,指令AI很难发现自己做一件事对世界有什么影响,就算它可以发出指令叫人来汇报(这样AI可以根据振动听懂汇报人的话),没有人干预的情况下,ai对外面世界一无所知不可能想出这个办法。而且负责生产指令的人也表示没什么人来……
                3、就是这东西是谁造的,要是野生AI自己造的,那这个世界早就是AI统治地球的设定了,安吉拉大概也不需要变成人类了。


                IP属地:浙江8楼2023-05-14 02:13
                回复
                  另一种解释就简单粗暴了,“指令”只需要根据都市的振动,就能听出整个都市发生了:谁说了什么话,哪里开了枪,哪里打了架,谁走路跌倒了……
                  (这就好比把10000个十字路口的录音同时在你耳边播放,然后你就能听出哪个牌子的车最多。)


                  IP属地:浙江9楼2023-05-14 02:21
                  回复
                    指令不一定就是什么高深莫测的东西,没准就是某个脑子有问题的用些鬼把戏结果招了几个脑子不正常的就真信了,在都市“远程操作”应该不是什么难事吧,拿拇指类比,就是一堆屁都不是的陈腐教条,帮派高级分子信了而已


                    IP属地:广东来自Android客户端10楼2023-05-14 07:53
                    回复
                      从阳的剧情和织布机来看,指令是有命运的意味的,阳无论遵守还是曲解指令,最后都变成了指令的一部分。命运就像纺锤形的道路,你的选择毫无意义。
                      对于指令违背的惩罚,我觉得也可以用现实里信命运的人的一些表现(忘了叫啥了 自我归因还是啥)来解释:遭灾了就是之前种的因果,没遭灾就是相信走在正确的道路上。
                      都市的指令是可以有多种解释的,也就意味着幸存者偏差,我实际上没做到但是没被惩罚就可以自以为是相信自己做到了(并认为这就是指令的意思),某一天实际上做到了但收到了惩罚那一样可以自我解释成没做的
                      当然还有传令官篡改指令,阳能做到其他传令官自然也可以,他们可以主动维护这个机制来加强指令的绝对性


                      IP属地:河南来自Android客户端11楼2023-05-14 08:14
                      回复
                        所以楼主倒是给个论点啊。


                        IP属地:内蒙古来自Android客户端12楼2023-05-14 15:11
                        收起回复
                          可以读一下博尔赫斯的短篇小说《巴比伦彩票》,我觉得是指令之意的原型。月计在很多方面都对他的作品有很大的借鉴


                          IP属地:黑龙江13楼2023-05-14 23:43
                          回复
                            最离谱的不是指令怎么知晓都市,而是他怎么绕过下令直接对都市施加影响,比如食指的指令加护,这玩意感觉解释成纯信仰加成说不过去。还有都星代行者剧情里面提到的“指令治好了阳”(大意如此,应该是格洛利亚说的)


                            IP属地:山西来自iPhone客户端14楼2023-05-15 12:38
                            回复
                              我认为指令就是个体的潜意识,当你满足不了潜意识的时候会觉得痛苦和难受。而织布机把你的潜意识直接打下来交给了你让你去完成,完成与否都是自己主观的想法,只要你觉得这个行为符合指令那就是完成了(只是人总是无法跳脱出常识,这也很正常),但完成不了就得死。


                              IP属地:江苏来自Android客户端15楼2023-05-21 06:24
                              回复