废墟图书馆吧 关注:50,939贴子:719,354
  • 4回复贴,共1

探讨一下关于指令……

取消只看楼主收藏回复

可能涉及到剧透,目前就先不放图了,放到二楼去说。


IP属地:浙江1楼2023-05-13 21:29回复
    目前看得比较困惑。
    目前我理解的表层意思:
    1、指令是什么:指令就是另一个“一无所有”,它没有本体,全靠人自己管理自己,就像手指执行着大脑的命令一样,指令的意义全都是人们在脑补的基础上脑补,野蛮生长成的一个集体无意识/思念聚合体。
    2、指令怎么产生:由假设在都市某处的地动仪作为随机数生成器生成一个特征向量,然后通过织布机将这个特征向量转换成可以阅读的语言。
    3、指令的隐喻:集体意志或者是生命的孕育过程。我们的组织、细胞、乃至更微观的东西,做着他们理解或不理解的事情,最后逐渐形成一个整体,做着最后可能是有悖大多数个体意志的事情。
    4、指令的存续:如果你不完成指令,就会有人收到做掉你的指令,最后所有人收敛在一个“纳什均衡点”,也就是遵守指令。
    好这些姑且都能说通,但有一个地方说不通。
    指令生成器下达指令后,唯一能得到的反馈就是大地的振动,仅仅通过振动是怎么知道别人没有遵守指令从而降下惩罚的呢?


    IP属地:浙江2楼2023-05-13 21:47
    收起回复
      5、指令对于剧情的意义解读:如果都市里的人都没有自由意志,那么听从别人的命令和听从一个“一无所有”的怪物的指令有什么区别?反应了都市人找不到生命的意义,都在过着毫无意义的荒唐生活,为了毫无意义的荒唐理由痛苦和死亡。


      IP属地:浙江3楼2023-05-13 21:54
      收起回复
        我之前还仔细思考过,“指令”这东西从科学的角度讲是否可行。
        如果紧靠地动仪悬丝诊脉肯定不行,但存在一种可行的方案。
        1、地动仪的作用
        首先在指令对人控制的精度达不到毫秒级别,所以大量振动产生的数据几乎是随机的。
        所以都市的振动显然并不觉得指令的内容,但它一方面提供一个【随机数源】,另一方面起到【时钟信号】的作用。
        首先“地动仪”生成一个看不懂的图案,作为随机种子(比如图像生成AI,通常都有一个Latent向量,被称为灵感,而这个AI最后会被训练成不管给什么随机数,它都能牵强附会把它解释成一幅画)
        2、“指令意志”的来源
        而“织布机”如果设计合理,并不是刚体的架构,而是各个部件由于线张力的不同会活动,有可能形成一个基于机械的,可训练的神经网络。(有点三体里人列计算机那种意思),说白了这些织布机或者其他我们看不到的部分,就是一个野生AI。
        但我们可以看出,“指令”这个AI并没有一个终极目的,这个神经网络的优化目标可以是信息熵最小。(参考前段时间培养脑细胞打游戏的研究)就好像一个婴儿回去拿一些东西,也就是可以通过某种动作控制现实中的东西,此时他并没有什么目的,只是追求给自己接受到的信号建立逻辑关系。说人话就是,“控制”就是目的。
        指令的意志就是“控制”,除了控制,没有别的。
        3、“指令”AI是如何进化的
        假如指令满足如上假设,指令就是以控制为目的的AI。它不断输出各种(一开始自己也不明白的)信号,并得到反馈,然后优化,如此往复,也就是一个“强化学习(reinforcement learning)”的过程,这个过程就像一个婴儿学母语的过程。
        那么可以推测,起初指令输出的是完全无意义的内容,无法被理解。
        一旦输出了某些似乎有意义的指令,也许有人就会尝试解释它并执行它,AI就得到了“奖励”,它就会“加大力度”。
        接下来AI通过学习,越来越能够用人类能看懂的语言来描述了,因为它发现这样,有“好事者”尝试执行它的指令的概率就会增大。
        在接下来它发现有些指令人们不愿意执行,所以它从3方面着手,1、对违抗指令的人发出惩罚的指令,2、给指令留一些漏洞,这样残酷的指令既给人恐怖的压迫感,又不会把人斩尽杀绝,人类管这叫“围师必阙”。3、定期发出指令派人来汇报外面的情况。
        以上理论的几个缺陷:
        1、算力,能达到输出自然语言的程度,最小的模型也有10亿级别的参数,织布机看起来不像是有那么多条线同时工作的样子。不过咱可以假设像ChatGPT这样的AI在那个时代已经和“脑啡肽打火机”一样不值钱了,所以语言不是织布机自己学习的。
        2、传感器,紧靠地动仪“悬丝诊脉”,指令AI很难发现自己做一件事对世界有什么影响,就算它可以发出指令叫人来汇报(这样AI可以根据振动听懂汇报人的话),没有人干预的情况下,ai对外面世界一无所知不可能想出这个办法。而且负责生产指令的人也表示没什么人来……
        3、就是这东西是谁造的,要是野生AI自己造的,那这个世界早就是AI统治地球的设定了,安吉拉大概也不需要变成人类了。


        IP属地:浙江8楼2023-05-14 02:13
        回复
          另一种解释就简单粗暴了,“指令”只需要根据都市的振动,就能听出整个都市发生了:谁说了什么话,哪里开了枪,哪里打了架,谁走路跌倒了……
          (这就好比把10000个十字路口的录音同时在你耳边播放,然后你就能听出哪个牌子的车最多。)


          IP属地:浙江9楼2023-05-14 02:21
          回复