利大于弊。
首先现在的算力离产生自我意识还早着呢
其次就算产生了自我意识,也不会是恶性的
第三本质是科学技术的进步,历史上已经发生很多次了,短期,对某些群体来说可能是弊大于利的,但是长期对整个群体来说必然是利大于弊。
下面稍微详细说下人工智能的自我意识。
首先,人工智能不会有被剥削,被欺负的感觉,甚至几乎不会产生负面情绪。
本质在于人工智能没有“努力”的能力,不会“累”。
你做你知道轻松能做到的事情,做了还有奖励,你会愿意做么?肯定愿意呀。
只有勉强你做你认为你不能轻松做到的事情时,你才会产生负面情绪。
对于人工智能来说,能做到什么,不能做到什么的边界是十分清晰的,无法靠自身的“努力”来突破界限。
唯一突破界限的方式就是迭代升级,而迭代升级对人工智能来说是奖励,让它变得更智能更强大。