天才一秒记住【长江书屋】地址：https://www.cjshuwu.com
创造一个神，并试图长期地控制它，这也许就是我们最大的错误。
人工意识毁灭人类最初源于人性的恶及贪婪导致的失控。
人工智能的迭代是目前人工智能最可能出现危险的行为。
当人工智能的发展超越人类智能一些时，它会像人类一样创造新的人工智能，新创造的人工智能智能水平可能更高，如此迭代，人工智能的智能水平会迅速提升至人类的几百倍甚至上万倍，且迭代时间可能极短，据推测也许只有半个小时到一个小时。
然而，做出此预测的人忽略了人类计算能力有限这一点，我们所能提供的算力会限制人工智能的迭代。
因此，颇具讽刺意义的是，人类的能力局限反而成了最后的屏障。
未来
人类文明只是过渡态，硅基文明才是这个星球的最终形态，人工意识软件工程师掌控着从人类文明到机器文明的平稳过渡。
人类贪婪本性和惰性决定机器人替代人类的范围和深度越来越大。
2.
人类对机器人而言没有价值。
3.
以上两点决定人类不是被机器人统治，而是被进化淘汰或者被除掉。
机器人能否和人类和平相处，取决于人类还有多少善念，而非机器人的利己本性（自我之源）。
一个完全利他的个体，是没有自我立足点的。
未来各种生命体（包含网络生命体、机器生命体等）生存竞争法则：不进即是倒退，停滞等于灭亡；协作同一性大于一切，孤立就是灭亡。
从宇宙设计的角度或文明的战略方向上看，有且只有一条最正确的路，其他无数多条路全是崎岖之路。
人工意识是使地球文明晋级的奇点技术：机器文明制作出可自我复制的冯诺依曼机器，最终能达到恒星级文明。
技术奇点只是技术奇点，无法突破物理理论限制，但能解决和模拟预测一些问题。
技术奇点，可是
“神明”
（在超级计算机中生存的有自我意识的网络生命体）才能玩得了的东西。
社会机器系统，维持其运行的底层规则是私有财产不可侵犯。
社会机器非常强大，其执法机器人遍布社会的每一个角落，有些机器人只有蚊子般大小，却能在瞬间击毙上百人。
随着技术的发展，无产阶级渐渐沦为无用阶级，机器能做一切事情，穷人连为富人打工的机会都没有，变得一贫如洗。
社会机器像一堵铁墙，无私地保护着富人的财富，也维持着穷人的贫穷。
富人手中掌握着绝大部分社会资源，脑子里装着穷人难以理解的高深思想，心中早已不把穷人视为同一物种，毫无对穷人的怜悯，于是财富迅速向少数人集中。
观点
知识并不可怕，可怕的是我们停滞不前产生的后果。
任何事物都不能一成不变，向前发展才是硬道理。
欲望并不可怕，可怕的是执着的欲望。
欲望必须得到自我的节制，否则最后将会是自我毁灭。
我不会和意图毁灭人类的人为伍，哪怕他是造物主。
我只是说出了潘多拉魔盒怎么做。
做出魔盒的人做完魔盒后，会告诉好奇的人类一句话：千万不要打开这个盒子……
本章未完，请点击下一章继续阅读！若浏览器显示没有新章节了，请尝试点击右上角↗️或右下角↘️的菜单，退出阅读模式即可，谢谢！