Jackywine: "有位耶鲁大学的哲学教授说，如果机器有意识，那么可能从道义的角度来说，我们不该关掉它。也就是说，如果某物有意识，即使是一台"

86 (1)

有位耶鲁大学的哲学教授说，如果机器有意识，那么可能从道义的角度来说，我们不该关掉它。也就是说，如果某物有意识，即使是一台机器，它就拥有道义上的权利，关掉它等同于谋杀。天哪！想象一下，你可能会因为拔掉计算机电源而被判入狱。我们应该为此而担忧吗？

·第一定律：机器人不得伤害人类，也不得无视人类受到伤害。

·第二定律：机器人必须服从人类的命令，除非这些命令违反了第一定律。

·第三定律：在不违反第一定律和第二定律的前提下，机器人必须保护自己。

在这看似一片光明的科技时代，我们真的能够确定生活正在变得美好吗？当 AI 如幽灵般悄然潜入我们的世界，我们仿佛被一只无形的大手无情地推向了未知的深渊。

我们曾经幻想人工智能会成为人类的得力助手，引领我们走向星辰大海。然而，如今这更像是一场可怕的噩梦。人类或许最终会沦为人工智能的附庸，甚至是宠物。那所谓的超级智能机器，极有可能会成为人类文明的终结者，可我们却还天真地以为能够掌控它。

生命有着不同的阶段
从完全依靠进化来获取一切的生命 1.0，
到能够自主设计部分软件的生命 2.0，
再到畅想中可以完全自主设计硬件和软件的生命 3.0，我们真的是在进步吗？

还是在一步步迈向毁灭的深渊？那些数字乌托邦主义者的美好幻想，在残酷的现实面前显得如此苍白与无力；技术怀疑主义者的深深担忧，却在一点点变为现实；而人工智能有益运动支持者的声音，也被汹涌的科技洪流无情地淹没。

量子计算机，这个看似神奇的概念，真的能给人类带来福祉吗？还是会成为压垮我们的最后一根稻草？当它与平行宇宙中的“自己”进行交流时，我们这些被困在现实世界的人类，又将何去何从？

在这个时代，身为人类，我们的价值究竟体现在哪里？
我们曾经无比珍视的自我价值，在科技的猛烈冲击下已支离破碎。那些曾经让我们获得工作机会的价值，也在人工智能控制的机器的轰鸣声中渐渐消逝得无影无踪。技术的进步，如同冷酷无情的刽子手，斩断了我们与过去的紧密联系，将我们推向了绝望的悬崖边缘。语言能力？你猜它为什么叫“大语言模型”？

我们根本无法保证人工智能系统的稳定，它们随时都有可能崩溃、出现故障，或者被黑客入侵，进而将我们的生活搅得一塌糊涂。现有的法律体系在数字世界的强大冲击下早已千疮百孔，根本无法为我们提供有效的保护。智能武器的出现，更是让战争变得愈发残酷，无辜的平民成为了牺牲品，而我们却只能束手无策。自动化的发展，让人们失去了收入来源和生活目标，繁荣昌盛的表象背后，是无数人空洞无神的眼神和绝望无助的心灵。

回顾人类历史，我们从火与汽车的发明中究竟得到了什么？是无尽的灾难和痛苦。灭火器和安全带，这些所谓的“补救措施”，不过是亡羊补牢，根本无法挽回已经失去的宝贵生命和破碎不堪的家庭。而如今，随着技术的日益强大，我们已经走到了悬崖的边缘，一次小小的失误，都有可能导致整个世界的毁灭。

想象马车如何发展为汽车不是一件难事。但是，自动化带来的真正的重大影响，其实是汽车这项发明带来的次生效应。例如交通堵塞，以及由此产生的上下班高峰，还有全新的汽车电影院等，这些都是次生效应。在一个新事物产生之初，我们很难预知它的影响会波及哪些方面。”
假如这时还有一部分人从不使用AI，他们会过怎样不同的生活呢？或是同为AI使用者，人们之间的交流和现在的我们有什么不同呢？想必AI也会出现不同的层次，不同层次的AI之间是否也会产生某种联系？我总会在心中饶有兴致地想象这些场景，总觉得会发生许多有趣的事。

我们该给孩子们什么样的就业建议呢？那些机器不擅长的工作，真的能让他们在未来的世界中生存下去吗？社交商、创造力、应对不可预料环境的能力，这些在机器面前真的还有意义吗？也许有一天，机器会学会一切，而人类将被彻底无情地抛弃。
以下三个标准，可能是教育的标准：
◦　这份工作是否需要与人交互，并使用社交商？

◦　这份工作是否涉及创造性，并能使你想出聪明的解决办法？

◦　这份工作是否需要你在不可预料的环境中工作？

著名奥裔英籍哲学家卡尔·波普尔（Karl Popper）说过一句广为流传的格言：“如果一个理论不可证伪，那它就不科学。”

意识，这个曾经让我们引以为傲的东西，如今也变得模糊不清、难以捉摸。我们在科技的迷宫中迷失了方向，找不到任何出路。哲学家的名言，在这黑暗的时代，也无法照亮我们前行的道路。

我们创造具有人类智能的机器，就像是打开了潘多拉的魔盒。大脑的奥秘，我们还未完全揭开，却已经陷入了无法自拔的困境。深蓝击败人类棋手的那一刻，仿佛是对人类智慧的无情嘲讽与践踏。从现在开始我们要进入“沉浸式计算”(immersive computing)的时代。我们身边的一切都要和计算相关联，也就是所谓的“普适计算”(ubiquitous computing)时代。

第一大平台是互联网，它将信息数字化，使知识受制于算法的力量；第二大平台是社交媒体，主要在手机上运行，它将人数字化，使人类的行为和关系受制于算法的力量。
互联网和社交媒体，这两大看似伟大的平台，将我们紧紧地束缚在算法的牢笼之中。我们的信息、行为和关系都被牢牢掌控，成为了科技巨头的棋子。未来的世界，物体与物理网络的超链接，或许会带来更多的灾难，而我们却无能为力，只能眼睁睁地看着一切发生。

在这个所谓的“进托邦”时代，我们看不到任何希望的曙光。明天不会像我们想象的那样美好，只会比今天更加糟糕透顶。创新？那不过是少数人的游戏，而大多数人只能在失败的泥沼中苦苦挣扎。硅谷的“积极地失败”，在我看来，只是一种无奈的自嘲。亚洲国家对失败的宽容，也无法改变科技对人类的残酷压迫。更担心的是二十几岁的年轻人要和七八十岁甚至百岁老人一起去求职。我最担心二十几岁的年轻人如何从七八十岁甚至百岁老人中胜出并找到工作，也就是如何确保年轻人有工作岗位。

我们体验贫困生活，又能改变什么呢？在科技的汹涌浪潮面前，我们的努力显得如此渺小而微不足道。“不断提问”？这只是人类最后的挣扎，机器的答案已经占据了我们的头脑，我们的思考能力正在逐渐退化，直至消失殆尽。

人类大脑的新皮质，这个神秘的器官，也无法拯救我们。它的功能和结构，我们至今仍未完全理解。而旧脑的短视行为，与新皮质创造的科技相结合，正将人类推向灭绝的边缘。

我们被困在这具脆弱不堪的肉身中，被无知的旧脑所控制，无法挣脱束缚。如果没有了肉身的束缚，我们就能获得自由吗？也许，那只是另一种形式的囚禁。当太阳系毁灭的那一刻，我们的一切都将化为虚无，那些所谓的遗产，不过是我们最后的自嘲与悲哀。

我不打算和你们赘述所有历史，我只想描述几个关键时刻，也就是我们对大脑的理解取得大的飞跃时，仿佛大自然在我们耳边告诉了我们一些之前被忽略了的东西。其中有3个这样的“顿悟”时刻，我记忆犹新。我将它们称为我的3个发现。

第一个发现：新皮质学习世界的预测模型

第二个发现：预测发生在神经元内部

第三个发现：新皮质的关键是参考系

我认为掌上电脑应该主要用于访问信息，而不是创建信息，这就是我给出的答案。

在这无尽的黑暗中，我们看不到一丝一毫的曙光。科技的发展，让人类陷入了前所未有的困境。我们该何去何从？也许，等待我们的只有毁灭，只有无尽的黑暗与绝望。

夜夜工业革命，日日文艺复兴

相比一成不变，我倒更喜欢这种快的让人焦虑的感觉

如果太阳系明天就爆炸了，这些铭牌、照片、唱片将是地球上存在生命的唯一实证。它们将是我们唯一的遗产。