国庆七天假真滴好
就是票有点难抢
全文字数：4,500+
阅读时间：15分钟
以下正文
一个问题
Q:为什么我们如此担心人工智能?当然人类总是能拔掉插头吗?
A：人们问电脑:“上帝在吗?”电脑说，“现在有了。”然后插头烧断了。
0
1
智力对于人类的意义至关重要。文明所能提供的一切都是人类智慧的产物。
DNA在各代之间传递生命的蓝图。越来越复杂的生命形式从眼睛和耳朵等传感器输入信息，然后在大脑或其他系统中处理这些信息，以弄清楚如何对世界采取行动，然后再对世界采取行动，例如，通过向肌肉输出信息。在我们138亿年的宇宙历史中，发生了一些美妙的事情。这种信息处理变得如此智能，以至于生命形式变得有意识。我们的宇宙现在觉醒了，意识到了自己。我认为这是一种胜利，因为我们，我们自己仅仅是星尘，已经对我们所生活的宇宙有了如此详细的了解。
我认为蚯蚓的大脑如何工作和计算机如何计算之间没有明显的区别。我也相信进化意味着蚯蚓的大脑和人类的大脑在质量上没有区别。因此，从理论上讲，计算机可以模仿人类的智能，甚至更好。很明显，某些东西有可能获得比它的祖先更高的智力，我们进化得比我们类人猿祖先更聪明，而爱因斯坦比他的父母更聪明。
如果计算机继续遵循摩尔定律，每隔18个月就将速度和存储容量提高一倍，其结果是，在未来100年的某个时候，计算机很可能在智力方面超过人类。当人工智能AI在设计上变得比人类更优秀，从而可以在没有人类帮助的情况下不断地改进自身时，我们可能会面临一场智能爆炸，最终导致机器的智能比我们的智能超过蜗牛的智能许多倍还要多。当这种情况发生时，我们需要确保计算机有与我们一致的目标。人们很容易把高智能机器的概念斥为纯粹的科幻小说，但这将是一个错误，而且可能是我们有史以来最严重的错误。
在过去的二十年左右的时间里，AI一直专注于围绕智慧媒介的建设的问题，在特定环境中感知和行动的系统。在这种背景下，智力与理性的统计和经济概念有关，通俗地说，就是做出正确决定、计划或推断的能力。由于最近的这项工作，人们在人工智能、机器学习、统计学、控制理论、神经科学和其他领域已经有了很大程度的交叉融合。共享理论框架的建立，结合了教据的可用性和处理能力，在语音识别、图像分类、自动驾驶汽车、机器翻译、并行运算和问答系统等各个组成部分的任务中取得了显着的成功。
随着这些领域和其他领域的发展从实验室研究转向具有经济价值的技术领域，一个良性循环不断发展，在这个循环中，即使性能上的微小改进也会带来很大的收益，从而推动对研究的进一步和更大的投资。现在有一个广泛的共识，即人工智能研究正在稳步发展，它对社会的影响可能会增加。潜在的好处是巨大的。我们无法预测，当这种智能被AI可能提供的工具放大时，我们可能会取得什么样的成就。消灭疾病和贫穷是可能的。由于AI的巨大潜力，在研究如何在避免潜在陷阱的同时获得好处是非常重要的。AI的成功创造将是人类历史上最大的事件。
0
2
不幸的是，这也可能是最后一次，除非我们学会如何避免风险。作为一个工具包，A可以增强我们现有的智力，从而在科学和社会的各个领域取得进步。然而，它也会带来危险。虽然到日前为止，人工智能的原始形式已经被证明非常有用，但我担心创造出能与人类匹敌或超越人类的东西的后果。令人担忧的是，AI将自行运转，并以越来越快的速度重新设计自己，人类受到缓慢的生物进化的限制，无法竞争，将被取代。在未来，可能会发展出自己的意志，与我们冲突的意志。另一些人认为，人类可以在相当长的一段时间内控制科技的发展选度，而人工智能解决世界上许多问题的潜力将会实现。尽管我以对人类持乐观态度而闻名，但我不确定。
在近期内，例如，世界各国军队正在考虑在自动武器系统方面展开军备竞赛，自动武器系统可以选择和消灭自己的目标。当联合国正在讨论一项禁止此类武器的条约时，自动武器的支持者往往忘记问最重要的问题。军备竞赛的终点很可能是什么？这对人类来说是可取的吗?我们真的想让廉价的AI武器成为明日的卡拉什尼科夫冲锋枪，在黑市上卖给罪犯和恐怖分子吗？考虑到我们有能力长期控制越来越先进的AI系统，我们是否应该武装他们并把我们的防御交给他们？在，电脑交易系统创造了股市的闪电崩盘，计算机引发的崩溃在国防领域会是什么样子？停止自动武器军备竞赛的最佳时机就是现在。
从中期来看，AI可能会使我们的工作自动化，从而带来繁荣和平等。展望未来，可以取得的成就没有根本的服制。没有任何物理定律能阻止粒子以比脑中粒子排列更先进的方式进行组织。一个爆炸性的转变是可能的，尽管它可能比在电影中表现得不同。正如数学家欧文·古德在1965年意识到的那样，具有超人智能的机器可以不断地进步，改进它们的设计，科幻作家弗诺·文奇称之为技术奇点。人们可以想象，这种技术智取金融市场，发明人类研究人员，操纵人类领导人，还可能用我们自己并不知道的武器征服我们。甚至不能理解。AI的短期影响取决于谁来控制它，而长期影响则取决于它能否被控制。
简而言之，超智能人工智能的出现要么是人类历史上最好的事情，要么是最糟糕的事情。AI的真正风险不是恶意而是竞争。一个超级聪明的人会非常善于实现自己的目标，如果这些目标与我们的目标不一致，我们就有麻烦了。你可能不是出于恶意踩到蚂蚁的蚂蚁怀恨者，但如果你负责一个绿色水电项目，而该地区有一个蚁丘要被淹没，这对蚂蚁来说太糟糕了。我们不要把人类放在蚂蚁的位置上。我们应该提前计划。如果一个高级外星文明给我们发了一条短信说，“我们将在几十年后到达”，我们会回复说，“好吧，你到这儿给我们打电话，我们会让灯开着”吗？也许没有，但这或多或少是发生在AI身上的事情。除了少数几个小型非营利机构外，很少有严肃的研究致力于这些问题。
0
3
幸运的是，现在这种情况正在改变。技术先驱比尔盖茨、史蒂夫沃兹尼亚克和埃隆马斯克也表达了我的担忧，一种健康的风险评估文化和对社会影响的意识正开始在美国AI业扎根。1月，我与埃隆·马斯克和许多AI专家一起，签署了一封关于人工智能的公开信，并表达对其社会影响的严肃研究。埃隆马斯克过去曾警告称，超人的人工智能能够带来不可估量的好处，但如果不谨慎使用，将对人类产生不利影响。我和他都是未来生命研究所科学顾问委员会成员，该机构致力于减轻人类面临的生存风险，并起草了这封公开信。这就需要对我们如何在预防潜在问题的同时获得AI提供给我们的潜在好处进行具体的研究，旨在让AI的研究人员和开发人员更加关注AI的安全性。此外，对于政策制定者和公众来说，这封信意在提供信息，而不是危言耸听。我们认为让每个人都知道AI的研究人员正在认真考虑这些问题和其他伦理问题是非常重要的。例如AI有可能根除疾病和贫穷，但是研究人员必须努力的创造必须被控制的AI。
10月，我在剑桥大学也开设了一个新的中心，它将试图解决一些开放式的问题，这些问题是因AI研究的快速发展而提出的。勒沃·胡姆智能未来中心是一个多学科的研究机构，致力于研究对人类文明和物种未来至关重要的智能未来。我们花了很多时间研究历史，让我们面对现实吧，主要是愚蠢的历史。所以这是一个可喜的变化，人们研究的是智能的未来而不是智能本身。我们意识到潜在的危险，但也许有了这场自然革命的新技术工具，我们甚至能够消除工业化对自然界造成的一些破坏。
AI的进步最近的进展包括一个制度，由欧洲议会起草的一系列的规章制度来管理创造机器人和AI。有些令人惊讶的是，这包括电子人格的一种形式，来确保对最有能力和最先进的AI权利和尊重。欧洲议会的一位发言人说，在我们日常生活中越来越多的领域，机器人为我们提供越来越多的帮助，我们需要确保机器人一直并持续的继续为人类服务。提交给议会的一份报告宣称，世界正处于一种新型工业机器人革命的风口浪尖。它审查了是否允许以电子人的身份为机器人提供与公司人格的法律定义相同的法律权利。但它强调，在任何时候，研究人员和设计师都应该确保所有的机器人设计都包含一个“关闭开关”。
Hal对航天飞机上的科学家们并没有什么帮助，他是电影《2001：太空漫游》里出故障的智能机器人，但那是小说。但那是虚构的。我们处理事实。跨国律师事务所奥斯本克拉克的顾问洛娜布拉泽尔在报告中说，我们没有赋予鲸鱼和大猩猩人格，所以没有必要直接赋予机器人格，但警惕是存在的。该报告承认，在几十年内，AI可能会超越人类的智力能力，挑战人类与机器人的关系。
0
4
到2025年，将会有大约30个超大城市，每个城市的居民超过一个而所有这些人都在强烈要求，希望商品和服务能随时提供给他们，技术能帮助我们跟上我们对即时贸易的渴望吗？机器人肯定会加快网上零售的进程，但要彻底改变购物方式，它们需要足够快，让每笔订单都能当天送达。
与世界互动的机会正在迅速增加，而不必亲临现场。正如你所能想象的，我觉得这很有吸引力，尤其是因为我们所有人的城市生活都很忙碌。有多少次你希望你有一个可以分担你的工作量的替身?为我们自己创造逼真的数字代理人是一个雄心勃勃的梦想，但最新的技术表明，这可能并不像听起来那么遥不可及。
在我年轻的时候，科技的发展就预示着这一我们都能享受更多闲眠时光的未来。但事实上，我们能做的越多，我们就变得越忙。我们的城市已经充满了扩展我们能力的机器，但是如果我们可以同时在两个地方呢?我们习惯了电话系统和公共公告上的自动语音。现在，发明家丹尼尔·克拉夫特正在研究如何在视觉上复制自己问题是，一个替身能有多大的说服力?
事实证明，互动辅导对大规模在线开放课程和娱乐活动都很有用。这可能真的很令人兴奋，教字演员将永远年轻，能够表演其他不可能的壮举。我们未来的偶像甚至可能不是真的。
我们如何与数字世界联系是我们未来取得进展的关键。在最智慧的城市，最智慧的家庭将配备非常直观的投备，几乎不需要费力就能与之互动。
打字机发明时，它解放了我们与机器互动的方式。近150年后，触摸屏开启了与数字世界交流的新方式。最近的一些标志性事件，比如自动驾驶汽车，或者在国棋比赛中获胜的电脑，都是未来的迹象。大量的投资正在涌入这项技术，它已经成为我们生活的重要组成部分。在未来的几十年里，它将渗透到我们社会的方方面面，在医疗、工作、教育和科学等诸多领域给予我们明智的支持和建议。到目前为止，我们所取得的成就与未来几十年的成就相比，肯定相形见轴。
也许有了这项新技术革命的工具，我们可以使人类生活得更好。例如，研究人员正在开发一种AI，可以帮助脊髓损伤患者逆转瘫痪。利用硅芯片植入物和大脑与身体之间的无线电子接口，这项技术将允许人们用他们的思想控制他们的身体运动。
0
5
我相信未来的通信是脑计算机接口。有两种方法颅骨电极和植入物。第一个就像透过毛玻璃看，第二个更好，但有感染的风险。如果我们能把人脑和互联网连接起来，维基百科就会成为我们的资源。
随着人们、设备和信息之间的联系日益紧密，世界变化得更快。计算能力正在增长，量子计算正在迅速实现，这将以指数级的速度给人工智能带来革命性的变化。它将推进加密。量子计算机将改变一切，甚至人类生物学。现在已经有一种精确编辑DNA的技术叫做CRISPR。基因组编辑技术的基础是细菌防御系统。它可以精确地定位和编辑遗传代码的片段。基因操纵最好的解释是，修改基因可以使科学家通过纠正基因突变来治疗疾病。然而，操纵DNA的可能性并不那么高。我们在基因工程方面能走多远将成为一个越来越紧迫的问题。我们无法看到治愈运动神经元疾病的可能性，就像我的ALS病一样，同样也看不到他的危害。
智力的特征之一是适应变化的能力。人类的智力是那些有能力适应环境变化的自然选择的产物。我们决不能害怕改变。我们需要让它对我们有利。
我们都扮演着一个角色，确保我们和下一代在早期初级层次上不仅有机会而且有决心完全参与科学研究，这样我们就可以继续发挥我们的潜力为整个人类创造一个更美好的世界。我们需要在理论上讨论AI应该是什么样子的基础上进行学习，并确保我们计划了AI应该是什么样子的。我们都有潜力去突破被接受或期待的界限，并且要胸怀大志。我们站在一个美丽新世界的门槛上。这是一个令人兴奋的地方，虽然不稳定，但我们是先驱者。
当我们发明了火，我们不断地搞砸，然后发明了灭火器。随着核武器、合成生物学和强大的人工智能等更强大的技术，我们应该提前计划，争取第一次就把事情做好，因为这可能是我们唯一的机会。我们的未来是一场竞争，在我们日益增长的技术力量和我们使用它的智慧之间展开。让我们确保智慧获胜。
写在后面
阿西莫夫创建了机器人学三大法则：
1、机器人不得伤害人类，或因不作为而使人类受到伤害。
2、除非违背第一法则，机器人必须服从人类的命令。
3、在不违背第一及第二法则的情况下，机器人必须保护自己。
The End
陪伴是最长情的告白
好巧！咱们都喜欢太空呢！
安利一部电影
《她》
你的每个在看，我都认真当成了喜欢
