人类是地球上思想最缜密的动物，研究它才能控制AI。

超级混源体老邱

本人点评：要想驾驭人工智能，就必须研究我们自己的，过早驾驭人工智能只会带来灭顶之灾，所以我们要把我们人类自己的大脑和社会行为，只有把这些都彻底攻略完成才能驾驭人工智能（攻略人类自己的大脑和社会行为）。

此贴来源：IT之家

　　从科学怪人到机器人，几个世纪以来，我们一直对研发出具有自我意识的生物感到好奇和恐惧。现在，我们正站在逐渐强大的人工智能时代的尖端，我们迫切需要开发各种方法来确保我们的创意做我们想要他们做的事情。

　　对于人工智能领域的一些人，比如马克·扎克伯格来说，人工智能正变得越来越好，如果出现问题，技术将会解决这些问题。但对于像埃隆·马斯克这样的人来说，现在是时候开始思考如何监管强大的机器学习系统了。

　　在这一点上，我同意马斯克的观点。但这不是因为我认为好莱坞喜欢吓唬我们的末日场景即将来临，而是因为扎克伯格坚信我们可以解决未来的任何问题，而这取决于马斯克坚持认为我们需要“尽可能多学习”。

　　我们需要迫切了解的不仅仅只有人工智能工作的方式，还有人类是如何工作的。

　　人类是地球上思想缜密、具备合作能力的物种。在认知和交流中，我们战胜了其他所有的动物——这些工具使我们能够进行劳动分工和适应群居生活，而我们必须依靠他人来完成自己的使命。这就是我们市场经济和政府体系的意义所在。

　　但是人工智能已经开始使用的复杂认知和语言并不是人类在合作中如此成功的唯一特征。

　　人类也是唯一一个具备“群体规范”的生物物种，“群体规范”是指一套复杂的规则和规范体系，规定了人们可接受和不可接受的行为，并通过集体努力来惩罚那些违反规则的人。

　　许多这样的规定可以由监狱和法院的官员执行，但最简单、最常见的惩罚是在团体中实施的：那就是批评和排斥——比如拒绝在公园、市场或工作场所与那些违反规范的人一起相处。

　　当谈到人工智能自我意志的风险时，我们真正担心的是他们是否会继续发展下去，并帮助执行我们的规则。

　　到目前为止，人工智能社区和资助人工智能安全研究的投资者——比如马斯克和好几个基金会——主要求助于伦理学家和哲学家的建议，来帮助他们构建一个能带来良好效果的人工智能。像NickBostrom这样的思想家提出了关于人工智能和人工智能研究人员应该关心的重要问题。

　　但我们复杂的社会规范，与其说是道德选择，不如说是关于如何协调数十亿人在个人行为上所做出的数以百万计的选择。

　　我们真正无法理解的是，这种协调是如何完成的。文化是一套规则，但改变它的因素——有时是缓慢的，有时是快速的——我们都还没有完全理解。法律是另一套规则，我们可以很简单地改变其理论，但改变其现实生活中的实践就并非易事了。

　　因此，对于我们这一群体的新成员来说，人工智能是引起怀疑的原因：他们了解些什么，是什么激励着他们，他们对我们显示出多大的尊重，以及他们愿意为生活中的冲突找到建设性的解决方案吗？如果人工智能系统是用来读取和参与系统的，那么它将只能集成到我们复杂的规范系统中。

　　在未来，人工智能将会变得更加普及，人们将会定期与机器互动——有时甚至是在不知情的情况下。当未来一些汽车取代我们进行自动驾驶和相互交谈时，那我们想要驾驶或遵守交通法规时会发生什么呢？我们会不会相信机器人能够照顾好我们在学校里的孩子，或者在养老院照顾好我们年迈的父母呢？

　　社会心理学家和机器人专家正在思考这些问题，但我们需要对这类问题进行更多的研究，更多地关注系统的功能，而不仅仅是单个机器或某个过程的设计。这将需要那些考虑规范系统设计的人的专业知识。

　　我们是否已经准备好了开始构建具备规范系统的人工智能——制定出它们自己的规则，即机器可接受和不可接受的行为——以便协调它们之间的互动？我预计这种情况将会发生：与人类一样，人工智能也需要有一个依据来预测其他机器将会做什么。

　　我们已经看到了人工智能给他们的开发者带来了惊喜，即他们通过创建自己的语言来提高他们在合作任务上的表现。但Facebook并不接受人工智能的合作能力——而是开发出一种人类无法理解的语言——但这未必是一种长远的选择。

　　正如人工智能研究人员StuartRussell所强调的那样，智能机器将会发现，如果它们死了，它们就无法完成人类的任务——因此，我们现在必须开始思考如何设计系统，确保它们继续重视人类的安排和监督。

　　要打造智能机器，我们需要遵循人类群体的规则，而这些规则多样化并相互冲突，有时候也并不成熟，所以我们需要更多地了解是什么让我们每个人每天都愿意这么做。

frelia

真人输在运算速度和精度...

路克大魔王

想太多，现在对人脑的研究还浅得很。

xmh881013