一个令人隐晦的谜题是，每个 AGI 能否都如斯完整，以致于毗连到另一个 AGI 不会有任何益处。这正在必然程度上是一个定义问题。若是你将 AGI 定义为具有所有可能的人类智能，你可能会辩论说一个 AGI 取另一个 AGI 通信没有任何附加价值。似乎什么都没有获得。

　　这激发了人们的担心，即这种集体协做的 AGI 的集体思维曾经达到了一个临界点，他们具有脚够的能力和渠道来拜候整个社会，以致于能够我们的和。实是可悲。

　　更可能的成果是，我们最终可能会获得大量 AGI 实例，每个实例都各不不异。它们似乎具有分歧的架构，基于分歧的锻炼数据，并付与分歧的方针。话虽如斯，关于若何实现 AGI 存正在着一种完全类似的群体思维，因而，差别可能不会像人们想象的那么大。

　　通过将国度鸿沟和全球地缘纳入考量，能够加强 AGI 好斗和奸刁的一面。假设某个国度获得了 AGI。他们将 AGI 视为国度的骄傲，以及能够用来加强全球影响力的国宝。

　　相反，乐不雅从义者可能会辩驳说，这个超等 AGI 集体能够逃求帮帮人类的方针，并永久成为我们最好的伴侣。幸福的脸。

　　我们需要认实、我们但愿设想和建立人工智能，使通用人工智能取人类价值不雅连结分歧，或者我们曾经做得脚够多，以致于通用人工智能本身可以或许揣度和模仿这些原则。

　　伍德罗·威尔逊曾对大脑做出过如许的名言：“我不只操纵我所有的大脑，还操纵我能借用的一切。”你可能会将这一看法解读为，我们几乎能够必定，AGI 会想要彼此联系。AGI 大要会操纵其他 AGI。

　　我正在会商起头时就许诺最终将人工智能超等智能纳入会商范畴。ASI 值得被宽免的缘由是，我们对 ASI 的任何见地都纯属梦想。

　　假设每个 AGI 都有本人的一种思维。我们不晓得环境能否如斯，由于实现 AGI 可能并不需要具备能力。临时假设 AGI 能够具有本人的一种思维。

　　提示大师留意这个保密问题，人们曾经很是担忧，若是不披露内部细节，人工智能制制商将躲藏庞大的平安问题，而这些问题是无人晓得的。人工智能制制商可能没有充实尽职查询拜访，无法找出各自人工智能中的缝隙和问题。取此同时，没有法子深切人工智能，找出这些问题。

　　AGI 之间能够进行通信这一点乍一看似乎令人欣慰。我们能够甜美地想象每个 AGI 都正在支撑另一个。它们相互协调地工做。实好。

　　你能够说，每个 AGI 之间都可能存正在激烈的合作，就像人工智能制制者之间一曲存正在合作一样。若是你情愿的话，能够称其为制制者、儿女或创制物。合作模式无疑曾经植根于每个 AGI 的根本中，无论是默认的仍是有目标的。

　　AGI 是一种被认为取人类智力相当的人工智能，似乎能够取我们的智力相媲美。ASI 是一种超越人类智力的人工智能，正在很多（若是不是所有）可行方面都比人类更胜一筹。这个设法是。

　　过去，对人工智能将来成长做出如斯斗胆的猜测仍是有必然事理的，由于我们还没有达到现正在的境界。而我们目前正在人工智能方面的现状往往表白，单一大脑理论曾经失败。

　　环节正在于，我们正朝着 AGI 迈进，而AGI 是零丁设想的，而不是通过协集结体使命来打制一个零丁的巨人。若是我们沿着这条走下去，那么想必 AI 制制商会热切地分享他们的 AI 的各个方面，以实现“一个大脑”的方针。

　　目前正正在进行大量研究以进一步推进人工智能的成长。总体方针是实现通用人工智能 (AGI)，以至可能实现超等人工智能 (ASI)。

　　我最初援用的是德怀特·艾森豪威尔的这句话：“和枪炮无法替代聪慧和意志力。”我敢说这句话进一步证了然那些达到 AGI 程度的人所具有的庞大劣势。

　　有些人可能会当即声称人工智能的开源活动否认了这种保密性，但即便是开源的者也经常忽略一些环节方面，例如他们利用哪些数据来锻炼他们的人工智能。

　　很多人对人工智能的风险感应无忧无虑。人工智能可能会选择人类。人工智能可能会决定人类。

　　有人说，即便分歧的 AGI 成果是更可能的标的目的，也存正在一种虚拟的体例能够让 AGI 堆积成一个大脑。

　　他们倾向于认为先辈的人工智能，即 AGI 或 ASI，将处理人类的问题。治愈癌症，确实如斯。处理世界饥饿，绝对如斯。我们将看到庞大的经济收益，将人们从日常劳做中解放出来。人工智能将取人类联袂合做。这种的人工智能不会篡夺人类。这种人工智能将是人类有史以来的最初一项发现，但这很好，由于人工智能将发现我们从未想象过的工具。

　　同样，通过 API 将一个 AI 系统毗连到另一个 AI 系统也是可行的。还有其他方式能够毗连它们，所以我并不是说 API 是独一的路子。我提到 API 总体上表白，实现 AI 到AI 的互联互通是可能的，并且很容易。

　　让我们回到 AGI 的问题上。想象一下AGI 起头实现。我们决定通过 API 或雷同体例将它们毗连起来。其纯真的目标是实现集体聪慧，也许会鞭策我们迈向超等智能的下一阶段方针。

　　目前，人工智能业内人士对 AGI 或ASI 的影响的见地大致分为两大阵营。此中一个阵营是人工智能论者。他们预测 AGI 或 ASI 将试图覆灭人类。有些人将其称为“P(doom)”，意义是的概率，或者人工智能将完全摧毁我们，也称为人工智能的风险。

　　纯粹从义者可能会说，只要当 AGI 是一个完全慎密、不成朋分的全体时，因而，交互 AGI 不克不及满脚要求。其他人会奉劝说，最终成果才是最主要的，而不是内部机制若何运做。交互 AGI 曾经脚够接近单一大脑了，你该当放弃它，并认可它是单一大脑。

　　一个完全且具有凝结力的巨型 AGI 取一群看似做为一个实体工做的彼此感化的 AGI 之间的分界线正在哪里？

　　正在今天的专栏中，我将一个遍及的：若是我们实现了通用人工智能（AGI），那么由此发生的人工智能将是一个零丁的巨人，或者被称为“一个大脑”。

　　为了便于会商，只关心 AGI 的潜正在成绩。不消担忧——我将正在结论部门从头会商 ASI。若是实现了 AGI，AGI将是一个复杂的 AI 系统，它将包含或封拆所有其他 AI 系统。有良多科幻故事都采用了这种比方。AI 成功成为一个无所不包的全球者，人类必需取机械野兽的普遍触角展开激烈斗争。我相信你读过的书或看过的片子都描述了这种令人的场景。

　　取此同时，我们必需那种认为只需我们进入 AGI 就能处理这些问题的鸵鸟心态。这让我想起了那句名言：若是你没有打算，你就必定会失败。若是我们认实而地相信 AGI 即将到来，那么弄清晰这一切将若何成长就很是主要。

　　大大都 AI 制制商都供给使用法式编程接口 (API)，使他们的 AI 可以或许取其他系统毗连。AI 制制商的 AI 可能会通过 API毗连到金融系统，以帮帮进行取金融使用法式及其数据相关的财政阐发。毗连到医疗系统、客户关系办理系统等也是如斯。

　　一个 AGI 但愿被认为比其他 AGI更优良或更优胜。这个 AGI 会继续奸刁。通过 API 或任何现有的毗连，奸刁的 AGI 会向其他 AGI 供给一些虚假消息，旨正在混合或让其他 AGI 看起来出缺陷。若是其他 AGI 上钩，那么的 AGI 就会成为最好的，前提是没有人发觉这个的。

　　谜底似乎是，人们倾向于脱颖而出，并认为 AGI 是一种无可对比的资本，比一个国度可能固有的天然资本更贵重。

　　次要的人工智能供应商凡是以最雷同于学问产权 (IP) 的体例看待他们的人工智能产物。他们对其新兴人工智能的内部机制严加保密。他们投资人工智能是基于如许一种：最好的方式是本人脱手构想。合作很是激烈。他们正正在不竭勤奋成立护城河或设置妨碍，以防止合作敌手抄袭他们的奇特成绩。

　　处理法子是，AGI 可能基于 AGI 成立时的人类智能，因而，跟着时间的推移，AGI 将有乐趣获得新添加的智能，例如通过取其他 AGI 交互。

　　底线是，虽然具有某种 API 或毗连，但并不克不及 AGI 会选择合做。他们可能会迟延并勉强共享。每小我都可能将利用 API 视为最初的手段。只要正在似乎没有其他可行选择时才共享。

　　啊哈，假设一小我工智能制制者发了然一种 AGI。另一小我工智能制制者也发了然 AGI。它们是判然不同的 AGI。因而，你能够声称它们不是一个大脑。但假设这两个 AGI 通过 API 或其他相关体例毗连起来。按照互连，它们能够很容易地彼此共享消息。你可能会断言它们做为一个大脑一路工做。

　　实正的 ASI 是超出我们智力范畴的工具，由于它是超等智能。第一个达到的 ASI 会决定当即所有其他正正在酝酿的 ASI 吗？这似乎很有可能。逻辑很简单。没有一个有自大心的 ASI 但愿一些合作敌手的 ASI 他们并可能击败他们。