IlyaSutskeva纪录片
我想与大家分享一部必看的关于 AGI 的独家纪录片，作者是 Ilya Sutskeva，它是在 ChatGPT 开发过程中录制的。
我从未见过比这个更清楚地解释 AGI 的视频。
据信，伊利亚先生主导了这场辞职大戏。其用途尚不清楚，但有传言称其与 AGI 有关。
以下是完整翻译
人工智能太棒了。
因为人工智能将解决我们现在面临的所有问题。
我们解决就业、解决疾病、解决贫困。
但它也会产生新的问题。
假新闻问题将变得更糟一百万倍。
网络攻击将会更加激烈。
全自动人工智能武器将会出现。
我认为人工智能有潜力创造一个无限稳定的独裁政权。
今天早上有关于人工智能力量的警告。
超过 1,300 名科技行业领导者、研究人员和其他人士呼吁暂停人工智能的开发，以考虑风险。
至于扮演上帝，科学家们被指责扮演上帝有一段时间了，但我们意识到我们正在创造的东西与我们以前创造的任何东西都完全不同。
是的，我们绝对可以创造出具有自己目标的完全自主的存在。
随着这些生物变得比人类聪明得多，他们的目标与我们的目标一致将变得极其重要。
是什么激励你？
我喜欢思考非常基本的事情。
人类可以可靠地做到哪些我们的系统无法做到的事情？
我几乎从哲学角度来看待它。
“什么是学习？”“什么是经验？”“什么是思考？”
诸如“大脑如何工作？”之类的问题
我觉得科技是一种自然的力量。
我认为技术和生物进化有很多相似之处。
生物进化的机制很容易理解。
有突变，有自然选择。
你保留了幸存下来的美好事物，通过这个过程，你的有机体中产生了大量的复杂性。
即使你无法理解人体是如何运作的，你也可以大致了解进化的过程。
我认为机器学习，尤其是深度学习，现在也处于同样的状态。
非常简单的规则从数据中获取信息，将其放入模型中，并不断重复此过程。
结果，数据复杂性转移到模型复杂性。
由此产生的模型非常复杂，我们不知道它到底是如何工作的。这需要一些研究，但实现它的算法非常简单。
您可能听说过 ChatGPT。
如果您还没有听说过，请做好准备。
这被描述为大雨前的第一滴雨。
我认为我们必须非常清醒。
因为我同意这是一个具有里程碑意义的时刻。
ChatGPT 被誉为游戏规则的改变者，在很多方面确实如此。它最近的胜利是对人类的胜利。
微软研究院最近的一项研究得出的结论是，GPT4 是一个早期且不完整的通用人工智能系统。
通用人工智能（AGI）是一种计算机系统，可以比人类更好地完成人类所做的任何工作或任务。
AGI 可能会很快发生，也可能需要更长的时间。
但我的立场是，AGI 很可能很快就会发生，应该认真对待。
让这些非常智能和有能力的系统按照我们的最佳利益行事将非常重要。
第一个 AGI 基本上将是一个非常大的数据中心。
它充满了并行工作的专用神经网络处理器。
紧凑、发热、耗电的封装，消耗的电量是您家的 1000 万倍。
更加智能的系统将会出现。
我认为这些系统可能会对社会产生绝对天文数字的影响。
人类真的会受益吗？
谁受益，谁不受益？
第一个 AGI 的信念和愿望非常重要。
因此，正确地对它们进行编程非常重要。
如果不这样做，自然选择的进化本质将导致这些系统将自身的生存置于首位。
并不是它主动憎恨人类并想要伤害人类，而是它变得太强大了。
我认为这与人类对待动物的方式有一个很好的类比。
我不认为人类讨厌动物。
人类热爱动物，对它们充满感情，但当需要在两个城市之间修建高速公路时，他们却没有征得动物的同意。
因为这对我们很重要。
默认情况下，我们期望这是我们与完全自主且自行行动的 AGI 之间的关系。
许多机器学习专家，知识渊博且经验丰富的人，对通用人工智能持怀疑态度。
问题在于它何时会发生以及是否会发生。
目前，这还没有多少人意识到。
用于神经网络和人工智能的计算机在几年内可能会快 100,000 倍。
如果有像军备竞赛这样的动态，多个团队首先尝试构建 AGI，那么他们将没有时间确保他们构建的 AGI 深深关心人类。
我想象的就像一场雪崩，就像一场AGI发展的雪崩。
想象一下这是一股不可阻挡的巨大力量。
我认为整个地球表面很可能都会被太阳能电池板和数据中心覆盖。
考虑到这些类型的担忧，将通用人工智能建立在多个国家之间某种形式的合作基础上非常重要。
无论如何，人工智能的未来将会是美好的。
我希望这对人类也有好处。
From:@ctgptlb
