一些业内人士认为，AGI 概念本身过于模糊，缺乏科学可验证性，因此整套研究基础不牢。Meta 的 Yann LeCun 等人认为，仅靠扩大当今的大型语言模型还不足以实现 AGI。还有人觉得，安全从源头来说，就是不可能的。

随着人工智能技术的发展，尤其是通用人工智能（AGI）的前景受到越来越多的关注，行业内专家和公司领导者开始审视其可能带来的风险与挑战。Google ...

这项研究确定了四种可能的 AGI 风险，并提出了如何减轻这些风险的建议。DeepMind 团队由公司联合创始人 Shane Legg 领导，将 AGI 的负面结果归类为误用、错位、错误和结构性风险。本文详细讨论了误用和错位，但对后两者只做了简要介绍。

近期，科技界迎来了一份重量级报告，由谷歌DeepMind实验室发布的关于人工智能安全性的深入研究，这份长达145页的报告，不仅预测了通用人工智能（AGI）可能在未来十年内达到人类智能水平，还提出了一个令人警醒的观点：AGI存在“永久毁灭人类”的风险。

一位了解 DeepMind 内情的人士透露，这些变化是为了鼓励研究人员投身于短期来看对战略或者竞争优势无益的工作。他们还补充称，DeepMind 每年仍会发表数百篇论文，并且是各大 AI 顶会的领先贡献者之一。

通用人工智能（AGI，Artificial General Intelligence）到底何时到来？在近期一篇论文中，DeepMind 认为 AGI 的时间表充满着不确定性，不过 DeepMind 认为到 2030 ...

近日，谷歌旗下DeepMind实验室最新发布了长达145页的人工智能安全报告，称具备人类智能水平的通用人工智能（AGI）可能在2030年左右问世，并可能造成“永久毁灭人类”的严重后果。

针对错位问题，DeepMind 提出了两道防线。首先，模型层面的缓解措施如加强监督和强化训练，有助于构建一个一致的模型。其次，即使模型出现错位，系统级安全措施（如监控和访问控制）也能减轻危害。可解释性、不确定性估计和更安全的设计模式等技术可以提高这些缓解措施的有效性。

【4 月 8 日，谷歌旗下 DeepMind 实验室发布 145 页人工智能安全报告】报告称，具备人类智能水平的通用人工智能或在 2030 年左右出现，其风险甚至包含“永久毁灭人类”极端情况。AGI 被定义为有人类水平智能和理解能力的 AI ...

谷歌 DeepMind 近日发布了一份详尽的战略文件，阐述了其开发安全人工通用智能（AGI）的方针。AGI 被定义为在大多数认知任务中能够与人类能力相匹配或超越的系统。DeepMind 预计，目前的机器学习方法，尤其是神经网络，仍将是实现 AGI ...

快科技4月7日消息，近日，谷歌旗下DeepMind实验室发布了一份长达145页的人工智能安全报告， 预测具备人类智能水平的通用人工智能（AGI）可能在2030年左右问世，并可能“永久毁灭人类”。

谷歌DeepMind研发的DreamerV3实现重大突破：无需任何人类数据，通过强化学习与「世界模型」，自主完成《我的世界》中极具挑战的钻石收集任务。该成果被视为通往AGI的一大步，并已登上Nature。