一名前谷歌和微软的软件工程师，因为对AI未来风险极度悲观，已经大约10年没有存退休金了。Nate Soares近日在一档播客中表示，他认为未来10年内AI导致人类灭绝的概率超过50%。“现在看起来，可能连10年都没有”。
Soares曾在谷歌工作，虽然仍然留着当年的401(k)退休帐户，但从10年前就没再往里面存钱了。Soares目前担任Machine Intelligence Research Institute主席，这是一家位于Berkeley的非营利研究机构，长期关注高级AI可能给人类带来的生存风险。
该机构也经常被外界与AI Doomerism联系在一起。所谓AI Doomerism，通常指一种认为如果人类开发出无法控制的超智能AI，最终可能导致严重灾难甚至人类灭绝的观点。Soares本人显然就属于比较悲观的一派。
在采访中，Soares把自己面对AI风险时的生活状态与过去人类面对核战争、瘟疫和战争的恐惧进行比较。“这可能是我们第一次生活在所有人会同时死亡的阴影下。我的做法就是尽自己所能降低风险，然后继续过好生活”。
但采访他的主持人、The Atlantic CEO对此表达了怀疑。他指出即使是目前最先进的AI系统，依然存在很多错误、局限和能力缺陷。想要真正的超越人类，AI还有大量现实问题没有解决。
但Soares用汽车发展史举了一个例子。“早期汽车刚出现的时候，也被认为有很多事情做不到。但随着它的能力不断提升，就大规模取代了马作为主要交通工具的地位。AI的发展也可能出现类似情况。我们看到AI越来越擅长完成各种任务，也能看到它们能够处理越来越长和复杂的任务”。
Soares特别强调，他最担心的并不是AI导致大规模失业，而是会直接干掉所有人类。“如果我的最坏预测真的发生，那在人类灭绝之前的最后一刻反而会处于充分就业状态”。
来源: NY Post
