近日，三位圖靈獎得主 Hinton、Bengio、姚期智，聯名發文《在快速發展的時代管理 AI 風險》。這是一篇共識論文（consensus paper），除 AI 研究者外，還有公共治理方面的學者，如清華大學人工智能國際治理研究院薛瀾，以及諾貝爾經濟學獎得主丹尼爾卡尼曼等。

Hinton 認為，公司們正計劃在 18 個月內把 AI 模型計算規模擴大 100 倍，沒人知道這些模型會有多強大，也沒有關于他們如何使用這些模型的規定。

「考慮到 AI 研發的持續投入和自我進化的趨勢，通用 AI 在未來十到二十年內超越人類的可能性不容忽視。若被正確和公正地應用，先進的 AI 可以為人類解決長久以來的問題，如疾病、貧困和環境問題。但與此同時，強大的 AI 也帶來了巨大的風險，這些風險我們還遠未準備好應對。」論文寫道。