全球 AI領導人簽署公開信,強調人工智能的危險和可能對人類造成的巨大傷害。
在這封公開信中,全球 AI領導人呼吁商業決策者公開討論人工智能帶來的最大風險,以減輕人工智能對人類生存的威脅。

信中表示:“減輕人工智能滅絕的風險是全球優先事項,與其他全人類社會規模的危險一樣?!?br />
該公開信的參與人包括 AI領域名人 Geoffrey Hinton、 Sam Altman、 Dario Amodei和 Demis Hassabis。
微軟首席技術官KevinScott發表了一份公開信,他呼吁業內正視 AI的風險,避免被 ChatGPT等 AI技術的狂熱浪潮沖昏了頭腦。
此前, Geoffrey Hinton就已經辭去了在谷歌長達十余年的 AI開發工作,并公開討論 AI所帶來的危害。
他認為,計算機模型不如大腦,因此他一直改進計算機模型,以讓 AI更多地了解并接近大腦。
但現在GPT-4等模型的性能讓他驚覺,計算機模型可能比大腦更擅長學習。

“我意識到,我們不能像我們想象的那樣控制它。”Geoffrey Hinton說:“現在我明白了,計算機模型可能比大腦更擅長學習。”
這讓我感到非常可怕。如果它繼續發展,它將成為一個非常可怕的東西。
一旦它能進行常識性推理,它就會變得非常可怕。”
“在我看來, ChatGPT已經能進行常識性推理了。所以這并不是一個奇怪的想法:如果它繼續發展下去,它可能會操縱我們做壞事?!?br />
“數字智能不能像人類智能一樣控制;它們可能會設定與人類目標相沖突的目標;這導致非人類智能在與人類交互中占據優勢?!?/p>
暫無評論...
