AI巨頭們聯合發出警告:《AI危險聲明》指出AI可能影響全球經濟穩定

AI快訊 2年前 (2023) AI工具箱
3,379 0
AI巨頭們聯合發出警告:《AI危險聲明》指出AI可能影響全球經濟穩定

全球 AI領導人簽署公開信,強調人工智能的危險和可能對人類造成的巨大傷害。
在這封公開信中,全球 AI領導人呼吁商業決策者公開討論人工智能帶來的最大風險,以減輕人工智能對人類生存的威脅。

AI巨頭們聯合發出警告:《AI危險聲明》指出AI可能影響全球經濟穩定
信中表示:“減輕人工智能滅絕的風險是全球優先事項,與其他全人類社會規模的危險一樣?!?br /> 該公開信的參與人包括 AI領域名人 Geoffrey Hinton、 Sam Altman、 Dario Amodei和 Demis Hassabis。
微軟首席技術官KevinScott發表了一份公開信,他呼吁業內正視 AI的風險,避免被 ChatGPT等 AI技術的狂熱浪潮沖昏了頭腦。
此前, Geoffrey Hinton就已經辭去了在谷歌長達十余年的 AI開發工作,并公開討論 AI所帶來的危害。
他認為,計算機模型不如大腦,因此他一直改進計算機模型,以讓 AI更多地了解并接近大腦。
但現在GPT-4等模型的性能讓他驚覺,計算機模型可能比大腦更擅長學習。

AI巨頭們聯合發出警告:《AI危險聲明》指出AI可能影響全球經濟穩定
“我意識到,我們不能像我們想象的那樣控制它。”Geoffrey Hinton說:“現在我明白了,計算機模型可能比大腦更擅長學習。”
這讓我感到非常可怕。如果它繼續發展,它將成為一個非常可怕的東西。
一旦它能進行常識性推理,它就會變得非常可怕。”
“在我看來, ChatGPT已經能進行常識性推理了。所以這并不是一個奇怪的想法:如果它繼續發展下去,它可能會操縱我們做壞事?!?br /> “數字智能不能像人類智能一樣控制;它們可能會設定與人類目標相沖突的目標;這導致非人類智能在與人類交互中占據優勢?!?/p>

廣告也精彩

暫無評論

暫無評論...