ChatGPT 變笨新解釋:世界被 AI 改變,與訓練時不同了

AI快訊 2年前 (2024) AI工具箱
899 0
ChatGPT 變笨新解釋:世界被 AI 改變,與訓練時不同了

對于 ChatGPT 變笨原因,學術界又有了一種新解釋。加州大學圣克魯茲分校一項研究指出:在訓練數(shù)據(jù)截止之前的任務上,大模型表現(xiàn)明顯更好。

論文重點研究了「任務污染」問題,也就是大模型在訓練時期就見識過很多任務示例,給人一種 AI 擁有零樣本或少樣本能力的錯誤印象。

也有學者從另一個角度指出,大模型訓練后參數(shù)凍結,人們不斷提出新的任務也就是輸入分布不斷變化。如果模型不能不斷適應這種變化,就表現(xiàn)成能力慢慢退化。

人們以為只提了個問題 AI 就能回答,其實是在訓練時見過大多數(shù)常見任務。隨時間推移,人們開始提出更多新問題,AI 表現(xiàn)就不行了。

版權聲明:AI工具箱 發(fā)表于 2024-01-03 17:34:29。
轉載請注明:ChatGPT 變笨新解釋:世界被 AI 改變,與訓練時不同了 | AI工具箱
廣告也精彩

暫無評論

暫無評論...