GPT-5訓練內幕大揭露!ChatGPT將再迎重大更新?

AI快訊 2年前 (2023) AI工具箱
961 0
GPT-5訓練內幕大揭露!ChatGPT將再迎重大更新?

近日,DeepMind聯合創始人Suleyman在接受采訪時表示,GPT-5目前仍在秘密訓練中,未來將會比現在的GPT-4大100倍。這一消息引發了廣泛的關注和熱議。

然而,Open AI CEO Sam Altman此前曾否認了訓練GPT-5的說法。有消息人士透露,OpenAI可能為GPT-5起了一個新名字,因此他們才聲稱沒有訓練GPT-5。

Suleyman現在是Inflection AI的CEO,該公司正在建造世界上最大的超級計算機之一。他相信,在接下來的18個月內,他們可能會進行一次比制造GPT-4的語言模型訓練運行大10倍或100倍的訓練運行。

今年3月份,GPT-4正式發布。與ChatGPT最初使用的GPT-3.5模型相比,GPT-4實現了幾個方面的飛躍式提升:強大的識圖能力;文字輸入限制提升至2.5萬字;回答準確性顯著提高;能夠生成歌詞、創意文本,實現風格變化。

GPT-3.5有1750億參數規模。雖然OpenAI沒有公布過GPT-4的具體規格,但之后的分析認為它擁有16個專家模型,每個MLP專家大約有1110億個參數,總計1.8萬億參數,是GPT-4的10倍規模。

如果按照這個比例來提升,GPT-5將突破10萬億參數,有可能成為最大規模的AI大模型,遠超其他所有對手。這一進展無疑為人工智能領域發展帶來了更加廣闊的想象空間和探索前景。

GPT-5訓練內幕大揭露!ChatGPT將再迎重大更新?
版權聲明:AI工具箱 發表于 2023-09-04 9:47:14。
轉載請注明:GPT-5訓練內幕大揭露!ChatGPT將再迎重大更新? | AI工具箱
廣告也精彩

暫無評論

暫無評論...