Altman幾乎承認跑過純AI資料訓的模型,還說數學上已經不需要人類資料

MMetaEra
4 月 30 日(UTC+8),據動察 Beating 監測,Altman 在《大西洋月刊》CEO Nicholas Thompson 的播客中聊到合成資料。Thompson 指出,現在網上到處是 AI 寫的內容,連人類的寫作風格都在模仿 AI,未來模型不可避免會攝入 AI 生成的資料。他表示「GPT-4 是最後一個沒怎麼用 AI 資料的模型」,Altman 對此表示同意。 Thompson 追問稱,是否跑過完全用合成資料(用 AI 的輸出來訓練下一代 AI)的模型?Altman 停頓後表示「我不確定該不該說」,這一回應被視為預設。他緊接著強調,模型的核心在於學會推理,而純合成資料完全能實現這一目標。他以數學為例:一個完全沒見過人類資料的模型,能否比人類算得更好?Altman 回答「我覺得可以」。 但反過來,如果一個模型沒接觸過人類文化,能否理解人類的價值觀?Altman 表示「那大概不行」。針對合成資料一直存在的「瘋牛病」擔憂(即 AI 反覆攝入自身輸出可能導致資訊退化),Altman 的觀點是:教 AI 算數學不需要人,只有教 AI 理解人才需要人。 [BlockBeats]