天眼查知識(shí)產(chǎn)權(quán)信息顯示，12月6日，螞蟻科技集團(tuán)股份有限公司申請(qǐng)的“隱私擦除模型的訓(xùn)練方法、隱私擦除方法及裝置”專利獲授權(quán)。
摘要顯示，該專利將大模型分別在原始訓(xùn)練數(shù)據(jù)和原始訓(xùn)練數(shù)據(jù)的脫敏數(shù)據(jù)上進(jìn)行訓(xùn)練，并記錄同一個(gè)大模型在原始訓(xùn)練數(shù)據(jù)上的權(quán)重和脫敏數(shù)據(jù)上的權(quán)重，從而形成新的擦除數(shù)據(jù)訓(xùn)練集。利用該擦除數(shù)據(jù)訓(xùn)練集即可訓(xùn)練一個(gè)隱私擦除模型，來擦除大模型中與隱私數(shù)據(jù)相關(guān)的權(quán)重?cái)?shù)據(jù)。該方法通過訓(xùn)練隱私擦除模型來直接修改大模型的參數(shù)，從根本上刪除大模型記憶中的隱私數(shù)據(jù)，具有極高的安全性。該方法也不需要對(duì)大模型進(jìn)行重新訓(xùn)練，大大降低了大模型的優(yōu)化成本。本說明書實(shí)施例所述的隱私擦除模型的訓(xùn)練裝置、隱私擦除方法及裝置同樣具有上述效果。