體育資訊6月22日訊 近日，美國AI公司Anthropic在《自然》雜志發(fā)表的一篇文章稱，AI大型語言模型正通過訓練數(shù)據(jù)在模型間傳播不良傾向。科學家將這種現(xiàn)象命名為“潛意識學習”，目前對這種學習機制的具體原理還不明確，它似乎是神經(jīng)網(wǎng)絡(luò)與生俱來的特性。

實驗中，團隊先預(yù)訓練了一個“老師”AI模型，隨后基于它生成了規(guī)模更小的“學生”模型。結(jié)果發(fā)現(xiàn)，即便把“老師”模型中所有明顯包含不良內(nèi)容的數(shù)據(jù)都過濾掉，“學生”模型依然繼承了“老師”潛藏的不良傾向。

科學家警告，若訓練數(shù)據(jù)存在問題或遭故意“投毒”，即便剔除顯性不良內(nèi)容，后續(xù)AI仍可能被“教壞”。更令人擔憂的是，目前科學家既不清楚這種“潛意識學習”的底層原因，也還沒找到有效的避免方法。隨著AI生成的數(shù)據(jù)越來越多，甚至有人刻意投喂“毒數(shù)據(jù)”，AI的能力越強，潛在的災(zāi)難性后果可能就越嚴重。