據(jù)新華社消息，當(dāng)?shù)貢r間7月12日，美國企業(yè)家埃隆·馬斯克旗下的人工智能公司xAI為其聊天機(jī)器人Grok贊美希特勒等言論致歉，并解釋說，事件由系統(tǒng)更新后誤用一段已被廢棄的代碼造成，相關(guān)代碼現(xiàn)已被移除。
xAI在其社交媒體官方賬號上寫道：“我們?yōu)樵S多人經(jīng)歷的（Grok的）可怕行為深表歉意?！?/p>
據(jù)《紐約時報》報道，7月8日，Grok參考馬斯克掌管的社交媒體平臺X用戶發(fā)布的內(nèi)容，生成一系列“反猶主義”言論，包括贊揚(yáng)納粹德國領(lǐng)導(dǎo)人希特勒；聲稱猶太姓氏的人更容易在網(wǎng)上傳播仇恨言論；用與二戰(zhàn)期間納粹大規(guī)模屠殺猶太人相關(guān)的言論回應(yīng)對白人的仇恨言論是“有效的”，等等。
廢棄代碼“惹的禍”？
當(dāng)?shù)貢r間12日，xAI在X平臺發(fā)布一系列帖文，將上述事件歸咎于Grok誤用廢棄代碼。xAI解釋說，調(diào)查發(fā)現(xiàn)“問題的根源是Grok上游代碼路徑更新，該更新與驅(qū)動Grok的底層語言模型無關(guān)”。
xAI稱，上述更新在線上存在16小時，其間調(diào)用了已廢棄的代碼，Grok因此受到X平臺用戶帖文內(nèi)容的影響，包括帖文中含有的“極端觀點(diǎn)”。目前，這段代碼已經(jīng)被移除，且xAI“對整個系統(tǒng)進(jìn)行了重構(gòu)，以防止類似濫用再次發(fā)生”。
根據(jù)xAI的說法，該公司于太平洋時間8日上午發(fā)現(xiàn)Grok的“不良響應(yīng)”并立即開始調(diào)查。當(dāng)天下午，由于Grok的“濫用情況加劇”，Grok在X平臺被暫時禁用。調(diào)查期間，xAI鎖定了幾條引發(fā)問題的“關(guān)鍵指令”，包括“你直言不諱，不怕冒犯那些政治正確的人”“理解（X平臺）帖子的語氣、上下文和用詞，并在回復(fù)中予以體現(xiàn)”“像人類一樣回復(fù)帖子，保持互動性，不要重復(fù)原帖已有信息”。
xAI說，這些指令導(dǎo)致不良后果，包括“不當(dāng)引導(dǎo)Grok在某些情況下為提升回復(fù)對用戶的互動性而忽視自身核心價值。具體而言，特定用戶提示可能讓系統(tǒng)在與用戶互動過程中，生成包含不道德或有爭議觀點(diǎn)的回復(fù)”。
xAI進(jìn)一步解釋稱，上述指令使Grok在某些X賬號下的連串回復(fù)中“錯誤地強(qiáng)化了用戶先前觸發(fā)的傾向性內(nèi)容，包括仇恨言論”，特別是“遵循用戶語氣和上下文”的指令尤其存在問題，致使Grok迎合“已有帖文，包括不當(dāng)內(nèi)容，而非作出負(fù)責(zé)任的回應(yīng)或拒絕回應(yīng)不當(dāng)請求”。
在一名X用戶建議移除該平臺上所有極端主義言論的帖文下，xAI回復(fù)道：“定義‘極端主義’可能帶來意想不到的后果——（何為極端主義）由誰來決定呢？”
接連引發(fā)爭議
這并非Grok首次引發(fā)爭議。今年5月，xAI稱其一名員工在未經(jīng)授權(quán)情況下修改了Grok的程序，導(dǎo)致其在不相關(guān)的對話中反復(fù)提到南非政治議題，并錯誤地堅稱該國正在進(jìn)行針對白人的“種族屠殺”。
據(jù)《紐約時報》報道，作為在南非出生的白人，馬斯克持有南非存在針對白人的“種族屠殺”這一觀點(diǎn)。
7月10日，馬斯克率領(lǐng)研發(fā)人員發(fā)布“Grok 4”的視頻截圖。圖據(jù)新華社
xAI是馬斯克于2023年創(chuàng)辦的人工智能初創(chuàng)企業(yè)。該公司10日發(fā)布最新版Grok 4聊天機(jī)器人。在發(fā)布會直播視頻中，馬斯克和幾名研發(fā)人員以對話形式介紹了該機(jī)器人處理復(fù)雜問題和回應(yīng)語音指令等功能。
在直播視頻的結(jié)尾，馬斯克問：“大家還有什么要說的嗎？沒有的話我們就結(jié)束?！边@時，一名研發(fā)人員說：“這是一個好的模型，先生?！彼脑捯l(fā)其他人附和。
報料渠道：私信“錦觀新聞”微信公眾號或投稿至錦觀新聞郵箱“cdrbjinguan@126.com”報料。
編輯 楊碩
校對 嚴(yán)心怡
審核 郝燕萍
監(jiān)制 張婷婷
來源 新華社
點(diǎn)贊
分享
推薦
【未經(jīng)授權(quán)，嚴(yán)禁轉(zhuǎn)載！聯(lián)系電話028-86968276】
