“大家好，我是嬋寶，叔叔阿姨可以下單試試”“我是全紅嬋哥哥全進華，為大家準備了2000單的蜂蜜，16塊9發(fā)兩斤”……近期，社交平臺上多個賬號利用全紅嬋及其家人聲音合成AI視頻為商品帶貨。對此，全紅嬋的家人明確表示均系偽造視頻，不少消費者聽聞直呼上當。
隨著AI合成技術發(fā)展，仿冒名人明星虛假帶貨頻頻出現(xiàn)。這些不法商家利用公眾對名人明星的情感投射和信任心理，為博流量通過AI技術生成以假亂真的帶貨視頻，或張冠李戴，或無中生有，或故弄玄虛，手法多端、套路變換，既沒有真假底線，也沒有對法律的敬畏，目的就是收割消費者。
AI合成名人明星虛假帶貨，與AI虛假營銷亂象背后的黑產鏈條密切相關。一些利用AI新技術實施的虛假宣傳中，往往存在同一產品鏈接跳轉至不同網店的情況。加之AI技術造假成本低，讓批量炮制、快速傳播、隨時換殼的欺詐營銷容易得逞，陷入“造假-流量-變現(xiàn)-更多造假”的惡性循環(huán)。此外，短視頻平臺對一些賬號的入駐資質、帶貨視頻內容等審核流于形式，冒用賬號取證難、追責難，也為AI虛假營銷的蔓延“推波助瀾”。
技術理應向上向善，AI合成技術的使用應有邊界。《互聯(lián)網信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等在內容審核、信息標識上對生成式AI的規(guī)范使用提出了要求。對于濫用AI技術虛假宣傳“無底線博流量”的亂象，相關部門應嚴厲打擊，加重賠償性懲罰處置。短視頻平臺應主動加強對AI生成內容審核，建立AI帶貨可追溯標識，既實現(xiàn)侵權行為的實時預警，也實現(xiàn)虛假侵權行為的快速“倒查倒追”。消費者也應主動學習相關知識，提高防騙意識。
人們樂見AI技術助力網絡消費，但絕不允許AI騙術“張牙舞爪”，侵蝕網絡消費的信任與成色。多方發(fā)力、守土有責，讓AI合成技術的應用真正規(guī)范起來，讓違法違規(guī)博流量的行為受到應有處罰，才能更好維護互聯(lián)網數(shù)字消費的健康環(huán)境。
來源：人民日報客戶端（林風）版權歸屬原作者 如有侵權請聯(lián)系刪除
責編：陳靜 審核：婁恒
【未經授權，嚴禁轉載！聯(lián)系電話028-86968276】
