近日，用AI制作“流浪漢闖入家中”圖片來整蠱家人的帖子、視頻，在社交平臺走紅。有網(wǎng)友用AI制作流浪漢闖入家中吃早餐的視頻并發(fā)給爸爸，并將爸爸的反應(yīng)發(fā)到網(wǎng)上，有40多萬人點贊，70多萬人轉(zhuǎn)發(fā)；一名12歲的小孩用AI制作流浪漢闖入家中的整蠱圖片，圖片流入業(yè)主群，嚇壞業(yè)主……

　　隨著AI相關(guān)應(yīng)用技術(shù)的日益成熟和普及，其應(yīng)用場景不斷拓寬，使用門檻也持續(xù)降低。然而，當(dāng)這樣的技術(shù)進(jìn)步成果被用于制作恐慌性整蠱內(nèi)容，其性質(zhì)顯然就偏離了科技向善的軌道。要知道，這些整蠱內(nèi)容的效果越“逼真”，可能帶來的危害性就越大。比如，引發(fā)恐慌和誤判，導(dǎo)致報警，繼而浪費公共資源，甚至還可能擾亂公共秩序，造成不必要的社會緊張。更值得警惕的是，這類濫用行為還可能對青少年造成惡劣的示范，引發(fā)不良的模仿效應(yīng)。事實上，已有一些青少年用這類工具來整蠱，這背后的風(fēng)險不可不察。

　　隨著AI應(yīng)用的普及，一些人的好奇心被打開，愿意積極嘗試，這本身無可厚非。但是，技術(shù)應(yīng)用也得有邊界，在使用中守住倫理底線，不違背公序良俗和法律規(guī)范，這是起碼的要求。對此，一方面需要AI開發(fā)企業(yè)在產(chǎn)品設(shè)計之初就設(shè)置必要的安全提示與使用規(guī)范，對可能引發(fā)誤解、恐慌或侵權(quán)的生成內(nèi)容進(jìn)行風(fēng)險標(biāo)識，甚至對特定敏感場景進(jìn)行技術(shù)限制。特別是針對青少年的使用，應(yīng)該有相應(yīng)的分類引導(dǎo)，防止讓他們在缺乏清晰認(rèn)知的情況下誤用、濫用。

　　另一方面，也離不開社會大背景下的國民科技素養(yǎng)的培育。近日，教育部等七部門聯(lián)合印發(fā)的《關(guān)于加強(qiáng)中小學(xué)科技教育的意見》就指出，要在科技教育中融入人文元素，引導(dǎo)學(xué)生在科學(xué)實驗、項目探究等活動中，主動思考科技發(fā)展對社會、環(huán)境及倫理的深遠(yuǎn)影響，增強(qiáng)社會責(zé)任感與人文底蘊。這一點在AI技術(shù)日益滲透日常生活的今天，無疑顯得愈發(fā)重要。

　　說到底，我們不僅需要培養(yǎng)青少年的創(chuàng)新意識和能力，也要從娃娃抓起培育善用技術(shù)的責(zé)任感。一定程度上說，“流浪漢闖入家中”這類利用AI技術(shù)來整蠱的現(xiàn)實案例，恰恰是開展科技倫理教育生動的反面教材。從家庭到學(xué)校、社區(qū)等都不妨積極利用好這類案例的教育價值，增強(qiáng)大眾尤其是青少年對科技應(yīng)用濫用的風(fēng)險認(rèn)知，以及善用科技的自覺意識和責(zé)任感。

　?。ㄗ髡呦得襟w評論員）

《中國教育報》2025年11月19日 第02版