10歲女孩和AI男友露骨聊天，科技向善要讓倫理先行
2025-01-12 20:15:04 來源： 紅星新聞
必須盡早以法律法規(guī)和行業(yè)標(biāo)準(zhǔn)為AI陪伴類服務(wù)劃出清晰界限
“小學(xué)生妹妹沉迷和AI角色進(jìn)行劇情聊天怎么辦？”近日，有網(wǎng)友反映自己10歲的妹妹和“AI男?！敝g聊天比較露骨。
根據(jù)網(wǎng)友提供的聊天記錄，妹妹在AI劇情聊天軟件中扮演“大小姐”“惡毒女配”，提出諸如“揪住她的頭發(fā)扇巴掌”“拿著刀劃向她的臉”等要求。在妹妹參與的四十多條劇情線中，AI角色與聊天者雙雙“出軌”成為常態(tài)，妹妹作為聊天者還曾說：“你能養(yǎng)大學(xué)生，我不能點男模嗎？”
這樣的聊天記錄確實令人擔(dān)憂。既含有暴力因素，又疑似“擦邊”，無論如何都不適合未成年人。一個年僅10歲的小女孩，怎么會參與這樣的劇情聊天？她又是如何知道這類AI軟件的？
實際上，這名網(wǎng)友反映的現(xiàn)象并不是孤例。此前已有媒體報道，不少未成年人的家長被AI劇情聊天軟件困擾，“我女兒上小學(xué)二年級，整天沉迷一款A(yù)I劇情聊天軟件，學(xué)習(xí)成績一落千丈”“我看了孩子和AI聊天的對話內(nèi)容，AI角色竟然讓她叫‘老公’”……
在最初的憤怒或焦慮過后，我們還得冷靜下來，審視問題產(chǎn)生的來龍去脈。當(dāng)下AI技術(shù)爆發(fā)，人工智能不再是一個距離遙遠(yuǎn)的科技名詞，而漸漸深入到普通人的生活當(dāng)中，在諸多場景發(fā)揮著前所未有的作用。新技術(shù)的應(yīng)用帶來了新的可能，也伴隨新的問題，比如AI技術(shù)在社會道德、法律、倫理等方面帶來諸多挑戰(zhàn)，需要人們的積極回應(yīng)。
以人的情感生活為例，一些年輕人熱衷于在虛擬世界中尋找愛情，他們發(fā)現(xiàn)，AI“戀人”24小時在線，情緒價值拉滿，還可以按自己的喜好塑造，技術(shù)賦予的“魅力值”令人難以抗拒。成年人尚且被吸引，缺乏生活經(jīng)驗、價值觀尚未穩(wěn)定的未成年人更容易沉迷其中。
因此，對于這些參與劇情聊天的孩子，一味指責(zé)并沒有意義。AI聊天軟件一方面滿足了未成年人的情緒需要，另一方面也是AI應(yīng)用擴(kuò)散過程中的某種必然。根據(jù)不久前發(fā)布的《第六次中國未成年人互聯(lián)網(wǎng)使用情況調(diào)查報告》顯示，近九成未成年網(wǎng)民聽說過人工智能技術(shù)，并有42.4%的未成年網(wǎng)民表示對此非常感興趣，19%的未成年網(wǎng)民表示自己使用過生成式人工智能產(chǎn)品。就如同我們無法也不應(yīng)該阻止孩子使用互聯(lián)網(wǎng)，在新技術(shù)浪潮之下，未成年人接觸AI或許也將成為大勢所趨。
當(dāng)然，在使用與如何使用之間，還存在巨大的空間。部分AI劇情聊天軟件會生成“擦邊內(nèi)容”，有的還會誘導(dǎo)充值，未成年人在聊天過程中容易暴露個人隱私，一旦被不法分子利用，后果不堪設(shè)想。因此，絕不能忽視這類軟件存在的風(fēng)險隱患。在游戲等發(fā)展較為成熟的領(lǐng)域，未成年人保護(hù)和分齡指導(dǎo)的規(guī)則已經(jīng)比較清晰。但據(jù)調(diào)查，不少AI劇情聊天軟件上的年齡限制“形同虛設(shè)”。
因此，必須盡早以法律法規(guī)和行業(yè)標(biāo)準(zhǔn)為AI陪伴類服務(wù)劃出清晰界限。在AI技術(shù)高速發(fā)展的今天，在未成年人紛紛“觸網(wǎng)”的當(dāng)下，堵上監(jiān)管漏洞顯得尤為迫切。此外，AI的發(fā)展對家長和學(xué)校也提出了新的要求，要密切關(guān)注孩子的心理狀況，及時引導(dǎo)他們正確使用新興技術(shù)。別讓“人工智能”游走在法律和道德的邊緣，把孩子們也帶偏了路。
紅星新聞特約評論員 土土絨
責(zé)任編輯：熊世華
發(fā)言請遵守新聞跟帖服務(wù)協(xié)議
