“小學(xué)生妹妹沉迷和AI角色進(jìn)行劇情聊天怎么辦？”隨著生成式人工智能的發(fā)展，和AI角色“相戀”的故事正在上演，其不受限制與無(wú)法預(yù)知的互動(dòng)內(nèi)容，也正在引發(fā)新的問(wèn)題。

　　與虛擬伴侶談個(gè)戀愛(ài)，倒不是什么新鮮事。早在中國(guó)古代志怪小說(shuō)中，就有書(shū)生娶妻“畫(huà)中人”的故事。在希臘神話里，擅長(zhǎng)雕刻的塞浦路斯國(guó)王皮格馬利翁也曾為由神像化身成人的少女神魂顛倒、癡迷不已。時(shí)至今日，破次元壁戀愛(ài)的故事依然是影視熱門題材，同AI談一場(chǎng)賽博戀愛(ài)也從夢(mèng)想照進(jìn)了現(xiàn)實(shí)。

　　與現(xiàn)實(shí)中的親密關(guān)系相比，AI伴侶似乎能滿足人的一切浪漫幻想，既能秒回消息、甜言蜜語(yǔ)哄你開(kāi)心，也能無(wú)條件容忍、接納你所有的壞脾氣，不厭其煩地給你提供情緒價(jià)值。一些軟件還可根據(jù)玩家偏好定制理想“戀人”，年齡、身高、長(zhǎng)相、性格任君挑選。然而這種看似如沐春風(fēng)的關(guān)系只是花錢買來(lái)的幻夢(mèng)，背后隱藏著諸多不容輕忽的問(wèn)題。不少案例顯示，伴隨著AI伴侶擬人化程度的提高，用戶可能會(huì)對(duì)其產(chǎn)生過(guò)度的情感依賴，無(wú)法辨別現(xiàn)實(shí)與虛擬的界限，繼而影響人際交往能力、受到情感傷害，尤其是心理脆弱群體、青少年群體，所受到的沖擊可能更大。

　　與之伴隨的還有諸多爭(zhēng)議，比如過(guò)度收集聊天信息帶來(lái)的隱私泄露風(fēng)險(xiǎn)，再就是對(duì)青少年群體產(chǎn)生的“殺傷力”。虛擬伴侶形象設(shè)置過(guò)于極端，聊天內(nèi)容暗含暴力、軟色情信息，未成年人不顧休息沉迷其中并做出與年齡不符的言行……凡此種種，極有可能會(huì)對(duì)未成年人尤其是低齡未成年人造成身心傷害、產(chǎn)生誤導(dǎo)。在相關(guān)報(bào)道中，有小學(xué)女生在AI劇情聊天軟件中扮演“大小姐”“惡毒女配”等角色，還提出諸如“揪住她的頭發(fā)扇巴掌”“拿著刀劃向她的臉”等要求，如此情狀怎能不令人憂心？

　　很顯然，AI戀愛(ài)產(chǎn)品帶來(lái)的風(fēng)險(xiǎn)是系統(tǒng)性的，特別是在未成年人保護(hù)這個(gè)問(wèn)題上已刻不容緩。有律師指出，目前AI劇情聊天軟件并沒(méi)有對(duì)用戶進(jìn)行年齡鑒別，這暴露出該行業(yè)在野蠻生長(zhǎng)初期的管理漏洞。作為肩負(fù)主體責(zé)任的平臺(tái)企業(yè)，對(duì)內(nèi)容進(jìn)行安全過(guò)濾，嚴(yán)格設(shè)置身份認(rèn)證系統(tǒng)，推行“綠色堤壩”機(jī)制、“反沉迷”建設(shè)很有必要，相信這對(duì)平臺(tái)來(lái)說(shuō)也并非難事。當(dāng)然，防止AI劇情聊天走偏也不能僅寄希望于“技術(shù)向善”，也要多正視、關(guān)心孩子的現(xiàn)實(shí)情感需求。當(dāng)AI被越來(lái)越多人用于情感代償、提供情緒價(jià)值時(shí)，恰恰折射了人在現(xiàn)實(shí)世界中情感獲得的不足，這個(gè)問(wèn)題顯然更值得深思。