習(xí)近平總書記指出：“青年興則國(guó)家興，青年強(qiáng)則國(guó)家強(qiáng)。”青少年處在價(jià)值觀形成和確立的時(shí)期，引導(dǎo)青少年樹立正確的世界觀、人生觀、價(jià)值觀，對(duì)于青少年成長(zhǎng)成才具有重要意義。當(dāng)前，人工智能迅猛發(fā)展，帶來信息生產(chǎn)傳播方式深刻變革，對(duì)青少年思想觀念形成和塑造的影響日益顯著。人工智能通過智能算法為青少年提供了高度個(gè)性化的信息內(nèi)容，大大提升了信息獲取的效率，但也在信息篩選、內(nèi)容導(dǎo)向等方面存在各種偏差，影響青少年對(duì)信息真實(shí)性和社會(huì)價(jià)值的判斷。黨的二十屆三中全會(huì)《決定》提出：“建立人工智能安全監(jiān)管制度。”我們要深刻認(rèn)識(shí)人工智能給青少年思想觀念帶來的影響，不斷完善人工智能治理，為青少年健康成長(zhǎng)營(yíng)造良好信息環(huán)境。
防止虛假信息造成誤導(dǎo)。生成式人工智能的發(fā)展正深刻改變內(nèi)容創(chuàng)作者的主體結(jié)構(gòu)，呈現(xiàn)出由人類主導(dǎo)向算法驅(qū)動(dòng)轉(zhuǎn)變的特征。這種轉(zhuǎn)變雖然顯著提升了內(nèi)容生產(chǎn)效率，卻也帶來了一定的問題。生成式人工智能開發(fā)者在商業(yè)利益最大化的驅(qū)動(dòng)下，容易忽視信息的真實(shí)性與社會(huì)價(jià)值，導(dǎo)致一些生成的內(nèi)容是虛假的或是具有誤導(dǎo)性的，對(duì)青少年群體認(rèn)知的形成產(chǎn)生負(fù)面影響。比如，一些文生視頻大模型利用虛擬現(xiàn)實(shí)技術(shù)，生成逼真度很高的視頻圖像，進(jìn)一步模糊了真實(shí)與虛構(gòu)的界限，加劇了人們對(duì)信息真實(shí)性的判斷難度。當(dāng)青少年群體缺乏足夠的判斷能力和數(shù)字素養(yǎng)時(shí)，就容易陷入算法制造的信息陷阱，被虛假內(nèi)容誤導(dǎo)，甚至產(chǎn)生不正確認(rèn)識(shí)。
防止個(gè)性化推薦算法導(dǎo)致認(rèn)知視野局限。生成式人工智能依托深度學(xué)習(xí)算法，對(duì)用戶行為進(jìn)行精準(zhǔn)分析，能夠?yàn)榍嗌倌耆后w提供高度個(gè)性化的信息內(nèi)容。這一技術(shù)雖然提升了信息獲取的便捷性，卻不可避免地加劇了“信息繭房”現(xiàn)象，即算法依據(jù)用戶偏好進(jìn)行內(nèi)容推薦，使青少年群體長(zhǎng)期處于單一化、同質(zhì)化的信息環(huán)境之中，從而可能限制青少年群體的認(rèn)知視野和思維深度。此外，這種內(nèi)容趨同化現(xiàn)象還進(jìn)一步加劇了信息消費(fèi)的碎片化，使青少年群體在面對(duì)海量信息時(shí)難以進(jìn)行系統(tǒng)歸納與綜合，從而弱化了對(duì)社會(huì)議題的整體理解力與參與度。這種情況不利于青少年群體完善知識(shí)結(jié)構(gòu)、發(fā)展批判性思維，也在一定程度上妨礙社會(huì)整體形成正確認(rèn)知。
防止算法偏見和成癮性特征帶來不利影響。隨著經(jīng)濟(jì)全球化深入發(fā)展，青少年在信息消費(fèi)過程中更加容易接觸到內(nèi)容和形式多樣的生成式人工智能產(chǎn)品。這些產(chǎn)品的內(nèi)容生成算法和用于模型訓(xùn)練的數(shù)據(jù)有些體現(xiàn)著西方價(jià)值觀，基于內(nèi)含價(jià)值偏見的數(shù)據(jù)、應(yīng)用具有價(jià)值偏見的算法，能夠以相對(duì)隱蔽的方式對(duì)青少年群體的價(jià)值判斷、認(rèn)知觀念等施加錯(cuò)誤影響。此外，生成式人工智能在便利性和沉浸感上吸引力倍增，可能造成沉迷、上癮現(xiàn)象。如果長(zhǎng)期過度依賴，會(huì)削弱青少年的社會(huì)適應(yīng)能力，容易滋生孤獨(dú)感、焦慮感等不良情緒。
面對(duì)人工智能發(fā)展對(duì)青少年成長(zhǎng)信息環(huán)境的深刻改變，我們需要適應(yīng)青少年健康成長(zhǎng)要求，從技術(shù)自主、強(qiáng)化監(jiān)管、內(nèi)容生產(chǎn)、素養(yǎng)養(yǎng)成和社會(huì)協(xié)作等多維度構(gòu)建系統(tǒng)化的應(yīng)對(duì)策略，不斷完善人工智能治理，構(gòu)建更加健康的數(shù)字信息環(huán)境。要推進(jìn)高水平科技自立自強(qiáng)，推動(dòng)人工智能技術(shù)自主研發(fā)和創(chuàng)新，確保關(guān)鍵核心技術(shù)自主可控，加強(qiáng)生成式人工智能相關(guān)文化產(chǎn)品的自主創(chuàng)作，使人工智能在內(nèi)容生成和傳播上契合社會(huì)主義核心價(jià)值觀。建立健全對(duì)技術(shù)的監(jiān)管機(jī)制，完善技術(shù)倫理框架，防止商業(yè)利益考量侵蝕信息真實(shí)性，嚴(yán)控虛假信息擴(kuò)散。加強(qiáng)對(duì)青少年群體的教育引導(dǎo)，提高數(shù)字素養(yǎng)，培養(yǎng)批判性思維，提升在信息洪流中識(shí)別偏見和誤導(dǎo)性內(nèi)容的能力。加強(qiáng)政府、企業(yè)、社會(huì)組織等多方面協(xié)同合作，搭建全社會(huì)共同參與的治理格局，為完善人工智能治理提供強(qiáng)大社會(huì)支撐。
（作者單位：中國(guó)社會(huì)科學(xué)院大學(xué)新聞傳播學(xué)院）
《 人民日?qǐng)?bào) 》（ 2025年02月14日 09 版）