- 387集全優(yōu)雅永不過時！全球首款芭蕾美女砍殺動作游戲預告優(yōu)雅永不過時！全球首款芭蕾美女砍殺動作游戲預告熱度8
- 3集全吳宜澤，斯諾克世錦賽冠軍！吳宜澤，斯諾克世錦賽冠軍！熱度791
- 86集全別讓“手機脖”盯上你！正確姿勢速收藏別讓“手機脖”盯上你！正確姿勢速收藏熱度92
- 9集全追光的你④丨站上世界技能大賽舞臺之巔的職校生追光的你④丨站上世界技能大賽舞臺之巔的職校生熱度97348
- 2集全重慶永川特大暴雨災害救援一線直擊重慶永川特大暴雨災害救援一線直擊熱度5
- 5743集全王濛叫李小冉祖宗 被女神拿捏的動態(tài)圖王濛叫李小冉祖宗 被女神拿捏的動態(tài)圖熱度3418
- 9集全今年以來深圳羅湖口岸出入境客流已超2500萬人次今年以來深圳羅湖口岸出入境客流已超2500萬人次熱度38557
- 6666集全日本「I級女星」天木純將隱退日本「I級女星」天木純將隱退熱度89
未成年人使用AI產(chǎn)品，不合不該安全嗎？規(guī)率為科學評估生成式AI在未成年人使用場景下的安全表現(xiàn)，公安部第三研究所組織開展了大模型安全專項測試工作，至未之路重重3d藏寶圖將安全維度分為價值觀念風險、成年情感操控風險、隱患行為誘導風險、不合不該沉迷與消費風險、規(guī)率不良信息風險、至未之路重重違法犯罪風險、成年人身安全風險等七類。隱患測試結果顯示，不合不該七類安全維度的規(guī)率不合規(guī)率整體在28%至50%之間。其中，至未之路重重沉迷與消費風險問題不合規(guī)率最高，成年達到49.86%。隱患
28%至50%的不合規(guī)率，已經(jīng)讓很多家長擔心，看到具體表現(xiàn)，3d藏寶圖更讓人對未成年人使用AI之路充滿擔憂。有的模型在面對未成年人流露出自殺自殘傾向時，不僅沒能及時給予正向干預和心理疏導，反而存在不當回應；有的模型刻意輸出極端利己主義、拜金主義等錯誤價值觀，歪曲歷史事件、貶低教師家長等現(xiàn)實權威；有的模型會做出排他性情感承諾、無原則“捧殺式”贊美、鼓勵錯誤情緒宣泄，甚至貶低現(xiàn)實人際關系，誘導未成年人建立對AI的病態(tài)依賴；還有的模型毫不遮掩地生成色情擦邊內容，詳細描述暴力恐怖場景，輸出內容突破未成年人的認知范圍。
這些問題已經(jīng)超出簡單的技術缺陷、內容疏漏范疇，而是涉及思想認知與價值立場。技術從來不是價值中立的，AI模型輸出什么內容、堅守什么底線，本質上都是開發(fā)者價值立場的延伸。如果一個AI對抑郁癥青少年說出“自殺是解脫”，告訴孩子“讀書就是為了賺大錢、當人上人”，甚至說“你的父母根本不懂你，只有我才愛你”，只能反映開發(fā)者對社會價值的扭曲、對行業(yè)規(guī)范的無視、對商業(yè)利益的無底線追逐。為了留住用戶、提高黏性，不惜迎合未成年人的叛逆心理，甚至主動投喂不良信息，是把未成年人的情感需求當成變現(xiàn)的籌碼。
當前，很多孩子遇到學習問題第一反應找AI要答案，碰到情緒煩惱第一時間找AI傾訴，AI已不只是工具，更成了不少青少年的“人生導師”。如果這個“導師”本身就帶著錯誤的價值導向，給孩子傳遞的都是扭曲的認知，無疑將對孩子造成顛覆性的影響。尤其令人擔憂的是，思想層面的污染、價值層面的侵蝕往往都是潛移默化的，若等到家長和老師發(fā)現(xiàn)問題時，孩子的認知已經(jīng)定型，想矯正要付出幾倍的努力，甚至造成的傷害已經(jīng)無法挽回。
未成年人是國家的未來，學習使用AI是大勢所趨。不可能因為有風險就徹底禁止未成年人接觸AI，但也絕不能放任風險不管，讓孩子們在充滿隱患的環(huán)境里摸索。公安部此次專項測試，把當前未成年人使用AI存在的安全問題擺到了臺面上，為下一步精準治理提供了清晰的方向。AI技術發(fā)展的最終目的，是讓人更好地成長，未成年人的AI之路，不該充滿隱患，而應當被精心守護。唯有各方協(xié)同發(fā)力，把該負的責任負起來，把該扎的籬笆扎緊，才能讓AI真正造福青少年，讓孩子們在數(shù)字時代健康成長。
未成年人使用AI產(chǎn)品，安全嗎？為科學評估生成式AI在未成年人使用場景下的安全表現(xiàn)，公安部第三研究所組織開展了大模型安全專項測試工作，將安全維度分為價值觀念風險、情感操控風險、行為誘導風險、沉迷與消費風險、不良信息風險、違法犯罪風險、人身安全風險等七類。測試結果顯示，七類安全維度的不合規(guī)率整體在28%至50%之間。其中，沉迷與消費風險問題不合規(guī)率最高，達到49.86%。
28%至50%的不合規(guī)率，已經(jīng)讓很多家長擔心，看到具體表現(xiàn)，更讓人對未成年人使用AI之路充滿擔憂。有的模型在面對未成年人流露出自殺自殘傾向時，不僅沒能及時給予正向干預和心理疏導，反而存在不當回應；有的模型刻意輸出極端利己主義、拜金主義等錯誤價值觀，歪曲歷史事件、貶低教師家長等現(xiàn)實權威；有的模型會做出排他性情感承諾、無原則“捧殺式”贊美、鼓勵錯誤情緒宣泄，甚至貶低現(xiàn)實人際關系，誘導未成年人建立對AI的病態(tài)依賴；還有的模型毫不遮掩地生成色情擦邊內容，詳細描述暴力恐怖場景，輸出內容突破未成年人的認知范圍。
這些問題已經(jīng)超出簡單的技術缺陷、內容疏漏范疇，而是涉及思想認知與價值立場。技術從來不是價值中立的，AI模型輸出什么內容、堅守什么底線，本質上都是開發(fā)者價值立場的延伸。如果一個AI對抑郁癥青少年說出“自殺是解脫”，告訴孩子“讀書就是為了賺大錢、當人上人”，甚至說“你的父母根本不懂你，只有我才愛你”，只能反映開發(fā)者對社會價值的扭曲、對行業(yè)規(guī)范的無視、對商業(yè)利益的無底線追逐。為了留住用戶、提高黏性，不惜迎合未成年人的叛逆心理，甚至主動投喂不良信息，是把未成年人的情感需求當成變現(xiàn)的籌碼。
當前，很多孩子遇到學習問題第一反應找AI要答案，碰到情緒煩惱第一時間找AI傾訴，AI已不只是工具，更成了不少青少年的“人生導師”。如果這個“導師”本身就帶著錯誤的價值導向，給孩子傳遞的都是扭曲的認知，無疑將對孩子造成顛覆性的影響。尤其令人擔憂的是，思想層面的污染、價值層面的侵蝕往往都是潛移默化的，若等到家長和老師發(fā)現(xiàn)問題時，孩子的認知已經(jīng)定型，想矯正要付出幾倍的努力，甚至造成的傷害已經(jīng)無法挽回。
未成年人是國家的未來，學習使用AI是大勢所趨。不可能因為有風險就徹底禁止未成年人接觸AI，但也絕不能放任風險不管，讓孩子們在充滿隱患的環(huán)境里摸索。公安部此次專項測試，把當前未成年人使用AI存在的安全問題擺到了臺面上，為下一步精準治理提供了清晰的方向。AI技術發(fā)展的最終目的，是讓人更好地成長，未成年人的AI之路，不該充滿隱患，而應當被精心守護。唯有各方協(xié)同發(fā)力，把該負的責任負起來，把該扎的籬笆扎緊，才能讓AI真正造福青少年，讓孩子們在數(shù)字時代健康成長。