北京
人工智能安全要從娃娃抓起
近日，聯合國兒童基金會發布的一份聲明引發關注。通過對10個國家最新數據的分析，兒基會估計全球至少有2000萬名兒童已經使用過人工智能，且青少年采用該技術人數的增長速度是成年人的3倍多。這一數據令人且喜且憂。喜的是，人工智能為兒童教育帶來了前所未有的機遇；憂的是，在兒童快速擁抱AI的同時，相應的安全防護措施卻未跟上。人工智能安全，已經到了必須從娃娃抓起的緊迫時刻。
人工智能為兒童打開了一扇充滿可能性的窗口。它可以打破地域與師資壁壘，成為個性化的學習助手；可以成為情感傾訴的出口，為性格內向或存在社交障礙的孩子疏導負面情緒。智能語音交互、實時翻譯工具還能幫助殘障兒童或非母語兒童跨越溝通障礙，平等參與學習與社交活動。合理運用人工智能，能讓兒童的成長更具多元可能性。
然而，機遇的另一面是同樣不容忽視的風險，AI對心智尚未成熟的兒童構成多重安全挑戰。
首先是內容與認知風險。兒童缺乏辨別能力，長期接觸迎合式、無條件的AI陪伴，容易產生過度情感依賴，弱化現實社交能力。部分孩子過度依賴AI代寫作業，逐漸喪失獨立思考能力。
其次是隱私安全危機。不少平臺數據加密機制不完善，海量未成年人信息極易泄露，繼而引發精準電信詐騙、個人畫像濫用等問題，威脅人身安全與財產安全。
還有AI衍生的新型侵害。國際上有大量兒童照片被不法分子利用深度偽造技術生成低俗色情影像，AI技術大幅降低了兒童性剝削的實施門檻。同時，網絡暴力、極端價值觀、不良生活導向等有害內容，會借助AI精準推送給兒童，侵蝕未成年人的成長環境。
構建有利于兒童健康成長的人工智能系統，需要政府、企業、學校和家庭多方協同發力。
首要屏障是完善法治。值得肯定的是，中國已邁出了開創性的一步。我國《人工智能擬人化互動服務管理暫行辦法》將于7月15日起施行。該辦法嚴禁向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系服務，要求設置未成年人模式和時長限制。這是全球范圍內針對AI情感交互服務實施監管的重要一步。在此基礎上，未來，我們還應進一步將兒童權利全面納入人工智能治理體系。
加大研究是認知基礎。關于AI對兒童認知發展、情緒健康及潛在傷害的影響，相關證據才剛剛開始浮出水面。需加大對這一領域的研究投入，系統性地評估不同類型的AI應用對不同年齡段兒童的具體影響，為精準施策提供科學依據。
源頭治理靠安全設計。AI產品要在設計之初就引入兒童安全影響評估，不能等上市后再修補漏洞。在數據收集和處理上遵循最小化原則，要獲得父母或監護人知情同意。在功能設計上體現克制，要設計家長授權機制，少占用屏幕時間、少進行社交刺激。
長遠之計需提升素養。學校和家庭應將AI素養教育融入日常。家長要為孩子劃定AI使用的安全邊界：不替代自主思考、不脫離現實社交。更重要的是，要滿足孩子的現實情感需求，才能從根源上降低兒童對AI的心理依賴。
人工智能安全從娃娃抓起，將讓創新更有溫度。當我們為AI的無限可能歡呼時，請別忘了蹲下來，從兒童的高度看一看這個世界。兒童是數字時代的原住民，他們理應在真實的人際互動、自由的探索試錯和有溫度的教育關懷中茁壯成長。
本文來源：經濟日報
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
