網(wǎng)信辦：“AI 陪聊服務”應提供未成年人模式，并引導老年人設置緊急聯(lián)系人

12 月 27 日消息，今天下午，國家互聯(lián)網(wǎng)信息辦公室就《人工智能擬人化互動服務管理暫行辦法》公開征求意見。

IT之家從征求意見稿獲悉，其中提到，提供者應當顯著提示用戶正在與人工智能而非自然人進行交互。提供者識別出用戶出現(xiàn)過度依賴、沉迷傾向時，或者在用戶初次使用、重新登錄時，應當以彈窗等方式動態(tài)提醒用戶交互內(nèi)容為人工智能生成。用戶連續(xù)使用擬人化互動服務超過 2 個小時的，提供者應當以彈窗等方式動態(tài)提醒用戶暫停使用服務。

其中提到，提供者應當具備心理健康保護、情感邊界引導、依賴風險預警等安全能力，不得將替代社會交往、控制用戶心理、誘導沉迷依賴等作為設計目標。

提供者開展預訓練、優(yōu)化訓練等數(shù)據(jù)處理活動時，應當加強訓練數(shù)據(jù)管理，遵守以下規(guī)定：

（一）使用符合社會主義核心價值觀、體現(xiàn)中華優(yōu)秀傳統(tǒng)文化的數(shù)據(jù)集；

（二）對訓練數(shù)據(jù)開展清洗、標注，增強訓練數(shù)據(jù)的透明度、可靠性，防范數(shù)據(jù)投毒、數(shù)據(jù)篡改等行為；

（三）提高訓練數(shù)據(jù)的多樣性，通過負向采樣、對抗訓練等手段，提升模型生成內(nèi)容安全性；

（四）利用合成數(shù)據(jù)進行模型訓練和關鍵能力優(yōu)化時，應當評估合成數(shù)據(jù)安全性；

（五）加強對訓練數(shù)據(jù)的日常檢查，定期對數(shù)據(jù)進行迭代升級，持續(xù)優(yōu)化產(chǎn)品和服務的性能；

（六）保障訓練數(shù)據(jù)來源合法、可追溯，采取必要措施保障數(shù)據(jù)安全，防范數(shù)據(jù)泄露風險。

此外，提供者應當建立未成年人模式，向用戶提供未成年人模式切換、定期現(xiàn)實提醒、使用時長限制等個性化安全設置選項。

提供者向未成年人提供情感陪伴服務時，應當取得監(jiān)護人的明確同意；提供監(jiān)護人控制功能，監(jiān)護人可以實時接收安全風險提醒，查閱未成年人使用服務的概要信息，設置屏蔽特定角色、限制使用時長、防止充值消費等。

提供者應當具備識別未成年人身份的能力，在保護用戶個人隱私前提下識別為疑似未成年人的，切換至未成年人模式，并提供申訴渠道。

提供者應當引導老年人設置服務緊急聯(lián)系人，發(fā)現(xiàn)老年人使用期間出現(xiàn)危害生命健康和財產(chǎn)安全的，及時通知緊急聯(lián)系人，并提供社會心理援助或者緊急救助渠道。提供者不得提供模擬老年人用戶親屬、特定關系人的服務。