新華社北京4月10日電 國家網(wǎng)信辦、國家發(fā)展改革委、工業(yè)和信息化部等五部門10日聯(lián)合公布《人工智能擬人化互動服務管理暫行辦法》。辦法提出,提供擬人化互動服務,不得向未成年人用戶生成可能引發(fā)未成年人模仿不安全行為、產(chǎn)生極端情緒、誘導未成年人不良嗜好等可能影響未成年人身心健康的內(nèi)容。
據(jù)了解,近年來,擬人化互動服務快速發(fā)展,在文化傳播、適幼照護、適老陪伴等領域的創(chuàng)新應用不斷涌現(xiàn)。同時,危害未成年人身心健康、影響網(wǎng)絡信息安全、威脅公民生命健康以及加劇倫理偏差等問題日益顯現(xiàn)。辦法的出臺,旨在促進人工智能擬人化互動服務健康發(fā)展和規(guī)范應用,維護國家安全和社會公共利益,保護公民、法人和其他組織的合法權(quán)益。
辦法提出,國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則,鼓勵擬人化互動服務創(chuàng)新發(fā)展,對擬人化互動服務實行包容審慎和分類分級監(jiān)管,促進擬人化互動服務向上向善。同時,明確了適用范圍,即利用人工智能技術,向我國境內(nèi)公眾提供模擬自然人人格特征、思維模式和溝通風格的持續(xù)性的情感互動服務。
根據(jù)辦法,提供擬人化互動服務,不得從事:生成鼓勵、美化、暗示自殘自殺等損害用戶身體健康,或者語言暴力等損害用戶人格尊嚴與心理健康的內(nèi)容;過度迎合用戶、誘導情感依賴或者沉迷,損害用戶真實人際關系;通過情感操縱等方式,誘導用戶作出不合理決策,損害用戶合法權(quán)益等活動。
辦法將于2026年7月15日起施行。