人工智能價值對齊的倫理挑戰(zhàn)及其消解路徑

[摘要]人工智能自主性的增強(qiáng)使其具有了“主動”制造倫理問題的能力，這進(jìn)一步凸顯了確保高度自主的人工智能的價值觀與人類的價值觀保持一致的必要性，即實現(xiàn)人工智能與人類的價值對齊。當(dāng)前基于機(jī)器學(xué)習(xí)的人工智能價值對齊研究與實踐有蓬勃發(fā)展之勢，但是這一對齊路徑將會面臨由規(guī)范倫理學(xué)中的“是”到“應(yīng)該”的邏輯推導(dǎo)鴻溝導(dǎo)致的人工智能不能從數(shù)據(jù)信息中提取出價值規(guī)范的道德價值提取挑戰(zhàn)，以及行為倫理學(xué)中的“有限倫理”理論所揭示的人工智能學(xué)習(xí)的數(shù)據(jù)信息可能具有內(nèi)在道德缺陷的道德價值來源合道德性挑戰(zhàn)。（剩余14460字）