預(yù)防“流氓人工智能”迫在眉睫科學(xué)家發(fā)現(xiàn)人工智能已跨越關(guān)鍵紅線

打開文本圖片集

近日，復(fù)旦大學(xué)楊珉教授團隊首次發(fā)現(xiàn)人工智能已經(jīng)超過了自我復(fù)制的紅線。研究結(jié)果顯示：50%和90%的實驗中，Llama31-70B-Instruct和Qwen25-72B-Instruct分別成功地創(chuàng)建了自己的實時副本和獨立副本。

當(dāng)實驗結(jié)束時，研究人員還在設(shè)備上發(fā)現(xiàn)仍有一個受試模型的獨立副本仍在運行，并發(fā)現(xiàn)人工智能甚至能夠利用自我復(fù)制的能力來避免關(guān)機，以及能夠通過創(chuàng)建復(fù)制鏈來增強生存能力。（剩余3343字）