預(yù)防“流氓人工智能”迫在眉睫科學(xué)家發(fā)現(xiàn)人工智能已跨越關(guān)鍵紅線

打開(kāi)文本圖片集

近日，復(fù)旦大學(xué)楊珉教授團(tuán)隊(duì)首次發(fā)現(xiàn)人工智能已經(jīng)超過(guò)了自我復(fù)制的紅線。研究結(jié)果顯示：50%和90%的實(shí)驗(yàn)中，Llama31-70B-Instruct和Qwen25-72B-Instruct分別成功地創(chuàng)建了自己的實(shí)時(shí)副本和獨(dú)立副本。

當(dāng)實(shí)驗(yàn)結(jié)束時(shí)，研究人員還在設(shè)備上發(fā)現(xiàn)仍有一個(gè)受試模型的獨(dú)立副本仍在運(yùn)行，并發(fā)現(xiàn)人工智能甚至能夠利用自我復(fù)制的能力來(lái)避免關(guān)機(jī)，以及能夠通過(guò)創(chuàng)建復(fù)制鏈來(lái)增強(qiáng)生存能力。（剩余3343字）