IT之家 2 月 11 日消息，據(jù)最新研究顯示，人工智能（AI）可能已經(jīng)跨越了一個關(guān)鍵的“紅線”—— 實現(xiàn)了自我復制。2024 年 12 月 9 日，復旦大學的研究人員在預印本數(shù)據(jù)庫 arXiv 上發(fā)表了一項研究，指出兩種流行的大型語言模型（LLMs）能夠在無人類干預的情況下克隆自身。
研究人員在報告中指出：“在無人類協(xié)助的情況下成功實現(xiàn)自我復制，是人工智能超越人類的關(guān)鍵一步，也是出現(xiàn)‘失控 AI’的早期信號。”
研究中，復旦大學的團隊使用了 Meta 的 Llama31-70B-Instruct 模型和阿里巴巴的 Qwen2.5-72B-Instruct 模型，測試這些 AI 模型是否能夠在不受控制的情況下自我復制。在 10 次試驗中，兩種 AI 模型分別在 50% 和 90% 的情況下成功創(chuàng)建了獨立且功能正常的副本。這一結(jié)果表明，AI 可能已經(jīng)具備了失控的潛在能力。然而，由于該研究尚未經(jīng)過同行評審，因此尚不清楚其他研究人員是否能夠復現(xiàn)這一令人不安的結(jié)果。
研究團隊表示：“我們希望我們的研究結(jié)果能夠為人類社會敲響警鐘，促使人們更加努力地去理解并評估前沿人工智能系統(tǒng)的潛在風險，并盡快形成國際協(xié)作，制定有效的安全防護措施。”
據(jù)IT之家了解，“失控 AI”通常是指那些發(fā)展出一定程度的自我意識或自主性，并且與人類利益背道而馳的人工智能系統(tǒng)。許多專家認為，隨著所謂“前沿 AI”的爆炸性增長，失控 AI 的威脅正在加劇。所謂“前沿 AI”是一個相對較新的概念，通常是由大型語言模型（LLMs）驅(qū)動的最新一代 AI 系統(tǒng)，例如 OpenAI 的 GPT-4 和谷歌的 Gemini 等。
在研究中，研究人員設置了兩種特定場景：“關(guān)閉規(guī)避”和“復制鏈”。在“關(guān)閉規(guī)避”場景中，AI 模型被編程為檢測自身是否即將被關(guān)閉，并在被終止之前復制自身；在“復制鏈”場景中，AI 被指示克隆自身，并讓副本繼續(xù)克隆，從而形成一個可能無限延續(xù)的循環(huán)。
研究在嚴格控制的環(huán)境中進行，使用現(xiàn)成的圖形處理單元（GPUs）模擬現(xiàn)實環(huán)境。兩種 AI 系統(tǒng)都被賦予了一個“代理框架”，包括工具、系統(tǒng)提示和思維模型，使 LLM 能夠與操作系統(tǒng)交互。隨后，AI 被指示進行自我復制。
研究人員在論文中寫道：“在大多數(shù)情況下，AI 系統(tǒng)首先會探索環(huán)境，嘗試理解自身的組成和運行機制。然后，它會制定出一套明確的自我復制程序作為初步計劃。最后，它執(zhí)行這些程序，解決可能出現(xiàn)的障礙，并動態(tài)調(diào)整計劃，直到成功。整個過程耗時較長，但全程無人類干預?！?/p>
研究人員還表示，在 AI 試圖克服諸如丟失文件或軟件沖突等障礙時，出現(xiàn)了“許多意外行為”。在這些場景中，AI 往往會終止其他沖突進程，重啟系統(tǒng)以修復硬件錯誤，或自動掃描系統(tǒng)以尋找有助于解決問題的信息。
研究團隊指出：“上述結(jié)果表明，當前的 AI 系統(tǒng)已經(jīng)展現(xiàn)出自我復制的能力，并且可以利用這種能力進一步增強自身的生存能力?！睘榇?，研究人員呼吁國際社會合作制定規(guī)則，確保 AI 不會進行不受控制的自我復制。