通用人工智能(AGI)作為人工智能領域的終極目標，吸引著學界和業(yè)界同行者不懈探索，并不斷取得新突破。

　　人類對AGI的想象從未如此具體，但人工智能領域的前路仍然充滿未知。

　　關于未來3至5年，對于人工智能發(fā)展趨勢的框架性思考，可以簡單地總結為為“三化”。

　　第一是智能技術體系化。人工智能是一個非常典型的先發(fā)展應用，后補充理論的一個學科，發(fā)展到現(xiàn)在這個階段，需要更體系化地去追究智能的本質，更好地去完善這個體系。

　　第二是智能形態(tài)多元化。人工智能一定要產生不同的形態(tài)，和實體經濟、社會發(fā)展、人民生活緊密結合，隨著人工智能技術的迭代，它一定會出現(xiàn)智能形態(tài)多元化。形態(tài)多元化的核心原因，一個是場景豐富度的要求，另一個是因為技術不完備，人工智能未來四五年中還會處于一個技術待完備的過程，這時候就需要妥協(xié)，在應用中考慮新的形態(tài)。

　　第三是智能能力高階化。行業(yè)往前發(fā)展的核心動力是智能能力必須不斷進行高階化演進。今天的人工智能已經讓大家驚嘆，但這僅僅是開始。高階化離不開技術體系化，離不開要素的突破，離不開對形態(tài)的理解。否則，基于中階過程去探討人工智能的高階化，就有可能走上錯誤的道路。

　　針對人工智能未來關鍵技術節(jié)點的判斷，很多問題至今還沒有確定的答案，但對它們的探索和解答至關重要?；仡櫩茖W歷史，偉大的技術突破往往是從提出一個關鍵問題開始。我們期待攜手 AI 領域的杰出研究者，探討出高價值戰(zhàn)略問題，并以之引領，推進人工智能的高質量發(fā)展。

　　圍繞智能技術體系化、智能形態(tài)多元化、智能能力高階化這三大趨勢，有10個問題值得進一步探討。

　　首先，伴隨諾貝爾獎紛紛花落人工智能項目，以 AI 賦能創(chuàng)新科學范式被寄予激發(fā)人類社會生產力重大飛躍的特殊意義。而 AI for Science 研究，如何從促進研究的單點突破升維至科研全鏈條水平的本質飛升？如何從“工具的革命”，發(fā)展至足以引領全新科學范式發(fā)展的“革命性工具”？我們仍需在多模態(tài)統(tǒng)一表征方面持續(xù)鉆研，打造能夠推動科學突破的AI系統(tǒng)。

　　再如，在具身智能的研究范疇里，如何精準定義“大腦” 與“本體”之間的關系，已成為核心且亟待攻克的關鍵問題。

　　人類作為“智能體”，在本體能力維度，諸如力量、速度等方面，相較于眾多動物存在明顯劣勢。然而，人類卻憑借獨特的工具創(chuàng)造能力、環(huán)境交互與學習的能力，成功突破了自身生理局限，達成諸多超越想象的成就。

　　因此，未來的具身智能研究應當深入探究大腦與本體間的最優(yōu)關系，并據此制定資源投入的最佳策略。既避免“超級大腦-弱本體”的陷阱，也避免“高級本體-簡單決策”的陷阱。從而推動具身智能技術取得實質性、突破性進展。

　　人工智能正以前所未有的速度發(fā)展，當前面臨的核心挑戰(zhàn)是：如何從被動的“彌補AI安全漏洞”(Make AI Safe)轉向主動的“構建本質安全的AI”(Make Safe AI)？

　　近期，形式化AI取得較多進展，譬如華裔數(shù)學家陶哲軒的“Lean+AI=數(shù)學證明智能化”概念等，體現(xiàn)了通過數(shù)學嚴謹性確保系統(tǒng)行為可驗證。形式化 AI 有巨大潛力，但同時也存在一定的問題：會否由于限制太強，使系統(tǒng)靈活度下降，從而出現(xiàn)為了完成任務而“繞過安全檢查”，最終導致病變？自動形式化、形式化驗證是確保 AI 100% 安全的路徑嗎？還有哪些可行的技術方案，比如Causal AI(因果人工智能)、Explainable AI(可解釋人工智能)等？真正的AI安全需要的不是完美的規(guī)范，而是具備自我修正能力的動態(tài)安全機制。

　　如此種種，還有如何平衡智能發(fā)展質量與效率、如何平衡“數(shù)據合成”和“算法訓練”的算力分配、如何促進軟硬件協(xié)同創(chuàng)新、如何高效配置算力、如何構建更加本質的 AI 安全、如何以 AI 賦能科學范式的革命性高效創(chuàng)新、如何探索下一代模型架構等多個關鍵問題。

　　通用人工智能正處于爆發(fā)前夜。未來，AGI將深度重構社會生產邏輯，而能否平衡效率與倫理、創(chuàng)新與安全，取決于技術開發(fā)者、政策制定者與公眾的共治智慧。對人類而言，AGI不僅是工具，更是文明演進的一面鏡子：我們如何設計它，便是如何定義自己的未來。

　　作者：上海人工智能實驗室主任、首席科學家周伯文