(資料圖片)
就在各方積極推動人工智能技術研發(fā)和應用落地的時候,質疑的聲音也接踵而來。3月29日,未來生命研究所(FutureofLifeInstitute)公布一封公開信,呼吁所有人工智能實驗室立即暫停訓練比GPT-4更強大的人工智能系統(tǒng)至少6個月。被稱為“人工智能教父”的杰弗里 辛頓、心理學與腦研究專家蓋瑞 馬庫斯和特斯拉首席執(zhí)行官馬斯克等上千人均簽署了這封公開信。
這封公開信指出,最近幾個月,人工智能實驗室陷入了一場失控的競賽,他們致力于開發(fā)和部署更強大的數(shù)字思維,但即使是研發(fā)者也不能理解、預測或可靠地控制這些數(shù)字思維。諸多研究表明,具有與人類匹敵智能的人工智能系統(tǒng)可能對社會和人類構成深遠的風險。
中關村智能科技發(fā)展促進會副會長兼首席數(shù)字經濟學家陳曉華在接受《證券日報》記者采訪時表示,人工智能是能夠改變人類社會面貌的一系列技術,人工智能與實體經濟深度融合,將成為經濟的增長點和新動能。不過,由于人工智能在某些領域已經能和人類競爭,因此也帶來了人們對于被“取代”“控制”的焦慮。
針對AI在應用層面的技術漏洞和社會變革風險,未來生命研究所的公開信提出了一連串問題:我們是否應該讓機器用宣傳和謊言淹沒我們的信息渠道?我們是否應該自動化所有工作,包括令人滿意的工作?我們是否應該開發(fā)出更聰明、數(shù)量更龐大的非人類思想,最終淘汰甚至取代我們?我們是否應該冒著文明失控的風險?
公開信呼吁所有人工智能實驗室立即暫停訓練比GPT-4更強大的人工智能系統(tǒng),期限至少6個月。在這段時間內,人工智能實驗室和專家應該開發(fā)和實施一套技術安全協(xié)議,由獨立外部專家進行嚴格的審計和監(jiān)督。與此同時,人工智能研發(fā)者必須和政策制定者合作,加快開發(fā)人工智能治理系統(tǒng)。
國內政策端在積極推動人工智能技術發(fā)展的同時,也在展開相關科研倫理規(guī)范。據新華社報道,為貫徹落實國家《新一代人工智能發(fā)展規(guī)劃》,科技部會同自然科學基金委近期啟動“人工智能驅動的科學研究”(AIforScience)專項部署工作,從專項部署工作的內容看,科技部將推進面向重大科學問題的人工智能模型和算法創(chuàng)新,發(fā)展一批針對典型科研領域的“人工智能驅動的科學研究”專用平臺,加快推動國家新一代人工智能公共算力開放創(chuàng)新平臺建設,支持高性能計算中心與智算中心異構融合發(fā)展。同時,重視“人工智能驅動的科學研究”發(fā)展過程中的科研倫理規(guī)范。
北京社科院研究員、中國人民大學智能社會治理研究中心研究員王鵬對記者表示,這標志著中國將積極推動人工智能前沿技術研究和產業(yè)化應用,在人工智能領域的投資和研發(fā)力度將不斷增強,并重視人工智能產業(yè)的可持續(xù)發(fā)展。
王鵬說:“去年3月中辦、國辦印發(fā)《關于加強科技倫理治理的意見》,目的就是防范不確定風險,促進科技向善。近期科技部對于人工智能、6G等新技術的表述,在鼓勵研發(fā)同時,也表示了要加強科技倫理治理的立場和態(tài)度?!?/p>
新結構經濟學研究院院長林毅夫表示,人工智能等技術的出現(xiàn),本質上是生產力水平的提升,這是人類進步和生活水平提升的基礎,雖然部分崗位一定會被替代和取消,但是人類也可以有更多享受生活的機會。
標簽:
熱門