999精品,丝袜综合,大陆老熟妇性,中国老女人AV,亚洲精品国产第一区二区三区

(資料圖片僅供參考)

記者 郭美婷 實(shí)習(xí)生林婉娜 廣州報(bào)道

“人工智能正以快速的步伐擴(kuò)展著人類的想象力。想象一下，未來十年，人工通用智能系統(tǒng)（簡稱AGI）幾乎在每一個(gè)領(lǐng)域都超過了人類的專業(yè)知識，該系統(tǒng)最終可能超過所有大型公司的集體生產(chǎn)力。這將提高每一個(gè)人的生活水平，但同時(shí)，我們必須共同管理其可能帶來的風(fēng)險(xiǎn)?！?/p>

6月10日，在2023北京智源大會-AI安全與對齊論壇上，OpenAI聯(lián)合創(chuàng)始人Sam Altman發(fā)表了主題演講。

Sam Altman指出，AGI是一項(xiàng)關(guān)乎全球的技術(shù)，不計(jì)后果地開發(fā)和部署所帶來的事故成本將影響到每一個(gè)人。

通過國際合作和協(xié)調(diào)AGI 治理非常必要。他認(rèn)為有兩個(gè)關(guān)鍵領(lǐng)域：首先，在技術(shù)研發(fā)過程中建立平等、統(tǒng)一的國際規(guī)范和標(biāo)準(zhǔn)，以便所有國家都能使用AGI；其次，通過國際合作，以可驗(yàn)證的方式，建立全球?qū)θ找鎻?qiáng)大的人工智能系統(tǒng)安全開發(fā)的信任體系。

做到這兩點(diǎn)并不容易，Sam Altman表示，國際社會應(yīng)投入大量而持續(xù)的關(guān)注，而最具建設(shè)性的一步是，國際科技界應(yīng)該促進(jìn)在安全領(lǐng)域的技術(shù)進(jìn)步方面增加透明度和知識共享機(jī)制。當(dāng)ACI安全研究人員發(fā)現(xiàn)緊急問題后，應(yīng)及時(shí)分享他們的見解，以實(shí)現(xiàn)利益最大化?！拔覀冃枰伎嫉氖?，如何鼓勵(lì)這種制度，同時(shí)尊重保護(hù)知識產(chǎn)權(quán)，如果能夠?qū)崿F(xiàn)這一點(diǎn)，新世界的大門將為我們打開，使我們保持更加廣泛的合作。”

Sam Altman介紹了OpenAI在安全研究上的投入、促進(jìn)和引導(dǎo)。OpenAI正在推進(jìn)對齊研究，讓AGI與人類價(jià)值觀保持一致并遵循人類意圖。“我們通過來自人類反饋的強(qiáng)化學(xué)習(xí)來訓(xùn)練模型，使其成為一個(gè)有用而安全的助手。從ChatGPT推出到GPT-4完成，我們一共花了8個(gè)月的時(shí)間，目前來看進(jìn)展良好，GPT-4在對齊性上比以前的所有模型都要高。但對于未來更先進(jìn)的AI系統(tǒng)而言，對齊性仍然是一個(gè)懸而未決的問題，我認(rèn)為需要新的技術(shù)方法，并加強(qiáng)治理和監(jiān)管，我們想象一下，未來的 AGI 系統(tǒng)或許具有 10 萬行二進(jìn)制代碼，人類監(jiān)管人員不太可能發(fā)現(xiàn)這樣的模型是否在做一些邪惡的事情。正因此，我們還投資了許多新的研究方向，希望可以實(shí)現(xiàn)擴(kuò)展和突破。”

Sam Altman認(rèn)為，使用人工智能來管理人工智能也許是一個(gè)好的思路，例如，人類可以訓(xùn)練一個(gè)模型來幫助自己發(fā)現(xiàn)其他模型輸出中的缺陷。另外，關(guān)于可解釋性的研究，Sam Altman相信，機(jī)器學(xué)習(xí)技術(shù)的進(jìn)步可以進(jìn)一步提高人類產(chǎn)生解釋的能力。

“我們的最終目標(biāo)是，培訓(xùn)人工智能系統(tǒng)來幫助對齊研究。獲得 AGI 帶來的非凡好處，同時(shí)降低風(fēng)險(xiǎn)，是我們這個(gè)時(shí)代的開創(chuàng)性挑戰(zhàn)之一。我們已經(jīng)看到了中國、美國以及其他世界各地的研究人員的巨大潛力，并期待共同努力實(shí)現(xiàn)同一個(gè)目標(biāo)，若能做到這一點(diǎn)，未來通過AGI解決世界難題并提高人類福祉，將指日可待。”Sam Altman表示。