日前,第三屆人工智能合作與治理國際論壇的第一場主論壇以“人工智能引領韌性治理與未來科技”為題舉辦。主論壇由清華大學文科資深教授、人工智能國際治理研究院院長薛瀾主持。聯(lián)合國助理秘書長、聯(lián)合國開發(fā)計劃署(UNDP)政策與方案支助局局長徐浩良,世界工程組織聯(lián)合會前主席、中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克,北京智源人工智能研究院理事長張宏江,國際人工智能協(xié)會前主席約蘭達·吉爾應邀出席論壇并作主旨發(fā)言。
薛瀾表示,人工智能為代表的數(shù)字技術成為推動新一輪科技與產(chǎn)業(yè)革命的強大引擎,人工智能技術如何才能更好地應對氣候變化、公共衛(wèi)生、數(shù)字鴻溝等重大問題與全球性挑戰(zhàn)、消除全球“治理赤字”,如何推動構建富有韌性、公平合理的全球治理體系,如何在算法研發(fā)設計中更多考慮公共利益與社會責任,這些問題亟待我們研究與解決,也希望主論壇的討論能圍繞上述問題展開。
徐浩良在發(fā)言中表示,盡管世界上有些地區(qū)已經(jīng)采取行動,政府在監(jiān)管人工智能的風險和危害方面仍面臨持續(xù)困境。數(shù)字技術并非一勞永逸的萬能靈藥,因此在UNDP的《2022-2025年數(shù)字戰(zhàn)略》中制定了具有雄心的愿景,即創(chuàng)建一個“數(shù)字技術助力人類和地球發(fā)展”的世界,UNDP與各國政府的交流與互動凸顯了對數(shù)據(jù)及人工智能的治理及道德規(guī)范的迫切需求。
龔克指出,韌性是可持續(xù)發(fā)展的重要要求和愿景,他以AI在管網(wǎng)泄漏排查、城市需水預測、預報特定災害等場景中的成功應用為例,說明AI可以有效助力韌性發(fā)展�!皵�(shù)據(jù)的及時、準確、全面對于AI助力韌性發(fā)展至關重要,物聯(lián)網(wǎng)的發(fā)展、多源數(shù)據(jù)的融合、數(shù)據(jù)的無偏化處理等成為AI助力韌性發(fā)展的技術趨勢”。龔克說。
從人工智能為韌性治理提供了技術賦能的角度來看,龔克表示,只有負責任、符合倫理、依法和適度地應用人工智能,才能讓人工智能在韌性治理中既作為治理工具、也作為治理對象的兩個方面得到統(tǒng)一。他特別強調,技術賦權必須以法律為邊界,貫徹AI倫理原則,防止技術異化為權力。
張宏江分享了人工智能賦能科學發(fā)現(xiàn)的實踐經(jīng)驗。他認為建立于數(shù)據(jù)、算法、算力基礎上的AI驅動深度學習模型已成為科學發(fā)現(xiàn)的新范式,在材料、化工產(chǎn)品、健康管理、藥物研發(fā)等領域促生了大量新的設計和產(chǎn)品,尤其是AI驅動的科學研究將成為促進生物醫(yī)藥和生命健康的一個有效新途徑。
約蘭達·吉爾在發(fā)言中指出,AI可以克服人類缺乏系統(tǒng)性、易出錯、有偏見、寫作能力欠佳等局限性,應當讓AI成為科學生態(tài)系統(tǒng)的一部分,實現(xiàn)從AI復現(xiàn)論文到AI成為研究助理,再到AI和人類一起合作發(fā)表論文。AI還具備提供更精確和定制化的報告、自動更新科學發(fā)現(xiàn)、提高論文可復現(xiàn)性、綜合調整數(shù)據(jù)、整合不同學科的信息和模型等系列優(yōu)勢。她建議可以開發(fā)AI科學家,給AI以算法、數(shù)據(jù),讓AI有更大的主動性、自主性和獨立性,并讓其參與科學問題研究。
主旨發(fā)言環(huán)節(jié)結束后,專家們進行了研討并與觀眾進行了互動交流。圍繞“如何幫助發(fā)展中國家緩解其關于人工智能應用和治理之間的擔憂”的問題,徐浩良認為,發(fā)展中國家與發(fā)達國家在新技術發(fā)展的能力建設方面存在很大差距,而在幫助縮小差距的過程中,要堅持國家政府主導,在國際框架、國際協(xié)議里的承諾范圍內幫助其提高能力,縮小他們與現(xiàn)代技術或現(xiàn)代應用技術、概念治理方面的差距。
圍繞觀眾提出的“韌性治理理念如何促進人工智能工作”這一問題,龔克認為人工智能是一個相對比較脆弱的系統(tǒng),要在人工智能系統(tǒng)本身設計中增加魯棒性,引入人工智能韌性檢驗的概念,并將其制定到相關標準中。張宏江表示,在設計人工智能系統(tǒng)時,需要考慮在敏感度和韌性之間矛盾的核心點上由人來介入,且重點是系統(tǒng)本身知道自己需要人介入。
(責任編輯:蘇蘭)