可信AI由理論研究邁向工程化落地。隨著人工智能技術(shù)的快速發(fā)展,社會(huì)各界對(duì)可信AI研究已經(jīng)從理論探索逐步走向工程化落地實(shí)踐。政府與研究機(jī)構(gòu)相關(guān)政策和規(guī)范從宏觀指導(dǎo),開始向可操作、可落地的規(guī)范演進(jìn)。在法律監(jiān)管層面,各政府部門的法規(guī)政策愈發(fā)重視實(shí)施和操作。例如新加坡于5月出臺(tái)世界首個(gè)AI治理測試框架及工具包;英國6月宣布首個(gè)人工智能倫理和監(jiān)管的重大研究計(jì)劃。
在行業(yè)可信實(shí)踐層面,各國研究機(jī)構(gòu)紛紛開展可信AI技術(shù)研究及標(biāo)準(zhǔn)制定工作,為業(yè)界提供評(píng)估準(zhǔn)則并聚焦準(zhǔn)入落地。如英國BSI與艾倫圖靈實(shí)驗(yàn)室合作開發(fā)技術(shù)標(biāo)準(zhǔn)改善人工智能治理,美國NIST發(fā)布《人工智能偏差識(shí)別和管理標(biāo)準(zhǔn)》和《AI風(fēng)險(xiǎn)管理框架(草案)》,為企業(yè)和機(jī)構(gòu)的AI風(fēng)險(xiǎn)管理提供了大量可參考的要求和指導(dǎo)。
在企業(yè)可信實(shí)踐層面,產(chǎn)業(yè)界從企業(yè)戰(zhàn)略管理和技術(shù)工具研發(fā)創(chuàng)新雙線并進(jìn),加速了可信AI在企業(yè)的落地實(shí)踐。如頭部科技企業(yè)先后發(fā)布了AI治理戰(zhàn)略和治理體系,成立了相關(guān)委員會(huì)和工作組,聚焦企業(yè)層面的AI治理和風(fēng)險(xiǎn)管理體系。同時(shí)可信AI技術(shù)和保障工具也在蓬勃發(fā)展,各大企業(yè)積極研發(fā)可信產(chǎn)品應(yīng)用,也開源了一批聚焦隱私性、魯棒性、安全性、可解釋性、公平性等可信能力的測試工具。
全球人工智能市場收支規(guī)模達(dá)850廳美元,預(yù)測,2022年該市場規(guī)模將同比增長約20%至 1017廳美元,并將于2025年突破2000廳美元大關(guān), CAGR 達(dá)24.5%
調(diào)度決策外賣調(diào)度系統(tǒng)困住騎手;個(gè)性化推薦電商場景下的信息繭房和馬太效應(yīng);內(nèi)容治理如何守護(hù)清朗健康的網(wǎng)絡(luò)環(huán)境;人工智能可以放心使用嗎
數(shù)據(jù)不完備和濫用風(fēng)險(xiǎn)突出而損害用戶的權(quán)益;人工智能算法存在固有缺陷在可解釋性魯棒性偏見歧視等方面尚存在局限;企業(yè)人工智能管理體系不完善
企業(yè)作為落實(shí)人工智能治理原則的重要主體,形成覆蓋人工智能產(chǎn)品全生命周期的風(fēng)險(xiǎn)管理機(jī)制,提出了面向可持續(xù)發(fā)展的人工智能治理基本框架
構(gòu)建面向可持續(xù)發(fā)展的人工智能技術(shù)體系,推動(dòng)人工智能技術(shù)可用、可靠、可信,其內(nèi)涵包括提升技術(shù)安全和構(gòu)建技術(shù)管理機(jī)制兩個(gè)層面工作
在規(guī)劃設(shè)計(jì)階段機(jī)器學(xué)習(xí)場景中固有的不可預(yù)測性,傳達(dá)實(shí)施偏差會(huì)進(jìn)一步加劇;在研發(fā)部署階段模型運(yùn)行之后的動(dòng)態(tài)更新缺乏足夠驗(yàn)證等挑戰(zhàn)
高增長:未來五年全球人工智能市場規(guī)模平均增速將超過20%;高集中:軟件占比近40%硬件產(chǎn)品占比接近35%;高壁壘:滲透率還不到4%
我國新一代人工智能治理工作框架應(yīng)整合社會(huì)各界對(duì)AI社會(huì)技術(shù)復(fù)合體的離散性認(rèn)知,突破AI包容審慎實(shí)踐的探索,建立基于“邏輯-秩序-監(jiān)管“的人工智能治理工作框架
多模態(tài)數(shù)據(jù)具有異構(gòu)性 多模態(tài)數(shù)據(jù)的關(guān)聯(lián)難度表示較大 多模態(tài)知識(shí)融合困難 多模態(tài)問答大多只能處理簡單的問題 多模態(tài)知識(shí)問答推理能力弱 可解釋性差
谷歌CVPR 2022擁有18億參數(shù),并使用30億的 標(biāo)注圖像進(jìn)行訓(xùn)練,在ImageNet上取得了新的記錄90.45%,證明了視覺大模型(30億參數(shù))在廣泛視覺問題上的有效性
OpenAI提出DALLE模型,可以根據(jù)用戶輸入的文本生成對(duì)應(yīng)的圖像,Imagen模型,CogView,VQ-Diffusion 模型以及 NUWA-infinity 等效果同樣出色
告立足于算法的技術(shù)趨勢和行業(yè)應(yīng)用現(xiàn)狀,從法律監(jiān)管,倫理治理,技術(shù)治理三個(gè)層面梳理總結(jié)國內(nèi)外在算法治理方面的實(shí)踐做法,保障算法技術(shù)創(chuàng)新與應(yīng)用健康