人工智能在創(chuàng)造社會效益的同時(shí),也會引發(fā)人財(cái)損失、秩序破壞等社會風(fēng)險(xiǎn)。技術(shù)視角的風(fēng)險(xiǎn)源于"算法主觀性"等技術(shù)屬性,易導(dǎo)致人財(cái)損失等惡劣后果;而現(xiàn)有的風(fēng)險(xiǎn)應(yīng)對措施偏重于"工具理性",難以有效根除責(zé)任事故和社會負(fù)面影響。社會視角的風(fēng)險(xiǎn)來自于人工智能在社會應(yīng)用時(shí)的"馬太效應(yīng)"等機(jī)理所導(dǎo)致的大多數(shù)民眾和極少數(shù)弱勢群體的權(quán)益受損等問題;而現(xiàn)有的風(fēng)險(xiǎn)應(yīng)對方案側(cè)重于"價(jià)值理性",可能出現(xiàn)效率與公平的失衡或偏頗。因此,建議從治理視角開展人工智能的社會風(fēng)險(xiǎn)的系統(tǒng)應(yīng)對:全面分析技術(shù)維度和社會維度的風(fēng)險(xiǎn),綜合評估正向功能和負(fù)向功能的實(shí)況;秉承"賦能+避險(xiǎn)"的風(fēng)險(xiǎn)方針,以提高競爭力、承受力、約束力、協(xié)同力為治理目標(biāo),建立全流程且無縫隙的風(fēng)控機(jī)制,構(gòu)建系統(tǒng)和高效的共治格局,切實(shí)提升國家競爭力和群眾滿意度。 

【文章來源】：教學(xué)與研究. 2019年04期 第89-97頁 北大核心CSSCI

【文章頁數(shù)】：9 頁

【部分圖文】：

人工智能社會風(fēng)險(xiǎn)治理的“兩維雙向”模型

治理視角的人工智能風(fēng)險(xiǎn)應(yīng)對,實(shí)質(zhì)上是踐行“賦能+避險(xiǎn)”的風(fēng)險(xiǎn)方針:以避險(xiǎn)為前提,同時(shí)賦能人類;既發(fā)揮全面提升競爭力的正面賦能作用,同步通過規(guī)避超出承受力的社會負(fù)面影響。在此過程中,還應(yīng)該在“兩維雙向”治理模型的基礎(chǔ)上納入“PR”模型和“IR”模型,對風(fēng)險(xiǎn)發(fā)生的可能性(P:Possibility)、后果損失(R:Result)、負(fù)面影響(I:Impact)、社會責(zé)任(R:Responsibility)進(jìn)行綜合分析,從而在科學(xué)的風(fēng)險(xiǎn)定級的基礎(chǔ)上實(shí)施精細(xì)化的風(fēng)險(xiǎn)應(yīng)對(詳見圖2)。第一,針對存在高危風(fēng)險(xiǎn)的領(lǐng)域,建議禁止應(yīng)用。

過治理視角，人工智能的社會風(fēng)險(xiǎn)應(yīng)對，還要綜合考量：戰(zhàn)略風(fēng)險(xiǎn)和機(jī)會成本、動(dòng)態(tài)風(fēng)險(xiǎn)和協(xié)同治理、深層次的系統(tǒng)風(fēng)險(xiǎn)和制度防控等一系列的社會因素。因此，建議通過“兩維雙向”的治理模型來分析和應(yīng)對：“兩維”指技術(shù)維度和社會維度，從“技術(shù)維—社會維”進(jìn)行根源分析和定性評估；“雙向”指正功能向和負(fù)功能向，對“正功能向—負(fù)功能向”進(jìn)行辯證分析和科學(xué)應(yīng)對；有針對性地對四個(gè)象限開展科學(xué)的風(fēng)險(xiǎn)治理策略（詳見圖１）。圖１人工智能社會風(fēng)險(xiǎn)治理的“兩維雙向”模型如上圖所示，人工智能的社會風(fēng)險(xiǎn)應(yīng)對，具有四項(xiàng)共性目標(biāo)：第一，充分發(fā)揮人工智能的正面效益，提升國家競爭力，應(yīng)對系統(tǒng)風(fēng)險(xiǎn)。主要策略有三：一是提升關(guān)鍵項(xiàng)的競爭力，人工智能的發(fā)展需與現(xiàn)有的技術(shù)優(yōu)勢和經(jīng)濟(jì)強(qiáng)項(xiàng)緊密結(jié)合，發(fā)揮“長板效應(yīng)”；二是夯實(shí)基礎(chǔ)領(lǐng)域競爭力，強(qiáng)化關(guān)聯(lián)行業(yè)建設(shè)和技術(shù)研發(fā)投資；三是提升整體競爭力，人工智能發(fā)展存在“短板效應(yīng)”，其短板問題若得不到解決將拉低整體競爭力，對此應(yīng)加強(qiáng)“補(bǔ)短板”的戰(zhàn)略布局和實(shí)施。第二，綜合應(yīng)用多種風(fēng)險(xiǎn)管理策略，切實(shí)提升對安全風(fēng)險(xiǎn)的承受力，確保風(fēng)險(xiǎn)處于社會可承受的范圍內(nèi)。對此，應(yīng)將承受力作為風(fēng)險(xiǎn)研判定級和應(yīng)對策略的依據(jù)：一是對于難承受的風(fēng)險(xiǎn)，采取措施提前規(guī)避或消除；二是對于可承受的風(fēng)險(xiǎn)，做好及時(shí)干預(yù)和對沖工作，確保可控或可抵御；三是根據(jù)風(fēng)險(xiǎn)承受力情況，動(dòng)態(tài)評估風(fēng)險(xiǎn)，適時(shí)調(diào)整應(yīng)對方案。第三，強(qiáng)化人工智能應(yīng)用中的制度約束力，對引發(fā)風(fēng)


本文編號：2908761