人工智能在創(chuàng)造社會(huì)效益的同時(shí),也會(huì)引發(fā)人財(cái)損失、秩序破壞等社會(huì)風(fēng)險(xiǎn)。技術(shù)視角的風(fēng)險(xiǎn)源于"算法主觀性"等技術(shù)屬性,易導(dǎo)致人財(cái)損失等惡劣后果;而現(xiàn)有的風(fēng)險(xiǎn)應(yīng)對(duì)措施偏重于"工具理性",難以有效根除責(zé)任事故和社會(huì)負(fù)面影響。社會(huì)視角的風(fēng)險(xiǎn)來(lái)自于人工智能在社會(huì)應(yīng)用時(shí)的"馬太效應(yīng)"等機(jī)理所導(dǎo)致的大多數(shù)民眾和極少數(shù)弱勢(shì)群體的權(quán)益受損等問(wèn)題;而現(xiàn)有的風(fēng)險(xiǎn)應(yīng)對(duì)方案?jìng)?cè)重于"價(jià)值理性",可能出現(xiàn)效率與公平的失衡或偏頗。因此,建議從治理視角開(kāi)展人工智能的社會(huì)風(fēng)險(xiǎn)的系統(tǒng)應(yīng)對(duì):全面分析技術(shù)維度和社會(huì)維度的風(fēng)險(xiǎn),綜合評(píng)估正向功能和負(fù)向功能的實(shí)況;秉承"賦能+避險(xiǎn)"的風(fēng)險(xiǎn)方針,以提高競(jìng)爭(zhēng)力、承受力、約束力、協(xié)同力為治理目標(biāo),建立全流程且無(wú)縫隙的風(fēng)控機(jī)制,構(gòu)建系統(tǒng)和高效的共治格局,切實(shí)提升國(guó)家競(jìng)爭(zhēng)力和群眾滿意度。 

【文章來(lái)源】：教學(xué)與研究. 2019年04期 第89-97頁(yè) 北大核心CSSCI

【文章頁(yè)數(shù)】：9 頁(yè)

【部分圖文】：

人工智能社會(huì)風(fēng)險(xiǎn)治理的“兩維雙向”模型

治理視角的人工智能風(fēng)險(xiǎn)應(yīng)對(duì),實(shí)質(zhì)上是踐行“賦能+避險(xiǎn)”的風(fēng)險(xiǎn)方針:以避險(xiǎn)為前提,同時(shí)賦能人類(lèi);既發(fā)揮全面提升競(jìng)爭(zhēng)力的正面賦能作用,同步通過(guò)規(guī)避超出承受力的社會(huì)負(fù)面影響。在此過(guò)程中,還應(yīng)該在“兩維雙向”治理模型的基礎(chǔ)上納入“PR”模型和“IR”模型,對(duì)風(fēng)險(xiǎn)發(fā)生的可能性(P:Possibility)、后果損失(R:Result)、負(fù)面影響(I:Impact)、社會(huì)責(zé)任(R:Responsibility)進(jìn)行綜合分析,從而在科學(xué)的風(fēng)險(xiǎn)定級(jí)的基礎(chǔ)上實(shí)施精細(xì)化的風(fēng)險(xiǎn)應(yīng)對(duì)(詳見(jiàn)圖2)。第一,針對(duì)存在高危風(fēng)險(xiǎn)的領(lǐng)域,建議禁止應(yīng)用。

過(guò)治理視角，人工智能的社會(huì)風(fēng)險(xiǎn)應(yīng)對(duì)，還要綜合考量：戰(zhàn)略風(fēng)險(xiǎn)和機(jī)會(huì)成本、動(dòng)態(tài)風(fēng)險(xiǎn)和協(xié)同治理、深層次的系統(tǒng)風(fēng)險(xiǎn)和制度防控等一系列的社會(huì)因素。因此，建議通過(guò)“兩維雙向”的治理模型來(lái)分析和應(yīng)對(duì)：“兩維”指技術(shù)維度和社會(huì)維度，從“技術(shù)維—社會(huì)維”進(jìn)行根源分析和定性評(píng)估；“雙向”指正功能向和負(fù)功能向，對(duì)“正功能向—負(fù)功能向”進(jìn)行辯證分析和科學(xué)應(yīng)對(duì)；有針對(duì)性地對(duì)四個(gè)象限開(kāi)展科學(xué)的風(fēng)險(xiǎn)治理策略（詳見(jiàn)圖１）。圖１人工智能社會(huì)風(fēng)險(xiǎn)治理的“兩維雙向”模型如上圖所示，人工智能的社會(huì)風(fēng)險(xiǎn)應(yīng)對(duì)，具有四項(xiàng)共性目標(biāo)：第一，充分發(fā)揮人工智能的正面效益，提升國(guó)家競(jìng)爭(zhēng)力，應(yīng)對(duì)系統(tǒng)風(fēng)險(xiǎn)。主要策略有三：一是提升關(guān)鍵項(xiàng)的競(jìng)爭(zhēng)力，人工智能的發(fā)展需與現(xiàn)有的技術(shù)優(yōu)勢(shì)和經(jīng)濟(jì)強(qiáng)項(xiàng)緊密結(jié)合，發(fā)揮“長(zhǎng)板效應(yīng)”；二是夯實(shí)基礎(chǔ)領(lǐng)域競(jìng)爭(zhēng)力，強(qiáng)化關(guān)聯(lián)行業(yè)建設(shè)和技術(shù)研發(fā)投資；三是提升整體競(jìng)爭(zhēng)力，人工智能發(fā)展存在“短板效應(yīng)”，其短板問(wèn)題若得不到解決將拉低整體競(jìng)爭(zhēng)力，對(duì)此應(yīng)加強(qiáng)“補(bǔ)短板”的戰(zhàn)略布局和實(shí)施。第二，綜合應(yīng)用多種風(fēng)險(xiǎn)管理策略，切實(shí)提升對(duì)安全風(fēng)險(xiǎn)的承受力，確保風(fēng)險(xiǎn)處于社會(huì)可承受的范圍內(nèi)。對(duì)此，應(yīng)將承受力作為風(fēng)險(xiǎn)研判定級(jí)和應(yīng)對(duì)策略的依據(jù)：一是對(duì)于難承受的風(fēng)險(xiǎn)，采取措施提前規(guī)避或消除；二是對(duì)于可承受的風(fēng)險(xiǎn)，做好及時(shí)干預(yù)和對(duì)沖工作，確保可控或可抵御；三是根據(jù)風(fēng)險(xiǎn)承受力情況，動(dòng)態(tài)評(píng)估風(fēng)險(xiǎn)，適時(shí)調(diào)整應(yīng)對(duì)方案。第三，強(qiáng)化人工智能應(yīng)用中的制度約束力，對(duì)引發(fā)風(fēng)


本文編號(hào)：2908761