人工智能在為人類生活帶來便利的同時(shí)，對(duì)社會(huì)提出了新的挑戰(zhàn)。著名理論物理學(xué)家霍金曾說過：“發(fā)明AI（人工智能）可能會(huì)成為人類歷史上最大的災(zāi)難，如果管理不善，會(huì)思考的機(jī)器可能會(huì)為（人類）文明劃上句號(hào)?！?/p>

人工智能的研究、開發(fā)、應(yīng)用涉及社會(huì)多個(gè)方面，也沖擊著法律與社會(huì)倫理，該以何種恰當(dāng)形式進(jìn)行合理規(guī)范和引導(dǎo)，以便將這些技術(shù)真正推向前行并最終服務(wù)于全人類？

法律界人士認(rèn)為，從法律視角考察人工智能發(fā)展和應(yīng)用，關(guān)鍵是主體性與歸責(zé)方式。主體性，即是否有必要在法律上承認(rèn)人工智能應(yīng)用主體（通俗意義的機(jī)器人）的法律主體地位；歸責(zé)方式，即到底誰該為智能機(jī)器人的非人為預(yù)期的行為負(fù)責(zé)。比如利用醫(yī)療智能機(jī)器人發(fā)生醫(yī)療事故、自動(dòng)駕駛造成交通事故、智能交易引發(fā)重大失誤等問題，該歸咎于技術(shù)故障、操作不當(dāng)、設(shè)計(jì)缺陷，還是機(jī)器制造者的失誤、主觀故意，甚至是智能機(jī)器人的自主意識(shí)？法律該如何約束智能機(jī)器人的研發(fā)、制造與應(yīng)用？又該如何判定機(jī)器人的法律責(zé)任？人工智能在未來是否可以替代理性思考者，比如法官？

近年來，上海學(xué)者率先對(duì)人工智能的相關(guān)法律問題開展研究，形成了一批有影響的研究成果。人工智能與法律領(lǐng)域“獨(dú)角獸法學(xué)精品·人工智能”叢書，涵蓋人工智能、大數(shù)據(jù)、區(qū)塊鏈、算法等與法律交叉領(lǐng)域的最新學(xué)術(shù)前沿內(nèi)容。該叢書即將在今年上海書展期間推出第三輯，包括《數(shù)據(jù)的邊界：隱私與個(gè)人數(shù)據(jù)保護(hù)》《馴服算法：數(shù)字歧視與算法規(guī)制》《人工智能與法律的對(duì)話2》三本譯著。

7月9日至11日，世界人工智能大會(huì)2020云端峰會(huì)將在上海舉辦，“法治”正是分論壇主題之一。圍繞法治分論壇主題“人工智能的權(quán)利義務(wù)與法治實(shí)踐”，本月，上海人民出版社發(fā)起“人工智能與法治”專題月讀書會(huì)，以“讓人民在每一個(gè)司法案件中都能感受到公平正義”“人工智能、大數(shù)據(jù)與社會(huì)治理”為題的兩場(chǎng)讀書會(huì)，7月3日、4日分別舉辦。

如何讓人民群眾在每個(gè)司法案件中感受到公平正義？經(jīng)過三年時(shí)間努力，上海政法系統(tǒng)以一套軟件的投入使用回答了這一問題?！吧虾Ｐ淌掳讣悄茌o助辦案系統(tǒng)”（簡稱“206系統(tǒng)”）的誕生，是運(yùn)用人工智能新技術(shù)破解司法難題、推動(dòng)司法改革的成功實(shí)踐，《人工智能與司法現(xiàn)代化》一書記錄了這一推動(dòng)司法現(xiàn)代化實(shí)踐的全過程。

“206系統(tǒng)”依托大數(shù)據(jù)、云計(jì)算等現(xiàn)代科技手段，充分運(yùn)用圖文識(shí)別（OCR）、自然語言理解（NLP）、智能語音識(shí)別、司法實(shí)體識(shí)別、實(shí)體關(guān)系分析、司法要素自動(dòng)抽取等人工智能技術(shù)，實(shí)現(xiàn)對(duì)刑事案件證據(jù)標(biāo)準(zhǔn)、證據(jù)規(guī)則的統(tǒng)一指引和對(duì)證據(jù)進(jìn)行校驗(yàn)、把關(guān)、提示、監(jiān)督。上海市法學(xué)會(huì)黨組書記、會(huì)長，二級(jí)大法官崔亞東指出，盡管“206系統(tǒng)”的智能性使其從工具變成了助手，但并不能替代民警辦案、法官判案。人工智能的發(fā)展需要法治作為保障，建立人工智能法治體系。目前階段，將這套輔助辦案系統(tǒng)由刑事推廣至民商事、行政領(lǐng)域，在民法典頒布實(shí)施的背景下，意義深遠(yuǎn)。只有主動(dòng)擁抱新科技、運(yùn)用新技術(shù)，走好融合發(fā)展的道路，才能促進(jìn)司法文明與公正。

人工智能會(huì)給政府治理帶來革命性影響，可稱之為“政府效率革命”。長遠(yuǎn)來看，人工智能大量應(yīng)用會(huì)減少行政成本，但短期來看卻未必，新基礎(chǔ)設(shè)施的投入使用會(huì)造成數(shù)據(jù)存儲(chǔ)成本和運(yùn)行成本的增加。華東政法大學(xué)人工智能與大數(shù)據(jù)指數(shù)研究院院長高奇琦提出了一個(gè)問題：數(shù)據(jù)是否越多越好？“不僅僅是企業(yè)之間，政府各部門間也存在某種意義上的數(shù)據(jù)競(jìng)爭(zhēng)。數(shù)據(jù)集中有利于效率，但太過集中可能會(huì)導(dǎo)致權(quán)力的濫用；數(shù)據(jù)分散則會(huì)形成一定的平衡，但可能會(huì)造成彼此‘扯皮’?！?/p>

盡管目前的人工智能尚是一種弱人工智能，但并不意味著沒有治理風(fēng)險(xiǎn)。上海交通大學(xué)凱原法學(xué)院副教授、上海數(shù)據(jù)治理與安全產(chǎn)業(yè)專業(yè)委員會(huì)專家何淵分析了人工智能的五大治理風(fēng)險(xiǎn)：隱私保護(hù)、數(shù)據(jù)泄露、倫理問題、數(shù)據(jù)戰(zhàn)爭(zhēng)和國家能力。消費(fèi)者在入住酒店時(shí)發(fā)現(xiàn)“同房同天不同價(jià)”，實(shí)際上是酒店根據(jù)消費(fèi)者數(shù)據(jù)形成的用戶畫像，提供了不同價(jià)格。這就是涉及數(shù)據(jù)倫理的典型例子。此外，基于數(shù)據(jù)的算法推薦會(huì)使人們看到的世界變得片面、不完整。

當(dāng)數(shù)據(jù)成為一種財(cái)富，企業(yè)之間、國家之間的數(shù)據(jù)爭(zhēng)奪戰(zhàn)屢見不鮮。何淵提出，國家數(shù)據(jù)能力是未來國家不可或缺的治理能力。要避免互聯(lián)網(wǎng)公司的數(shù)據(jù)技術(shù)能力替代國家的認(rèn)證能力，假使互聯(lián)網(wǎng)沒有法律的約束，個(gè)人隱私將不復(fù)存在；若無監(jiān)管，互聯(lián)網(wǎng)公司恐會(huì)變成國家無法控制的“巨獸”。