6. 美國科技巨頭依據自身道德判斷，加強企業自律及對人工智能技術的監管

得票率：49.55%

案例描述：

據外媒消息，IBM將不再提供、開發或研究面部識別技術，并表示“IBM堅決反對并且不會容忍將任何面部識別技術用于大規模監視、侵犯基本人權和自由或與我們的宗旨不符的任何行為。”此外，亞馬遜、微軟也均表態要支持種族平等，叫停人臉識別：亞馬遜聲明暫停向警方提供人臉識別技術一年時間；微軟也表態停止向警方銷售人臉識別軟件，直到有相關國家法律出臺。

歐盟有關方面和微軟、IBM等科技巨頭共同簽署了《人工智能倫理羅馬宣言》，討論如何規范人工智能的社會影響，這是歐盟推動全球數字經濟監管新標準的最新舉措。與美國不同，在數字經濟和人工智能領域，歐盟采取的是先規范后發展的路徑。《人工智能倫理羅馬宣言》指出，人工智能技術應尊重個人隱私，以可靠而無偏見的方式工作，考慮所有人的需求，并以透明方式運作。這些表述顯示歐盟擔憂人工智能的負面影響，認為人工智能系統尚處于研究階段，其做出的決定往往難以預測。

Google啟動了800多名員工的初始“技術道德”培訓，并還針對AI原則問題發現了新的培訓。Google最近發布了此培訓的一個版本，作為面向客戶的Cloud團隊的必修課程，已有5,000名Cloud員工參加了該培訓。這些員工提出了一些關鍵問題來發現潛在的道德問題，例如AI應用程序是否會導致經濟或教育上的排斥或造成身體、心理、社會或環境傷害。（來源：綜合人民網等）

專家點評：

盧瑞昌 北京大學光華管理學院金融學助理教授

我們需要思考AI與企業治理的關系，AI倫理如何嵌入到商業運行之中。誰來做企業開發AI算法時的最后判斷者？我們應該從哪個環節切入，思考人工智能所導致的結果。從防衛意義上講，谷歌提供“技術道德培訓”是很重要的，谷歌的培訓能否應對AI道德倫理的挑戰，力度夠不夠、能否完成，這都是一個爭論點。IBM等公司不再提供、開發或研究面部識別技術也值得關注。算法在某種意義上會提升商業利益，但也要注意它所帶來的歧視問題。我們需要去思考，如何判斷當人工智能以明確的目標制定出來，為最大化實現某個目標時所導致的歧視問題。

季衛東 上海交通大學文科資深教授、中國法與社會研究院院長

谷歌提供“技術道德培訓”的案例涉及到軟法問題。軟法主要指道德，我們可以看到美國的企業已經從道德入手，制定企業內部規則或是技術操作規則。這個案例的研究意義不在于這種現象，而在于其反映的軟法的管理。

孫明俊 中關村智用人工智能研究院執行院長、中視科技CEO

2016年6月，歐盟生效了個人數據保護規范《一般數據保護規則》，該《規則》具體規定了個人數據處理的操作規范以及歐盟公民的個人數據流出歐盟的基本條件。其中第22條專門規定了基于個人數據自動化決策和分析（Profiling）的條件。根據該《規則》，任何第三國，作為歐盟公民數據流出的目的地，的個人數據保護標準應等于或者高于歐盟標準。這也是美國科技巨頭不斷提高人工智能隱私保護標準的原因之一。

一方面，對于跨國數字企業，自我規范在企業合規中極為重要。歐盟在《一般數據保護規則》中規定了數據控制方，也即處理數據的責任方需要證明其業務遵守了《規則》中的相關義務。而且歐盟在《一般數據保護規則》中要求在歐盟成員國有業務的企業都應建立組織架構，包括獨立的數據保護官員以及相關機制，確保自我規范的有效性。考慮到歐盟市場是美國科技巨頭利潤的重要來源，美國科技巨頭確保自身業務在《一般數據規則》下的合規極為重要。

另一方面，企業社會責任報告是實現可持續發展目標（Sustainable Development Goals）的重要機制，這種企業自愿報告工具正在逐漸普及。企業社會責任報告是由全球報告計劃（Global Report Initiative）等非盈利組織推動的一種技術工具，報告公司業務對社會、經濟、人權的影響。積極的自我規范在可持續發展目標投資框架下也能夠為企業爭取到更多的公共投資。