當人工智能越來越多地滲透到我們日常生活中的方方面面，人類社會在加速邁向智能化、數字化的同時，科技倫理問題也接踵而來。從AlphaGo擊敗人類圍棋世界冠軍，到人臉識別帶來隱私安全問題，再到特斯拉自動駕駛事故頻發問責難，以及虛擬人大熱引起職場焦慮，不少學者都表達了對倫理治理問題的擔憂。

近日，中共中央辦公廳、國務院辦公廳印發的《關于加強科技倫理治理的意見》(以下簡稱“意見”)指出，重點加強生命科學、醫學、人工智能等領域的科技倫理立法研究。這是我國發布的首個國家層面科技倫理治理指導性文件，為新興技術倫理治理設置了“紅綠燈”。

人工智能的真正價值不是取代人

“祝賀‘崔筱盼’獲得2021年萬科總部最佳新人獎!作為萬科首位數字化員工，‘崔筱盼’今年2月1日正式‘入職’......她催辦的預付應收逾期單據核銷率達到91.44%。”今年年初，萬科集團董事會主席郁亮發布的一條微信在朋友圈刷屏。據悉，這位名叫“崔筱盼”的虛擬人已經工作多日，而不少萬科員工甚至不知道天天與其郵件往來的同事并不是真人，直到“最佳新人獎”揭曉，一切才真相大白。

伴隨人工智能技術的飛速發展，虛擬人快步走向商業化落地。而眼看著一個個身懷絕技的虛擬人走進職場，“打工人”愈發擔心自己的“飯碗”會不會被搶走。要知道這些虛擬人可不止能做到“996”，還能“007”，甚至可以全年無休，連工資都不用給。

然而，正如硬幣的兩面，人工智能的出現也填補了一些高危崗位的空缺，比如作業環境有毒有害或危險性較高的工作，抑或是需要長期遠離市區的工作，人工智能對人力資源起到了很好的補充作用。這一方面，幫助很多企業解決了“用工難”問題;另一方面，在日趨嚴重的老齡化趨勢下，有效緩解了勞動力短缺現象。

作為太空探索技術公司(SpaceX)CEO兼CTO、特斯拉公司CEO，馬斯克對待人工智能的態度是復雜的。他一邊警告說人工智能“脫軌”發展是人類當前面臨的三大威脅之一，要避免徹底開發人工智能;另一邊又在積極開發與人友好的人工智能，通過腦機接口技術尋求人類和人工智能共生之道，其麾下公司也幾乎都與人工智能相關。

“人工智能倫理之爭探討的是人機關系，更重要的是以人工智能為媒介，人與人之間的關系。”中國社科院科學技術和社會研究中心主任段偉文對《中國電子報》記者說：“目前，人工智能倫理治理主要涉及四大難點：一是可控性和安全性;二是可靠性、精確性和穩定性;三是可解釋性和透明度;四是問責追責問題。”在他看來，機器智能發展的每一步都是在學習人類智能，離不開人類智能的幫助，實際上是人類智能更智能、更智慧，而不是機器智能。

“人工智能的真正價值不是取代人，而是以人為本、造福于人。人工智能技術和倫理之間的關系，也不是此消彼長或者你強我弱的關系，而是相輔相成的。”曠視人工智能治理研究院院長張慧在接受《中國電子報》記者采訪時表示，“其實對于任何技術來說，都不能脫離開法律法規、社會道德、行業規范等約束條件無序發展。在這一點上，人工智能也不例外。在合法合規、合情合理的框架下，人工智能只會發展地更好、更健康。”

全球人工智能倫理治理趨向同頻

目前，全球至少已有60多個國家制定和實施了人工智能治理政策，可見世界范圍內人工智能領域的規則秩序正處于形成期，倫理治理發展趨于同頻。段偉文指出：“國外關于機器人的倫理治理應該是最為成熟的，像英國、新加坡、歐盟等都有相關倫理設計規范。”比如英國出臺了歷史上首個關于機器人倫理的設計標準——《機器人和機器系統的倫理設計和應用指南》。英國金融穩定委員會(FBS)制定了人工智能和機器學習在金融服務領域的應用規范，強調可靠性問責制、透明度、公平性以及道德標準等。

美國希望能夠確保和增強在人工智能領域的優勢地位，因此更強調監管的科學性和靈活性，也更重視實際應用領域的科技倫理治理，比如對大規模的生物特征識別技術的使用管理嚴格。美國證券與交易委員會(SEC)要求企業刪除一些人臉數據庫，甚至包括相關算法。

歐盟的監管風格則趨向于強硬，先后出臺了《歐盟人工智能》《可信AI倫理指南》《算法責任與透明治理框架》等指導性文件，期望通過高標準的立法和監管來重塑全球數字發展模式。

微軟、谷歌等國外科技公司在人工智能倫理治理方面也積極探索。比如，微軟內設三大機構，包括負責任人工智能辦公室(Office of Responsible AI)、人工智能、倫理與工程研究委員會(AI and ethics inengineering and research committee)、負責任AI戰略管理團隊(Responsible AI Strategy inEngineering)，分別負責AI規則制定、案例研究、落地監督等，并研發了一系列技術解決方案。

谷歌是從積極方面和消極方面規定了人工智能設計、使用的原則，并承諾愿意隨著時間的推移而及時調整這些原則。它還成立了負責任創新中央團隊，推動倫理治理實踐落地，比如，為避免加重算法不公平或偏見，暫停開發與信貸有關的人工智能產品;基于技術問題與政策考慮，拒絕通過面部識別審提案;涉及大型語言模型的研究謹慎繼續，在進行全面的人工智能原則審查之前，不能正式推出。

在人工智能倫理研究方面，國外較為積極。全球私募股權巨頭美國的黑石(Blackstone)集團聯合創始人、全球主席兼首席執行官斯蒂芬·施瓦茲曼為牛津大學捐贈了1.88億美元，用于資助人工智能倫理方面的研究。馬斯克也曾向生命未來研究所(Future of Life Institute)捐贈1000萬美元，教導機器人“倫理道德”。

張慧指出：“各國的政府、企業和相關社會組織、行業組織之間正在逐步加強對話與合作，聯合國也在國際人工智能治理規則制定等方面發揮日趨重要作用。可以說，人工智能治理已經成為全球共識，且已從理念層面進入到建章立制、落地實施的階段。”

“還有一點值得關注，對人工智能技術的動態治理，其實反過來也會促進人工智能技術本身的發展。”段偉文表示。如人臉識別技術在某些場景中被禁用的情況只是暫時的，治理力度加大會推動相關技術短板更快地被補上。

人工智能倫理治理還是一個新命題

人工智能已經對整個人類社會產生了深刻影響。張慧談道：“能力越大的技術，越是需要妥善治理好。人工智能既是我們創造美好生活的重要手段，也是需要進行妥善治理的對象。”

我國人工智能技術領域走在世界前列，在人工智能倫理治理實踐方面也處于前沿探索者的位置，一些好的做法也在被海外討論和借鑒。比如，政策層面，《關于加強互聯網信息服務算法綜合治理的指導意見》《新一代人工智能倫理規范》《關于加強科技倫理治理的意見》等的出臺為科技倫理治理提供了頂層設計指導，一些發展較快的領域也出現了細分規范要求。

同時，國內如曠視、京東、科大訊飛等一些科技企業相繼成立AI道德委員會、AI治理研究院等專門組織，從企業內部開始、從自身開始大力推動AI治理工作落實。騰訊研究院和騰訊AI Lab聯合發布人工智能倫理報告《智能時代的技術倫理觀——重塑數字社會的信任》，倡導建立面向人工智能的新技術倫理觀。阿里安全探索“用AI治理AI”，促進人工智能可持續發展。曠視最早發布《人工智能應用準則》，并連續三年發起“全球十大人工智能治理事件”評選。

然而，截至目前，人工智能倫理治理還是一個新命題，沒有太多歷史經驗可以參考，整個行業也在“邊發展邊治理”，逐步完善法律法規和凝聚道德倫理的共識。

“人工智能企業面臨‘技術陷阱’。”段偉文指出，“人工智能技術在賦能社會的同時也會帶來社會價值和倫理方面的沖擊，而且短期內，負面影響可能會被放大。一些企業在早期發展中如果不重視倫理問題，就會導致社會對它的不信任。比如Facebook改名Meta，轉型去做元宇宙就招來了一片質疑，尤其是對隱私安全方面的詬病。這時候就需要進行‘倫理回調’，通過企業一系列行為讓人工智能變得‘可信’。”

他認為，科技發展過程中帶來的倫理問題要進行主動回應。比如數據倫理問題，要加強數據隱私保護、信息安全保護;再比如算法倫理問題，要督促平臺消除偏見和歧視，盡可能維護公正公平;信息傳播倫理問題，內容平臺運用人工智能技術分發內容時需思考如何保證內容健康、減少虛假信息等。“僅是制定倫理規范是不夠的，人工智能企業應該通過這些舉措，把握好一個‘度’，謀求Social License(社會許可證)，這樣才能找到技術與倫理之間的最大公約數。”

尋找“最大公約數”一定是一個多方協同的過程。張慧表示：“人工智能的應用鏈條很長，有技術提供方、系統集成方、應用軟件開發方、個人開發者等企業和從業者，也有不同行業的AI產品和應用的使用者、受益者等。目前國家各方面的法律法規正在逐步完善對不同相關方的權責說明，隨著行業的發展，相信未來人工智能的倫理治理路徑會越來越清晰。企業在推動AI技術創新和應用的每一個過程和環節也要嚴格遵守法律法規，這是所有工作的紅線和底線。”

標簽： 最佳新人獎 人工智能 新興技術倫理治理 人類智能