在智能社會里，如何建設數(shù)字治理生態(tài)，一直是行業(yè)的熱議話題。7日，在2023世界人工智能大會的多場相關論壇上，業(yè)內(nèi)專家和研究人員認為，在人工智能的發(fā)展進程中，應用標準、體系化監(jiān)管與安全倫理應當同步跟進。

“負責任”的人工智能

【資料圖】

在上海楊浦濱江舉行的智能社會論壇上，發(fā)布了多份重量級的研究和實踐成果。同濟大學研究團隊發(fā)布了《人工智能大模型倫理規(guī)范操作指引》和《生成式人工智能風險評估框架（1.0）》兩份專題研究成果，旨在應對人工智能大模型的風險，推動倫理規(guī)范落地實施；同濟大學與百度研究團隊聯(lián)合發(fā)布了《面向新商業(yè)模式的高級別自動駕駛法律責任白皮書》，關注全自動駕駛應用場景的法律問題。

同濟大學常務副校長呂培明等專家認為，人工智能既是引領當前這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術，也是推動城市治理生態(tài)和治理能力現(xiàn)代化的必由之路。應主動整合多學科力量，搭建起“技術與社會”暢通的對話交流平臺，應對智能技術發(fā)展?jié)撛诘膫惱?、法律和治理風險與挑戰(zhàn)，構建公平規(guī)范的數(shù)字治理生態(tài)，超前探索智能社會的運行模式、法律法規(guī)、標準規(guī)范、政策體系和體制機制，推動發(fā)展“負責任的人工智能”。

上海楊浦作為全國首批10個國家智能社會治理實驗綜合基地之一，正加強人工智能研發(fā)與應用活動的引導，實現(xiàn)人工智能產(chǎn)業(yè)規(guī)范與發(fā)展的動態(tài)平衡，打造智能治理的新樣板。

大模型的風險管理

推進大模型的創(chuàng)新和應用，同步也要加強大模型的風險管理與行業(yè)治理。在上海西岸舉行的“大模型時代的通用人工智能產(chǎn)業(yè)發(fā)展機遇以及風險”主題論壇上，上海市經(jīng)濟和信息化委員會相關負責人表示，上海作為人工智能創(chuàng)新高地與“先行區(qū)”，在積極打造具有國際影響力的世界級產(chǎn)業(yè)集群的同時，堅持科技向善理念，持續(xù)推進人工智能健康規(guī)范發(fā)展。

據(jù)介紹，上海積極推進大模型技術的創(chuàng)新和應用，系統(tǒng)性支持技術攻關、算力供給、數(shù)據(jù)集建設和公共服務需求；布局科學智能，推進科學智能賦能生物醫(yī)藥、集成電路、高端裝備和先進材料等創(chuàng)新應用；提升智能機器人在復雜場景下的智能能力。

與此同時，上海正在加快完善行業(yè)治理體系，面向人工智能的關鍵領域，加快制定技術、產(chǎn)品、服務、行業(yè)應用、安全倫理等標準，在健全法規(guī)、標準、監(jiān)管體系等方面，努力形成上海特色方案。

上海目前已經(jīng)啟動高風險人工智能產(chǎn)品和服務清單式管理的相關研究，并積極推動大模型相關治理研究；建立健全大模型評測體系，建設大模型評測中心，探索大模型自動化評測工具；探索適應大模型特點的創(chuàng)新監(jiān)管方式。

上海將搭建更多研討平臺，引導產(chǎn)業(yè)人士參與科技創(chuàng)新實踐；積極參與國際人工智能治理規(guī)則的制定和實施，推動人工智能倫理標準的互認和協(xié)調(diào)，共同推進人工智能造福人類。

扶持與合規(guī)并重

為打造大模型和生成式人工智能生態(tài)集聚和創(chuàng)新應用高地，上海徐匯此次率先推出了面向生成式人工智能的扶持政策，直面企業(yè)需求和產(chǎn)業(yè)關切。

15條具體舉措，聚焦技術強基支撐，支持通用大模型、垂類大模型等關鍵領域自主創(chuàng)新，支持具身智能、自主智能體等前沿領域布局；聚焦場景應用示范，充分發(fā)揮徐匯特色產(chǎn)業(yè)基礎和新賽道先發(fā)優(yōu)勢，全面推動生成式人工智能技術在醫(yī)療、金融、社交、智能網(wǎng)聯(lián)汽車等領域融合賦能；聚焦創(chuàng)新生態(tài)構建，針對算力、數(shù)據(jù)、算法、融資、人才、監(jiān)管等關鍵環(huán)節(jié)，強化要素支撐。

2022年，上海徐匯人工智能產(chǎn)業(yè)規(guī)模已近千億元，近五年年均增速達到30%以上；在大模型和生成式人工智能細分領域，已經(jīng)匯聚相關企業(yè)近200家，其中核心企業(yè)30余家，成為上海乃至全國大模型的策源地之一。

在上海，智能社會治理獲得同等的關注。此次，上海楊浦揭牌成立了“人工智能合規(guī)服務中心”，將發(fā)揮同濟大學的智力與技術資源優(yōu)勢與楊浦區(qū)的實踐優(yōu)勢，為企業(yè)的人工智能新技術新應用，提供合規(guī)指引、咨詢和服務。

（文章來源：新華財經(jīng)）

關鍵詞：