專(zhuān)訪(fǎng)上海軟件中心AI治理研究所陳敏剛：AI賦能數字化轉型

      “高質(zhì)量的城市數字化轉型一定要有高質(zhì)量的AI系統?！苯?，上海計算機軟件技術(shù)開(kāi)發(fā)中心人工智能治理研究所執行所長(cháng)陳敏剛接受澎湃新聞專(zhuān)訪(fǎng)時(shí)表示，“這也是未來(lái)我們做人工智能技術(shù)要求和測試評估標準與規范最重要的目標?！?

      上海計算機軟件技術(shù)開(kāi)發(fā)中心于1984年由原國家科委批準成立，是國家863軟件專(zhuān)業(yè)孵化器(上海)基地、上海市軟件行業(yè)協(xié)會(huì )和上海軟件園管理辦公室的技術(shù)支撐單位，下設的人工智能治理研究所于今年初成立。今年5月，陳敏剛研究員團隊參與的“人物視覺(jué)理解技術(shù)及應用”項目獲得了2020年上海市科技進(jìn)步特等獎，該項目與“健康碼”人臉識別及遠程核身緊密相關(guān)。在該項目中，陳敏剛團隊主要進(jìn)行人臉識別系統測試評估、對抗攻擊方法研究等工作。（對抗攻擊指人通過(guò)戴著(zhù)帽子或臉上貼特殊標簽欺騙人臉識別系統，使其無(wú)法辨認。）陳敏剛表示，他們關(guān)注人臉識別系統的準確率、推斷時(shí)間能否滿(mǎn)足應用需求，以及人臉識別系統的安全性、數據隱私安全等。在2021世界人工智能大會(huì )“共話(huà)標準，驅動(dòng)產(chǎn)業(yè)”標準化分論壇上，陳敏剛參與了“人工智能標準賦能城市數字化轉型”的圓桌討論。澎湃新聞?dòng)浾吡私獾疥惷魟傄彩且咔槠陂g廣泛應用的智能人體測溫設備的標準研制團隊主要成員，因此，圍繞此項標準與城市數字化轉型對陳敏剛進(jìn)行了專(zhuān)訪(fǎng)。人體溫度檢測與識別系統的標準陳敏剛向澎湃新聞?dòng)浾呓榻B了測溫標準的主要內容。他表示，智能的人體溫度檢測與識別系統的標準主要包括功能指標和性能指標。功能指標主要內容為：第一，視頻圖像采集的要求。因為紅外熱成像在采集的時(shí)要避免人臉圖像過(guò)曝光，過(guò)曝光則可能導致紅外成像與可見(jiàn)光采集的內容不一致。第二，目標檢測的要求。人體智能測溫不僅要檢測出人臉，還要檢測出額頭。由于人體不同部位的溫度不一致，統一以額頭區域的溫度作為基準。第三，視頻圖像的內容分析。比如溫度分析，將異常的體溫或者體溫異常的人員準確地檢出。此外，功能指標還包括身份分析功能、圖像和體溫的顯示功能、數據分析、數據存儲和查詢(xún)功能、體溫異常的報警功能等?！皩?shí)際上，當時(shí)我們還做了是否戴口罩、是否遮擋額頭的檢測。因為剛做這個(gè)標準的時(shí)候，戴口罩會(huì )影響人臉識別?！?陳敏剛表示，現在戴口罩已經(jīng)不影響人臉識別了。性能指標，則關(guān)注人體溫度的測量精度和速度等。實(shí)際上，目前智能人體測溫設備存在測溫誤差，需要黑體進(jìn)行誤差校正。標準規定的溫度誤差不超過(guò)±0.4℃，測溫時(shí)間則不大于1秒。此外，還有存儲的性能指標，如系統需支持三周之內的檢索、其框定人臉的圖像要達到一定分辨率等?！昂芏鄨?chǎng)景中有多個(gè)人同時(shí)通過(guò)設備。這時(shí)，就有多目標的性能要求。例如，最大并行的檢測人數。比如規定畫(huà)面中有6個(gè)人通過(guò)時(shí)至少要檢測出5個(gè)人的體溫?！标惷魟偨榻B稱(chēng)，“我們還設計了一些評價(jià)方法，涉及如何測試、檢測這項功能和性能等?！弊罱K，這項標準的制定工作在半年內完成，談及標準制定過(guò)程中的主要困難時(shí)，陳敏剛表示主要有兩個(gè)方面?！霸瓉?lái)的測溫都是用傳統的測溫設備，而這次要把AI和測溫技術(shù)結合。當時(shí)這個(gè)要求對我們來(lái)講挑戰很大，因為我是做AI技術(shù)的，并不是很懂傳統測溫的情況，我們也不清楚指標的設定?！?陳敏剛表示，“最大的挑戰還是時(shí)間。我們平時(shí)做一個(gè)標準大概要1到2年，而這個(gè)要求我們在一兩周內完成初稿，讓我們倍感壓力?！标惷魟偦仡櫘敃r(shí)的情景，他們在接到任務(wù)后連夜對傳統紅外熱成像的測溫設備開(kāi)展研究，了解其指標要求?！拔覀儸F在指標要求是±0.4度誤差。這個(gè)誤差的設置我們當時(shí)討論了很久?！?   陳敏剛表示，“在疫情期間，各家都在做測溫產(chǎn)品，我們也實(shí)地看了很多設備，讓標準的制定與測溫系統設備的研制同步進(jìn)行。這也涉及了大量的溝通?！比斯ぶ悄芘c城市數字化轉型“首先，城市數字化轉型到底要轉哪些內容？上海今年年初有一個(gè)全面推進(jìn)上海城市數字化轉型的意見(jiàn)，明確指出了數字化轉型的內容：推動(dòng)經(jīng)濟、生活、治理數字化轉型?！标惷魟偙硎?，數字化轉型的核心不是數字化，而是轉型。他認為轉型的核心技術(shù)是人工智能，“李強書(shū)記也提到要推動(dòng)人工智能技術(shù)全領(lǐng)域、全場(chǎng)景、全方位落地應用?！标惷魟偙硎?，人工智能應用場(chǎng)景廣泛。他向記者舉出交通、醫療和城市治理等方面的例子?！拔磥?lái)的智慧交通，能否讓每一個(gè)交通燈成為智能體、讓所有交通燈成為多智能體？” 陳敏剛表示，所謂多智能體是指它們之間可以相互影響和協(xié)調?！澳壳?，很多路口的紅綠燈時(shí)長(cháng)是固定的。比如縱向車(chē)較多的情況下，橫縱都是1分鐘的通行時(shí)間。高峰時(shí)能否讓縱向變成1分30秒的通行和30秒的等待？這樣就能很大程度緩解交通壓力?！标惷魟傆峙e了一個(gè)智慧交通的例子，利用人工智能技術(shù)還可以實(shí)現黃浦江上的船只違停預警。當AI系統發(fā)現有船只駛離了正確航向、開(kāi)往違停區域時(shí)，進(jìn)行一些預測性的警告，或跟相關(guān)管理部門(mén)聯(lián)動(dòng)。他認為AI在醫療場(chǎng)景中能廣泛應用。比如，現在優(yōu)質(zhì)醫生資源緊缺，如果讓AI賦能社區醫院，讓社區醫院用AI進(jìn)行患者初篩，再用數據共享等方式進(jìn)行分級診療，就能減少三甲醫院醫生在簡(jiǎn)單篩查上的精力消耗。關(guān)于城市治理相關(guān)的應用，陳敏剛舉了一個(gè)例子：市民熱線(xiàn)電話(huà)可通過(guò)語(yǔ)音識別，記錄和統計用戶(hù)及其所反映的內容?！澳敲淳椭烙脩?hù)關(guān)注了什么問(wèn)題，方案是否落實(shí)等。讓AI自動(dòng)回答問(wèn)題、做問(wèn)題記錄與分類(lèi)、進(jìn)行統計分析，就能為整個(gè)城市的智慧化管理提供更精確的信息?！标惷魟傊赋?，高質(zhì)量的城市數字化轉型一定要有高質(zhì)量的AI系統。比如，未來(lái)養老院的陪護機器人，它不僅能陪伴聊天，還能監測老人摔倒等異常行為。遇到老人摔倒時(shí)，它可以幫扶老人，并及時(shí)通知護工、甚至撥打120等?！叭绻鼘先怂さ沟臋z測精度不夠，比如100次老人摔倒只檢測到70次，這肯定不行。AI系統的質(zhì)量如何保證？這就需要它滿(mǎn)足技術(shù)要求、通過(guò)測試評估?！标惷魟傉f(shuō)，“我的觀(guān)點(diǎn)是，高質(zhì)量的城市數字化轉型需要高質(zhì)量的AI。這也是未來(lái)我們做人工智能技術(shù)要求和測試評估標準與規范最重要的目標?！标惷魟偙硎?，人工智能治理分為三個(gè)層級，他們在三個(gè)層級上都開(kāi)展了相應的工作。第一層級是可信人工智能的技術(shù)，包括魯棒性、透明性、可解釋性、公平性以及人工智能系統和算法的質(zhì)量和測試。第二層級是人工智能的監管，主要包括分類(lèi)監管框架和造假鑒別等，涵蓋人臉識別等AI系統的分類(lèi)監管，以及換臉、語(yǔ)音合成等AI生成內容的造假鑒別。第三層包括 AI的法律、倫理、風(fēng)險評估、社會(huì )影響分析等?！拔覀兾磥?lái)希望用數據驅動(dòng)的方式判斷AI應用的社會(huì )影響，比如大家對它的評價(jià)是正面多還是負面多、什么人群可能給出正面評價(jià)、政府應該鼓勵還是限制使用等。我覺(jué)得，未來(lái)這方面有大量人工智能社會(huì )實(shí)驗與治理相關(guān)的研究需要開(kāi)展?！标惷魟偙硎?，目前，上海軟件中心人工智能治理研究所已開(kāi)展了對抗樣本生成與防御、可解釋性、公平性、人工智能系統質(zhì)量與測評相關(guān)技術(shù)與工具研發(fā)，并布局了人工智能算法、人工智能測試評估、工業(yè)智能、健康智能等方向的研究與服務(wù)，為上海城市數字化轉型保駕護航。