以青年之智，護AI之善

為樹(shù)立典型、表彰先進(jìn)，集中展現在習近平新時(shí)代中國特色社會(huì )主義思想指導下，在建設上海國際科創(chuàng )中心，助力實(shí)現高水平科技自立自強中，做出突出貢獻的青年集體和青年典型，2025年4月25日，市科技團工委對2024年度上?？萍记嗄甑湫瓦x樹(shù)獲獎的集體和個(gè)人進(jìn)行表彰。上海軟件中心人工智能治理與測評青年團隊榮獲2024年度上?？萍枷到y五四青年典型選樹(shù)(集體)稱(chēng)號。

上海軟件中心人工智能治理與測評青年團隊通過(guò)“技術(shù)突破－標準引領(lǐng)－服務(wù)賦能”三位一體的創(chuàng )新模式，在生成式人工智能的治理與測評賽道上交出了亮眼答卷。這支平均年齡不足30歲的青年團隊，支撐中心完成了全國首家生成式人工智能質(zhì)量檢驗檢測中心的建設，近五年承擔國家與省部級科研項目10項，授權專(zhuān)利和軟著(zhù)15項，發(fā)表高水平論文20余篇，牽頭或參與人工智能相關(guān)國際、國家和團體標準18項，為產(chǎn)業(yè)提供專(zhuān)業(yè)人工智能測評服務(wù)近500項。展現了上海軟件中心青年迎難而上、挺膺擔當的良好形象。

一、勇攀高峰，深耕人工智能治理與測評

首創(chuàng )“面向開(kāi)放問(wèn)題的大模型自動(dòng)化測評系統”，迎戰生成式AI引發(fā)的質(zhì)量與安全挑戰。上海軟件中心人工智能治理與測評青年團隊致力于提升人工智能可靠性與安全性，通過(guò)構建大規模、多維度測評用例數據庫，提出大模型智能化測評理論與方法，攻關(guān)全棧式大模型測評工具箱研發(fā)，形成面向行業(yè)應用的大模型測評解決方案。相關(guān)論文榮獲2024 IEEE第11屆網(wǎng)絡(luò )安全與云計算國際會(huì )議最佳論文獎，“構建全棧式大模型測評系統，保障生成式人工智能系統質(zhì)量”榮獲上海市第一屆檢驗檢測大賽三等獎，應用成果獲評2023年長(cháng)三角檢驗檢測促進(jìn)產(chǎn)業(yè)優(yōu)化升級典型案例，關(guān)鍵技術(shù)支撐了國內多個(gè)類(lèi)ChatGPT模型橫評、上海市多個(gè)委辦局城市治理大模型、三甲醫院醫療大模型等國產(chǎn)大模型系統可信測評服務(wù)。

構建“知識圖譜－文獻典籍－自身能力”多層次可解釋機制，助力解決傳統醫療AI落地難題。團隊瞄準全球AI技術(shù)發(fā)展前沿，面對傳統醫療AI由于可解釋性弱帶來(lái)的落地難的問(wèn)題,提出多智能體協(xié)作的范式以提升AI問(wèn)診的透明度和可信度，最終惠及患者福祉，研發(fā)基于國產(chǎn)書(shū)生基座模型的中醫問(wèn)診大模型，榮獲2024年浦源大模型夏季挑戰賽獲得一等獎，并受邀在世界人工智能大會(huì )直播間宣傳推廣。在研發(fā)過(guò)程中，在原先預設的方案因數據問(wèn)題陷入困境的情況下，團隊發(fā)揮各自專(zhuān)長(cháng)，通力協(xié)作，主動(dòng)放棄多個(gè)周末和平時(shí)休息時(shí)間，通宵達旦，攻克關(guān)鍵技術(shù)難關(guān)，團隊成員最終交出了完美答卷，展現出超強凝聚力和戰斗力。

同時(shí)，團隊成員還積極探索多項人工智能治理與測評關(guān)鍵技術(shù)，深度合成視頻鑒別算法獲全球Deepfake攻防挑戰賽Top20，并獲視頻賽道優(yōu)秀獎，為維護網(wǎng)絡(luò )空間的只秩序貢獻力量；面向自動(dòng)駕駛的對抗攻擊方法支撐了IEEE國際自動(dòng)駕駛仿真技術(shù)白皮書(shū)并發(fā)表多篇學(xué)術(shù)論文。

二、開(kāi)拓創(chuàng )新，以標準規范引領(lǐng)行業(yè)發(fā)展

敢想敢為，為人工智能治理與測評定制“標準尺”。團隊深刻認識到，人工智能治理與測評需要有一把標準尺，用于規范AI技術(shù)的應用，促進(jìn)其負責任和有益的發(fā)展。團隊以業(yè)務(wù)沉淀技術(shù)，將經(jīng)驗轉化為標準，牽頭研制了《計算機視覺(jué)系統測評規范》《自然語(yǔ)言處理系統測評規范》團體標準，填補了上海市在人工智能測評標準領(lǐng)域的空白。團隊還積極參與《人工智能大模型》系列國家標準，并正在牽頭研制《使用人工智能的信息系統生命周期治理指南》《生成式人工智能分級分類(lèi)應用指南》等地方標準。

能打能勝，推動(dòng)人工智能治理上海模式落實(shí)。在制定《計算機視覺(jué)系統測評規范》過(guò)程中，團隊放棄了假期休息，不斷對標準文本進(jìn)行打磨，與依圖、上海人工智能研究院等企事業(yè)單位通力合作，加班加點(diǎn)完善標準的文本。團隊成員多次出差參加標準討論，同時(shí)跟蹤多個(gè)標準的進(jìn)度，經(jīng)常出差回滬已是深夜，第二天依舊馬不停蹄繼續整理多項標準的修訂意見(jiàn)，召集團隊共同審閱標準文件。以“落地”為導向，團隊同時(shí)走訪(fǎng)調研多家企業(yè)，將標準成果應用于多家機構的人臉識別系統的測評項目中。最終“創(chuàng )新人臉識別測評技術(shù)，提升人工智能應用安全”獲評2022年國家市場(chǎng)監督管理總局“檢驗檢測促進(jìn)經(jīng)濟社會(huì )創(chuàng )新發(fā)展”優(yōu)秀案例；推動(dòng)上海在人工智能治理領(lǐng)域形成“技術(shù)研發(fā)－標準輸出－產(chǎn)業(yè)落地”的創(chuàng )新模式，為構建負責向善的人工智能生態(tài)貢獻力量。

三、服務(wù)賦能，打造科技報國實(shí)踐樣板

頂天立地，將研究成果轉化為現實(shí)生產(chǎn)力。團隊始終秉持“頂天立地”的科研理念，依托“上海市生成式人工智能質(zhì)量檢驗檢測中心”，為上海乃至長(cháng)三角等省市提供人工智能測評服務(wù)近500項，覆蓋政務(wù)、交通、能源、醫療等重點(diǎn)領(lǐng)域，為AI產(chǎn)業(yè)健康發(fā)展保駕護航，用實(shí)際行動(dòng)詮釋新時(shí)代青年科技工作者的責任擔當。同時(shí)團隊成員積極參與各類(lèi)科普活動(dòng)，向公眾普及人工智能前沿技術(shù)與安全風(fēng)險，提升了公眾對人工智能技術(shù)的理解和信任，為AI技術(shù)的健康發(fā)展營(yíng)造良好社會(huì )氛圍。

正如團隊座右銘：“以技術(shù)之器，載治理之道；以青年之智，護AI之善?！边@支年輕的科研突擊隊，正在用智慧和汗水譜寫(xiě)屬于這個(gè)時(shí)代的青年科技強音。