四十周年專(zhuān)題 | 人工智能治理與測評技術(shù)創(chuàng )新論壇順利舉辦

2023年12月12日，由上海計算機軟件技術(shù)開(kāi)發(fā)中心（上海市生成式人工智能質(zhì)量檢驗檢測中心(籌)）聯(lián)合上海馬橋人工智能創(chuàng )新試驗區共同舉辦的“人工智能治理與測評技術(shù)創(chuàng )新論壇”在金地威新達闥人工智能創(chuàng )新產(chǎn)業(yè)基地隆重舉行。此次論壇作為上海軟件中心成立40周年的系列技術(shù)論壇之一，聚焦人工智能應用測評技術(shù)與標準化，助力人工智能產(chǎn)業(yè)質(zhì)量提升。此次論壇得到了上海市閔行高端人才服務(wù)中心（春申金字塔人才學(xué)院）、上海市計算機軟件評測重點(diǎn)實(shí)驗室、上海市計算機學(xué)會(huì )軟件工程專(zhuān)委會(huì )、金地威新達闥人工智能創(chuàng )新產(chǎn)業(yè)基地的大力支持。上海計算機軟件技術(shù)開(kāi)發(fā)中心主任蔡立志、上海馬橋人工智能創(chuàng )新試驗區董事長(cháng)、總經(jīng)理、副總經(jīng)理等相關(guān)領(lǐng)導出席了此次論壇。

人工智能治理與測評技術(shù)創(chuàng )新論壇海報

當前，人工智能已成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅動(dòng)力量，特別是人工智能預訓練大模型在近兩年成為了海內外科技前沿的熱點(diǎn)話(huà)題，然而，人們在享受人工智能應用的技術(shù)紅利和價(jià)值的同時(shí)，也面臨著(zhù)其帶來(lái)的技術(shù)與倫理的風(fēng)險。此次論壇邀請了上海交通大學(xué)資深教授、上海人工智能實(shí)驗室青年研究員進(jìn)行專(zhuān)題報告，探討了計算機視覺(jué)應用、自然語(yǔ)言處理應用、大模型應用的可信技術(shù)、評價(jià)方法和評價(jià)標準，共同推進(jìn)相關(guān)領(lǐng)域的技術(shù)發(fā)展。

上海馬橋人工智能創(chuàng )新試驗區董事長(cháng)趙女士首先為論壇致歡迎辭。趙女士介紹了上海馬橋人工智能創(chuàng )新試驗區的產(chǎn)業(yè)生態(tài)、發(fā)展戰略，并對此次論壇的舉辦給予了大力支持和殷切希望。

上海軟件中心主任蔡立志對論壇發(fā)表了致辭。蔡主任對參加論壇的所有來(lái)賓表示了熱烈歡迎，對上海軟件中心40周年以及論壇的舉辦表示了熱烈的祝賀，并就論壇對于人工智能治理的技術(shù)推進(jìn)和業(yè)務(wù)促進(jìn)作用給予了熱切展望。

蔡立志主任發(fā)言

然后論壇進(jìn)入了專(zhuān)題講座環(huán)節。上海交通大學(xué)資深教授介紹了大語(yǔ)言模型的前沿應用，詳細地介紹了語(yǔ)言模型的歷史，并展示了交大團隊自主研發(fā)的大語(yǔ)言模型BatGPT，引發(fā)了熱烈討論。上海市計算機軟件評測重點(diǎn)實(shí)驗室副主任陳敏剛研究員帶來(lái)了“大模型應用治理與測評的思考與實(shí)踐”專(zhuān)題報告，介紹了基于大模型的AI應用測評方法，并展示場(chǎng)景化大語(yǔ)言模型測評工具箱相關(guān)的研發(fā)與實(shí)踐。上海市人工智能實(shí)驗室青年研究員通過(guò)“下一代大模型安全評測體系”報告，梳理了大模型安全所需要考慮的技術(shù)要求和評測方法。上海軟件中心的資深研究人員還分享了計算機視覺(jué)系統可信賴(lài)技術(shù)及標準化、自然語(yǔ)言處理系統測評技術(shù)及標準解讀等專(zhuān)題報告，展示了人工智能不同領(lǐng)域的治理技術(shù)。論壇進(jìn)行過(guò)程中，嘉賓與觀(guān)眾熱烈互動(dòng)，就人工智能應用與測評進(jìn)行了一場(chǎng)頭腦風(fēng)暴，啟發(fā)了觀(guān)眾對人工智能治理的思考。

交大教授和上海人工智能實(shí)驗室研究員專(zhuān)題報告

陳敏剛研究員專(zhuān)題報告

未來(lái)上海軟件中心將進(jìn)一步深耕人工智能治理技術(shù)的研究，完成“上海市生成式人工智能質(zhì)檢中心”的籌建，在人工智能治理技術(shù)研究、標準研制、測評業(yè)務(wù)拓展、人才培養等方面繼續做出更多貢獻，打造人工智能測評服務(wù)新領(lǐng)域，為人工智能產(chǎn)業(yè)的發(fā)展保駕護航。