上海2025年8月1日 /美通社/ -- 7月28日，2025世界人工智能大會"大模型智塑全球產(chǎn)業(yè)新秩序"論壇在上海徐匯西岸成功召開。開源大模型為全球產(chǎn)業(yè)帶來新的變革和潛力，技術(shù)加速迭代創(chuàng)新，應(yīng)用與產(chǎn)品大量涌現(xiàn)。然而在安全方面，倫理規(guī)范、權(quán)責(zé)界定、識別與防御技術(shù)等方面仍未完善，大規(guī)模行業(yè)應(yīng)用面臨著隱患。如何確保AI的安全性、可靠性、可控性、公平性，構(gòu)建兼顧創(chuàng)新活力與風(fēng)險防范的治理范式，已成為關(guān)乎技術(shù)可持續(xù)發(fā)展的關(guān)鍵命題。
以國際標(biāo)準(zhǔn)構(gòu)建可信AI未來
國際領(lǐng)先標(biāo)準(zhǔn)、測試及認(rèn)證機(jī)構(gòu)BSI英國標(biāo)準(zhǔn)協(xié)會全球認(rèn)證總裁Harold Pradal先生應(yīng)邀出席大會，并圍繞"Shaping TRUST in AI"發(fā)表主題演講，強(qiáng)調(diào)人工智能的快速發(fā)展必須建立在責(zé)任與信任的基石之上。
Harold指出，隨著AI技術(shù)深度重塑經(jīng)濟(jì)社會各領(lǐng)域，建立基于責(zé)任與倫理的信任體系已成為當(dāng)務(wù)之急。這一目標(biāo)的實現(xiàn)首先依托于國際標(biāo)準(zhǔn)的引領(lǐng)作用 —— ISO/IEC 42001作為全球首個AI管理體系標(biāo)準(zhǔn)，為組織提供了可落地的實施框架，而ISO 42005等配套標(biāo)準(zhǔn)則建立起評估AI社會影響的指標(biāo)體系。
面對技術(shù)迭代的加速度，Harold特別強(qiáng)調(diào)治理體系的動態(tài)適配性，他以中英通過標(biāo)準(zhǔn)化合作委員會開展的聯(lián)合實踐為例，展示了跨國協(xié)作在政策協(xié)調(diào)與知識共享方面的關(guān)鍵價值。在技術(shù)倫理層面，他深入剖析了透明算法、數(shù)據(jù)溯源等基礎(chǔ)要求，同時指出必須將防止歧視、保障人類決策權(quán)等社會倫理原則嵌入治理全流程，這一過程中需要兼顧不同文化背景的價值訴求。
在AI應(yīng)用規(guī)?；瘮U(kuò)張的當(dāng)下，企業(yè)證明其技術(shù)應(yīng)用的倫理性正在從合規(guī)要求演變?yōu)楹诵母偁幜?/b>，這使得國際標(biāo)準(zhǔn)的價值超越傳統(tǒng)認(rèn)證范疇，轉(zhuǎn)而成為驅(qū)動創(chuàng)新與市場增長的戰(zhàn)略工具?；谶@些洞察，Harold呼吁建立政府、企業(yè)與公眾的多方參與機(jī)制，通過BSI等專業(yè)機(jī)構(gòu)的橋梁作用，最終構(gòu)建起既促進(jìn)技術(shù)創(chuàng)新又守護(hù)人類價值觀的AI生態(tài)體系。
《大模型開源安全倡議》
論壇上，為防范人工智能大規(guī)模應(yīng)用安全風(fēng)險，進(jìn)一步加強(qiáng)開源大模型的安全與治理，《大模型開源安全倡議》（以下簡稱"倡議"）面向全球正式發(fā)布。中國信通院人工智能研究所所長魏凱、中國信通院華東分院副院長廖運發(fā)、 上海聯(lián)通副總經(jīng)理姚健、上海儀電（集團(tuán)）有限公司副總裁、上海智能算力科技有限公司董事長劉山泉、螞蟻集團(tuán)技術(shù)戰(zhàn)略與執(zhí)行部副總經(jīng)理彭晉、BSI英國標(biāo)準(zhǔn)協(xié)會全球認(rèn)證總裁Harold Pradal、聯(lián)合國工業(yè)發(fā)展組織投資與技術(shù)促進(jìn)辦公室（中國?上海）主任趙曉蕾、上海庫帕思科技有限公司CTO王長冕、 模速空間副總經(jīng)理劉勃、MiniMax商業(yè)化解決方案負(fù)責(zé)人張如歡、魔搭社區(qū)周潔琪握起雙手，共同發(fā)布倡議。
倡議發(fā)布儀式照片
本倡議在開源大模型廣泛應(yīng)用的關(guān)鍵階段，針對開源生態(tài)繁榮伴隨的多維度、跨行業(yè)的復(fù)雜安全風(fēng)險，旨在倡導(dǎo)人工智能產(chǎn)學(xué)研各界加快形成開源安全與治理共識，充分發(fā)揮大模型產(chǎn)業(yè)與應(yīng)用賦能價值?！洞竽Ｐ烷_源安全倡議》發(fā)布后迅速獲得各界廣泛響應(yīng)。國內(nèi)外標(biāo)準(zhǔn)組織、科研學(xué)術(shù)機(jī)構(gòu)、大模型產(chǎn)業(yè)鏈企業(yè)及開源社區(qū)平臺均表示高度認(rèn)同。各方將圍繞落實倡議展開持續(xù)合作，積極推動標(biāo)準(zhǔn)評測體系共建、治理經(jīng)驗共享與高質(zhì)量創(chuàng)新要素流通，凝聚全球智慧構(gòu)建開源安全生態(tài)信任基石，為大模型產(chǎn)業(yè)高質(zhì)量發(fā)展與應(yīng)用保駕護(hù)航。
BSI成為經(jīng)認(rèn)可的人工智能管理體系認(rèn)證機(jī)構(gòu)
2016年，BSI首次發(fā)布了一份關(guān)于人工智能倫理管理的標(biāo)準(zhǔn)BS 8611:2016 — 機(jī)器人系統(tǒng)的倫理設(shè)計，在AI奇點時刻出現(xiàn)之前，從標(biāo)準(zhǔn)方面率先規(guī)范了對AI發(fā)展的監(jiān)督管控。 國際標(biāo)準(zhǔn)化組織ISO充分意識到快速發(fā)展的人工智能（AI）應(yīng)用所帶來的社會性調(diào)整，將人工智能管理標(biāo)準(zhǔn)納入制定計劃，由IEC國際電工委員會帶頭起草編纂了ISO/IEC 42001:2023人工智能管理體系標(biāo)準(zhǔn)，BSI是其技術(shù)委員會ISO/IEC JTC 1/SC42的成員之一。
2024年12月9日，BSI獲得荷蘭認(rèn)可委員會（RvA）的認(rèn)可，成為ISO/IEC 42001人工智能管理體系受認(rèn)可的認(rèn)證機(jī)構(gòu)。
