400-677-1258
SERVICE
400-677-1258
上海市長(zhǎng)寧區(qū)番禺路390號(hào)時(shí)代大廈21層
office@isosqt.com
當(dāng)前位置： 首頁(yè) > 專(zhuān)業(yè)資訊
2025/01/31
該標(biāo)準(zhǔn)不僅關(guān)注技術(shù)層面，更深入到組織戰(zhàn)略、風(fēng)險(xiǎn)管理及倫理道德等多個(gè)維度，致力于全面提升組織在 AI 時(shí)代的競(jìng)爭(zhēng)力與公信力。通過(guò)實(shí)施這一標(biāo)準(zhǔn)，組織能夠確保以負(fù)責(zé)任的方式開(kāi)發(fā)和使用 AI 系統(tǒng)，同時(shí)滿足適用的法律法規(guī)、合同義務(wù)以及利益相關(guān)方的需求和期望。
ISO/IEC 42001標(biāo)準(zhǔn)產(chǎn)生的背景
2016年，英國(guó)標(biāo)準(zhǔn)協(xié)會(huì)（BSI）首次發(fā)布了一份關(guān)于人工智能倫理管理的標(biāo)準(zhǔn)BS 8611:2016，這份標(biāo)準(zhǔn)在當(dāng)時(shí)的業(yè)界似乎并沒(méi)有引起太多反響。自2022年11月30日OpenAI通過(guò)GPT-3.5系列大型語(yǔ)音模型微調(diào)而成的全新對(duì)話式AI模型ChatGPT正式發(fā)布以來(lái)，無(wú)論在人工智能專(zhuān)業(yè)領(lǐng)域還是在人工智能應(yīng)用領(lǐng)域掀起了巨大波瀾，各國(guó)政府都在制定或發(fā)布針對(duì)人工智能監(jiān)管的法案以確保人類(lèi)更好地應(yīng)用人工智能技術(shù)，比如：
2023年5月11日，歐盟《人工智能法案》談判授權(quán)草案通過(guò)
2019年OECD（經(jīng)濟(jì)合作與發(fā)展組織）提出了關(guān)于人工智能管理的原則和建議，這些原則在為各國(guó)政府制定人工智能政策提供指導(dǎo)和建議
聯(lián)合國(guó)教科文組織（UNESCO）在2019年通過(guò)了一份名為《人工智能：倫理與道德》的報(bào)告，呼吁各國(guó)政府和私營(yíng)部門(mén)在人工智能的開(kāi)發(fā)和使用過(guò)程中遵守一系列基本原則和規(guī)范
人工智能管理體系標(biāo)準(zhǔn)框架
ISO/IEC 22989:2022信息技術(shù)——人工智能——人工智能概念和術(shù)語(yǔ)
ISO/IEC 23894:2023信息技術(shù)——人工智能——風(fēng)險(xiǎn)管理指南
ISO/IEC 5338:2023信息技術(shù)——人工智能——AI系統(tǒng)生命周期過(guò)程
ISO/IEC 42001標(biāo)準(zhǔn)的結(jié)構(gòu)
【上圖：ISO/IEC 42001:2023標(biāo)準(zhǔn)的結(jié)構(gòu)】
一、標(biāo)準(zhǔn)正文部分
二、附錄A：控制目標(biāo)和控制措施
附錄A提供了控制措施的描述，共9大控制域、38個(gè)控制項(xiàng)，為組織實(shí)現(xiàn)組織目標(biāo)和解決與Al系統(tǒng)設(shè)計(jì)和運(yùn)行相關(guān)的風(fēng)險(xiǎn)提供了參考。
1、A.2到A.4主要提供了組織管理的控制，包括：
AI的方針和策略，AI的倫理規(guī)范，以指導(dǎo)促進(jìn)合乎道德的AI開(kāi)發(fā)和應(yīng)用
AI治理結(jié)構(gòu)和職責(zé)劃分
AI系統(tǒng)的資源識(shí)別和分配
2、A.5到A.9提供了AI系統(tǒng)管理的控制，包括：
對(duì)AI系統(tǒng)的影響進(jìn)行評(píng)估，如對(duì)個(gè)人和群體帶來(lái)的影響包括數(shù)據(jù)隱私和安全、偏見(jiàn)和歧視、算法黑箱問(wèn)題、就業(yè)危機(jī)等；以及對(duì)社會(huì)的影響包括社會(huì)不平等、經(jīng)濟(jì)影響、倫理問(wèn)題、環(huán)境和資源問(wèn)題等
指導(dǎo)組織在AI系統(tǒng)生命周期中，針對(duì)AI系統(tǒng)的負(fù)責(zé)任地設(shè)計(jì)和開(kāi)發(fā)，并對(duì)系統(tǒng)進(jìn)行驗(yàn)證和確認(rèn)，對(duì)AI系統(tǒng)地部署進(jìn)行管控，對(duì)運(yùn)行進(jìn)行監(jiān)視，對(duì)日志進(jìn)行記錄，并對(duì)AI系統(tǒng)技術(shù)文檔進(jìn)行管理
管理AI系統(tǒng)生命周期中的用于訓(xùn)練和生成的數(shù)據(jù)，包括數(shù)據(jù)的來(lái)源控制、數(shù)據(jù)的獲取控制、數(shù)據(jù)準(zhǔn)備控制以及數(shù)據(jù)的質(zhì)量控制等
為AI相關(guān)方提供信息，其目的是提高AI系統(tǒng)的透明度和可解釋性
3、A.10提供了外部第三方關(guān)系的控制，包括和第三方職責(zé)的界定、對(duì)供應(yīng)商的管理及對(duì)客戶的期望和需求的管理。
四、附錄B：人工智能控制措施的實(shí)施指南
附錄B對(duì)附錄A中各項(xiàng)控制措施進(jìn)行了詳細(xì)的解釋?zhuān)詭椭M織更好地理解并應(yīng)用附錄A中各項(xiàng)控制措施。
五、附錄C：潛在的人工智能組織目標(biāo)和風(fēng)險(xiǎn)源
附錄C描述了與人工智能相關(guān)的組織目標(biāo)及風(fēng)險(xiǎn)源，以幫助組織更好地管理與人工智能相關(guān)的風(fēng)險(xiǎn)。
六、附錄D：跨領(lǐng)域的人工智能管理體系使用
附錄D進(jìn)一步解釋在不同行業(yè)如何更好地應(yīng)用人工智能管理體系標(biāo)準(zhǔn)，并說(shuō)明組織在應(yīng)用人工智能管理體系時(shí)如何與其他管理體系標(biāo)準(zhǔn)進(jìn)行整合。
ISO/IEC 42001的核心要素
一、目標(biāo)要素
在ISO/IEC 42001標(biāo)準(zhǔn)的附錄C中，列舉了潛在的AI相關(guān)的組織目標(biāo)，目的是保證AI的開(kāi)發(fā)、部署和使用是負(fù)責(zé)任的（Responsible），提供的AI系統(tǒng)是值得信任的（Trustworthy）。
1、從AI系統(tǒng)的生產(chǎn)者和提供者的角度，需要滿足AI系統(tǒng)是負(fù)責(zé)任的，包括：
問(wèn)責(zé)制
AI專(zhuān)業(yè)知識(shí)
訓(xùn)練和測(cè)試數(shù)據(jù)的可用性和質(zhì)量
算法的透明度和可解釋性
系統(tǒng)的可維護(hù)性
2、從AI系統(tǒng)的使用者的角度，AI系統(tǒng)是需要被信任的，比如：
公平
隱私保護(hù)
系統(tǒng)的魯棒性
功能（物理）安全
信息安全
對(duì)環(huán)境的影響
二、基于風(fēng)險(xiǎn)的方法
值得注意的是，和別的管理體系不同的是，基于AI風(fēng)險(xiǎn)特有的性質(zhì)，在進(jìn)行風(fēng)險(xiǎn)分析時(shí)，組織還需進(jìn)行AI系統(tǒng)影響評(píng)估，包括在AI系統(tǒng)生命周期中評(píng)估對(duì)個(gè)人或群體或?qū)ι鐣?huì)的影響，以及對(duì)這些影響的后果進(jìn)行考量，并集成在風(fēng)險(xiǎn)管理中。
三、控制要素
組織應(yīng)考慮從以下幾方面來(lái)實(shí)施控制
組織的AI方針和和策略
組織內(nèi)部治理結(jié)構(gòu)與AI系統(tǒng)職責(zé)劃分
識(shí)別和分配AI系統(tǒng)資源
AI系統(tǒng)影響評(píng)估以及對(duì)負(fù)面影響進(jìn)行處置
AI系統(tǒng)生命周期內(nèi)，負(fù)責(zé)任設(shè)計(jì)、開(kāi)發(fā)和部署AI系統(tǒng)
AI系統(tǒng)的數(shù)據(jù)管理
確保AI系統(tǒng)相關(guān)方獲得必要的信息，使之能理解AI系統(tǒng)并能夠評(píng)估風(fēng)險(xiǎn)和影響
確保AI系統(tǒng)的負(fù)責(zé)任使用
第三方職責(zé)的界定、對(duì)供應(yīng)商的管理及對(duì)客戶的期望和需求的管理
四、過(guò)程要素
AIMS中，結(jié)合前面的三個(gè)要素，構(gòu)成了AIMS的建立、實(shí)施和改進(jìn)的過(guò)程。如圖所示，組織首先需要理解內(nèi)外部環(huán)境和相關(guān)方需求，確定組織邊界，基于業(yè)務(wù)過(guò)程對(duì)組織資產(chǎn)和資源進(jìn)行識(shí)別，根據(jù)目標(biāo)和風(fēng)險(xiǎn)來(lái)源，進(jìn)行風(fēng)險(xiǎn)評(píng)估和影響評(píng)估，然后根據(jù)風(fēng)險(xiǎn)評(píng)估結(jié)果采取適合于自身情況的附錄A控制措施實(shí)施控制，通過(guò)風(fēng)險(xiǎn)迭代推動(dòng)AIMS持續(xù)改進(jìn)。
ISO/IEC 42001標(biāo)準(zhǔn)的適用范圍
ISO/IEC 42001人工智能管理體系建設(shè)方案
一、理解與解讀標(biāo)準(zhǔn)的挑戰(zhàn)及應(yīng)對(duì)策略
組建專(zhuān)業(yè)學(xué)習(xí)小組：在企業(yè)或團(tuán)隊(duì)內(nèi)部，挑選具有不同專(zhuān)業(yè)背景的人員組成學(xué)習(xí)小組，包括技術(shù)專(zhuān)家、法律專(zhuān)家、倫理學(xué)者等。這樣可以從多維度對(duì)標(biāo)準(zhǔn)進(jìn)行解讀，加深理解。例如，技術(shù)人員可以從技術(shù)實(shí)現(xiàn)的角度分析標(biāo)準(zhǔn)的要求，法律專(zhuān)家則可以從合規(guī)的角度提供專(zhuān)業(yè)意見(jiàn)，共同探討如何將標(biāo)準(zhǔn)更好地應(yīng)用到實(shí)際項(xiàng)目中
參加企航顧問(wèn)的培訓(xùn)課程和研討會(huì)：積極參加由企航顧問(wèn)舉辦的 ISO/IEC 42001 標(biāo)準(zhǔn)培訓(xùn)課程和研討會(huì)。這些活動(dòng)通常會(huì)邀請(qǐng)標(biāo)準(zhǔn)制定的專(zhuān)家或有豐富經(jīng)驗(yàn)的從業(yè)者進(jìn)行講解和分享，能夠幫助我們快速掌握標(biāo)準(zhǔn)的核心內(nèi)容和實(shí)施要點(diǎn)。同時(shí)，與其他從業(yè)者進(jìn)行交流和互動(dòng)，也可以學(xué)習(xí)到他們的實(shí)踐經(jīng)驗(yàn)和應(yīng)對(duì)策略
與標(biāo)準(zhǔn)制定機(jī)構(gòu)保持溝通：如果在標(biāo)準(zhǔn)的理解過(guò)程中遇到疑問(wèn)或困惑，及時(shí)與標(biāo)準(zhǔn)制定機(jī)構(gòu)取得聯(lián)系，尋求官方的解釋和指導(dǎo)。標(biāo)準(zhǔn)制定機(jī)構(gòu)具有最權(quán)威的解讀權(quán)，與他們保持溝通可以確保我們對(duì)標(biāo)準(zhǔn)的理解準(zhǔn)確無(wú)誤
二、實(shí)施成本方面的挑戰(zhàn)及應(yīng)對(duì)策略實(shí)施
合理規(guī)劃實(shí)施步驟：根據(jù)企業(yè)或項(xiàng)目的實(shí)際情況，制定詳細(xì)的實(shí)施計(jì)劃，合理安排實(shí)施步驟。優(yōu)先實(shí)施對(duì)業(yè)務(wù)影響較大、風(fēng)險(xiǎn)較高的部分，逐步推進(jìn)標(biāo)準(zhǔn)的實(shí)施。這樣可以避免一次性投入過(guò)大，減輕企業(yè)的資金壓力
尋求企航顧問(wèn)的合作與支持：與企航顧問(wèn)開(kāi)展合作，共同實(shí)施 ISO/IEC 42001 標(biāo)準(zhǔn)。通過(guò)資源共享、技術(shù)合作等方式，可以降低實(shí)施成本，提高實(shí)施效率。借助企航顧問(wèn)的專(zhuān)業(yè)知識(shí)和經(jīng)驗(yàn)，幫助企業(yè)制定符合標(biāo)準(zhǔn)的管理體系和技術(shù)方案
利用現(xiàn)有資源進(jìn)行優(yōu)化：對(duì)企業(yè)現(xiàn)有的技術(shù)資源、管理體系進(jìn)行評(píng)估和優(yōu)化，充分利用現(xiàn)有資源滿足 ISO/IEC 42001 標(biāo)準(zhǔn)的要求。例如，對(duì)現(xiàn)有的數(shù)據(jù)管理系統(tǒng)進(jìn)行升級(jí)和改造，加強(qiáng)數(shù)據(jù)的安全保護(hù)和隱私管理；優(yōu)化現(xiàn)有的項(xiàng)目管理流程，提高項(xiàng)目的透明度和可追溯性
三、流程改造的挑戰(zhàn)及應(yīng)對(duì)策略
加強(qiáng)溝通與培訓(xùn)：在流程改造之前，與團(tuán)隊(duì)成員進(jìn)行充分的溝通，向他們解釋流程改造的必要性和重要性，讓他們了解ISO/IEC 42001標(biāo)準(zhǔn)對(duì)企業(yè)和個(gè)人的長(zhǎng)遠(yuǎn)利益。同時(shí)，組織相關(guān)的培訓(xùn)活動(dòng)，幫助團(tuán)隊(duì)成員掌握新的流程和方法，提高他們的適應(yīng)能力
引入試點(diǎn)項(xiàng)目：選擇一些小型的、低風(fēng)險(xiǎn)的項(xiàng)目作為試點(diǎn)，按照ISO/IEC 42001標(biāo)準(zhǔn)的要求進(jìn)行流程改造和管理。通過(guò)試點(diǎn)項(xiàng)目的實(shí)踐，總結(jié)經(jīng)驗(yàn)教訓(xùn)，不斷優(yōu)化流程和管理體系。同時(shí)，也可以讓團(tuán)隊(duì)成員在實(shí)踐中逐漸熟悉新的流程，減少對(duì)流程改造的抵觸情緒
建立激勵(lì)機(jī)制：為了鼓勵(lì)團(tuán)隊(duì)成員積極參與流程改造，建立相應(yīng)的激勵(lì)機(jī)制。對(duì)在流程改造過(guò)程中表現(xiàn)出色的團(tuán)隊(duì)成員給予表彰和獎(jiǎng)勵(lì)，激發(fā)他們的積極性和創(chuàng)造性。同時(shí)，將流程改造的實(shí)施情況納入績(jī)效考核體系，促使團(tuán)隊(duì)成員認(rèn)真對(duì)待流程改造工作
四、持續(xù)合規(guī)的挑戰(zhàn)及應(yīng)對(duì)策略
建立監(jiān)測(cè)與評(píng)估機(jī)制：建立專(zhuān)門(mén)的監(jiān)測(cè)與評(píng)估機(jī)制，定期對(duì)企業(yè)的人工智能項(xiàng)目進(jìn)行審查和評(píng)估，確保項(xiàng)目的管理體系和技術(shù)方案符合 ISO/IEC 42001 標(biāo)準(zhǔn)的要求。同時(shí)，關(guān)注行業(yè)的發(fā)展動(dòng)態(tài)和標(biāo)準(zhǔn)的更新情況，及時(shí)調(diào)整企業(yè)的管理策略和技術(shù)方案
培養(yǎng)內(nèi)部專(zhuān)業(yè)人才：培養(yǎng)企業(yè)內(nèi)部的專(zhuān)業(yè)人才，使其具備對(duì) ISO/IEC 42001 標(biāo)準(zhǔn)的深入理解和應(yīng)用能力。這些專(zhuān)業(yè)人才可以負(fù)責(zé)企業(yè)的標(biāo)準(zhǔn)實(shí)施和合規(guī)管理工作，及時(shí)發(fā)現(xiàn)和解決問(wèn)題，確保企業(yè)的人工智能項(xiàng)目始終處于合規(guī)狀態(tài)
ISO 42001 標(biāo)準(zhǔn)的實(shí)施對(duì)于人工智能行業(yè)的健康發(fā)展具有重要意義，但同時(shí)也給人工智能行業(yè)從業(yè)者帶來(lái)了一系列的挑戰(zhàn)。面對(duì)這些挑戰(zhàn)，我們需要積極應(yīng)對(duì)，采取有效的策略和措施，不斷提升企業(yè)的管理水平和技術(shù)能力，確保人工智能的開(kāi)發(fā)和應(yīng)用符合標(biāo)準(zhǔn)的要求，為人工智能行業(yè)的可持續(xù)發(fā)展做出貢獻(xiàn)。
關(guān)于企航顧問(wèn)
微信平臺(tái)
線上課程
