[每日中文朗读] 18国签署AI国际协议,全生命周期入手打造安全系统

要約

人工知能開発者が「安全設計」の方法に従ってAIシステムを構築する国際協定。米国、英国、その他の十数カ国が共同で協定に署名した。安全運行維持の面では、システム配置後の安全保障措置を提供している。
原文: 21世纪经济报道 2023年12月01日
ai, world, coperation

本文(ピンイン)

ChatGPT发[fā]布[bù]距[jù]今[jīn]已[yǐ]有[yǒu]近[jìn]一[yī]年[nián]。随[suí]着[zhe]其[qí]技[jì]术[shù]和[hé]应[yìng]用[yòng]从[cóng]小[xiǎo]范[fàn]围[wéi]的[de]新[xīn]奇[qí]尝[cháng]试[shì]走[zǒu]向[xiàng]与[yǔ]千[qiān]行[xíng]百[bǎi]业[yè]融[róng]合[hé],与[yǔ]之[zhī]相[xiāng]关[guān]的[de]安[ān]全[quán]问[wèn]题[tí]也[yě]走[zǒu]到[dào]聚[jù]光[guāng]灯[dēng]下[xià]。

2023年[nián]11月[yuè]27日[rì],美[měi]国[guó]、英[yīng]国[guó]和[hé]其[qí]他[tā]十[shí]几[jǐ]个[gè]国[guó]家[jiā]共[gòng]同[tóng]签[qiān]署[shǔ]了[le]国[guó]际[jì]协[xié]议[yì]《安[ān]全[quán]人[rén]工[gōng]智[zhì]能[néng]系[xì]统[tǒng]开[kāi]发[fà]指[zhǐ]南[nán]》(以[yǐ]下[xià]简[jiǎn]称[chēng]“指[zhǐ]南[nán]”),帮[bāng]助[zhù]人[rén]工[gōng]智[zhì]能[néng]开[kāi]发[fā]者[zhě]依[yī]循[xún]“设[shè]计[jì]安[ān]全[quán]”的[de]方[fāng]法[fǎ]打[dǎ]造[zào]AI系[xì]统[tǒng]。

“安[ān]全[quán]性[xìng]必[bì]须[xū]是[shì]核[hé]心[xīn]要[yāo]求[qiú],不[bù]仅[jǐn]开[kāi]发[fā]阶[jiē]段[duàn],在[zài]系[xì]统[tǒng]的[de]整[zhěng]个[gè]生[shēng]命[mìng]周[zhōu]期[qī]中[zhōng]都[dōu]应[yīng]保[bǎo]障[zhàng]安[ān]全[quán]。”指[zhǐ]南[nán]发[fā]布[bù]的[de]官[guān]方[fāng]公[gōng]告[gào]中[zhōng]如[rú]此[cǐ]写[xiě]道[dào]。

18国[guó]签[qiān]署[shǔ]协[xié]议[yì]

据[jù]悉[xī],指[zhǐ]南[nán]由[yóu]英[yīng]国[guó]国[guó]家[jiā]网[wǎng]络[luò]安[ān]全[quán]中[zhōng]心[xīn](National Cyber Security Agency,NCSC)主[zhǔ]导[dǎo],并[bìng]与[yǔ]美[měi]国[guó]网[wǎng]络[luò]安[ān]全[quán]和[hé]基[jī]础[chǔ]设[shè]施[shī]安[ān]全[quán]局[jú](Cybersecurity and Infrastructure Security Agency,CISA)共[gòng]同[tóng]制[zhì]定[dìng]。

据[jù]悉[xī],这[zhè]一[yī]指[zhǐ]南[nán]并[bìng]不[bù]具[jù]备[bèi]强[qiáng]制[zhì]性[xìng],其[qí]旨[zhǐ]在[zài]帮[bāng]助[zhù]任[rèn]何[hé]使[shǐ]用[yòng]人[rén]工[gōng]智[zhì]能[néng]系[xì]统[tǒng]的[de]开[kāi]发[fā]人[rén]员[yuán]在[zài]开[kāi]发[fā]过[guò]程[chéng]的[de]每[měi]个[gè]阶[jiē]段[duàn]做[zuò]出[chū]明[míng]智[zhì]的[de]网[wǎng]络[luò]安[ān]全[quán]决[jué]策[cè],包[bāo]括[kuò]从[cóng]零[líng]开[kāi]始[shǐ]设[shè]计[jì]的[de]或[huò]建[jiàn]立[lì]在[zài]已[yǐ]有[yǒu]的[de]工[gōng]具[jù]和[hé]服[fú]务[wù]之[zhī]上[shàng]的[de]系[xì]统[tǒng]。

具[jù]体[tǐ]来[lái]看[kàn],其[qí]从[cóng]安[ān]全[quán]设[shè]计[jì]、安[ān]全[quán]开[kāi]发[fā]、安[ān]全[quán]部[bù]署[shǔ]以[yǐ]及[jí]安[ān]全[quán]运[yùn]维[wéi]四[sì]个[gè]关[guān]键[jiàn]领[lǐng]域[yù]给[gěi]出[chū]了[le]建[jiàn]议[yì]。

在[zài]对[duì]外[wài]经[jīng]济[jì]贸[mào]易[yì]大[dà]学[xué]数[shù]字[zì]经[jīng]济[jì]与[yǔ]法[fǎ]律[lǜ]创[chuàng]新[xīn]研[yán]究[jiū]中[zhōng]心[xīn]执[zhí]行[xíng]主[zhǔ]任[rèn]张[zhāng]欣[xīn]看[kàn]来[lái],协[xié]议[yì]覆[fù]盖[gài]人[rén]工[gōng]智[zhì]能[néng]研[yán]发[fā]、部[bù]署[shǔ]和[hé]运[yùn]行[xíng]的[de]整[zhěng]个[gè]生[shēng]命[mìng]周[zhōu]期[qī],具[jù]有[yǒu]系[xì]统[tǒng]性[xìng]指[zhǐ]引[yǐn]的[de]特[tè]征[zhēng]。

在[zài]安[ān]全[quán]设[shè]计[jì]方[fāng]面[miàn],指[zhǐ]南[nán]要[yāo]求[qiú]系[xì]统[tǒng]所[suǒ]有[yǒu]者[zhě]提[tí]高[gāo]员[yuán]工[gōng]对[duì]威[wēi]胁[xié]和[hé]风[fēng]险[xiǎn]的[de]认[rèn]识[shi]、对[duì]系[xì]统[tǒng]面[miàn]临[lín]的[de]威[wēi]胁[xié]进[jìn]行[xíng]建[jiàn]模[mó]、在[zài]设[shè]计[jì]时[shí]考[kǎo]虑[lǜ]安[ān]全[quán]性[xìng]、功[gōng]能[néng]和[hé]性[xìng]能[néng]、选[xuǎn]择[zé] AI 模[mó]型[xíng]时[shí]考[kǎo]虑[lǜ]安[ān]全[quán]优[yōu]势[shì]和[hé]权[quán]衡[héng]等[děng]。

“强[qiáng]调[diào]安[ān]全[quán]设[shè]计[jì]原[yuán]则[zé],即[jí]将[jiāng]治[zhì]理[lǐ]的[de]节[jié]点[diǎn]前[qián]置[zhì]到[dào]设[shè]计[jì]阶[jiē]段[duàn],可[kě]以[yǐ]一[yí]定[dìng]程[chéng]度[dù]上[shàng]有[yǒu]效[xiào]避[bì]免[miǎn]‘先[xiān]污[wū]染[rǎn]、后[hòu]治[zhì]理[lǐ]’的[de]传[chuán]统[tǒng]风[fēng]险[xiǎn]治[zhì]理[lǐ]路[lù]径[jìng]所[suǒ]带[dài]来[lái]的[de]弊[bì]端[duān]和[hé]局[jú]限[xiàn]。”张[zhāng]欣[xīn]指[zhǐ]出[chū]。

在[zài]开[kāi]发[fā]阶[jiē]段[duàn],开[kāi]发[fā]人[rén]员[yuán]需[xū]采[cǎi]用[yòng]确[què]保[bǎo]供[gōng]应[yìng]链[liàn]安[ān]全[quán],遵[zūn]守[shǒu]适[shì]用[yòng]的[de]安[ān]全[quán]标[biāo]准[zhǔn];还[hái]需[xū]确[què]保[bǎo]加[jiā]密[mì]措[cuò]施[shī]得[dé]到[dào]有[yǒu]效[xiào]实[shí]施[shī],以[yǐ]保[bǎo]护[hù]数[shù]据[jù]隐[yǐn]私[sī]等[děng]。

而[ér]部[bù]署[shǔ]阶[jiē]段[duàn],指[zhǐ]南[nán]提[tí]出[chū]了[le]包[bāo]括[kuò]保[bǎo]护[hù]基[jī]础[chǔ]设[shè]施[shī]和[hé]模[mó]型[xíng]免[miǎn]受[shòu]损[sǔn]害[hài]、制[zhì]定[dìng]事[shì]件[jiàn]管[guǎn]理[lǐ]程[chéng]序[xù]、负[fù]责[zé]任[rèn]地[dì]发[fā]布[bù]AI系[xì]统[tǒng]、保[bǎo]障[zhàng]配[pèi]置[zhì]时[shí]的[de]默[mò]认[rèn]选[xuǎn]项[xiàng]能[néng]够[gòu]广[guǎng]泛[fàn]地[dì]抵[dǐ]御[yù]常[cháng]见[jiàn]威[wēi]胁[xié]等[děng]。

在[zài]安[ān]全[quán]运[yùn]维[wéi]方[fāng]面[miàn],指[zhǐ]南[nán]则[zé]提[tí]供[gōng]了[le]系[xì]统[tǒng]部[bù]署[shǔ]后[hòu]的[de]安[ān]全[quán]保[bǎo]障[zhàng]举[jǔ]措[cuò],包[bāo]括[kuò]运[yùn]营[yíng]人[rén]员[yuán]应[yīng]监[jiān]控[kòng]和[hé]记[jì]录[lù]输[shū]入[rù]端[duān]信[xìn]息[xī],以[yǐ]便[biàn]在[zài]出[chū]现[xiàn]漏[lòu]洞[dòng]时[shí]调[diào]查[chá]和[hé]补[bǔ]救[jiù]、呼[hū]吁[xū]运[yùn]营[yíng]人[rén]员[yuán]参[cān]与[yù]信[xìn]息[xī]共[gòng]享[xiǎng]社[shè]区[qū],积[jī]极[jí]收[shōu]集[jí]、分[fēn]享[xiǎng]经[jīng]验[yàn]教[jiào]训[xun]等[děng]。

值[zhí]得[de]注[zhù]意[yì]的[de]是[shì],指[zhǐ]南[nán]中[zhōng]多[duō]次[cì]强[qiáng]调[diào]了[le]评[píng]估[gū]和[hé]监[jiān]控[kòng]人[rén]工[gōng]智[zhì]能[néng]供[gōng]应[yìng]链[liàn]的[de]安[ān]全[quán]性[xìng],要[yāo]求[qiú]模[mó]型[xíng]拥[yōng]有[yǒu]者[zhě]对[duì]训[xùn]练[liàn]数[shù]据[jù]、代[dài]码[mǎ]和[hé]模[mó]型[xíng]的[de]安[ān]全[quán]性[xìng]做[zuò]好[hǎo]监[jiān]控[kòng]。

“这[zhè]点[diǎn]十[shí]分[fēn]重[zhòng]要[yào]。”在[zài]张[zhāng]欣[xīn]看[kàn]来[lái],与[yǔ]传[chuán]统[tǒng]的[de]人[rén]工[gōng]智[zhì]能[néng]供[gōng]应[yìng]链[liàn]相[xiāng]比[bǐ],以[yǐ]生[shēng]成[chéng]式[shì]人[rén]工[gōng]智[zhì]能[néng]为[wéi]代[dài]表[biǎo]的[de]供[gōng]应[yìng]链[liàn]结[jié]构[gòu]实[shí]际[jì]上[shang]发[fā]生[shēng]了[le]实[shí]质[zhí]性[xìng]的[de]变[biàn]革[gé],治[zhì]理[lǐ]和[hé]监[jiān]管[guǎn]框[kuàng]架[jià]应[yīng]予[yǔ]以[yǐ]相[xiāng]应[yìng]回[huí]应[yìng]和[hé]调[tiáo]整[zhěng]。协[xié]议[yì]中[zhōng]要[yāo]求[qiú]确[què]保[bǎo]整[zhěng]个[gè]供[gōng]应[yìng]链[liàn]的[de]安[ān]全[quán],体[tǐ]现[xiàn]了[le]技[jì]术[shù]逻[luó]辑[ji]、产[chǎn]业[yè]逻[luó]辑[ji]和[hé]法[fǎ]律[lǜ]逻[luó]辑[ji]的[de]有[yǒu]机[jī]结[jié]合[hé]。

据[jù]悉[xī],除[chú]了[le]英[yīng]国[guó]和[hé]美[měi]国[guó],签[qiān]署[shǔ]协[xié]议[yì]的[de]18个[gè]国[guó]家[jiā]还[hái]包[bāo]括[kuò]德[dé]国[guó]、意[yì]大[dà]利[lì]、新[xīn]加[jiā]坡[pō]、澳[ào]大[dà]利[lì]亚[yà]等[děng]。

凝[níng]聚[jù]共[gòng]识[shí]仍[réng]是[shì]难[nán]点[diǎn]

随[suí]着[zhe]人[rén]工[gōng]智[zhì]能[néng]治[zhì]理[lǐ]的[de]加[jiā]速[sù],各[gè]个[gè]国[guó]家[jiā]、地[dì]区[qū]相[xiāng]关[guān]文[wén]件[jiàn]出[chū]台[tái]节[jié]奏[zòu]逐[zhú]渐[jiàn]加[jiā]快[kuài]。

我[wǒ]国[guó]于[yú]今[jīn]年[nián]7月[yuè]发[fā]布[bù]《生[shēng]成[chéng]式[shì]人[rén]工[gōng]智[zhì]能[néng]服[fú]务[wù]管[guǎn]理[lǐ]办[bàn]法[fǎ]》;欧[ōu]盟[méng]的[de]《人[rén]工[gōng]智[zhì]能[néng]法[fǎ]案[àn]》今[jīn]年[nián]来[lái]也[yě]已[yǐ]经[jīng]历[lì]经[jīng]多[duō]轮[lún]修[xiū]改[gǎi]和[hé]争[zhēng]议[yì];美[měi]国[guó]则[zé]于[yú]日[rì]前[qián]发[fā]布[bù]《关[guān]于[yú]安[ān]全[quán]、可[kě]靠[kào]和[hé]可[kě]信[xìn]地[dì]开[kāi]发[fā]和[hé]使[shǐ]用[yòng]人[rén]工[gōng]智[zhì]能[néng]的[de]行[xíng]政[zhèng]命[mìng]令[lìng]》以[yǐ]期[qī]推[tuī]进[jìn]人[rén]工[gōng]智[zhì]能[néng]的[de]开[kāi]发[fā]和[hé]使[shǐ]用[yòng]。

除[chú]了[le]各[gè]国[guó]相[xiāng]继[jì]出[chū]台[tái]人[rén]工[gōng]智[zhì]能[néng]治[zhì]理[lǐ]文[wén]件[jiàn],跨[kuà]越[yuè]国[guó]家[jiā]和[hé]地[dì]区[qū]的[de]相[xiāng]关[guān]文[wén]件[jiàn]发[fā]布[bù]也[yě]逐[zhú]渐[jiàn]密[mì]集[jí]。

“一[yī]系[xì]列[liè]治[zhì]理[lǐ]文[wén]件[jiàn]恰[qià]是[shì]在[zài]全[quán]球[qiú]人[rén]工[gōng]智[zhì]能[néng]治[zhì]理[lǐ]新[xīn]秩[zhì]序[xù]形[xíng]成[chéng]过[guò]程[chéng]中[zhōng]的[de]必[bì]然[rán]阶[jiē]段[duàn]。”张[zhāng]欣[xīn]认[rèn]为[wéi],近[jìn]期[qī]出[chū]现[xiàn]的[de]一[yī]系[xì]列[liè]技[jì]术[shù]及[jí]其[qí]应[yìng]用[yòng]使[shǐ]人[rén]类[lèi]正[zhèng]以[yǐ]前[qián]所[suǒ]未[wèi]有[yǒu]的[de]速[sù]度[dù]逼[bī]近[jìn]通[tōng]用[yòng]人[rén]工[gōng]智[zhì]能[néng]。这[zhè]一[yī]发[fà]展[zhǎn]趋[qū]势[shì]革[gé]新[xīn]了[le]全[quán]球[qiú]人[rén]工[gōng]智[zhì]能[néng]治[zhì]理[lǐ]的[de]格[gé]局[jú],推[tuī]动[dòng]构[gòu]建[jiàn]汇[huì]聚[jù]广[guǎng]泛[fàn]共[gòng]识[shí]的[de]全[quán]球[qiú]人[rén]工[gōng]智[zhì]能[néng]治[zhì]理[lǐ]体[tǐ]系[xì]也[yě]日[rì]益[yì]成[chéng]为[wéi]各[gè]方[fāng]共[gòng]同[tóng]诉[sù]求[qiú]。

广[guǎng]告[gào]
比[bǐ]如[rú]10月[yuè],七[qī]国[guó]集[jí]团[tuán]发[fā]布[bù]《开[kāi]发[fā]先[xiān]进[jìn]人[rén]工[gōng]智[zhì]能[néng]系[xì]统[tǒng]组[zǔ]织[zhī]的[de]国[guó]际[jì]行[xíng]为[wéi]准[zhǔn]则[zé]》,呼[hū]吁[xū]公[gōng]司[sī]应[yīng]定[dìng]期[qī]评[píng]估[gū]其[qí]模[mó]型[xíng]的[de]风[fēng]险[xiǎn],并[bìng]关[guān]注[zhù]可[kě]能[néng]对[duì]民[mín]主[zhǔ]价[jià]值[zhí]观[guān]或[huò]社[shè]会[huì]构[gòu]成[chéng]威[wēi]胁[xié]的[de]系[xì]统[tǒng]。

同[tóng]月[yuè]早[zǎo]些[xiē]时[shí]候[hòu],联[lián]合[hé]国[guó]成[chéng]立[lì]了[le]一[yí]个[gè]新[xīn]的[de]AI咨[zī]询[xún]机[jī]构[gòu],为[wèi]国[guó]际[jì]社[shè]会[huì]加[jiā]强[qiáng]对[duì]AI的[de]...

単語(ピンイン)

距[jù]今[jīn] ago ; to date
安[ān]全[quán]问[wèn]题[tí] SECURITY ISSUES ; Security Question
聚[jù]光[guāng]灯[dēng] spotlight
共[gòng]同[tóng]签[qiān]署[shǔ] co–sign ; cosign
人[rén]工[gōng]智[zhì]能[néng]系[xì]统[tǒng] AIS ; artificial intelligence
以[yǐ]下[xià]简[jiǎn]称[chēng] hereinafter referred to as
人[rén]工[gōng]智[zhì]能[néng] artificial intelligence
安[ān]全[quán]性[xìng] safety ; security
生[shēng]命[mìng]周[zhōu]期[qī] life cycle
国[guó]家[jiā]网[wǎng]络[luò] national network ; state networks

中国語

Posted by revolution-x