11月21日，在2024年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)“人工智能負(fù)責(zé)任開(kāi)發(fā)與應(yīng)用分論壇”上，螞蟻集團(tuán)副總裁李俊奎在發(fā)言中指出，要為AI健康發(fā)展設(shè)立“紅綠燈”：對(duì)會(huì)給人類(lèi)價(jià)值觀和社會(huì)穩(wěn)定造成嚴(yán)重沖擊的AI應(yīng)用，必須進(jìn)行防御和抵制；對(duì)具有潛在風(fēng)險(xiǎn)的AI應(yīng)用領(lǐng)域，要做充分、深度的分析和研究，建立完善的倫理和安全框架；對(duì)那些有益于人類(lèi)的AI應(yīng)用，應(yīng)亮起通行信號(hào)。

李俊奎將AI比作高速行駛的列車(chē)，“它既帶來(lái)了前所未有的機(jī)遇，如促進(jìn)經(jīng)濟(jì)發(fā)展、社會(huì)進(jìn)步、助力公益事業(yè)，但如同列車(chē)需要軌道和信號(hào)的引導(dǎo)一樣，AI的發(fā)展也不能毫無(wú)約束地狂奔，必須為其設(shè)立紅綠燈，保障其健康前行”。

紅燈，就是做好風(fēng)險(xiǎn)的控制?！拔覀円鐰I技術(shù)被惡意利用，比如用于制造虛假信息、發(fā)動(dòng)網(wǎng)絡(luò)攻擊或者加劇社會(huì)不平等。深度偽造技術(shù)就是一個(gè)例子，如果不加以限制，它可能會(huì)破壞社會(huì)的信任體系，引發(fā)混亂?！崩羁】硎荆仨殞?duì)抗這種會(huì)對(duì)人類(lèi)價(jià)值觀和社會(huì)穩(wěn)定造成嚴(yán)重沖擊的應(yīng)用，讓紅燈成為不可逾越的紅線。

黃燈，就是在技術(shù)之外，做好AI制度管理，謹(jǐn)慎對(duì)待那些具有潛在風(fēng)險(xiǎn)的AI領(lǐng)域?！袄纾詣?dòng)駕駛領(lǐng)域雖然前景非常廣闊，但目前還存在很多復(fù)雜的倫理問(wèn)題，比如當(dāng)自動(dòng)駕駛汽車(chē)面臨不可避免的碰撞時(shí)，它應(yīng)該優(yōu)先保護(hù)車(chē)內(nèi)乘客還是行人？”李俊奎認(rèn)為，面對(duì)類(lèi)似情況，要進(jìn)行充分、深度的研究和討論，建立完善的倫理和安全框架，只有當(dāng)風(fēng)險(xiǎn)可控時(shí)，才允許其繼續(xù)前行。

李俊奎介紹，螞蟻集團(tuán)在去年年初建立AI安全倫理委員會(huì)時(shí)便期望用“善治”應(yīng)對(duì)“善智”。集團(tuán)的任何AI應(yīng)用在出臺(tái)前，都會(huì)經(jīng)過(guò)包括科技倫理在內(nèi)的評(píng)測(cè)，真正做到用制度引導(dǎo)AI驅(qū)動(dòng)的業(yè)務(wù)符合“以人為本，科技向善”。

綠燈，就是為那些有益于人類(lèi)的AI應(yīng)用亮起通行信號(hào)?！鞍踩鞘侄危罱K目的是促進(jìn)AI健康發(fā)展，廣泛應(yīng)用于產(chǎn)業(yè)和方便人民的生活，縮小AI引發(fā)的技術(shù)鴻溝。”

李俊奎表示，為AI的發(fā)展設(shè)立“紅綠燈”的過(guò)程也是構(gòu)建負(fù)責(zé)任AI的過(guò)程。負(fù)責(zé)任AI的建立從長(zhǎng)遠(yuǎn)來(lái)看面臨三大趨勢(shì)：第一，從“準(zhǔn)確性”到“人情味”。除了保證AI的可靠性和準(zhǔn)確性之外，也要真正讓AI更好地服務(wù)人類(lèi)。第二，從“顯性風(fēng)險(xiǎn)被動(dòng)防控”到“隱性風(fēng)險(xiǎn)主動(dòng)防控”。第三，從“對(duì)話(huà)交互”到“有效協(xié)同”。

李俊奎認(rèn)為，負(fù)責(zé)任AI的建立需要各界多方共同努力。對(duì)于政府來(lái)說(shuō)，要制定合理的法規(guī)政策，明確紅線和監(jiān)管的機(jī)制；對(duì)于社會(huì)組織、科研機(jī)構(gòu)來(lái)說(shuō)，要加強(qiáng)對(duì)AI倫理和風(fēng)險(xiǎn)的研究，為決策提供科學(xué)依據(jù)；對(duì)于科技企業(yè)來(lái)說(shuō)，要自覺(jué)遵守道德和倫理準(zhǔn)則，將社會(huì)責(zé)任融入技術(shù)研發(fā)中；對(duì)于公眾來(lái)說(shuō)，要積極關(guān)注和參與AI發(fā)展的討論，共同構(gòu)建負(fù)責(zé)任的AI。“總之，設(shè)立好紅綠燈，建立負(fù)責(zé)任AI，是一個(gè)系統(tǒng)性、開(kāi)放性的命題，既刻不容緩，也需要長(zhǎng)期主義?！?/p>