中共二十大報(bào)告提出，在人工智能等領(lǐng)域構(gòu)建新的增長引擎。隨著人工智能技術(shù)的快速發(fā)展，面臨的科技倫理挑戰(zhàn)日益凸顯，近期火爆全網(wǎng)的ChatGPT再次引發(fā)國際社會(huì)對人工智能領(lǐng)域倫理問題的擔(dān)憂。2022年3月中辦、國辦印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見》，將人工智能作為需要加強(qiáng)科技倫理治理的重點(diǎn)領(lǐng)域之一。當(dāng)前，我國人工智能領(lǐng)域倫理治理仍面臨不少問題。

　　一是體系建設(shè)相對滯后。在制度方面，可落地實(shí)施的法律法規(guī)比較欠缺，合規(guī)底線和懲戒力度不夠明確。在管理方面，缺乏統(tǒng)籌的問題比較突出，職責(zé)分工不夠明確，倫理治理審查與監(jiān)管仍存在空白。

　　二是能力建設(shè)比較薄弱。當(dāng)前，我國人工智能領(lǐng)域倫理治理還處于起步階段，存在人員構(gòu)成不合理、倫理意識不強(qiáng)、專業(yè)能力不足、工作規(guī)則和操作規(guī)范不完善等問題，能力建設(shè)有待進(jìn)一步增強(qiáng)。

　　三是企業(yè)參與治理不足。我國在推動(dòng)人工智能企業(yè)自主參與倫理治理方面尚處于初步探索階段，對于企業(yè)參與的邊界、機(jī)制等缺乏明確的規(guī)定和操作性的制度保障，并且面臨企業(yè)參與治理的意愿不強(qiáng)、經(jīng)驗(yàn)和能力不足等問題。

　　為此，建議：

　　一是構(gòu)建多方參與的治理體系。由工信部牽頭，從領(lǐng)導(dǎo)機(jī)構(gòu)、組織架構(gòu)、領(lǐng)域分工、社會(huì)協(xié)同等方面設(shè)計(jì)人工智能領(lǐng)域倫理治理頂層架構(gòu)，明確人工智能應(yīng)用鏈條中各方需要履行的義務(wù)和責(zé)任。推進(jìn)法律法規(guī)建設(shè)，明晰法律合規(guī)底線，對數(shù)據(jù)濫用、侵犯個(gè)人隱私等行為明確懲戒力度。同時(shí)，通過國標(biāo)、行標(biāo)、企業(yè)自律規(guī)則等“軟法”方式，引導(dǎo)企業(yè)合規(guī)創(chuàng)新。吸納人工智能企業(yè)專家擔(dān)任國家科技倫理委員會(huì)人工智能分委員會(huì)委員，更好地研究和解決企業(yè)在技術(shù)創(chuàng)新中面臨的倫理問題。發(fā)揮國家新一代人工智能治理專業(yè)委員會(huì)的科技倫理咨詢作用，圍繞技術(shù)發(fā)展中可能出現(xiàn)的倫理風(fēng)險(xiǎn)進(jìn)行前瞻預(yù)研、預(yù)判。發(fā)揮國家科技智庫和相關(guān)研究力量的作用，對人工智能倫理問題進(jìn)行系統(tǒng)研究儲(chǔ)備，提供決策咨詢支撐。

　　二是開展多維度、多層次的倫理建設(shè)。開展全生命周期的價(jià)值敏感設(shè)計(jì)，在研究開發(fā)階段，對新技術(shù)可能產(chǎn)生的倫理問題進(jìn)行分析，從源頭控制潛在的倫理風(fēng)險(xiǎn)；在設(shè)計(jì)制造階段，對新產(chǎn)品在道德上被社會(huì)接受的成本和帶來的收益進(jìn)行權(quán)衡；在實(shí)驗(yàn)推廣階段，根據(jù)社會(huì)的價(jià)值選擇對新產(chǎn)品進(jìn)行調(diào)整，提高新產(chǎn)品與社會(huì)價(jià)值的相容性；在部署應(yīng)用階段，分析用戶對于新產(chǎn)品的認(rèn)可和接受程度，對應(yīng)用過程中引發(fā)的倫理風(fēng)險(xiǎn)進(jìn)行審視和反思。開展多應(yīng)用場景的倫理規(guī)制，人工智能在不同應(yīng)用場景產(chǎn)生的倫理問題和需要治理的工作重點(diǎn)不同，其倫理規(guī)制需要分別研究。如自動(dòng)駕駛、醫(yī)療診斷等日常應(yīng)用需要企業(yè)、社會(huì)公眾等基于應(yīng)用場景特點(diǎn)及實(shí)際倫理問題開展倫理規(guī)制；人工智能技術(shù)運(yùn)用于軍事對抗等帶來的倫理風(fēng)險(xiǎn)，需要通過國際協(xié)議來約束。開展交叉領(lǐng)域的倫理規(guī)制，人工智能與其他學(xué)科領(lǐng)域交叉應(yīng)用后形成新的領(lǐng)域，如人工智能與神經(jīng)技術(shù)交叉形成類腦器官，需要結(jié)合各交叉領(lǐng)域特點(diǎn)開展差異化的倫理規(guī)制研究。

　　三是鼓勵(lì)企業(yè)自主參與治理。明確企業(yè)開展倫理治理的驅(qū)動(dòng)力，主要包括：成為守倫理規(guī)則的企業(yè)，樹立在業(yè)界的企業(yè)形象；企業(yè)的產(chǎn)品不僅應(yīng)有技術(shù)競爭力，而且在倫理道德上能夠讓消費(fèi)者和業(yè)界信任；在全球范圍內(nèi)推出負(fù)責(zé)任的新技術(shù)，引領(lǐng)人工智能發(fā)展的方向等。開展企業(yè)倫理意識培養(yǎng)，對于企業(yè)高管，加強(qiáng)人工智能倫理的培訓(xùn)學(xué)習(xí)，提高倫理認(rèn)知與判斷；對于技術(shù)研發(fā)人員，倡導(dǎo)其開展負(fù)責(zé)任的技術(shù)研發(fā)，樹立“可信負(fù)責(zé)”的倫理觀。借鑒微軟等國際人工智能企業(yè)設(shè)立倫理委員會(huì)的經(jīng)驗(yàn)，支持企業(yè)內(nèi)部設(shè)立倫理委員會(huì)，審查人工智能可能帶來的失控性、侵權(quán)性、歧視性、責(zé)任性等風(fēng)險(xiǎn)，并為其獨(dú)立開展工作提供必要的條件保障。