彭晨明

（對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué) 國(guó)際商學(xué)院，北京 100029）

引言

在數(shù)字經(jīng)濟(jì)時(shí)代中，人工智能是當(dāng)前最為重要的先進(jìn)科學(xué)技術(shù)之一。人工智能將成為推動(dòng)經(jīng)濟(jì)高質(zhì)量發(fā)展的核心驅(qū)動(dòng)力。人工智能技術(shù)的出現(xiàn)顛覆了傳統(tǒng)的生產(chǎn)、決策和服務(wù)等各個(gè)商業(yè)活動(dòng)環(huán)節(jié)。人工智能不同于傳統(tǒng)機(jī)器，可進(jìn)行創(chuàng)造性思考。人工智能也不同于人類，可24小時(shí)不間斷地工作，給人們的生活帶來了巨大的便利和高效。因此，人工智能已經(jīng)被廣泛應(yīng)用于各行各業(yè)，例如自動(dòng)駕駛汽車、智能理財(cái)專家、智能醫(yī)生助手等。根據(jù)工業(yè)和信息化部數(shù)據(jù)顯示，截至2022年7月，我國(guó)人工智能核心產(chǎn)業(yè)規(guī)模已超4 000億元。然而，人工智能發(fā)展是一把雙刃劍，在帶來智能和高效的商業(yè)革新的同時(shí)，也導(dǎo)致了一系列重大的社會(huì)倫理挑戰(zhàn)，比如，個(gè)人隱私數(shù)據(jù)泄露、算法歧視和不公平、高度自主性算法的責(zé)任歸因問題等。

人工智能倫理問題的嚴(yán)峻性和急迫性引起了各國(guó)政府與國(guó)際組織的高度重視。我國(guó)科學(xué)技術(shù)部于2019年成立了新一代人工智能治理專業(yè)專委會(huì)，提出人工智能道德倫理問題和全球變暖問題一樣需警惕。聯(lián)合國(guó)教科文組織193個(gè)會(huì)員國(guó)于2021年一致通過《人工智能倫理問題建議書》。在業(yè)界和政府之外，學(xué)術(shù)界也開始探討人工智能道德倫理問題。國(guó)際商業(yè)倫理核心期刊Journal of Business Ethics發(fā)表了“人工智能時(shí)代的商業(yè)倫理”專題討論［1］，主編呼吁學(xué)術(shù)界更多思考人工智能給商業(yè)倫理研究帶來的機(jī)遇和挑戰(zhàn)。

人工智能商業(yè)倫理與商學(xué)院教育密切相關(guān)。在數(shù)字經(jīng)濟(jì)時(shí)代，人工智能應(yīng)用普遍流行于商業(yè)決策和活動(dòng)，這意味著商學(xué)院學(xué)生畢業(yè)后工作將與人工智能緊密聯(lián)系。因此，作為未來商界的重要參與者甚至是領(lǐng)導(dǎo)者，商學(xué)院學(xué)生非常有必要接受與時(shí)俱進(jìn)的人工智能倫理教育，不僅有利于個(gè)人發(fā)展，更有助于企業(yè)和社會(huì)的可持續(xù)健康發(fā)展。所以，本文將在梳理人工智能倫理的理論內(nèi)涵的基礎(chǔ)上，探討商學(xué)院的人工智能倫理教育（包括商學(xué)院的獨(dú)特性、教學(xué)模式改革、教學(xué)效果評(píng)估），以期為商學(xué)院的人工智能倫理教育提供一系列可行的建議。

一、理論內(nèi)涵的探索

人工智能道德倫理問題是人工智能活動(dòng)、發(fā)展過程中產(chǎn)生的一系列社會(huì)倫理和人類道德問題。人工智能倫理是一個(gè)跨學(xué)科的研究領(lǐng)域，涵蓋了道德倫理學(xué)、計(jì)算機(jī)科學(xué)、心理學(xué)、市場(chǎng)營(yíng)銷學(xué)等學(xué)科。目前，絕大部分人工智能倫理研究探討的是人工智能自身倫理行為，其行為的實(shí)施主體是人工智能?；谘芯恳暯堑牟町?，人工智能自身倫理行為研究可進(jìn)一步分為三類：個(gè)人、企業(yè)、政府或社會(huì)組織。

從個(gè)人視角出發(fā)，學(xué)者關(guān)注個(gè)體如何看待和評(píng)價(jià)人工智能涉及道德倫理的行為。例如，Dietvorst等［2］研討了面對(duì)涉及道德權(quán)衡的問題時(shí)，人們更愿意選擇人工智能還是人類來進(jìn)行決策。宋曉兵等［3］發(fā)現(xiàn)當(dāng)企業(yè)采取個(gè)性化定價(jià)的價(jià)格歧視策略時(shí)，因?yàn)槿斯ぶ悄埽ㄅc人類相比）定價(jià)的蓄意性歸因更低，消費(fèi)者覺得人工智能定價(jià)的價(jià)格公平性更高。從企業(yè)視角出發(fā)，研究者關(guān)心如何設(shè)計(jì)和開發(fā)人工智能，使其行為符合道德倫理規(guī)范。例如，白惠仁［4］提出在面對(duì)未來可能的交通事故時(shí)，屏蔽信息而依靠“道德運(yùn)氣”進(jìn)行隨機(jī)選擇和基于完全信息的人工智能系統(tǒng)自主抉擇都存在嚴(yán)重困難，因此應(yīng)當(dāng)為自動(dòng)駕駛汽車預(yù)設(shè)“道德算法”。從政府或社會(huì)組織視角出發(fā)，學(xué)者主要分析應(yīng)該如何治理人工智能倫理行為。例如，杜嚴(yán)勇［5］探討在法律上應(yīng)該如何界定人工智能的道德責(zé)任問題。

近年來，研究者開始探討人工智能給人類的倫理行為帶來了何種影響，而不再是人工智能自己的道德行為。例如，Kim等［6］在多個(gè)服務(wù)場(chǎng)景下（如兌換購(gòu)物券、在線購(gòu)物和退還商品等）發(fā)現(xiàn)相比人類服務(wù)者，人工智能服務(wù)者會(huì)降低人們的內(nèi)疚感，導(dǎo)致人們不道德行為概率上升。不同于關(guān)注不道德的行為，Zhou等［7］則聚焦人工智能服務(wù)對(duì)人們慈善行為的影響，其通過對(duì)比人與聊天機(jī)器人承擔(dān)慈善活動(dòng)的在線解答工作，發(fā)現(xiàn)人工智能解答員會(huì)觸發(fā)人們偏理性的實(shí)用判斷，降低捐款數(shù)額。

綜上所述，無論是人工智能自身倫理行為研究還是人工智能對(duì)人類倫理行為的影響研究，都揭示了人工智能倫理問題是亟須解決的。此外，目前主要關(guān)注的人工智能倫理問題有：（1）隱私數(shù)據(jù)風(fēng)險(xiǎn)，即個(gè)人數(shù)據(jù)被記錄和泄露的風(fēng)險(xiǎn)［8］；（2）社會(huì)價(jià)值風(fēng)險(xiǎn)，即個(gè)人工作或社會(huì)角色被人工智能取代的風(fēng)險(xiǎn)［9］；（3）偏見不公風(fēng)險(xiǎn)，即人工智能系統(tǒng)因受訓(xùn)練數(shù)據(jù)或算法邏輯影響，對(duì)特定群體產(chǎn)生歧視性結(jié)果的風(fēng)險(xiǎn)［10］；（4）責(zé)任歸因風(fēng)險(xiǎn)，指在人工智能決策導(dǎo)致問題時(shí)，錯(cuò)誤地歸因責(zé)任方的風(fēng)險(xiǎn)［11］；（5）決策解釋風(fēng)險(xiǎn)，即人工智能算法決策過程的不透明性導(dǎo)致公眾無法了解其背后的邏輯，引發(fā)可靠性擔(dān)憂。

二、商學(xué)院的人工智能倫理教育

（一）商學(xué)院人工智能倫理教育的獨(dú)特性

在人工智能倫理教育領(lǐng)域，商學(xué)院教育與其他人工智能相關(guān)學(xué)科存在明顯的差異性。具體而言，不同于計(jì)算機(jī)科學(xué)和數(shù)學(xué)等理工學(xué)科，商學(xué)院教育的重點(diǎn)不在于教授學(xué)生如何設(shè)計(jì)人工智能算法，而在于幫助學(xué)生了解人工智能在商業(yè)活動(dòng)中的應(yīng)用。例如，商科教學(xué)引導(dǎo)學(xué)生思考消費(fèi)者如何看待人工智能服務(wù)、企業(yè)如何采納人工智能設(shè)計(jì)產(chǎn)品和服務(wù)、營(yíng)銷經(jīng)理如何在思考和決策中采納人工智能建議等［12］。因此，商學(xué)院著重教導(dǎo)的是人工智能的商業(yè)應(yīng)用原則，比如隱私保護(hù)（即企業(yè)采用人工智能技術(shù)時(shí)要避免侵犯消費(fèi)者的個(gè)人隱私）、公平公正（即企業(yè)避免采納帶有偏見的人工智能技術(shù)，以免加劇社會(huì)歧視問題）以及透明度等（即企業(yè)使用人工智能技術(shù)時(shí)應(yīng)該提供清晰的決策原理，以便各方面利益相關(guān)方有充分的知情權(quán)）。由于商業(yè)競(jìng)爭(zhēng)環(huán)境是動(dòng)態(tài)且復(fù)雜的，商學(xué)院在人工智能倫理教育時(shí)，還應(yīng)該積極引導(dǎo)學(xué)生緊跟時(shí)代，敏銳地捕捉市場(chǎng)各方的變化和相應(yīng)的人工智能倫理需求，如消費(fèi)者行為、競(jìng)爭(zhēng)企業(yè)策略、供應(yīng)商管理等。最后，因?yàn)槭袌?chǎng)不是獨(dú)立于社會(huì)存在，市場(chǎng)問題涉及社會(huì)學(xué)、法學(xué)、歷史學(xué)、經(jīng)濟(jì)學(xué)等多學(xué)科領(lǐng)域，作為教師需要培養(yǎng)學(xué)生多元化視角來深入思考人工智能倫理問題，這對(duì)商科的人工智能倫理教學(xué)提出了更高的要求。

綜上所述，在數(shù)字經(jīng)濟(jì)時(shí)代，商學(xué)院的人工智能倫理教育存在獨(dú)特的機(jī)遇和挑戰(zhàn)。商學(xué)院必須重新思考和優(yōu)化教育模式。這意味著不僅要確保學(xué)生能夠在實(shí)際商業(yè)環(huán)境中做出明智的決策，更要提高他們的道德水平，使他們?cè)谖磥淼穆殬I(yè)生涯中，能夠在技術(shù)與倫理之間找到平衡，為社會(huì)創(chuàng)造更多的價(jià)值。

（二）打造滿足人工智能倫理需求的商科教學(xué)模式

為應(yīng)對(duì)數(shù)字經(jīng)濟(jì)時(shí)代人工智能倫理問題的挑戰(zhàn)，商科教學(xué)模式應(yīng)從課程設(shè)計(jì)和教學(xué)方法兩個(gè)方面進(jìn)行全面更新。具體而言，課程設(shè)計(jì)的調(diào)整主要涉及三個(gè)環(huán)節(jié)：（1）整合人工智能與商科核心課程。比如，在市場(chǎng)營(yíng)銷的“數(shù)字營(yíng)銷”“整合營(yíng)銷”“商業(yè)數(shù)據(jù)分析”等多門專業(yè)課中融合人工智能應(yīng)用的相關(guān)內(nèi)容，幫助學(xué)生了解如何在某些商業(yè)環(huán)節(jié)或決策中使用人工智能技術(shù)；（2）開設(shè)專門的人工智能商業(yè)倫理課程，講述闡釋人工智能倫理的主要風(fēng)險(xiǎn)類型和危害性，人工智能倫理的學(xué)術(shù)研究現(xiàn)狀，介紹政府和組織機(jī)構(gòu)對(duì)人工智能倫理采取的相應(yīng)措施等，幫助學(xué)生全面了解與人工智能技術(shù)相關(guān)的商業(yè)、法律和社會(huì)議題，樹立正確的人工智能道德倫理觀；（3）編寫人工智能商業(yè)倫理教材?，F(xiàn)有商科教材中鮮有涉及商業(yè)倫理的內(nèi)容，更別提人工智能商業(yè)倫理，導(dǎo)致任課教師缺少合適的資料上課，也使得學(xué)生沒有可靠的資料系統(tǒng)性了解人工智能商業(yè)倫理問題。

教學(xué)方法的變革可以從五個(gè)方面著手：（1）采用案例教學(xué)法，在課堂上引入真實(shí)人工智能商業(yè)倫理案例，幫助學(xué)生深入了解商業(yè)實(shí)踐情況。（2）開展小組討論與合作，鼓勵(lì)學(xué)生形成人工智能商業(yè)倫理學(xué)習(xí)小組，引導(dǎo)學(xué)生對(duì)人工智能倫理問題進(jìn)行批判性思考和團(tuán)隊(duì)協(xié)作調(diào)研。（3）邀請(qǐng)業(yè)界專家進(jìn)課堂，進(jìn)行現(xiàn)身說法，提供學(xué)生與人工智能商業(yè)倫理相關(guān)的最新案例。例如，一個(gè)技術(shù)公司如何在開發(fā)人工智能產(chǎn)品時(shí)考慮消費(fèi)者隱私，或一個(gè)零售企業(yè)如何利用人工智能進(jìn)行定價(jià)，同時(shí)避免對(duì)消費(fèi)者的不公平待遇。這些有助于學(xué)生進(jìn)一步了解人工智能商業(yè)倫理的現(xiàn)實(shí)意義和實(shí)踐挑戰(zhàn)。（4）商業(yè)模擬與實(shí)踐，通過采用模擬軟件或虛擬實(shí)驗(yàn)室，使得學(xué)生可以設(shè)身處地感受真實(shí)的人工智能技術(shù)環(huán)境和商業(yè)決策。例如，可以基于模擬軟件，讓學(xué)生設(shè)計(jì)人工智能商品推薦系統(tǒng)，考察人工智能設(shè)計(jì)特征對(duì)消費(fèi)者選擇的影響，以及如何防止?jié)撛诘牟还胶碗[私泄露問題。（5）提供人工智能相關(guān)實(shí)習(xí)機(jī)會(huì)，通過校企合作，讓學(xué)生進(jìn)入人工智能企業(yè)實(shí)習(xí)，全面了解人工智能的設(shè)計(jì)、管理以及應(yīng)用等各個(gè)環(huán)節(jié)。

（三）人工智能倫理教育的評(píng)估機(jī)制

在調(diào)整現(xiàn)有教學(xué)模式之后，商學(xué)院仍需構(gòu)建針對(duì)人工智能倫理教育的評(píng)價(jià)機(jī)制，以幫助課程體系和教學(xué)方法不斷迭代更新，形成良好的正向反饋。本文認(rèn)為可主要考慮三個(gè)方面：（1）學(xué)生評(píng)估。學(xué)生是教育的根本與受眾。商學(xué)院應(yīng)該定期通過在線問卷或者線下訪談的方式收集學(xué)生的意見，又或者基于考試或測(cè)評(píng)評(píng)估學(xué)生人工智能倫理知識(shí)的掌握程度。（2）教師互評(píng)和專家反饋。學(xué)校建立完善的教師互評(píng)、督導(dǎo)評(píng)審、外部專家打分等多環(huán)節(jié)多方位的評(píng)估反饋機(jī)制，促進(jìn)教師間的相互交流，也為年輕教師提供了更多向前輩專家學(xué)習(xí)的機(jī)會(huì)。（3）業(yè)界交流與反饋。與業(yè)界建立長(zhǎng)期的合作關(guān)系及洽談實(shí)習(xí)等合作機(jī)會(huì)，積極收集用人單位對(duì)于實(shí)習(xí)生或畢業(yè)生在人工智能倫理方面表現(xiàn)的評(píng)價(jià)和建議，從而調(diào)整教育方案和方法。

結(jié)語(yǔ)

隨著人工智能在各行各業(yè)的迅速普及，應(yīng)對(duì)其引發(fā)的道德倫理問題已經(jīng)迫在眉睫。我院及時(shí)將人工智能倫理納入教育體系中，培養(yǎng)未來商界領(lǐng)袖。商學(xué)院可在三方面進(jìn)行調(diào)整：（1）不同于理工科，商科教育要強(qiáng)調(diào)人工智能應(yīng)用的倫理問題，而不是從技術(shù)視角探討人工智能算法的開發(fā)；（2）改革課程設(shè)計(jì)和教學(xué)方法，將人工智能倫理融入商科教育中；（3）從學(xué)生評(píng)估、教師專家指點(diǎn)、業(yè)界反饋三個(gè)方面構(gòu)建全面的人工智能倫理教育評(píng)估機(jī)制。