劉瑞琳,陳 凡

(東北大學(xué)科學(xué)技術(shù)哲學(xué)研究中心,遼寧沈陽(yáng) 110819)

技術(shù)設(shè)計(jì)的創(chuàng)新方法與倫理考量
——弗里德曼的價(jià)值敏感設(shè)計(jì)方法論述評(píng)

劉瑞琳,陳 凡

(東北大學(xué)科學(xué)技術(shù)哲學(xué)研究中心,遼寧沈陽(yáng) 110819)

價(jià)值敏感設(shè)計(jì)是一種關(guān)于技術(shù)設(shè)計(jì)的創(chuàng)新理論方法,它從價(jià)值與技術(shù)設(shè)計(jì)相互作用的角度辯證地看待技術(shù)設(shè)計(jì)和社會(huì)環(huán)境,采用概念、經(jīng)驗(yàn)和技術(shù)調(diào)查的三重研究方法,強(qiáng)調(diào)技術(shù)設(shè)計(jì)過程中道德價(jià)值的輸入,致力于在技術(shù)設(shè)計(jì)階段有效解決技術(shù)中的倫理問題。價(jià)值敏感設(shè)計(jì)提倡設(shè)計(jì)師充分考量技術(shù)用戶及其他利益相關(guān)者的道德感受和價(jià)值訴求,具有很強(qiáng)的現(xiàn)實(shí)意義和一定的先進(jìn)性,但仍可能面臨某些質(zhì)疑。價(jià)值敏感設(shè)計(jì)的實(shí)踐應(yīng)用會(huì)受到技術(shù)中諸多復(fù)雜因素的影響,仍需要不斷地完善和發(fā)展。

技術(shù)設(shè)計(jì);價(jià)值敏感設(shè)計(jì);技術(shù)倫理;芭提雅·弗里德曼

信息系統(tǒng)的設(shè)計(jì)一直以來的研究旨趣在于維系人類亙古不變的價(jià)值,如隱私、所有權(quán)和財(cái)產(chǎn)權(quán)、物質(zhì)幸福、公正、通用性、自主性、知情同意、信任等,但信息系統(tǒng)對(duì)這些價(jià)值損益兼而有之。例如,旨在增強(qiáng)公民和國(guó)家安全而安裝于銀行、商場(chǎng)和機(jī)場(chǎng)的監(jiān)控?cái)z像頭,往往侵害了個(gè)人隱私;網(wǎng)絡(luò)上的海量圖像和文字大大拓展了可用信息量,但由此帶來的知識(shí)侵權(quán)問題不容忽視。為了應(yīng)對(duì)信息技術(shù)人機(jī)交互領(lǐng)域的進(jìn)步和發(fā)展帶來的角色和利益關(guān)系的轉(zhuǎn)變,美國(guó)華盛頓大學(xué)信息學(xué)院教授芭提雅·弗里德曼(Batya Friedman)等于20世紀(jì)90年代前后提出一個(gè)在信息技術(shù)設(shè)計(jì)的早期階段解決倫理問題的方法,致力于提供一個(gè)“在設(shè)計(jì)過程中以原則性和全面性的方式詮釋和維系人的價(jià)值”[1]1的方法論體系來處理設(shè)計(jì)工作的上述價(jià)值維度,即價(jià)值敏感設(shè)計(jì)(value sensitive design),以期為其他研究人員和設(shè)計(jì)師的研究和方法體系的系統(tǒng)構(gòu)建提供足夠的細(xì)節(jié)參考[2]1。

一、弗里德曼的價(jià)值敏感設(shè)計(jì)研究歷程

弗里德曼是華盛頓大學(xué)信息學(xué)院教授、計(jì)算機(jī)科學(xué)研究所兼職教授、人性化工程研究所兼職教授及價(jià)值敏感設(shè)計(jì)研究實(shí)驗(yàn)室?guī)ь^人。1979年獲得美國(guó)加州大學(xué)伯克利分校學(xué)士學(xué)位,1988年獲得美國(guó)加州大學(xué)伯克利分校博士學(xué)位。2012年獲得SIG-CHI(special interest group on computer human interaction)社會(huì)貢獻(xiàn)獎(jiǎng)。

弗里德曼的價(jià)值敏感設(shè)計(jì)研究首先在人機(jī)交互中發(fā)展,至今已經(jīng)被應(yīng)用于信息管理、人與機(jī)器人交互、計(jì)算機(jī)安全、土木工程、應(yīng)用哲學(xué)、土地使用和運(yùn)輸?shù)阮I(lǐng)域。價(jià)值敏感設(shè)計(jì)在弗里德曼的研究中一以貫之,得到了廣泛的使用和驗(yàn)證。

弗里德曼從20世紀(jì)90年代就已從事計(jì)算機(jī)技術(shù)設(shè)計(jì)和人類價(jià)值的相關(guān)研究。較早的相關(guān)研究文獻(xiàn)為1992年的《人類(人道)使用的計(jì)算機(jī)系統(tǒng)設(shè)計(jì)》和《人類主體與負(fù)責(zé)任計(jì)算:計(jì)算機(jī)系統(tǒng)設(shè)計(jì)的啟示》(1997年再版時(shí)更名為《人類價(jià)值和計(jì)算機(jī)技術(shù)設(shè)計(jì)》)。弗里德曼關(guān)于價(jià)值敏感性設(shè)計(jì)的敘述最早見于她1996年發(fā)表于《交互》(Interactions)雜志“看法”(perspective)欄目的《價(jià)值敏感性設(shè)計(jì)》。在這篇文章中,弗里德曼討論了兩個(gè)價(jià)值即用戶自主性和公正無偏見,總結(jié)了關(guān)于價(jià)值敏感設(shè)計(jì)重要性的幾點(diǎn)思考:對(duì)價(jià)值敏感設(shè)計(jì)實(shí)施的合理限制和價(jià)值敏感設(shè)計(jì)如何對(duì)經(jīng)濟(jì)授權(quán)作補(bǔ)充。

2000年之前弗里德曼的研究主題側(cè)重于計(jì)算機(jī)系統(tǒng)設(shè)計(jì)中的人為因素,如1992年《人類主體與負(fù)責(zé)任計(jì)算:計(jì)算機(jī)系統(tǒng)設(shè)計(jì)的啟示》,1995年《計(jì)算機(jī)系統(tǒng)中的偏見最小化》。

2000—2008年,弗里德曼主要關(guān)注網(wǎng)絡(luò)瀏覽器的安全性和人的價(jià)值,探討網(wǎng)頁(yè)瀏覽器設(shè)計(jì)中的價(jià)值敏感性,不斷完善關(guān)于價(jià)值敏感設(shè)計(jì)的理論與方法,并與多人合作,研究興趣擴(kuò)展至智能機(jī)器人及城市模擬和大型顯示器的科技屬性領(lǐng)域。如2002年的《火狐瀏覽器中的知情同意:價(jià)值敏感設(shè)計(jì)的實(shí)現(xiàn)》;2003年的《兒童與人工智能機(jī)器狗的互動(dòng)編碼手冊(cè)——學(xué)前教育研究》(第二作者);2004年參與編著的《人機(jī)交互百科全書》中的“價(jià)值敏感設(shè)計(jì)”篇;2005年的《遠(yuǎn)程花園的人機(jī)對(duì)話所揭示的人與遙控機(jī)器人的互動(dòng)》(第二作者);2008年參與編著的《信息與計(jì)算機(jī)倫理手冊(cè)》中的“價(jià)值敏感設(shè)計(jì)和信息系統(tǒng)”一章;2008年《未來的辦公窗口?——大屏幕新用途的現(xiàn)場(chǎng)分析》。

近幾年弗里德曼的研究逐漸轉(zhuǎn)向工業(yè)中的價(jià)值敏感設(shè)計(jì)和開放源代碼工具、移動(dòng)計(jì)算、植入式醫(yī)療設(shè)備、泛在計(jì)算和計(jì)算機(jī)基礎(chǔ)設(shè)施等多維系統(tǒng)設(shè)計(jì)。如2006年的《開放源代碼許可的隱私增編的發(fā)展:工業(yè)中的價(jià)值敏感設(shè)計(jì)》;2010年的《患者、心臟起搏器、植入去纖顫器:人的價(jià)值和無線植入式醫(yī)療設(shè)備的安全性》(第三作者);2012年的The Envisioning Cards:A Toolkit for Catalyzing Humanistic and Technical Imagination。

二、價(jià)值敏感設(shè)計(jì)的哲學(xué)意蘊(yùn)

1.技術(shù)設(shè)計(jì)中的人類價(jià)值

價(jià)值本身具有多樣性,從不同的角度可區(qū)分出不同的價(jià)值,如從性質(zhì)上有正、負(fù)價(jià)值,從量上有大、小價(jià)值,從內(nèi)容上有經(jīng)濟(jì)價(jià)值、科學(xué)價(jià)值、文化價(jià)值、政治價(jià)值、體育價(jià)值和醫(yī)療價(jià)值等[3]。有些研究認(rèn)為倫理學(xué)應(yīng)被歸入價(jià)值理論體系中,但更普遍的看法是認(rèn)為倫理價(jià)值僅是倫理學(xué)的一個(gè)組成部分。各種看法的統(tǒng)一共識(shí)是價(jià)值不能與事實(shí)混為一談(事實(shí)/價(jià)值的區(qū)別),尤其是就邏輯意味而言,事實(shí)并不意味著價(jià)值。價(jià)值不僅來自于對(duì)外部世界的經(jīng)驗(yàn)描述,實(shí)質(zhì)上更依賴于人類文化環(huán)境內(nèi)的利益和愿望[2]2。價(jià)值敏感設(shè)計(jì)在探究?jī)r(jià)值時(shí)不僅考量人類的倫理價(jià)值訴求,也涉及技術(shù)領(lǐng)域的其他價(jià)值。

弗里德曼從具體化、外在化和相互作用三個(gè)角度論述了價(jià)值存在于技術(shù)設(shè)計(jì)中的方式。價(jià)值敏感設(shè)計(jì)是從相互作用的角度探討技術(shù)設(shè)計(jì)中的價(jià)值。

(1)具體化的角度

具體化的觀點(diǎn)認(rèn)為設(shè)計(jì)者將自身的意圖和價(jià)值觀嵌入技術(shù)中,技術(shù)應(yīng)用和開展的結(jié)果將決定使用者的特定行為。強(qiáng)硬派技術(shù)決定論認(rèn)為設(shè)計(jì)者和制作者帶入到工作中的意圖和傾向無形中必將化為技術(shù)的一部分,這一觀點(diǎn)備受詬病。溫和派的技術(shù)決定論則認(rèn)為,技術(shù)人工物本身并不能體現(xiàn)意圖或者意向,技術(shù)設(shè)計(jì)者也受組織、經(jīng)濟(jì)和政治力量的培養(yǎng)和影響;由于上述力量的存在,某一項(xiàng)特定技術(shù)一旦穩(wěn)定生根,對(duì)其的控制將困難重重。

(2)外在化的角度

外在化的觀點(diǎn)認(rèn)為經(jīng)濟(jì)、政治、種族、階級(jí)、年齡和宗教等社會(huì)力量影響和塑造了可實(shí)施的技術(shù);技術(shù)系統(tǒng)不是價(jià)值中立的,無一例外地偏向擁有經(jīng)濟(jì)和政治權(quán)力的人的利益。

(3)相互作用的角度

互動(dòng)的立場(chǎng)認(rèn)為人類通過設(shè)計(jì)融入到技術(shù)之中的特征和屬性更易于支持或妨礙某個(gè)價(jià)值觀的實(shí)現(xiàn),技術(shù)的實(shí)際應(yīng)用取決于人類與其相互作用的目的。技術(shù)在創(chuàng)造和設(shè)計(jì)后,通過與技術(shù)使用者的相互作用,經(jīng)歷再創(chuàng)造和再設(shè)計(jì)的過程,得到不斷地改變和完善。相互作用的觀點(diǎn)認(rèn)為應(yīng)當(dāng)辯證地看待設(shè)計(jì)和社會(huì)環(huán)境,技術(shù)用戶已逐漸具備應(yīng)對(duì)和處理植入違背用戶本意的價(jià)值導(dǎo)向的技術(shù)的能力,目前存在兩種對(duì)立的觀點(diǎn),其中一方觀點(diǎn)是強(qiáng)調(diào)使用者如何在社會(huì)組織結(jié)構(gòu)背景下使用技術(shù),代表人物是W.J.奧里科夫斯基(Wanda J. Orlikowski)。奧里科夫斯基跟蹤觀察大型跨國(guó)咨詢公司中的兩個(gè)群體:技術(shù)人員和顧問,研究他們使用蓮花開發(fā)公司的Notes軟件①Lotus Software(蓮花公司,全名Lotus Development Corporation)是一家美國(guó)軟件公司,總部位于美國(guó)馬薩諸塞州波士頓。這家公司最著名的軟體是Lotus 1-2-3試算表軟體。1995年該公司被IBM以35億美元并購(gòu)。以Lotus Notes為客戶端的Lotus Domino平臺(tái)為眾多企業(yè)所采納,是該公司的旗艦級(jí)產(chǎn)品。的情況。相比技術(shù)人員對(duì)該軟件的廣泛使用,顧問對(duì)其卻極少問津。奧里科夫斯基認(rèn)為造成上述現(xiàn)象的原因有三:第一,部分顧問對(duì)Notes軟件呈現(xiàn)的價(jià)值持懷疑態(tài)度;第二,“許多顧問因?yàn)椴恢朗褂肗otes軟件可以納入計(jì)時(shí)收費(fèi)項(xiàng)目中而不愿意花時(shí)間學(xué)習(xí)和使用”;第三,部分顧問擔(dān)心Notes軟件的協(xié)作屬性會(huì)威脅到他們?cè)诠镜莫?dú)立地位。因此,奧里科夫斯基提出了“技術(shù)結(jié)構(gòu)的視圖不是在給定的技術(shù)人工物中體現(xiàn),而是由技術(shù)使用者們反復(fù)的社會(huì)實(shí)踐活動(dòng)來制定”[4]。

相互作用角度的另一方的觀點(diǎn)強(qiáng)調(diào)嵌入到技術(shù)設(shè)計(jì)中的屬性,以弗里德曼為代表,并形成了較完善的成果:價(jià)值敏感設(shè)計(jì)。價(jià)值敏感設(shè)計(jì)認(rèn)為技術(shù)具有強(qiáng)烈的道德和價(jià)值含義,技術(shù)的設(shè)計(jì)應(yīng)被前攝性地主動(dòng)影響,應(yīng)考慮到設(shè)計(jì)過程中的人類價(jià)值,而不是僅僅在技術(shù)設(shè)計(jì)完成后作出反應(yīng)。價(jià)值敏感設(shè)計(jì)特別強(qiáng)調(diào)道德價(jià)值的輸入,涵蓋了隱私、信任、知情同意、尊重知識(shí)產(chǎn)權(quán)、通用性、無偏見、道德責(zé)任、義務(wù)、誠(chéng)實(shí)和民主等價(jià)值,也涉及實(shí)用性的價(jià)值(如系統(tǒng)操作的簡(jiǎn)易化)、公約(如標(biāo)準(zhǔn)化協(xié)議)和個(gè)人品味(如圖形化用戶界面中的顏色偏好)等[5]。

在2008年出版的《信息與計(jì)算機(jī)倫理手冊(cè)》中的“價(jià)值敏感設(shè)計(jì)和信息系統(tǒng)”一章的6.8節(jié)“系統(tǒng)設(shè)計(jì)通常涉及的人類價(jià)值(道德輸入)”里,弗里德曼等人給出了價(jià)值敏感設(shè)計(jì)中所涉及的13個(gè)價(jià)值及示例文獻(xiàn),包括9個(gè)基于道義論和因果道德取向的傳統(tǒng)價(jià)值:人類幸福、所有權(quán)和財(cái)產(chǎn)、隱私、公正、普適性、信任、自主性、知情同意、責(zé)任,4個(gè)人機(jī)交互領(lǐng)域里的非傳統(tǒng)價(jià)值:禮貌、身份、冷靜、環(huán)境可持續(xù)[2]18。

2.價(jià)值敏感設(shè)計(jì)的倫理和哲學(xué)基礎(chǔ)

弗里德曼認(rèn)為,道德論中的效果論、義務(wù)論和美德論同樣適用于分析和進(jìn)行技術(shù)設(shè)計(jì)。從效果論或者義務(wù)論的角度看,溫情和友好也許不屬于人類價(jià)值觀,畢竟一個(gè)人“熱心腸”的行為可能不是出于道德責(zé)任感;但是美德倫理學(xué)家基本上會(huì)認(rèn)為溫情和友好的確是人類價(jià)值,因?yàn)檫@些價(jià)值恰恰被認(rèn)為是道德人格的核心。當(dāng)然,友好、關(guān)懷和耐心等美德的秉持和實(shí)現(xiàn)通常不是強(qiáng)制性的,并不具備道德的義務(wù)性。

從道德認(rèn)識(shí)論中的懷疑論和道德相對(duì)論的角度,道德知識(shí)的反應(yīng)具有一定的相對(duì)性,沒有人可以定義真正的正確或錯(cuò)誤,所以道德觀和價(jià)值觀僅是在技術(shù)設(shè)計(jì)中個(gè)人的最優(yōu)選擇。

弗里德曼認(rèn)為,技術(shù)設(shè)計(jì)應(yīng)充分吸取道德差異化和普適性兩種理論的可取之處,從中獲得更明智和更強(qiáng)大的方法,既要有普遍的道德價(jià)值觀的分析,也考慮這些價(jià)值在特定的時(shí)間和文化環(huán)境中的不同的表現(xiàn)形式[6]。

三、價(jià)值敏感設(shè)計(jì)的研究方法

價(jià)值敏感設(shè)計(jì)是一種假設(shè)設(shè)計(jì)過程并非中性的技術(shù)倫理學(xué)方法,它假設(shè)設(shè)計(jì)過程是負(fù)載價(jià)值和道德相關(guān)的,認(rèn)為出于倫理道德的相關(guān)考量對(duì)技術(shù)人工物世界的塑造產(chǎn)生了一定影響。價(jià)值敏感設(shè)計(jì)旨在以一種原則的和綜合的整體視角去說明貫穿設(shè)計(jì)過程的人的價(jià)值,采用一個(gè)綜合性的三重方法論,包括概念、經(jīng)驗(yàn)和技術(shù)研究的方法。

1.概念研究

概念的研究方法是對(duì)主要結(jié)構(gòu)和問題進(jìn)行哲學(xué)闡釋,目的是為了深入研究和分析與具體的技術(shù)設(shè)計(jì)相關(guān)的倫理價(jià)值,充分考慮某一個(gè)技術(shù)設(shè)計(jì)對(duì)直接和間接利益相關(guān)者的社會(huì)性影響。直接利益相關(guān)者指的是直接受計(jì)算機(jī)系統(tǒng)及其輸出影響的個(gè)人或組織;間接利益相關(guān)者指的是受信息系統(tǒng)使用所影響的所有其他各方,這部分利益相關(guān)者常常被設(shè)計(jì)者所忽視。弗里德曼認(rèn)為,這一階段需要考慮的問題主要有:哲學(xué)類文獻(xiàn)如何定義某些特定的價(jià)值(如信任、隱私、知情同意)?受此項(xiàng)設(shè)計(jì)影響的直接和間接利益相關(guān)者是誰?我們?nèi)绾卧诩夹g(shù)的設(shè)計(jì)、實(shí)施和使用中對(duì)相互矛盾的價(jià)值進(jìn)行權(quán)衡(如自主與安全,匿名與信任)?價(jià)值敏感設(shè)計(jì)在概念性研究的范疇下研究上述問題。

此外,還需要設(shè)定上述問題發(fā)生的歷史背景與現(xiàn)實(shí)背景,以及從整體上描述具體的技術(shù)設(shè)計(jì)問題。例如,弗里德曼等人分析網(wǎng)絡(luò)系統(tǒng)設(shè)計(jì)中的信任時(shí),首先對(duì)信任這一價(jià)值進(jìn)行哲學(xué)概念化闡釋。他們提出,信任指的是即使信任者處于易遭受傷害的狀態(tài),仍然確信具備施害能力的被信任者不會(huì)傷害自己。信任有賴于信任者基于以下三種情形的評(píng)估:一是可能遭受的傷害;二是被信任者所具備的不對(duì)信任者施加傷害的善意;三是若超出信任關(guān)系界限之外傷害能否發(fā)生。

通過上述對(duì)信任這一價(jià)值的概念研究,弗里德曼等人能有效區(qū)分網(wǎng)絡(luò)系統(tǒng)中的信任有別于傳統(tǒng)的信任研究之處。美國(guó)計(jì)算機(jī)科學(xué)與通信局在《網(wǎng)絡(luò)空間的信任》中采取“信任”和“可信”來定義按預(yù)期執(zhí)行的信息系統(tǒng)應(yīng)具有的正確性、可靠性、安全性和可維持性等維度。這里的信任,是對(duì)機(jī)器預(yù)期性能的“信任”,這跟人與人之間的關(guān)系(可能是機(jī)器介導(dǎo)的)的信任明顯不同[7]。

2.實(shí)證研究

實(shí)證研究在概念研究基礎(chǔ)上,使用觀察、訪談、調(diào)查、實(shí)驗(yàn)操作、相關(guān)文件收集、用戶行為和人體生理測(cè)量等定量和定性方法,為概念研究中探討的價(jià)值因素提供必要的經(jīng)驗(yàn)數(shù)據(jù)支持,同時(shí)為某項(xiàng)設(shè)計(jì)的技術(shù)研究提供經(jīng)驗(yàn)數(shù)據(jù)的反饋,關(guān)注的是人們對(duì)技術(shù)人工物的應(yīng)對(duì)及技術(shù)在更大的社會(huì)背景中所處的位置。弗里德曼認(rèn)為,這一階段需要考慮的問題主要有:利益相關(guān)者怎樣理解互動(dòng)語(yǔ)境下的個(gè)人價(jià)值觀?在設(shè)計(jì)權(quán)衡中利益相關(guān)者如何取舍互相矛盾的價(jià)值?預(yù)期和實(shí)際操作是否存在差異?技術(shù)組織如何在設(shè)計(jì)過程中影響對(duì)價(jià)值的考量(如組織的動(dòng)機(jī)、訓(xùn)練和宣傳方法,以及獎(jiǎng)勵(lì)結(jié)構(gòu)是什么)?

弗里德曼等人分析了信息系統(tǒng)設(shè)計(jì)中“可用性”這一特殊價(jià)值與人類道德價(jià)值的復(fù)雜關(guān)系模式:一種是能夠兼顧可用性和有益于某個(gè)道德價(jià)值(例如高可用性的電腦接口也可以增進(jìn)用戶自主性);另一種是以犧牲某個(gè)人類價(jià)值為前提的可用性(例如一個(gè)高可用性的監(jiān)視系統(tǒng)對(duì)隱私的侵害);第三種是有益于人類價(jià)值卻阻礙了可用性(例如為了保護(hù)用戶的知情同意權(quán),網(wǎng)頁(yè)瀏覽器要求用戶對(duì)單個(gè)cookie進(jìn)行操作,大大降低了瀏覽器的可用性);第四種是以支持某個(gè)價(jià)值為必要前提的可用性(例如為了保證美國(guó)全國(guó)大選網(wǎng)上投票系統(tǒng)的公正性,所有的適齡選民都必須會(huì)使用該投票系統(tǒng))。弗里德曼認(rèn)為,一個(gè)可行的信息系統(tǒng)的設(shè)計(jì)必須對(duì)可用性和人類道德價(jià)值作出權(quán)衡[1]3。

3.技術(shù)研究

技術(shù)研究是研究具體的技術(shù)設(shè)計(jì)細(xì)節(jié)與因素,從而能夠在具體的技術(shù)設(shè)計(jì)語(yǔ)境下促進(jìn)或者阻礙既定的價(jià)值。弗里德曼認(rèn)為在信息系統(tǒng)設(shè)計(jì)中,一個(gè)特定的技術(shù)更易于支持某類活動(dòng)和某個(gè)道德價(jià)值,同時(shí)使其他活動(dòng)和價(jià)值更難以實(shí)現(xiàn)。

技術(shù)研究著重于對(duì)信息技術(shù)系統(tǒng)的設(shè)計(jì)及對(duì)現(xiàn)有技術(shù)的性能的分析。對(duì)信息技術(shù)系統(tǒng)的設(shè)計(jì)是通過主動(dòng)設(shè)計(jì)來支持概念研究中對(duì)價(jià)值的確定,分析既存的技術(shù)屬性與潛在的機(jī)制如何支持或阻礙價(jià)值的實(shí)現(xiàn);對(duì)現(xiàn)有技術(shù)的性能的分析涉及對(duì)現(xiàn)有技術(shù)的性能和基本機(jī)制如何支持或阻礙人類價(jià)值觀的回溯性分析。例如,某些以視頻為主的協(xié)同工作系統(tǒng)僅是粗略監(jiān)控辦公室設(shè)施,另一些系統(tǒng)則提供工作情形的詳細(xì)清晰影像,上述兩種系統(tǒng)的不同源于對(duì)個(gè)人隱私和群體中個(gè)人成員的存在與活動(dòng)兩類價(jià)值的權(quán)衡的差異。關(guān)于對(duì)現(xiàn)有技術(shù)的性能的分析這一方面,弗里德曼認(rèn)為,技術(shù)的方法也可能涉及實(shí)證的活動(dòng),技術(shù)的方法關(guān)注的是技術(shù)本身,而實(shí)證的方法專注于人[8]。

四、價(jià)值敏感設(shè)計(jì)的考量與追問

價(jià)值敏感設(shè)計(jì)在有效處理技術(shù)使用中的道德問題和對(duì)技術(shù)進(jìn)行有效控制方面,具有很強(qiáng)的實(shí)踐意義和一定的先進(jìn)性,但因處于起步階段,目前還需面對(duì)質(zhì)疑和問題。

1.實(shí)踐意義和先進(jìn)性

(1)實(shí)踐意義

價(jià)值敏感設(shè)計(jì)具有主動(dòng)性,主張?jiān)谠O(shè)計(jì)過程早期和整個(gè)過程中影響技術(shù)的設(shè)計(jì);拓展了人類價(jià)值觀的范疇,包含了所有的價(jià)值觀,尤其是道德輸入的價(jià)值觀;提出了獨(dú)特的綜合方法論,包括了概念、實(shí)證和技術(shù)研究;是強(qiáng)調(diào)互動(dòng)性的理論,從具體化和抽象化兩個(gè)層面進(jìn)行研究,強(qiáng)調(diào)人們和社會(huì)系統(tǒng)對(duì)技術(shù)發(fā)展的影響,認(rèn)為新技術(shù)塑造(非生硬的決定)個(gè)體行為和社會(huì)系統(tǒng);利用道德認(rèn)識(shí)論來為設(shè)計(jì)提供一個(gè)原則性的方法,來維系涉及人類福祉、權(quán)利和公正等特定價(jià)值觀,對(duì)自主的道德個(gè)體或團(tuán)體秉承的價(jià)值觀進(jìn)行有效引導(dǎo)。

(2)先進(jìn)性

“社會(huì)和人的問題的妥善解決在很大程度上是目標(biāo)確定和價(jià)值選擇的問題,作為手段而非目的的科學(xué)和技術(shù)對(duì)此先天乏力。任何對(duì)人類事務(wù)進(jìn)行科學(xué)管理而制定的規(guī)劃,在目標(biāo)選擇的緊要關(guān)頭都大大地受到有關(guān)價(jià)值的不確定性、矛盾和沖突的限制。這些價(jià)值源出于確定的科學(xué)和技術(shù)領(lǐng)域之外的宗教、倫理和美學(xué)的思維方式和行為方式?！盵9]價(jià)值敏感設(shè)計(jì)將倫理的和道德的考量等價(jià)值判斷帶入技術(shù)設(shè)計(jì)中,能有效避免、檢驗(yàn)和解決技術(shù)設(shè)計(jì)和應(yīng)用中面臨的種種有關(guān)價(jià)值的不確定性、矛盾和沖突等問題。

2.質(zhì)疑與可能的局限性

價(jià)值敏感設(shè)計(jì)特別強(qiáng)調(diào)道德輸入,主張將經(jīng)過權(quán)衡和篩選的道德價(jià)值預(yù)設(shè)于技術(shù)設(shè)計(jì)中,讓使用者的行為在使用技術(shù)時(shí)受到影響從而符合道德規(guī)范,由此,技術(shù)使用中的道德問題可能得到有效解決,以達(dá)到對(duì)技術(shù)進(jìn)行有效控制的目的。“技術(shù)專家(可靠地)知曉所有與人類社會(huì)的生存和幸福有關(guān)的事物:人的需要、社會(huì)工程、經(jīng)濟(jì)計(jì)劃、國(guó)際關(guān)系、發(fā)明、教育等等”[9],那么負(fù)載著經(jīng)技術(shù)專家選定的道德價(jià)值和道德規(guī)范的技術(shù)是否就能決定人的道德取向和行為呢?技術(shù)哲學(xué)家埃呂爾早有先見之明:“技術(shù)(technique)需要可預(yù)見性,居然也需要一樣的預(yù)見的精確性。于是,技術(shù)戰(zhàn)勝人是必然的。對(duì)于技術(shù)而言,這是生和死的問題。技術(shù)必定把人變?yōu)榧夹g(shù)動(dòng)物,即技術(shù)奴隸的首領(lǐng)。人的暢想在這種必然性面前破碎了;在面對(duì)技術(shù)的自主性時(shí)不會(huì)有人的自主性。個(gè)人不得不被技術(shù)塑造,或被消極地(通過理解人的技術(shù))塑造,或被積極地(通過使人適應(yīng)技術(shù)框架)塑造,以便擦去他的私人決定帶入組織機(jī)構(gòu)的完美設(shè)計(jì)中的污漬?！盵10]技術(shù)統(tǒng)治主義認(rèn)為,技術(shù)所負(fù)載的獨(dú)特價(jià)值主宰著人類社會(huì)文化價(jià)值的變遷,如果技術(shù)設(shè)計(jì)者真的能夠把一定的價(jià)值觀念預(yù)設(shè)到技術(shù)產(chǎn)品之中,并能通過技術(shù)產(chǎn)品的使用來影響使用者的行為,那么技術(shù)設(shè)計(jì)者具備設(shè)定價(jià)值觀念和道德規(guī)范的權(quán)力和能力嗎?如果設(shè)計(jì)師的行為不受到一定法律和道德程序的規(guī)范,這是否會(huì)有“技術(shù)專家統(tǒng)治論”的嫌疑[11]?

另外,把價(jià)值敏感設(shè)計(jì)理論用到技術(shù)設(shè)計(jì)中并非易事,價(jià)值敏感設(shè)計(jì)如何被整合到現(xiàn)有的技術(shù)人工物設(shè)計(jì)研發(fā)的實(shí)踐中,往往受到使用者、使用環(huán)境等多方面因素的影響,技術(shù)的使用過程是不可控的,最終可能導(dǎo)致技術(shù)設(shè)計(jì)者原初目的與實(shí)際效果的偏差,甚至?xí)霈F(xiàn)事與愿違的結(jié)果。

瑪麗·L.卡明斯(Mary L.Cummings)教授認(rèn)為,價(jià)值敏感設(shè)計(jì)并不追求提供成熟的設(shè)計(jì)方法,在一定程度上,它可以被視為一個(gè)提高現(xiàn)有設(shè)計(jì)過程的工具,因?yàn)閮r(jià)值敏感設(shè)計(jì)遵循了一個(gè)常用工程方法的普遍應(yīng)用模式,它能夠很容易地納入已經(jīng)建立的設(shè)計(jì)過程[12]。

五、結(jié) 語(yǔ)

價(jià)值敏感設(shè)計(jì)能夠使道德規(guī)范和倫理價(jià)值在技術(shù)實(shí)踐中不斷應(yīng)用、預(yù)測(cè)、檢驗(yàn)與修正,有助于價(jià)值與技術(shù)設(shè)計(jì)實(shí)踐之間的平衡,有助于增強(qiáng)技術(shù)設(shè)計(jì)者的倫理意識(shí)和價(jià)值敏感性,使得設(shè)計(jì)者能夠設(shè)身處地地考量技術(shù)用戶和公眾及其他社會(huì)群體的道德感受和價(jià)值訴求,在設(shè)計(jì)語(yǔ)境中預(yù)設(shè)技術(shù)人工物的設(shè)計(jì)應(yīng)用和普及的種種可能性,有效實(shí)現(xiàn)了設(shè)計(jì)者與各個(gè)利益相關(guān)者的互動(dòng)。盡管價(jià)值敏感設(shè)計(jì)仍需要不斷地完善和擴(kuò)充,但價(jià)值敏感設(shè)計(jì)是技術(shù)的利益相關(guān)者在技術(shù)設(shè)計(jì)開發(fā)的早期階段負(fù)責(zé)任地參與解決道德問題的一種比較合適的方法論,對(duì)中國(guó)的技術(shù)哲學(xué)和技術(shù)倫理學(xué)研究具有重要的借鑒價(jià)值,有助于中國(guó)特色的技術(shù)哲學(xué)研究。

[1]Friedman B,Kahn P H Jr,Borning A.Value Sensitive Design:Theory and Methods[R].Washington,D.C.: University of Washington,2002.

[2]Friedman B,Kahn P H Jr,Borning A.Value Sensitive Design and Information Systems[M]∥Himma K E, Tavani H T.The Handbook of Information and Computer Ethics.Hoboken:Wiley,2008.

[3]閆宏秀.技術(shù)進(jìn)步與價(jià)值選擇[D].上海:復(fù)旦大學(xué)哲學(xué)系,2003:43.

[4]Orilikowski W J.Using Technology and Constituting Structures:A Practice Lens for Studying Technology in Organizations[J].Organization Science,2000,11(4):404 -428.

[5]Friedman B.Value Sensitive Design[M]∥Bainbridge W S.Berkshire Encyclopedia of Human-computer Interaction.Berkshire:Berkshire Publishing Group, 2004:769.

[6]Friedman B,Kahn P H Jr.Human Values,Ethics,and Design[M]∥Jacko J,Sears A.The Human-computer Interaction Handbook.Mahwah:Lawrence Erlbaum Associates,2003:1182-1183.

[7]Friedman B,Kahn P H Jr,Howe D C.Trust online[J]. Communication of the ACM,2000,43(12):34-40.

[8]Yetim F.Bringing Discourse Ethics to Value Sensitive Design:Pathways Toward a Deliberative Future[J]. Transactions on Human-computer Interaction,2011,3 (2):135.

[9]李醒民.論技治主義[J].哈爾濱工業(yè)大學(xué)學(xué)報(bào):社會(huì)科學(xué)版,2005,7(6):1-5.

[10]Roszac T.The Making of Counter Culture,Reflection on the Technocratic Society and Its Youthful Opposition[M]. New York:New York Doubleday Company,1968:6.

[11]張衛(wèi),王前.論技術(shù)倫理學(xué)的內(nèi)在研究進(jìn)路[J].科學(xué)技術(shù)哲學(xué)研究,2012,29(3):49.

[12]Cummings M L.Integrating Ethics in Design Through the Value-sensitive Design Approach[J].Science and EngineeringE thics,2006,12(4):701-705.

Innovative Approaches and Ethical Considerations of Technical Design A Review on B.Friedman’s Value Sensitive Design

LIU Rui-lin,CHEN Fan
(Research Center for Philosophy of Science and Technology,Northeastern University,Shenyang 110819,China)

As an innovative theoretical approach,value sensitive design dialectically views technical design and social context through the interaction between value and technical design.It employs a tripartite methodology,which consists of conceptual,empirical and technical investigations. Throughout the process of technical design,ethical import is emphasized and ethical issues are addressed.Value sensitive design advocates that designers should take full account of the moral feelings and value appeals of technical users and other stakeholders.Despite the obvious practical significance and some advantages,doubts and questions do exist.There is still a long way to go in that its application may be affected by the complex factors of technology.

technical design;value sensitive design;technological ethics;Batya Friedman

N 031

A

1008-3758(2014)03-0232-06

(責(zé)任編輯:李新根)

2013-08-23

劉瑞琳(1 9 8 6-),女,山東煙臺(tái)人,東北大學(xué)博士研究生,主要從事技術(shù)倫理學(xué)研究;陳 凡(1 9 5 4),男,遼寧沈陽(yáng)人,東北大學(xué)教授,博士生導(dǎo)師,主要從事技術(shù)哲學(xué)、科技與社會(huì)(STS)研究。