趙玉群 陳曉英
(渤海大學(xué)政治與歷史學(xué)院,遼寧錦州121000)
機器人發(fā)展引發(fā)的未來的思考
——基于物轉(zhuǎn)向、生態(tài)中心主義、道義論的解析
趙玉群陳曉英
(渤海大學(xué)政治與歷史學(xué)院,遼寧錦州121000)
縱觀整個機器人發(fā)展的歷史,由機器到示教機器人再到智能機器人,由工業(yè)機器人到農(nóng)業(yè)機器人再到第三產(chǎn)業(yè)機器人,由初級、單一化、單領(lǐng)域到高級、多元化、多領(lǐng)域,根據(jù)其演變規(guī)律,可以進一步設(shè)想由無倫理、無道德、無責(zé)任到有倫理、有道德、有責(zé)任的機器人的演進,尋找升華機器人倫理的“奇點”。隨著時代不斷發(fā)展,奇點不斷臨近,之前設(shè)想的機器人是否具有道德,人類是否允許機器人具有道德、機器人倫理與人類倫理是否具有一致性的問題愈發(fā)顯得重要?;谶@一思考,機器人具有倫理是否是社會和科技發(fā)展的必然趨勢等問題也會迎刃而解。
機器人倫理;奇點;物轉(zhuǎn)向;生態(tài)中心主義;道義論
倫理學(xué)中的“物倫理學(xué)”、符號學(xué)中的物體語義學(xué)、分析哲學(xué)語境中的人工物研究等等都是物轉(zhuǎn)向的展現(xiàn),但是物轉(zhuǎn)向的實質(zhì)卻不相同。在科學(xué)技術(shù)哲學(xué)中,物轉(zhuǎn)向意味著其擺脫先驗研究路向,關(guān)注經(jīng)驗研究;在倫理學(xué)中,物轉(zhuǎn)向意味著其擺脫人類中心主義,關(guān)注物的倫理性;在生存哲學(xué)中,物轉(zhuǎn)向意味著開始擺脫理性傳統(tǒng),關(guān)注身體研究,現(xiàn)象學(xué)的物轉(zhuǎn)向意味著擺脫先驗意識,關(guān)注語境[1]。就科技哲學(xué)而論,物轉(zhuǎn)向研究的是由先驗到經(jīng)驗的轉(zhuǎn)換,這就需要究根溯源,從現(xiàn)象學(xué)以及后現(xiàn)象學(xué)的視角去解析。
“經(jīng)驗轉(zhuǎn)向”一詞最早是由漢斯·阿特胡斯在其討論技術(shù)哲學(xué)的書中提出的,他曾經(jīng)出版《技術(shù)的尺度或職業(yè)》一書,該書內(nèi)容包含海德格爾、劉易斯·芒福德、漢斯·約納斯等第一代技術(shù)哲學(xué)家的思想。隨后他又出版了《從蒸汽機到受控機體:在新世界中思考技術(shù)》一書,本書認為當(dāng)時的技術(shù)哲學(xué)家的思想已經(jīng)發(fā)生了轉(zhuǎn)變,這種轉(zhuǎn)變被稱為“經(jīng)驗轉(zhuǎn)向”。換句話來講,當(dāng)時的一些新的技術(shù)哲學(xué)家對現(xiàn)有的技術(shù)哲學(xué)研究方法、體制等不滿,因此開始了一種新的經(jīng)驗轉(zhuǎn)向。與科學(xué)哲學(xué)的轉(zhuǎn)向相比,技術(shù)哲學(xué)的轉(zhuǎn)向顯得更有廣度和深度,科學(xué)哲學(xué)轉(zhuǎn)向的代表人物是托馬斯·庫恩,研究技術(shù)哲學(xué)轉(zhuǎn)向的哲學(xué)家被稱為建構(gòu)主義者。那么為什么要從后現(xiàn)象學(xué)的角度去解析物轉(zhuǎn)向?因為后現(xiàn)象學(xué)是用經(jīng)驗的方法去研究和解決技術(shù)問題,這種技術(shù)問題就包含機器人技術(shù)所帶來的社會和倫理問題,這種從先驗研究到經(jīng)驗研究的轉(zhuǎn)變,也是物轉(zhuǎn)向在后現(xiàn)象學(xué)中的映射。所謂后現(xiàn)象學(xué)是一種修正的混合的現(xiàn)象學(xué),這是因為,其一,后現(xiàn)象學(xué)認識到實用主義在克服早期現(xiàn)代認識論和形而上學(xué)中的作用,在正統(tǒng)的實用主義中發(fā)現(xiàn)了一種方法,這種方法可以避免將現(xiàn)象學(xué)誤解為主體性哲學(xué),避免其被認為是反科學(xué)的、沉溺于觀念論或唯我論的;其二,后現(xiàn)象學(xué)通過變更理論的使用發(fā)展出一種嚴格的分析方法,是對具身和人類主動的身體知覺的更深入的現(xiàn)象學(xué)理解,對生活世界的動態(tài)理解[2]。后現(xiàn)象學(xué)也可以稱為是一種技術(shù)哲學(xué)方法論。
胡塞爾在《幾何的起源》中曾經(jīng)指出這些起源既包含知覺經(jīng)驗又包含人類的實踐,這個起源有一個不變的本質(zhì)部分,那就是它所存在的世界是一個由事物組成的世界,這個世界中所有的事物,包括人的存在,都具有物體性,這種物體性又包括技術(shù)的物體性和人工物的物體性?,F(xiàn)象學(xué)或者后現(xiàn)象學(xué)是對技術(shù)的批判和研究,技術(shù)的物體性也在此框架之內(nèi),也可以稱為“技術(shù)現(xiàn)象學(xué)”,該詞是唐·伊德早期的研究成果,目的是研究人類經(jīng)驗技術(shù)的范圍和形式。技術(shù)現(xiàn)象學(xué)有兩種關(guān)系,一種是具身關(guān)系,指的是人們在實踐活動中參與環(huán)境或世界的方式,盡管人們沒有明確認識到這一點,但很多這樣的活動都包含了對人工物或技術(shù)的應(yīng)用[3]。機器人的發(fā)展帶來的就是機器人環(huán)境與人之間的具身關(guān)系,這種環(huán)境也包含機器人所帶來的倫理與社會環(huán)境,存在于人們的經(jīng)驗中;另一種是它異關(guān)系,人與技術(shù)的關(guān)系并不都是指示性的,也可以將技術(shù)作為準對象甚至是準它者,這就是“它異”[4]。以簡單的醫(yī)療跑腿機器人為例,它能夠?qū)|西精確地送達目標,看護老人的機器人能夠陪老人聊天,豐富老人的感情,這樣的機器人變成了人在技術(shù)現(xiàn)象學(xué)環(huán)境中的一種映射,甚至將來也有可能具有人類所具有的道德、情感和權(quán)利,因此不能僅僅把它看做是一種技術(shù)或者人工物,這種轉(zhuǎn)變也是機器人的一種物轉(zhuǎn)向,即由先驗到經(jīng)驗,由人類中心主義到物倫理。
機器人技術(shù)的發(fā)展可以從內(nèi)在、外在、語境三個方面去理解。內(nèi)在主要指的是科研人員、制造商等對機器人發(fā)展產(chǎn)生的影響;外在主要是社會因素對機器人發(fā)展產(chǎn)生的影響,包括政治、經(jīng)濟、文化等因素;語境主要由環(huán)境、倫理等組成,機器人在某個語境中才具有它所指的特殊內(nèi)涵,比如桌子,人們只有在使用時,它才存在,具有一定的社會價值,是一種先驗的語境論,那么機器人的使用與否,機器人對人乃至整個社會都會產(chǎn)生一定的影響。之前探討的技術(shù)哲學(xué)中的“物轉(zhuǎn)向”比經(jīng)驗轉(zhuǎn)向更具廣度和深度,科學(xué)哲學(xué)中的物轉(zhuǎn)向更注重理論和科學(xué)的解釋,也稱為傳統(tǒng)意義上的“語言轉(zhuǎn)向”。機器人技術(shù)的發(fā)展更側(cè)重于技術(shù)哲學(xué),即現(xiàn)象學(xué)里的后現(xiàn)象學(xué)。在此框架內(nèi)研究機器人的經(jīng)驗走向,即研究機器人是否能夠像人一樣具有道德和情感,是否可以背負一定的權(quán)利和義務(wù)的問題。約翰·馮·諾依曼曾經(jīng)說過:“一個議題圍繞技術(shù)進步的不斷加速,以及由此被改變的人類生活方式展開。從談話的內(nèi)容來看,我們?nèi)祟惖臍v史將走向一個‘奇點’,在此之后,我們所熟知的人類生活將不復(fù)存在。”[5]機器人的發(fā)展達到這個奇點后,諸如是否具有道德和情感等問題將會迎刃而解,因為奇點之后將會是另外一個更為宏觀、美好和先進的世界。
生態(tài)中心主義是一種整體主義的系統(tǒng)觀,也是深層生態(tài)學(xué)的思想,從狹義的角度講,就是以生態(tài)環(huán)境為中心,摒棄人類中心主義的路線;從廣義的角度講,即把整個自然界的存在看作是一個大的系統(tǒng),不僅包括人和自然界,也包括非人類的存在物。這一思想是在批判及否定人類中心主義的基礎(chǔ)上發(fā)展起來的,延伸發(fā)展了生態(tài)中心平等主義的價值觀,促進了整個系統(tǒng)的和諧發(fā)展。
人類中心主義應(yīng)該如何去理解?首先,人類中心主義認為人是萬物的中心,也是萬物的尺度,把人作為一切價值的來源,從人的利益出發(fā),一切倫理原則只適用于人類,一切道德關(guān)懷只適用于人類或?qū)θ祟愑袃r值的實體,并不適用于動物以及非人類的存在物。其次,自然及其他非人類的存在物不具有內(nèi)在價值而只具有工具價值,如果站在人類中心主義的角度去看待機器人,其也只不過是人類的工具而已,只具有工具價值,并不具有道德關(guān)懷或者倫理原則。最后,古希臘哲學(xué)家普羅泰戈拉曾經(jīng)說過,人是萬物的尺度,是存在者存在的尺度,是不存在者不存在的尺度。笛卡爾進一步強調(diào):“人與動物和其他存在的區(qū)別在于人具有理性和語言能力,動物由于缺乏這些品質(zhì),它們充其量只能被看作是自動機器,人對動物和自然沒有義務(wù),除非這種處理影響到人類自身?!保?]傳統(tǒng)人類中心主義認為只有人才具有理性和語言,因此才具有內(nèi)在價值,而人類之外的非人類存在物不具有倫理守則和內(nèi)在價值,充其量只是人類達到自己目的、實現(xiàn)自身利益的工具,人類中心主義的倫理堅持物種利己主義,堅持人類理性第一原則,排除其他非人類存在物的內(nèi)在價值和倫理存在,其自身是有缺陷的。
在完整的系統(tǒng)的倫理學(xué)中,倫理規(guī)則和道德關(guān)懷的對象不僅包括人,還包括其他非人存在物,從這個角度看待機器人倫理學(xué),也具有一定的合理性??档略?jīng)指出人的理性是判斷一個人是否具有內(nèi)在價值的標準,因為理性存在本身就具有內(nèi)在價值,語言符號又是判斷是否具有理性的重要依據(jù),動物雖然具有自身的語言但不被人所理解,再加上動物并沒有符號概念,不能表達普遍概念,不具有理性,也沒有倫理和道德關(guān)懷可言。但是,機器人不同于動物,機器人本身就有自己的符號和語言,比如計算機編程的C語言、C++、VB、VC、FoxPro、Delphi等,這說明機器人本身也是一種理性的存在,是具備相應(yīng)的倫理和道德關(guān)懷的。因此,站在生態(tài)中心主義去考慮,這種道德關(guān)懷需要放寬自己的限定范圍,把非人類存在物也納入自己的范圍。人類中心主義把道德關(guān)懷的對象限制在人類,只能被看作是一種利己主義行為,同時也是獨斷的、不公正的和不合乎邏輯的,一種健全的道德體系不僅要把道德價值擴展到非人類動物,還應(yīng)擴展到一切存在物[7]。如果說人享有道德關(guān)懷資格,那么任何一種客觀的道德標準也會賦予非人類的存在這種資格①Bernard E,Rollin.Animal Rights and Human Morality[M].New York:Prometheus Books,1981.p3~22.。
站在生態(tài)中心主義的角度去看待機器人的發(fā)展,摒棄人類中心主義的視角,把整個機器人倫理當(dāng)作是一種整體的系統(tǒng)觀,在這個整體的系統(tǒng)中,機器人是一種理性的存在,應(yīng)當(dāng)具備道德關(guān)懷,超越了人工物的存在,如果機器人突破了奇點,超越了人類的智慧,那么機器人可以被視為具有道德責(zé)任和權(quán)利義務(wù),在此基礎(chǔ)上,機器人不僅能做到自身的可持續(xù)發(fā)展,也能達到一種理性世界存在的善和自我實現(xiàn)的善。老子曾說過,人法地,地法天,天法道,道法自然。所謂自然的意思指的是自然界、自然萬物和人的自由、自然規(guī)律和準則。人們和自然相處時,主張理性為自然立法,要用一種客觀公正的態(tài)度對待自然萬物,既包括人類也包括非人類的存在,要學(xué)會尊重和保護自然萬物演化生存和發(fā)展的權(quán)利,其中也包括機器人的發(fā)展。阿倫·奈斯曾經(jīng)說過,讓河流自己流淌,這句話與海德格爾的“讓事物作為事物所是的事物而出現(xiàn)”異曲同工。人類中心主義從人類自身的利益去考慮,長遠來說不僅損害了人本身的利益,而且也對自然萬物造成傷害,這種思想雖然有其合理的因素,但畢竟是局部的、片面的,既不利于機器人的長遠發(fā)展,也不利于整個系統(tǒng)的可持續(xù)發(fā)展。再者,人類中心主義本身就是一種“祛魅的哲學(xué)”,用人類中心主義的觀點去看待機器人的發(fā)展更是一種“祛魅的方法論”,如能實現(xiàn)機器人倫理對人類中心主義的超越,以生態(tài)中心主義的系統(tǒng)觀理解機器人倫理學(xué),達到一種自我實現(xiàn)和生物中心平等主義,這種自我實現(xiàn)和平等可以說是至臻至善。
國內(nèi)道義論的發(fā)展比國外更為先進,這是以自然經(jīng)濟為基礎(chǔ)的“家族本位社會”或“群體本位社會”的產(chǎn)物,所以,在義利觀上,中國的正統(tǒng)儒家總是主張“正其誼不謀其利,明其道不計其功”,“不論利害,惟看義當(dāng)為與不當(dāng)為”,這里的道義論把“明道”、“正義”視為目的,作為道德價值自身,而排除了道德價值的功利性,在道德境界上超脫了功利的追求,達到“純乎天理而無人欲之雜”[8]。在國外,道義論最先起源于古希臘,蘇格拉底曾提出美德即知識,用知識闡述了何為道德,柏拉圖則強調(diào)道德歸于理念,并在理念中得到發(fā)展,他在《理想國》中闡述了一種至善,這種至善就是一種人的自我實現(xiàn)、自我升華。柏拉圖堅持整體優(yōu)于個體,一般優(yōu)于特殊。之后的亞里士多德認為“至善”是一種相互保證正義的約定,這里的“約定”為契約的較早形式,后來發(fā)展成為社會契約論學(xué)說,在這里“自然法”和社會契約論始終是和社會正義及道德問題聯(lián)系在一起的。隨后,霍布斯與盧梭的社會契約論也體現(xiàn)出道義的存在,但只是偏向于理論的形而上的研究,最后便是康德的道義論。
道義論也可以稱為義務(wù)論,最早來源于古希臘文的兩個術(shù)語,屬于康德倫理學(xué)的一部分。康德認為道德使人類具有存在意義,失去道德,人類將失去存在的意義和自身的價值。康德所說的行為性道德既不注重行為所產(chǎn)生的結(jié)果,也不注重行為的動機或原則,只注重整個行為的過程,在這一過程中解決道德的規(guī)律性、純潔性、普遍性等問題。道德的純潔性指的是在道德律這一最高原則下,人們才能達到一種至善,這種善是無條件的、單純的,這種善是純粹理性下的拋棄經(jīng)驗主義的善,是實踐理性下具有行為導(dǎo)向和倫理德行的善,這種善也是遵循自然規(guī)律和自有規(guī)律的。那么康德筆下的道義論到底指什么?其實康德的倫理學(xué)始終都是義務(wù)論的,也就是人們的行為必須遵循一定的道德律,在自由行為和自由意志的框架內(nèi)達到一種善,在這里也可以把它作為一種行為性的道德理論。道義論的核心一方面指義務(wù),另一方面又指責(zé)任,責(zé)任是指在尊重法律或規(guī)律的前提下達到的一種行為的必然性,道德行為不能出于愛好,而只能出于責(zé)任②[德]康德.道德形而上學(xué)原理[M].苗力田,譯.上海:上海人民出版社,2002.p14.??档略?jīng)說過,有理性的本性作為自在目的而實存著,由此推演出一些規(guī)律和命令,比如“每個有理性的東西都必須服從這樣的規(guī)律,不論是誰在任何時候都不應(yīng)該把自己和他人僅僅當(dāng)做工具,而應(yīng)該永遠看做自身就是目的。有理性的東西的一切行動都必須以道德規(guī)律為基礎(chǔ),正如全部現(xiàn)象都以自然規(guī)律為基礎(chǔ)一樣”[9]。這個“自身就是目的”可以理解為自身所蘊含的自在目的的準則和普遍的有效性。那么機器人可以看做是一種理性的存在,這種存在也必定遵循一定的規(guī)律,曾經(jīng)對人來講是一種工具,但現(xiàn)階段的發(fā)展屬于一種人工行為體的存在,將來有可能發(fā)展為人工道德行為體,或者是具有道德產(chǎn)出的道德共同體。從目前來看,“機器人能成為人嗎”這個命題還無人能回答,但是并不是無解的。從道義論的基礎(chǔ)上看,機器人未來的發(fā)展是一種向善的發(fā)展,這也是我們對機器人的一種期望。
康德認為,一切命令式都是必然地按照某種善良的意志來規(guī)定行為的公式①高國希.道德哲學(xué)[M].上海:復(fù)旦大學(xué)出版社,2005.p222.。命令可以分為假言和定言兩種,假言從一定角度看是一種善良的行為,包括或然的實踐原則和實然的實踐原則,包括技術(shù)的、工藝的、實用的和福利的,而定言命令則是一種必然的實踐原則,包括德行的、自由的、道德的??档抡J為只有定言命令才算得上一種規(guī)律,其他的只能成為是一種原則。這種善不僅是實踐方面的,而且是一種道德的愉快,機器人要想達到這種善,或多或少要犧牲一些經(jīng)驗原則,實現(xiàn)一種意志自律,遵循實踐規(guī)律,因為現(xiàn)階段所研究的機器人倫理更多的是一種人的倫理或者是一種由先驗轉(zhuǎn)向經(jīng)驗的倫理。
康德的道義論體現(xiàn)的是一種社會普遍的行為準則,這種普遍傾向于整體性或者系統(tǒng)性,在整體主義前提下發(fā)展出社會道德立法原則,這個原則是被社會普遍認同的,體現(xiàn)出一種道義性,進而發(fā)展為一種道義準則,之后為了尋求幸福和美德,達到一種自我實現(xiàn)。針對機器人未來的發(fā)展,可以用圖1來闡釋其發(fā)展與道義論的關(guān)系。
1985年,阿西莫夫在其三大定律的基礎(chǔ)上提出了第零定律②第零定律也稱為第四定律,即機器人不得傷害人類的整體利益,或袖手旁觀人類的整體利益受到傷害。,并增加了第六條和第七條定律,第六條指機器人在不違反前四條定律的前提下,應(yīng)遵循相應(yīng)的道德行為準則與人類合作,共同促進社會進步以及世界和諧。第七條指人的倫理與機器人倫理應(yīng)相互促進,相互監(jiān)督。道義論由形而上發(fā)展到形而下,說明其具有一定的實踐意義,或者說現(xiàn)實意義,比如科學(xué)發(fā)展觀就體現(xiàn)出一定的道義論意義,其堅持以人為本,促進社會和諧,其公平、正義、平等的理念與道義論不謀而合。在科學(xué)和技術(shù)領(lǐng)域,更貼近道義論的職業(yè)道德觀念正成為主流和普遍的實踐標準③[意]布魯諾·西西利亞諾,[美]歐沙瑪·哈提卜.機器人手冊[M].《機器人手冊》翻譯委員會,譯.北京:機械工業(yè)出版社,2013.p1203.。英國薩塞克斯大學(xué)工程與信息學(xué)院教授史蒂夫·托倫斯曾經(jīng)就人工行為體提出兩個有關(guān)道德的概念“道德接收”和“道德產(chǎn)出”,他認為機器人倫理更應(yīng)該體現(xiàn)為一種道德產(chǎn)出,因為機器人本身就是一種病態(tài)體,因為它不能區(qū)分何為善,何為惡,因此既可行善,也可作惡,是一種道德上的病態(tài)體,道義論可謂是對癥下藥。
總體來看,機器人未來的發(fā)展是積極的、健康的、向上的。當(dāng)然不能僅僅從物轉(zhuǎn)向、生態(tài)中心主義、道義論這幾個哲學(xué)的角度來分析,還應(yīng)綜合各個方面、各個領(lǐng)域的認識論、價值論、方法論來分析機器人發(fā)展的前景及所帶來的影響
21世紀被稱為是人工智能的時代或者機器人時代,也有人把機器人革命稱為是“第三次工業(yè)革命”,機器人的發(fā)展越來越快,不斷地擴展到多領(lǐng)域,發(fā)展越來越多元化、智能化,機器人所帶來的倫理問題也不斷地凸顯出來。機器人倫理學(xué)的地位越來越受到專家學(xué)者的重視,但卻不是被廣大受眾所理解和認同的,所以機器人倫理學(xué)發(fā)展到現(xiàn)階段并不是一種完善的應(yīng)用倫理學(xué),并沒有被普遍接受或者呈現(xiàn)出一種標準化。
未來機器人的發(fā)展是一種形而上到形而下的發(fā)展,是一種由先驗到經(jīng)驗、由感性到理性、由人類中心主義向生態(tài)中心主義、由或然到實然的發(fā)展,也是一種道義論基礎(chǔ)上的至善的發(fā)展。
縱觀這個科學(xué)技術(shù)哲學(xué)和倫理學(xué)發(fā)展史,有著千年歷史的人文學(xué)科,也有著大量的文獻和科研成果。單論倫理學(xué)的發(fā)展,其與科學(xué)技術(shù)的結(jié)合年代并不久遠,即使希波克拉底誓言①希波克拉底誓言是希波克拉底警誡人類的古希臘職業(yè)道德的圣典。給出了一個非常古老的倫理學(xué)起源。機器人的研究是一種跨學(xué)科、跨領(lǐng)域的研究,機器人倫理學(xué)也將會開辟機器人發(fā)展的新紀元。
[1]楊慶峰,閆宏秀.多領(lǐng)域中的物轉(zhuǎn)向及其本質(zhì)[J].哲學(xué)分析,2011(1):p158.
[2][3][4][美]唐·伊德.讓事物“說話”:后現(xiàn)象學(xué)與技術(shù)科學(xué)[M].韓連慶,譯.北京:北京大學(xué)出版社,2008.p30,p55,p57.
[5]李婷.人與機器共同進化[M].北京:電子工業(yè)出版社,2014.p69.
[6][7]雷毅.深層生態(tài)學(xué)思想研究[M].北京:清華大學(xué)出版社,2001.p17,p23.
[8]方毅.功利論和道義論的對立及其超越[J].學(xué)術(shù)交流,2008(8):p21.
[9]高國希.道德哲學(xué)[M].上海:復(fù)旦大學(xué)出版社,2005. p225~226.
Thinking about the Future of Robotics Development——On the Basis of Thingly Turn,Ecocentrism and Deontology
Zhao Yuqun Chen Xiaoying
(School of Politics and History Bohai University,Jinzhou Liaoning 121000,China)
Throughout the history of robot,robot develops from machine to teaching robot and then to the intelligent robot,from industrial robot to agricultural robot and then to the third industrial robot,advancing by the primary,simplification,single area,diversified,multiple areas respectively.According to its evolution law,we can imagine that the ethical“singularity”of sublimation robot can be sought by following the evolvement from non-ethic,amoral,irresponsibility to ethic,moral,responsibility.With the development of times,singular point is constantly approaching.It is necessary for people to think the following questions:whether robot has moral;should robot has moral;whether robot’s ethic are consistent with human ethic.If robot has moral,the following problems would be smoothly done or easily solved:should it be considered as the ontology of“thingly turn”;whether robot possessing ethic is the inexorable trend of the development of society,science and technology.
robot ethic;singularity;thingly turn;ecocentrism;deontology
N02 TP242
A
1671-6639(2016)01-0055-05
2015-12-05
本文為“遼寧省大學(xué)生創(chuàng)業(yè)的社會支持研究”基金項目(項目編號JG13DB165)的成果。
趙玉群(1988-),男,渤海大學(xué)政治與歷史學(xué)院科學(xué)技術(shù)哲學(xué)專業(yè)2014級碩士研究生。陳曉英(1964-),女,渤海大學(xué)政治與歷史學(xué)院教授。