人伊香蕉久久精品,中文字幕免费观看欧美,中文娱乐久久综合网,日本免码va在线看免费99

        
        

                您當前所在的位置 : 資訊平臺 > 馬克思主義發(fā)展史

                大模型生產與馬克思勞動價值論的時代化闡釋

                2024-04-17     來源: 《馬克思主義研究》2023年第12期     作者: 黃再勝

                馬克思勞動價值論認為,活勞動是價值創(chuàng)造的唯一源泉。自資本主義生產方式確立以來,資本不遺余力地利用技術創(chuàng)新和組織變革來實現(xiàn)對勞動的規(guī)訓與吸納;與此同時,伴隨資本有機構成的提高,作為對象化勞動的機器系統(tǒng)支配活勞動,價值實體性在日趨自動化的生產中不斷被虛化??傮w上看,資本通過世界市場擴張和生產場地拓展的時空修復,竭力獲取吞噬活勞動的新途徑新方式,以緩解資本主義價值運動危機,維系資本主義社會生產體系。
                隨著以ChatGPT為代表的通用人工智能加速升級迭代和日?;瘧?,數(shù)字資本主義進入大模型時代。相比于傳統(tǒng)的大工業(yè)生產,大模型生產是指在通用人工智能技術驅動下,以平臺生產網絡為載體,以智能生產力和新的生產關系加速形成與辯證運動為支撐,推動資本主義物質和精神生產高階自動化,進而高效地實現(xiàn)商品和服務的超個性化定制和“一鍵式”生產。大模型生產下數(shù)字機器能動性凸顯,直觀上消解人的不可替代性,推動數(shù)字資本主義人機關系發(fā)生復雜變化。正如有學者所言,智能系統(tǒng)的“類人智能”和自主性日益增強,正在獲得日益多樣化、日益強大的“勞動能力”。表面上看,數(shù)字機器“主體化”和人類勞動“離場化”,日益制造“全自動”“零勞動”“后工作”的數(shù)字生產景象。自然地,關于馬克思勞動價值論過時或失效的論調又沉渣泛起,使得以“什么創(chuàng)造價值”為核心問題的馬克思勞動價值論遭遇了前所未有的挑戰(zhàn)。其中,將躍遷成通用智能體(AI Agent)的數(shù)字機器視為“新物種”,進而重新定義“勞動”和“勞動者”、顛覆主體性規(guī)定的說辭,頗具理論迷惑性。
                鑒于此,推動馬克思勞動價值論的守正創(chuàng)新,迫切需要在堅持“勞動是價值的實體和內在尺度”這一核心要義的同時,科學認識大模型時代數(shù)字機器的本質,敏銳把握數(shù)字勞動的形變,深入剖析數(shù)字資本主義價值運動的內在張力和未來境遇,努力將勞動創(chuàng)造價值的時代化闡釋走深做實。
                一、大模型生產與價值運動的三重悖反
                實踐表明,資本主義社會生產中價值和反價值關系的辯證運動始終使資本自我增殖的固有矛盾不斷演繹并趨向激化。從價值實體看,對象化勞動日益支配活勞動,導致財富膨脹和價值萎縮的“生產悖反”;從價值實現(xiàn)看,資本運動制造勞動力普遍貶值,引致生產擴張與需求萎縮的“市場悖反”;從價值存在看,資本主義生產日益社會化,導致共有因素滋生和交換關系持續(xù)存在的“制度悖反”。大模型生產落地后,生產智能化、勞動不穩(wěn)定化和平臺基礎設施化趨勢進一步加深,數(shù)字資本主義價值運動的內在張力愈發(fā)難以調和。
                1.大模型生產放大價值運動的“生產悖反”
                隨著機器化大工業(yè)蓬勃發(fā)展,資本主義價值運動的一個必然趨勢就是,“對象化勞動在勞動過程本身中與活勞動相對立而成為支配活勞動的力量”;與此同時,活勞動則轉變?yōu)闄C器系統(tǒng)中“單純的活的附件”。如此一來,從價值形成的生產過程看,資本在追逐自我增殖過程中,不可避免地引致價值實體的“空殼化”。形象地講,這好比資本主義價值運動存在“黑洞”,只吞噬舊價值,卻無法吐出新價值。正如美國學者大衛(wèi)·哈維所指出的,“如果活勞動是價值和利潤的源泉,那么用死勞動或機械勞動代替活勞動在政治上和經濟上都毫無意義。在馬克思看來,這是資本主義的一個核心矛盾”。
                回顧資本主義生產史,在福特制下,科學技術的資本主義應用不斷推進生產標準化和自動化,實現(xiàn)人機關系的根本翻轉,“在工場手工業(yè)和手工業(yè)中,是工人利用工具,在工廠中,是工人服侍機器”,但勞動作為“有意識的機件”依然不可或缺。隨著資本主義的發(fā)展,非物質勞動展演于人們的日常溝通、社會合作和情感交流之中,資本一時難以實現(xiàn)對其規(guī)訓與吸納,遑論利用“能動的機器體系”來取而代之。進入數(shù)字資本主義階段,資本主義智能化生產步入快車道,極大地拓展了“機器換人”的操作邊界,生產過程中直接勞動加速縮減。但數(shù)字經濟實踐表明,在分析式人工智能技術驅動下,智能增強的數(shù)字機器不僅囿于特定作業(yè)領域,而且日漸曝光的“幽靈工作”時刻昭示:所謂的“無人化”“零勞動”“后工作”依然只是技術樂觀派的一種數(shù)字烏托邦想象。
                其實,在馬克思語境下,即使資本獲得最完善、最適應的機器體系,即自動的機器體系,也不意味著勞動的徹底退出,而是作為一個環(huán)節(jié)“分布在機械體系的許多點上”。并且,在馬克思看來,“一個在本生產部門內完全不使用可變資本,因而完全不使用工人的資本家”只是一個極端的假定。如上文所述,伴隨資本主義生產從機械化到自動化再到智能化,勞動形式也從物質勞動到非物質勞動再到數(shù)字勞動,創(chuàng)造價值的活勞動從來就沒有真正離場。“蒸汽機、紡織機、電氣化和電子化從未持續(xù)減少勞動量,相反更加大了勞動量?!钡f事因時而變。大模型生產落地后,在通用人工智能的技術加持下,數(shù)字機器的決策自主和能力泛化正在以超乎常人想象的節(jié)奏飛速提升。撇開“超級智能”“機器意識”“生命30”等極具爭議性話題,從資本主義生產過程看,當今數(shù)字機器展現(xiàn)持續(xù)迭代的“高階自動化”能力,正在使越來越多的認知勞動被超高效的智能算法所替代??梢哉f,“以往的工業(yè)自動化系統(tǒng)或智能機械解放的主要是人的體力,取代的是體力勞動者,但ChatGPT之類通用人工智能正在顛覆人的腦力勞動,取代‘腦力勞動者’承擔的各種工作”。
                面對工業(yè)時代機器系統(tǒng)的巨大力量,馬克思曾驚呼:“如果機器消滅了整個雇傭工人階級,那么這對資本來說將是一件十分可怕的事情,因為資本沒有雇傭勞動就不成其為資本了!”毋庸置疑,大模型時代數(shù)字機器所展示的生產威力,使迄今為止所有的工業(yè)機器都相形見絀。隨著通用人工智能的技術精進和場景應用,“現(xiàn)在資本正把‘活勞動’的基本能力——認知和感知——重塑為適合資本的機器形式,它致力于加緊對這些基礎能力的捕獲并加快轉化于‘分布式’的智能體系中”。照此趨勢發(fā)展下去,一個不容回避的理論追問是,就連“站在生產過程的旁邊”照料機器的機會,留給普通勞動者的還會有多少?
                對此,“無用階層”等論調急于給勞動者的未來命運下定論,但針對資本的境遇將如何卻少有討論。在筆者看來,隨著數(shù)字資本主義通用人工智能技術加速,“死勞動對活勞動的徹底替代”極限推進,資本主義價值運動逼近“爆炸性前景”將不可逆轉。其結果,一旦大模型生產下資本運動脫離勞動而漸行漸遠,“以交換價值為基礎的生產”就會陷入生產失序、市場動蕩直至經濟崩潰。
                2.大模型生產放大價值運動的“市場悖反”
                在政治經濟語境下,價值反映了商品經濟條件下人們相互交換勞動的社會關系。它濫觴于社會分工下私人勞動和社會勞動的對立,成形于商品生產和商品流通的統(tǒng)一。換言之,作為一種社會確證,價值以交換價值為中介實現(xiàn)了具體勞動向抽象勞動、私人勞動向社會勞動的雙重轉換。進而,“勞動作為一般勞動的對象化和作為滿足一般需要的\[手段的\]性質”通過交換被肯定,自然成為維系資本主義價值體系的生死攸關之事了。
                從價值實現(xiàn)看,隨著資本主義生產力快速發(fā)展,商品供給日趨豐富,市場開拓和需求擴張就變得愈發(fā)迫切。但數(shù)百年資本主義經濟發(fā)展表明,雖然資本不擇手段來開拓國內外市場,但生產相對過剩始終與資本主義社會化大生產如影隨形。究其根源,資本自身的運動一直存在無法克服的“市場悖反”:一方面,為了獲取價值,資本竭力制造日益豐富的商品供給;另一方面,為了加速自我增殖,資本又極盡貶低勞動力價值之能事。其結果,資本主義的生產擴張和需求萎縮相向而行,造成價值運動中斷,引發(fā)周期性危機。
                這集中體現(xiàn)在:福特制下生產標準化、流水線化,持續(xù)推動勞動“去技能化”,“工人變成了機器的單純的附屬品,要求他做的只是極其簡單、極其單調和極容易學會的操作”。于是,“由于這種轉移,工人自己的勞動能力就貶值了”。后福特制興起后,資本力推新自由主義的制度革新,持續(xù)推動就業(yè)不穩(wěn)定化,越來越多的普通勞動者只能靠消費信貸勉強度日。進入數(shù)字資本主義階段,數(shù)字勞動的興起給勞動者帶來新的就業(yè)方式和工作機會,但數(shù)字勞動的平臺化組織和算法化管理,進一步加劇就業(yè)不穩(wěn)定。
                隨著通用人工智能技術開始普及,數(shù)字資本主義千行百業(yè)的生產流程都在經歷重組和重塑。麥肯錫估計,在63個應用案例中,生成式AI應用每年能給全球經濟帶來2.6萬億美元至4.4萬億美元的潛在價值。目前來看,數(shù)字科技巨頭通過數(shù)據(jù)、算力和算法的全方位壟斷,牢牢掌控通用人工智能的技術經濟生態(tài),企圖獨享大模型生產釋放的新一輪數(shù)字紅利。可以肯定的是,數(shù)字資本主義現(xiàn)行平臺體制如不改弦更張,必然會有越來越多的勞動者在數(shù)字化轉型中落入“數(shù)字窮人”的生存窘境。
                這是因為,首先,在大模型生產下,“機器換人”現(xiàn)象持續(xù)向資本主義知識生產領域蔓延,擁有知識專長的“創(chuàng)意階層”將會步藍領工人的后塵,被無情的卻擅于敘事的數(shù)字資本拋棄。其次,通用人工智能技術進一步激活數(shù)字泰勒主義,數(shù)字資本加速拆解人類認知勞動過程,不斷將可計算的工作內容標準化、模塊化和自動化,從而將資本主義高階勞動也“去技能化”??梢粤舷氲氖?,數(shù)字資本主義復雜勞動簡單化加速,國民收入分配格局中勞動占比持續(xù)走低將是必然趨勢。
                如此一來,一方面,大模型生產實現(xiàn)知識商品的工業(yè)化生產,加上通用人工智能技術賦能傳統(tǒng)制造提質增效,數(shù)字資本主義商品和服務產能將會呈現(xiàn)指數(shù)級增長;另一方面,大模型生產將數(shù)量驚人的知識型工作者從資本主義直接生產過程排擠出去,致使長期以來支撐發(fā)達資本主義國家大眾消費的“中產階級”加速塌陷。其結果,大模型生產進一步放大資本主義生產擴張與需求收縮的“市場悖反”,數(shù)字化的資本生產和流通注定要遭遇更加頻繁的生產過剩和更加劇烈的市場動蕩。
                3.大模型生產放大價值運動的“制度悖反”
                在資本主義生產方式下,勞動產品普遍成為商品,價值作為支配性、統(tǒng)治性的力量規(guī)約社會生產。從價值運動的實踐邏輯看,資本通過生產資料壟斷制造私人勞動與社會勞動的對立,得以在市場交換的“共同東西”中顯現(xiàn)價值這一社會實在。但與此同時,資本不斷賦予生產以科學的性質,在推動勞動資料歷史性改造中獲得巨大的力量,客觀上促進資本主義生產日益社會化。其結果,資本主義“對象化生產力”越是發(fā)展,私人勞動與社會勞動的邊界就越是模糊,直接的、不進入交換的使用價值的生產就越是蓄勢待發(fā),以資本為基礎的生產的界限就越發(fā)明顯。
                本質上,資本主義價值運動中的“制度悖反”,就是生產資料私有制和社會化大生產之間矛盾的具化呈現(xiàn)。在福特制下,持續(xù)改進的工業(yè)機器系統(tǒng)吸納一般社會知識,“資本的生產力又隨著被資本無償占有的這種普遍的進步而得到發(fā)展”。與此同時,生產愈發(fā)集中又與資本統(tǒng)治生產的形式格格不入。進入認知資本主義時期,日常交往中的“活知識”成為資本主義價值運動急于吞噬的新“利潤元素”。資本推行知識生產的商品化和知識產權制度的創(chuàng)設,通過剝奪式積累攫取一般智力,但資本的狹隘私利卻極大地束縛了社會生產力的充分釋放。進入數(shù)字資本主義階段,維基百科、FOSS免費開源等基于共有的網絡協(xié)同生產實踐,展示出人類社會生產超越資本邏輯的現(xiàn)實可能性。數(shù)字資本利用平臺權力,大肆“數(shù)字圈地”,熱衷多邊市場壟斷,將蘊藏巨大社會合作和共創(chuàng)潛能的數(shù)字網絡空間改造成為從屬資本的社會生產新場域。其結果,“硅谷的平臺資本主義不僅戲劇性地改變了共享經濟的整體意義,將曾經快樂地合作的志愿者同伴群體變成了沮喪的無薪或低薪勞動力大軍,現(xiàn)在不得不應對意想不到的發(fā)現(xiàn)——公地被商品化和剝削的災難性后果”。
                大模型生產日常化后,數(shù)字資本主義社會生產的一個顯著特征,就是作為新型生產資料的大模型進一步平臺基礎設施化,成為像工業(yè)時代水電、互聯(lián)網時代的軟件基礎設施一樣的社會生產基礎要件。并且,通用人工智能技術加持下數(shù)字機器日臻成熟,一般智力迸發(fā)的社會生產力“作為實際生活過程的直接器官被生產出來”更加高效地得以實現(xiàn)。如此一來,大模型生產推動生產資料日趨基礎設施化,資本主義物質生產和精神生產比以往任何時候都更加社會化。從生產方式基礎看,數(shù)字資本主義“使用價值的生產受交換價值的限制”的內在張力就愈發(fā)顯化、尖銳化。正如菲爾·瓊斯所指出的,“今天,資本主義體制的可行性不僅在政治上,而且在本體論上都令人懷疑”。
                理論上,借助大模型生產發(fā)展數(shù)字公地,可以推動數(shù)據(jù)開放、算力共享、算法開源,從而最大程度釋放智能生產力,更好地造福人類社會;但現(xiàn)實中,關于AI的真相則是數(shù)字科技巨頭執(zhí)念打造數(shù)字帝國,熱衷AI“軍備競賽”,積極開辟商業(yè)新領地。其結果,數(shù)字資本在竭力維系適合于自身增殖的“物質生產資料的社會使用形式”同時,也使大模型生產蘊含的共創(chuàng)、共享的制度基因被裁剪、被編輯、被壓制而難以迸發(fā),資本主義以價值為目的的生產限度也就更加顯露于世了。
                二、通用智能體與數(shù)字機器的主體性之辨
                在工業(yè)時代,資本主義機器系統(tǒng)顯示出創(chuàng)造財富的巨大力量,“似乎結果是使物質力量成為有智慧的生命,而人的生命則化為愚鈍的物質力量”。但事實證明,在工業(yè)資本主義價值運動中,人始終是主體,日益自動化的工業(yè)機器在替代人類復雜勞動上幾無建樹。進入數(shù)字資本主義階段,在分析式人工智能的技術加持下,數(shù)字機器開始在特定領域展示完勝人類的驚人表現(xiàn)。以ChatGPT為代表的生成式人工智能橫空出世后,數(shù)字機器模擬人的精神性生產,并呈現(xiàn)徹底替代人類勞動的主體性趨勢。于是,在一些人看來,面對日益自主的數(shù)字化機器系統(tǒng),重構馬克思勞動價值論似乎已經迫在眉睫。
                1.數(shù)字機器躍遷成通用智能體
                馬克思指出,工業(yè)資本主義的機器體系主要由動力機、傳動機和工作機構成?!爱敼ぷ鳈C不需要人的幫助就能完成加工原料所必需的一切運動,而只需要人從旁照料時,我們就有了自動的機器體系”??v觀資本主義機器史,工業(yè)機器無論展現(xiàn)出多大程度的自動性,但始終未變的是作為適合資本要求的勞動資料且服從“屬人的世界”這一本質。進入數(shù)字資本主義階段,隨著人工智能技術的升級迭代和加速應用,算法驅動的控制機加入機器裝置之中,數(shù)字機器的自主性和自動性日益增強。特別是大模型技術日新月異的發(fā)展,數(shù)字化的機器系統(tǒng)感知環(huán)境、形成記憶、作出決策、采取行動的自主能力也在快速提升,躍遷成為通用智能體已經勢不可擋。
                從現(xiàn)有發(fā)展看,通用智能體作為一種復雜的硬軟件集成,主要由大語言模型、記憶、任務規(guī)劃和工具使用四個關鍵組件所構成。這其中,大語言模型是最為核心的類腦裝置,直接決定通用智能體的能力半徑;記憶組件作為存儲裝置,為通用智能體在深度學習、強化學習中發(fā)展理解、聯(lián)想、推理等能力提供支持;任務規(guī)劃組件保證通用智能體在情境交互中實現(xiàn)以目標為導向;工具使用組件則幫助通用智能體以“類人”方式高效完成任務??梢粤舷氲氖?,未來隨著通用人工智能技術的優(yōu)化、升級與迭代,通用智能體將不僅更加自主且擁有更強適應性,且其與其他智能體或人之間的情境互動還可能會孕育形成某種意義上的“社會性”。
                鑒于此,通用智能體的出場與躍遷進一步推動主體客體化和客體主體化。從數(shù)字資本主義生產表象看,大模型生產持續(xù)發(fā)展,人類一切勞動(而不單是直接勞動和單個勞動)“創(chuàng)造價值的力量作為無限小的量而趨于消失”,數(shù)字資本卻依然能夠在商業(yè)掘金上風光無限。理論上,“什么在創(chuàng)造價值”成為當下需要嚴肅討論的話題。如上文所述,一旦數(shù)字機器躍遷成通用智能體,以更加“類人”的方式參與勞動過程,勢必會放大資本主義價值運動的固有矛盾。對此,科學認識以通用智能體為代表的數(shù)字機器的本質,闡明其在價值創(chuàng)造中的作用,對于推動馬克思勞動價值論的守正創(chuàng)新,顯得尤為迫切且重要。
                2.通用智能體是否創(chuàng)造價值的三種回答
                從根本上講,馬克思勞動價值論的立論根基就在于:人類勞動的不可替代。當下,數(shù)字化的機器系統(tǒng)正在躍遷成為通用智能體,開始漸顯“完美勞動者”的生產氣質。在馬克思勞動價值論的論域中,“承認人工智能完全代替人的勞動,意味著對馬克思勞動價值論的否定”。面對這一理論難題,武斷地認為馬克思勞動價值論過時或失效而另起爐灶的做法不值一駁,漠視新情況而滿足于“教科書”式的原理解讀只會故步自封。相比之下,承繼馬克思的話語體系,關照數(shù)字資本主義價值運動的新變化,嘗試重構勞動價值論的理論努力,則是一條可取的研究進路。大體上看,針對通用智能體是否創(chuàng)造價值的“時代之問”,有三種代表性觀點值得細加辨析。
                一是“解釋機器”論。英國新左翼學者拉里·羅曼指出,在資本主義應用下,數(shù)字時代的機器系統(tǒng)與工業(yè)時代的機器系統(tǒng)本質上并無二致。在工業(yè)時代,資本推動科學在工藝上的應用,形成對象化的知識力量——工業(yè)機器,來實現(xiàn)對整個生產過程中人手操作技能的拆解、模仿與替代;進入數(shù)字時代,資本推動人工智能技術在知識生產上的應用,形成對象化的算法力量——解釋機器,來實現(xiàn)對整體生產過程中人的解釋能力的分解、重組與復制。進言之,21世紀的“人工智能”實質上是針對人的解釋能力的數(shù)字機械化。從勞動價值論語境出發(fā),問題的關鍵在于,盡管當今世界資本主義生產“數(shù)字機器化”發(fā)展速度更快、影響范圍更廣、擴散方式更加隱秘,但與工業(yè)時代的機器系統(tǒng)相比,“解釋機器”并沒有讓活勞動“過時”。進一步地,既然數(shù)字資本主義機器系統(tǒng)沒有發(fā)生質變,本質上依然是從屬資本的對象化知識力量,馬克思機器觀就依舊成立,所謂“重構”勞動價值論就是庸人自擾了。
                在筆者看來,“解釋機器”論正確地指出人工智能資本主義應用的技術現(xiàn)實并沒有超越馬克思勞動價值論的論域,但總體上,這一觀點抱持技術進步的線性思維,沒有充分認識到新一代信息數(shù)字技術,特別是通用人工智能正在以指數(shù)級速度狂飆突進,并對資本主義生產過程帶來革命性、顛覆性沖擊,進而對當今世界數(shù)字機器的技術本質和生產地位的理論指認就不免有過于保守之嫌。正因如此,面對大模型時代數(shù)字機器令人應接不暇的升級迭代,沿著“解釋機器”論的邏輯理路,從理論上對數(shù)字資本主義價值運動的三重悖反作出有信服力的回應,就有點勉為其難了。
                二是“新勞動者”論。在談及資本主義生產中機器與工具的差異時,馬克思寫道:“機器則代替工人而具有技能和力量,它本身就是能工巧匠,它通過在自身中發(fā)生作用的力學規(guī)律而具有自己的靈魂,它為了自身不斷運轉而消費煤炭、機油等等(輔助材料),就像工人消費食物一樣?!蔽阌怪靡桑槍I(yè)機器的這一擬人化描述,曾激發(fā)人們關于資本主義機器系統(tǒng)發(fā)展可能的無窮想象。進入數(shù)字資本主義階段后,人工智能技術與應用日新月異??梢哉f,數(shù)字機器正在通過在自身中發(fā)生作用的統(tǒng)計學規(guī)律而日趨具有“類人智能”。
                鑒于此,有越來越多的學者主張:考察數(shù)字資本主義人機關系,需要破除“人類中心主義”迷思,摒棄對人工智能純粹的工具屬性認知,嚴肅思考智能機器“主體性”問題,并重新定義“勞動”和“勞動者”。在這個方面,有學者認為,早在弱人工智能階段,資本主義生產過程就已經是一種新型的勞動形式,弱人工智能則是一種新型的勞動者。而以ChatGPT為代表的生成式人工智能則應該被定義為“新常人”。從價值論域來審視,一旦通用智能體能夠勝任人類一切工作,并且“智能系統(tǒng)與自然人相比存在一定的‘物種優(yōu)勢’”,那么,通用智能體也能從事“勞動”也就不足為奇。進一步而言,只要具備一定社會歷史條件,促使人工智能“無產階級化”和“必須擁有自己生存必需品”,那么“工作的機器大腦是作為生產資料(奴隸)被占有,還是作為自由勞動力被雇傭”朝著適合于資本的生產關系演進,通用智能體創(chuàng)造“價值”也就順理成章了。
                歸結起來,“新勞動者”論的基本邏輯就是,只要認可通用智能體受雇于數(shù)字資本,并成為大模型生產中的“生產者”和“消費者”,那么,價值運動中的“生產悖反”和“市場悖反”就不會被極限放大而走向失控,數(shù)字資本主義價值體系就可以因“新的勞動元素”加入而重拾活力。但不無諷刺的是,照此觀點推之,資本推動社會勞動和一般智力的對象化積累,反而使資本主義在沒有人類參與的情況下也照樣運轉,并最終演化成以人工智能為基礎的永續(xù)型資本主義。在筆者看來,“新勞動者”論的最大硬傷在于:拒斥歷史發(fā)展的屬人性,將“勞動”“價值”等社會歷史范疇粗暴地移植于其所設想的數(shù)字資本主義“新世界”,卻不知弄巧成拙,在“表征人與人關系范疇當中引入人工智能機器”后將資本搞得面目全非。馬克思曾一針見血地指出:“人不再從事那種可以讓物來替人從事的勞動,——一旦到了那樣的時候,資本的歷史使命就完成了?!睙o疑,這一世紀箴言早就被“新勞動者”論的擁躉們拋在腦后了。
                三是“拒絕勞動”論。馬克思勞動觀指出,“勞動創(chuàng)造了人本身”。從根本上講,人類勞動的目的性和自主性,將人類實踐活動與動物本能活動區(qū)別開來?,F(xiàn)實中的人是唯一的勞動主體。一直以來,盡管機器系統(tǒng)的資本主義應用不斷擠出直接勞動,但人類勞動在創(chuàng)造性、批判性和自反性等方面展現(xiàn)出獨具的類本質,使得活勞動的核心元素無法被對象化知識力量所復制、重組或替代。正因如此,人的生產主體地位并沒有受到根本動搖。
                但時過境遷。如上文所述,在通用人工智能的技術加持下,數(shù)字機器已經展現(xiàn)出令人驚艷的“類人智能”。面對數(shù)字機器的智能進化和由此引發(fā)的人的“主體性危機”,一個并不荒誕的理論追問是:如果有朝一日,所有積極意義上的勞動特質都能夠被高度進化的機器系統(tǒng)所復制、模仿甚至超越,進而人類勝任的所有工作都可交由數(shù)字機器來完成,“一切價值來自人類勞動”還能夠成立嗎?
                在美國學者喬治·卡芬齊斯看來,進入人工智能時代,繼續(xù)以人類勞動的積極方面來詮釋馬克思勞動價值論,只會落入難以自洽的理論尷尬。即只要沿襲馬克思勞動價值論的基本觀點,并稍加理論演繹,就會得出“機器也能勞動且創(chuàng)造價值”這一荒謬卻合乎邏輯的結論。鑒于此,推動馬克思勞動價值論的時代化闡釋,有必要轉換研究思路,確立立論新?lián)?。他認為,從人類勞動的消極方面看,勞動者擁有的“拒絕勞動”能力恰恰是動物和機器系統(tǒng)都不具備的。進而,在馬克思價值論域下,唯有勞動才創(chuàng)造價值,并非人類勞動不能被機器徹底替代使然,而是因為“拒絕勞動”的能力使人的主體性始終無法被資本主義機器系統(tǒng)所僭越。
                “拒絕勞動”論堅守其所理解的馬克思勞動價值論的基本主張,并在關照數(shù)字時代新情況、回應新挑戰(zhàn)中,嘗試尋找“理論盲點”,實屬難能可貴。但從立論依據(jù)看,抽離特定的社會關系,僅憑“拒絕勞動”這一所謂“新發(fā)現(xiàn)”,就力圖證明馬克思勞動價值論依然有效,不過是罔顧價值運動社會歷史規(guī)定性的一種主觀臆斷,最終落入了主觀價值論的懷抱。退一步講,更為要害的是,在大模型生產下,一旦普通勞動者連出賣自身勞動力的市場機會都所剩無幾,“拒絕勞動”的能力又何以派上用場呢?
                3.通用智能體本質上是生產代理
                馬克思指出,在資本主義生產方式下,工業(yè)機器本質上就是以固定資本形式出場的對象化知識力量。進入數(shù)字資本主義階段,以通用智能體為代表的數(shù)字機器日益展現(xiàn)的自主性和自動性,對人的生產主體地位帶來前所未有的現(xiàn)實沖擊。通用智能體依然是“技術存在物”,還是能夠勞動的“新物種”,成為堅持馬克思勞動價值論必須加以回應的首要問題。理論上,只要對通用智能體“類人性”和“機器性”的認識含糊不清、甚至立場搖擺,推動馬克思勞動價值論的時代化闡釋就不會取得實質性的新進展。
                在馬克思的語境下,對人的主體性規(guī)定體現(xiàn)在兩個方面:一是我思的主體;二是具有社會性和實踐性的主體。從技術演化路徑看,只要通用智能體的持續(xù)進化不脫離“圖靈機”范式,那么,“人工智能只是將人類智能的某個方面抽象出來并加以片面發(fā)展和膨脹的產物”從統(tǒng)計學意義上講,通用智能體的“類人智能”實際上是“概率預測模型+隨機擇優(yōu)”。人類智能的核心維度,如非言語智能、情感決策、創(chuàng)新與悟性等,依然由人類掌握。這就決定了,“在馬克思勞動價值論論域中,人的本質決定了人工智能永遠不可能具備人的社會生產者和消費者的雙重主體地位”。進而,以通用智能體為代表的數(shù)字機器無論怎么發(fā)展,它始終是服務于資本的勞動資料且服從“屬人的世界”。換言之,通用智能體仍然是“不變資本的組成部分”,是一種生產工具,而不會成為獨立的價值源泉。當然,考慮到與工業(yè)時代的機器系統(tǒng)相比,數(shù)字時代的機器系統(tǒng)以更加“類人”的方式參與勞動過程,因而通用智能體本質上只是“人監(jiān)督下的生產代理”。
                三、AI增強與數(shù)字勞動的價值創(chuàng)造
                近年來,隨著人工智能技術深度發(fā)展,越來越多的人類勞動實現(xiàn)從人的“具身化”向“離場化”的轉變。但是,平臺經濟發(fā)展表明,數(shù)字資本主義“無人化”生產一路高歌,并沒有“完全取消人的勞動”,“隱蔽在算法背后,被認為是自動化的,事實上它們仍舊高度依賴人類勞動”。進而言之,數(shù)字勞動成為數(shù)字資本主義階段價值創(chuàng)造的新源泉。大模型時代的到來加速AI技術平民化,數(shù)字資本主義人機關系正在發(fā)生復雜變化。在作為人的“無機的身體”——通用智能體的助力下,數(shù)字勞動的價值創(chuàng)造也呈現(xiàn)亟待關注的新變化新特點。
                1.用戶無酬勞動日趨重要
                自Web2.0以來,平臺革命推動社會大眾的數(shù)字化生存提級加速。在數(shù)字資本主義平臺體制下,用戶無酬勞動作為數(shù)字勞動的典型形態(tài),成為數(shù)字資本規(guī)訓與吸納勞動的重要形式。大體上看,數(shù)以億計的活躍用戶流連于五彩斑斕的網絡虛擬世界,卻在不經意間成為數(shù)字資本的“網絡奴工”,在數(shù)據(jù)要素供給、數(shù)字空間生產、數(shù)字機器制造以及數(shù)字商品產消等方面發(fā)揮著不可替代的作用。從馬克思機器觀看,一直以來,資本不懈追求對一般智力的無償占有,在數(shù)字時代通過用戶無酬勞動對象化,更加實時、便捷地加以實現(xiàn)了。
                大模型生產推廣后,越來越多的AI原生應用加入平臺經濟生態(tài)圈。實踐中,自然語言對話式人機交互引爆“AI的iPhone時刻”,正在顛覆性重塑用戶操作界面,不僅給用戶帶來全新的數(shù)字消費體驗,而且使功能強大的智能化工具唾手可得。不同于馬克思語境中中介勞動的工具,作為生產代理的通用智能體本身就是“能工巧匠”——幾近“全能”的數(shù)字助手,在知識密集型工作崗位中高效地“為你代勞、替你解憂”。如此一來,大模型生產催生的“對話即服務”,極大地降低了普通民眾的觸網門檻,社會大眾的數(shù)字化生存向智能化生存躍遷,用戶無酬勞動的價值貢獻也將愈發(fā)彰顯。這集中體現(xiàn)在以下兩個方面。首先,高質量語料庫是大模型智能生產力生成的基本要素條件。從根本上講,通用智能體的“類人智能”是對人類社會一般智力的統(tǒng)計學表達。并且,通用智能體的“智力進化”需要持續(xù)不斷的數(shù)據(jù)投喂,以實時捕獲隨人類文明發(fā)展的新積淀。從目前來看,數(shù)字科技巨頭主導的大模型開發(fā)幾乎用盡人類所有的信息和知識存量。如此一來,從數(shù)據(jù)要素的可持續(xù)供給看,活躍用戶在數(shù)字化生存中時刻都在制造的海量數(shù)據(jù),承載著人類社會一般智力的增量,自然愈發(fā)被大模型開發(fā)和迭代所倚重了。尤其是,在通用智能體的助力下,活躍用戶可以跨越“技法”和“效能”的限制,專心于數(shù)字展演的創(chuàng)意構思和真情表達,實現(xiàn)“靈感—線索—作品”的快速轉化,用戶生成內容(UGC)的品質和豐富度也將會不斷提升。與AIGC生成的“機器文本”相比,大模型生產中UGC的數(shù)據(jù)價值就更加令人期待。其次,從數(shù)字機器制造看,通用智能體的產生與進化是在預訓練大模型的基礎上,利用行業(yè)專有數(shù)據(jù)加以微調后形成專有模型來實現(xiàn)的。實踐中,為了確保大模型生產結果的安全可靠,通用智能體的參數(shù)建模、反饋學習和價值對齊,都離不開人工引導和監(jiān)督干預。這其中,在邁向智能化生存中,用戶與通用智能體的每一次親密接觸,無論是提問聊天,還是反饋糾錯,無一不是在無償?shù)貫閿?shù)字機器的升級迭代貢獻集腋成裘之力。
                2.網絡眾包勞動走向小眾化
                進入數(shù)字資本主義階段,全球數(shù)字勞動圖譜中的一個典型勞動形態(tài)就是網絡眾包勞動,也稱“云勞動”。依據(jù)完成數(shù)字任務所需專業(yè)技能程度,眾包勞動又細分為以跨境客(Upwork)為代表的自由職業(yè)者和以亞馬遜土耳其機器人(Amazon Mechanical Turk)為代表的微勞動。根本上講,眾包勞動者從事的依然是各種認知勞動,只是在平臺體制下勞動過程被“去時空化”。大模型生產落地后,數(shù)字資本對勞動的替代向人類知識生產領域延伸。目前來看,通用智能體擁有的內容生成能力(AIGC),正加速向多模態(tài)、寬領域、高協(xié)同方向迭代進化。進而,數(shù)字資本發(fā)布的數(shù)字化任務和在線工作內容將裂變重組,從而使眾包勞動者的價值貢獻和其生產者命運經歷變數(shù)。
                一方面,對于從事“幽靈工作”的眾包微工而言,文本生成、智能客服、數(shù)據(jù)標注等低端認知勞動,假以時日,終究會被超高效、更經濟的通用智能體所替代。更何況,頂著高科技光環(huán)的數(shù)字資本會迫不及待地抓住大模型生產帶來的新契機,最大程度地擺脫與數(shù)字勞動的糾葛,以便更加心安理得地四處宣揚AI煉金術。當然,短期內通用智能體還不會真正實現(xiàn)像人類一樣理解、思考、推理,專事于彌補數(shù)字機器能力短板的眾包微勞動不會迅速消失,但總體上會集聚于特殊生產或服務領域,呈現(xiàn)勞動群體小眾化、工作要求特殊化的新趨勢。這集中體現(xiàn)在:在傳統(tǒng)微工作機會加速減少的同時,面向小眾文化場景、行業(yè)專業(yè)領域的數(shù)據(jù)標注,以及大模型開發(fā)中學習模板建立等數(shù)字任務需求,都會催生新的在線工作崗位。于是,在數(shù)字資本構筑的盈利鏈條中,從勞動密集型加速轉向知識密集型的眾包勞動生產貢獻將有所提升,但同時全球就業(yè)弱勢群體在線工作機會將顯著縮減。
                另一方面,對于依托數(shù)字平臺的自由職業(yè)者而言,大模型衍生出豐富的能力矩陣,助力其從日常的數(shù)字技術操演中抽身,有更多時間和精力去從事更具想象力和挑戰(zhàn)性的數(shù)字勞動。同時,通用智能體在提示和誘導下生成的巨量知識內容,不乏有令人腦洞大開的真知灼見或創(chuàng)意靈感。其結果,在大模型生產下,擁有一般的技術專長不再是自由職業(yè)者的競爭利器,善于“制造想法”且精于使用智能化工具的創(chuàng)客們才會在第四次工業(yè)革命中炙手可熱。實踐表明,充分利用AIGC與機器人流程自動化技術的超級個體業(yè)主已經嶄露頭角。
                3.零工勞動體面化迎來新轉機
                進入數(shù)字資本主義階段,零工經濟獲得井噴式發(fā)展,催生基于APP的零工勞動。網約司機、外賣騎手、快遞員等網約零工數(shù)量急劇增長,他們在平臺算法系統(tǒng)的驅動下,風雨無阻地奔波于城市的大街小巷,成為人們數(shù)字化生存不可或缺的一部分。田野調查表明,作為“不穩(wěn)定無產者”一員的零工勞動者全身心地投入到平臺的“趕工游戲”,心甘情愿地為數(shù)字資本貢獻海量數(shù)據(jù)、創(chuàng)造剩余價值。本質上講,在數(shù)字資本苦心孤詣打造的“虛擬生產線”中,網約零工只是一個個受平臺系統(tǒng)操控,忙于補位“AI最后一公里”的流動數(shù)據(jù)點而已。
                目前來看,進入大模型生產后,通用智能體在越來越多的知識型工作崗位大顯身手。相比之下,基于“具身智能”打造的人形機器人還只是展演于實驗室,無人駕駛、無人機投送等大規(guī)模商用也有待時日。進而,盡管網約零工大都從事低技能的體力勞動,其完成任務時的身手敏捷和隨機決斷,使當今最精密的數(shù)字機器也望塵莫及。當然,從長遠看,人工智能技術發(fā)展中的“莫拉維克悖論”(Moravec's Paradox)一旦被攻克,“數(shù)字化革命時代的低薪職業(yè)可能還可以延續(xù)一二十年,但是很快它們的時代也會隨之終結”。
                鑒于此,短期內更值得討論的一個話題是,在大模型生產掀起的新一輪數(shù)字革命浪潮中,身處社會最底層的網約零工們能否更加體面地在數(shù)字資本盛宴中“分得一杯羹”?資本主義數(shù)字勞動的反抗實踐表明,從根本上講這取決于零工勞動的實際環(huán)境能否得到持續(xù)改善。從平臺賦能看,一旦通用智能體嵌入平臺算法系統(tǒng),成為網約零工的數(shù)字助手,勞動者就可以從令人窒息的“數(shù)字牢籠”中部分地解脫出來,更為真實地體驗數(shù)字勞動帶來的工作自主和勞動自由。重要的是,疲于數(shù)字勞作的網約零工們因AI增強而提升了自我效能感,不僅有利于提高勞動生產率,促進剩余價值生產,而且還一定程度上起到緩解、轉移日漸尖銳的勞資矛盾之功效。對此,精明的數(shù)字資本只要稍加投放算法向善的“橄欖枝”,就可以更加高枕無憂地將榨取零工勞動的豐碩果實收歸囊中了。
                4.雇傭數(shù)字勞動“工人貴族化”趨勢加劇
                數(shù)字資本主義勞動制度的顯著特征就是數(shù)字資本推行二元用工體制。一方面,針對數(shù)量眾多的普遍勞動者,依托數(shù)字平臺推行外包、眾包來實現(xiàn)“非雇傭剝削”;另一方面,為招攬極具創(chuàng)新潛能的技術極客,數(shù)字資本則通過雇傭合同競相提供令人咂舌的高薪待遇,使其成為數(shù)字時代的“工人貴族”。平臺經濟實踐表明,數(shù)字資本竭力掩蓋對非雇傭勞動者的極度榨取行徑;同時又高調地宣揚自有員工的優(yōu)渥待遇和工作環(huán)境,借以粉飾自我,來博取資本市場的青睞和利益相關者的好感。
                大模型生產推行后,通用智能體的插件化應用,將使原本由正式員工完成的各種專業(yè)化數(shù)字化任務,如網頁設計與維護、代碼編寫和數(shù)據(jù)分析等,在自然輕松的人機對話中“一鍵搞定”。正因如此,近兩年來貪婪成性的數(shù)字資本推出一輪又一輪的裁員計劃,也就在情理之中了。與此同時,為了在大模型生產競爭中勝出,數(shù)字資本又用盡招數(shù),以更加誘人的薪酬待遇在全球范圍內爭奪大模型開發(fā)、優(yōu)化和部署方面的頂尖人才。如此一來,可以肯定的是,無論是新興的數(shù)字科技企業(yè),還是數(shù)字化轉型的傳統(tǒng)企業(yè),雇傭的正式員工規(guī)模將持續(xù)縮減,但專注于通用智能體研發(fā)、生產與應用的高級數(shù)字勞動者將在數(shù)字資本的追捧中進一步“工人貴族化”。
                四、“波斯特洛姆之問”與價值運動的未來境遇
                馬克思指出,在以資本為基礎的生產中,以交換價值為中介的生產體系實現(xiàn)對人的“抽象統(tǒng)治”。并且,只要勞動“通過交換才能被設定為一般勞動”,資本主義價值運動就會照常運轉。進入大模型生產后,資本對勞動的替代加深,加之數(shù)字化生產資料進一步基礎設施化,使數(shù)字資本主義價值運動面臨新情況新挑戰(zhàn)。短期內,通用智能體的生產代理和數(shù)字勞動的AI增強,使數(shù)字資本主義生產體系得以延續(xù)。但從長遠來看,一旦通用智能技術發(fā)展突破“技術奇點”,英國學者尼克·波斯特洛姆在暢銷書《超級智能》中的驚天一問(即“波斯特洛姆之問”)——“假設機器勞動者能夠很快被生產出來,并且在所有工作中都比人類勞動者更加便宜和能干,那么會發(fā)生什么呢”,恐怕就不是癡人囈語了。從根本上講,數(shù)字資本主義的價值運動會走向何方,取決于以通用智能體為代表的數(shù)字化機器系統(tǒng)“類人性”和“機器性”的終極演化。
                1.數(shù)字帝國主義與價值運動的延續(xù)
                在“圖靈機”范式下,通用智能體依然是“人的手創(chuàng)造出來的人腦的器官,是對象化的知識力量”。但是,正如以色列學者尤瓦爾·赫拉利提出的忠告,“如果認為人類永遠都能有自己獨特的能力,無意識的算法永遠無法趕上,這只能說是一廂情愿”。鑒于此,如果有朝一日,沒有“意識覺醒”的通用智能體“勞動能力”全面超越人類,進而資本實現(xiàn)對勞動的極限替代,那么,在筆者看來,被掏空價值實體的數(shù)字資本主義也只能靠“數(shù)字帝國”的虛幻繁榮來茍延殘喘了。
                首先,從價值運動的制度基礎看,在“硅谷私有制”下,大模型生產的關鍵基礎設施,由極少數(shù)數(shù)字科技巨頭所控制。不言而喻,人類認知性生產資料的私有化,推動資本主義私有制實現(xiàn)從對物理空間到數(shù)字網絡空間再到人類認知空間的殖民化,進一步固化數(shù)字資本的生產方式基礎。其次,從價值運動的生產基礎看,數(shù)字資本主義生產過程中的活勞動因素不會完全消失,但極大可能縮減至“經濟奇點”臨界程度。一方面,在通用智能體的研發(fā)、優(yōu)化和部署上,來自頂尖數(shù)字人才的數(shù)字勞動生產貢獻巨大,但畢竟總量意義上的活勞動投入甚少。另一方面,在人類勞動“因其美學、意識形態(tài)、道德、宗教或其他非實用主義的因素而更受人喜愛的條件下”,手工藝品可能備受市場追捧,但充其量也只是“機造商品”海洋中的點綴而已。再者,從價值運動的市場基礎看,未來的社會生產似乎經由少數(shù)精英加上智能機器就可以完成,普通勞動者的規(guī)模性技術失業(yè)將不可避免?!叭藗冸m然繼續(xù)依賴工資,而工資卻越來越難以獲得?!边M而,面對大模型生產時代價值運動“市場悖反”的尖銳化,數(shù)字資本親力推行“基本收入計劃”(UBI)來制造和維系市場有效需求,也就見怪不怪了。
                2.AI資本主義與價值運動的蛻變
                需要強調的是,上文針對“新勞動者”論的駁斥,是建立在通用智能體的迭代沒有發(fā)生“意識覺醒”這一預設之上的。理論上講,如果通用人工智能技術演進發(fā)生“智慧逃逸”,數(shù)字化的機器系統(tǒng)獲得“自我意識、反思性和創(chuàng)造性”,并朝向“超圖靈機”一路狂奔,那么,不妨復述一下“新勞動者”論所描繪的,一個由通用智能體充當“勞動主體”的“AI資本主義”社會將粉墨登場。于是,在AI資本主義生產方式下,通用智能體成為新的“雇傭工人”,數(shù)字資本進一步蛻變成“AI資本”,靠間接的“強制勞動”才能存在的“價值運動”就會運轉如舊。到那時,“工資關系被徹底取消,蔓延至整個世界的大型企業(yè)集團繼續(xù)擁有和控制生產資料,但它們不再雇用人類,人類的主要任務只是通過日?;顒訛闄C器提供數(shù)據(jù)”。
                如此一來,從“價值”形成看,以“AI資本”為基礎的生產找到新的、可吞噬的“活勞動”而生機重現(xiàn);從“價值”實現(xiàn)看,通用智能體的“勞動力再生產”不斷制造市場有效需求,使得AI資本主義的“生產過?!辈粫p易走向失控;從“價值”存在看,“AI資本”牢牢控制基礎設施化的關鍵生產資料,使得“使用價值的生產受交換價值的限制”的制度性矛盾重演。因而,可以說,從“財富”生產看,這是一個“硅基生產者”勞碌的新世界;從“價值”運動看,這是一個依舊充滿“勞動異化”“奴役剝削”的舊世界。但歸根結底,這是一個“去人類”甚至“反人類”的數(shù)字反烏托邦。
                3.數(shù)字社會主義與價值運動的瓦解
                在馬克思看來,一切產品和活動轉化為交換價值是社會歷史發(fā)展的產物。同時,“矛盾和對抗不是從機器本身產生的,而是從機器的資本主義應用產生的”。當人類社會進入“人的自由全面發(fā)展”階段,“在共同生產的基礎上,勞動在交換以前就會設定為一般勞動”,以資本為基礎的價值運動也就自然消亡。并且,“在共產主義社會,機器的使用范圍將和在資產階級社會完全不同”。這將突出體現(xiàn)在,通用智能體真正成為人類的數(shù)字助手,將人們從日常性勞動中解放出來,自然自覺地從事合乎“人的類本質”的創(chuàng)造性活動。
                超越資本邏輯,建設數(shù)字社會主義,是實現(xiàn)大模型生產造福全人類的必由之路。為此,要摒棄“后資本主義”“全自動豪華資本主義”和西方左翼加速主義等技術烏托邦幻想,根本變革數(shù)字資本主義平臺體制,建立和完善數(shù)字社會主義基本經濟制度。不言而喻,其中最為根本和緊要的,就是要推動數(shù)字公地建設,促進數(shù)據(jù)語料庫的開放、算力基礎設施的共享以及大模型算法的開源,進而為將大模型作為“結合的、社會的勞動的生產資料使用”奠定堅實的生產方式基礎。
                在通用人工智能技術加持下,數(shù)字資本主義進入大模型時代。以通用智能體為代表的數(shù)字化機器系統(tǒng)的日?;瘧?,強勁驅動智能生產力的生成和發(fā)展,一方面給資本主義高效制造數(shù)字化的財富繁榮,另一方面又使資本主義價值運動面臨重大沖擊。面對大模型生產下勞動主體、勞動對象、勞動內容、勞動形態(tài)、勞動關系等各方面發(fā)生的革命性、顛覆性變化,深入推進馬克思勞動價值論的時代化闡釋刻不容緩。根本上講,守正才能不迷失方向,創(chuàng)新才能把握時代、引領時代。深化對數(shù)字資本主義價值運動的規(guī)律性認識,迫切需要創(chuàng)造性運用馬克思勞動價值論的基本原理,穿透大模型時代勞動價值創(chuàng)造實踐紛繁復雜的生產表象,厘清數(shù)字機器的本質,把握數(shù)字勞動的形變,剖析價值運動的矛盾激化和發(fā)展趨勢,探求AI普惠和勞動解放的人類文明新形態(tài)。對此,我們在堅持“活勞動是價值唯一源泉”這一核心思想的同時,既要對各種妄言馬克思勞動價值論過時或失效的陳詞濫調一如既往地予以堅決回擊,又要對將勞動價值創(chuàng)造庸俗化、主觀化和去人化的種種“新論”時刻保持理論警惕并加以有力批駁。
                (作者簡介:黃再勝,國防大學政治學院馬克思主義理論系教授)

                版權所有 © 2016 - 2025 北京高校思想政治理論課高精尖創(chuàng)新中心

                增值電信業(yè)務經營許可證:京B2-20190536  京ICP備10054422號-13 京公網安備110108002480號