美國未來學家、非營利組織幸福馬拉松項目創(chuàng)始人約翰C·黑文斯在其所著的《入侵未來》(機械工業(yè)出版社2016年6月出版)一書中,表達了對于互聯(lián)網(wǎng)經(jīng)濟、數(shù)字時代前景的信心。黑文斯在《入侵未來》書中解釋說,未來,人們擁有并掌控自己的數(shù)據(jù),主動采用前所未有的方式來監(jiān)測生活,對數(shù)據(jù)進行自我分析后采取行動來提升幸福;在此基礎上,幸福指標將成為新的全球性價值衡量標準,從各國到每個機構、個人都在透明和道德標準基礎上去創(chuàng)造幸福。他還設法祛除部分用戶對于熱點技術應用的擔憂。熱點技術具備挖掘數(shù)據(jù)甚至是用戶隱私的可能,但應用價值更大,如果能獲得恰當?shù)氖褂?,將為用戶?chuàng)造更大價值。
黑文斯最新出版的《失控的未來》一書,對于互聯(lián)網(wǎng)經(jīng)濟和數(shù)字時代的描繪,卻秉持一種悲觀意味。他在書中假設他的女兒未來(2021年)患上了青少年帕金森病,被要求在大腦中植入一個可以遠程更新的芯片,但醫(yī)院方面對于芯片聯(lián)網(wǎng)運作帶給人體、人腦的潛在危害不置一詞,也沒有針對黑客入侵的應對預案。而到了2022年冬天,雖然黑文斯女兒的病情日漸穩(wěn)定,芯片也經(jīng)過了兩次更換,但因為“機器換人”大背景下,黑文斯夫婦已經(jīng)找不到財力以繼續(xù)支撐女兒更換新版本芯片的工作,醫(yī)院方面決定從她女兒大腦中拿掉芯片。
基于現(xiàn)有的人工智能、互聯(lián)網(wǎng)等技術發(fā)展趨向,黑文斯還描繪了其他幾幅場景:他的女兒痊愈,卻在2028年進入青春期后,選擇了一個機器人作為首個約會對象;身為專欄作家、記者的他,周邊同行的工作被機器人悉數(shù)取代,他本人得以短暫留職僅僅是因為媒體老板象征性的保留“人類記者”職位,他還經(jīng)常被機器人同行取笑;2044年,進入老年的黑文斯,期盼著兒子來看他,結果兒子僅僅派來了一個克隆了自己神經(jīng)網(wǎng)絡意識的人形機器人,這讓黑文斯大感不滿。
以上幾類場景是黑文斯想象得出的,但發(fā)生在2014年11月美國俄亥俄州哥倫布市的一起悲劇事件卻真實存在。一戶購買了經(jīng)系統(tǒng)改進能夠自動尋找插座充電的掃地機器人,機器人無法從自己現(xiàn)有的插座上充電,便搶奪了另一處插座上的電源,被拔去電源的恰恰是這戶居民所使用的嬰兒監(jiān)視器。凌晨時分,嬰兒因為吐奶而被嗆得發(fā)不出聲音,但負責招呼孩子的父親卻睡著了,沒能聽到哭聲。
黑文斯在《失控的未來》書中表達了對于人工智能和互聯(lián)網(wǎng)等技術,在沒有加入道德標準和倫理限制的前提下狂飆發(fā)展的擔憂?!叭祟惍斍熬哂卸鴻C器所沒有的,是一種與生俱來的價值觀念……(人們)還具備對情感和道德感知能力……”現(xiàn)在的問題是,要讓人類社會的價值觀經(jīng)過確認、梳理、總結,轉化為機器可以識別的協(xié)議,十分困難;更加令人擔憂的是,智能產(chǎn)業(yè)、互聯(lián)網(wǎng)產(chǎn)業(yè)中的企業(yè)對于建構和轉化適用于機器的道德準則,也并無積極主動的意識。這種情況下,人們有理由擔心,20世紀以來,產(chǎn)值、財務報表數(shù)據(jù)、利潤至上的資本邏輯,在延續(xù)到本世紀,通過人工智能和互聯(lián)網(wǎng)等新技術構建起一個規(guī)模龐大的機器化、自動化新世界后,會出現(xiàn)不利于人類生存發(fā)展的失控狀態(tài),個人、少數(shù)人甚至相當部分的族群、群體,會在資本邏輯和技術至上觀念的驅動下,成為犧牲品。
全書分為兩大部分。第一部分中,書作者深入討論了大數(shù)據(jù)、人工智能、移動互聯(lián)網(wǎng)等新技術加速演進,所產(chǎn)生的應用和管理困惑。前面提到的幾類假想場景,均建立在新技術的現(xiàn)有應用方式特別是缺乏道德約束和倫理考量的基礎之上,例如當代人對于虛擬關系的嚴重依賴,智能增強設備的創(chuàng)新迭代、神經(jīng)生物學的飛速進展,讓人與機器的結合逐漸成為現(xiàn)實,未來的人將不再是純粹意義上的人,在人的大腦中植入芯片(以治療疾病或進行行為控制)、人與機器人的戀愛并非空想。
再來看“機器換人”對于現(xiàn)有白領階層、技術人員的沖擊,因為這不僅將造成失業(yè)人群的經(jīng)濟損失,還因為剝奪了有目的性的工作,讓人們無法從生活中獲得意義。而當機器、智能可以克隆出“高仿”版的真人的情況下,人的社會存在價值便受到了進一步的剝蝕。黑文斯擔心,未來,可以復制人的記憶和思維方式的機器,卻因為不具備人的道德、情感,會對人類社會的運轉帶來不可避免的威脅。
《失控的未來》一書的第二部分對于第一部分陳述的問題,提出對應的解決建議。比如,要促成積極心理學與人工智能的融合,讓個性化算法幫助而非誘導、安排人如何去實現(xiàn)幸福;更加清晰的梳理社會價值觀,確保其涵蓋志愿服務等正向活動的價值。又如,集合政府、社會組織、數(shù)據(jù)產(chǎn)業(yè)企業(yè)、互聯(lián)網(wǎng)企業(yè),建立人工智能道德標準,將感激、利他主義、意義植入其中,在此基礎上促成技術、經(jīng)濟和社會秩序重建,走出失控。?
![]() |
?!霸诮?jīng)濟整體不太景氣,由高速增長向中高速增長換擋的情況下,我國機器人產(chǎn)業(yè)一枝獨秀,引領了制造業(yè)的發(fā)展。”