民初思韻網

加入收藏   設為首頁
選擇語言   簡體中文
你好,請 登陸 或 注冊
首頁 人文思韻 傳奇人物 歷史思潮 時代作品 話題討論 國民思韻 民初捐助 賬戶管理
  搜索  
    人文精神 >>> 技術話題—商業文明的嶄新時代
字體    

自動化讓我們變蠢
自動化讓我們變蠢
36氪     阅读简体中文版


注:Mark Anderson說軟件正在蠶食世界,他或許是從一個風投家的角度看到了無盡商機。但《淺薄(The Shallows: What the Internet Is Doing to Our Brains)》以及《玻璃籠子:自動化與我們(The Glass Cage: Automation and Us)》兩本書的作者Nicholas Carr卻感受到的是對人類未來的憂患—軟件導致的知識工作自動化會讓人類變蠢。人類智能會因為機器做得越來越多而變得枯竭。我們會不會像電影《機器人瓦力》里面的人類那樣,沉迷于虛幻的現實、肥胖到無法直立行走,不會做任何事情嗎?Carr的看法是,未必,但這必須要求我們采取另一種自動化的方案。


人工智能已經來臨。現在的計算機不僅目光敏銳而且行動敏捷。它們可以感知環境,解決棘手問題,做出微妙判斷,并懂得學習經驗。它們已經能夠復制許多我們當中最有價值的智力人才,我們現在已經把過去許多自己做的復雜工作交到了它們手上。


但是人類對計算機自動化的依賴程度不斷加深可能要付出高昂代價。令人不安的證據表明,在我們越來越依賴于各種人造物以后,人類自身的智能正在變弱。智能軟件似乎不能提高我們的智能,而是令我們變蠢了。


這是一個緩慢的過程。第一波自動化浪潮始于二戰后,制造業開始在工廠安裝電子控制設備,從而顯著提升了生產效率和企業利潤。不僅如此,自動化被譽為是解放者,讓被替代的工人得以從事更有活力的工作,發揮更有價值的才能。


然后到了 1950 年代,哈佛商學院的 James Bright 教授開始研究自動化在不同行業(從重工業、煉油業到面包烘烤等)中收到的實效。結果他發現,工廠情況并未得到好轉。新機器并沒有把人往上趕,而是往往把人擠到了更單調乏味、要求更低的崗位。比方說,自動化銑床并沒有把金屬加工工人變成了富于創意的藝術家,而是把他變成了一個按按鈕的人。


Bright 因此得出結論認為,自動化對工人產生的最重要效應不是“提升技能”而是“去技術化”。“經驗教訓越來越清晰,”他在 1966 年寫道:“高度復雜的設備并不需要熟練的操作者。‘技能’已經被植入到機器里面了。”


今天,我們正在更廣的范圍內再次感受到這一教訓。隨著軟件擁有了分析和決策能力,自動化已經飛躍出了工廠,進入到白領世界。計算機正在接管長久以來被認為是受到過良好教育以及訓練有素的專業人士才能從事的知識工作:飛行員得靠計算機開飛機;醫生要向它們請教診斷結論;建筑師用它們來設計建筑。自動化的這波新浪潮席卷了每一個人。


計算機并沒有奪走了有才能的人的所有工作,但是卻改變了工作的完成方式。專業技能同樣的去技術化跡象正在不斷累積,甚至連高度專業的領域亦是如此。今天的計算機操作者就像昨天的機器操作者。


比方說天上的自動駕駛。發明 1 個世紀以來,自動駕駛已經讓飛行更高效更安全。隨著 1970 年代計算機化“飛控系統”的引入,這一趨勢仍在延續。但是現在航空專家担心我們走得太遠了。我們已經把太多的駕駛艙任務交給了計算機,以至于飛行員正在失去優勢,并開始出現英國飛行研究者 Matthew Ebbatson 所謂的“技能退化”。


2007 年,準備博士論文的 Ebbatson 對一組飛行員進行了一項實驗。實驗內容是讓飛行員在飛行模擬中做出一項難度很高的機動動作—讓引擎失效的波音飛機在惡劣天氣下著陸,希望借此評估一下這些人的技能(比方說評估空速的精確度等)。


隨后他把模擬結果與飛行員的實際飛行記錄進行了對比。對比發現飛行員對控制的熟練程度與該飛行員最近手工操作飛機的時間具有緊密聯系(注:熟能生巧嘛,這個研究似乎多此一舉)。越是不需要頻繁練習的可容錯操作,技能就退化得越快。可是現在飛機的起飛和降落大部分已經由計算機包辦了,因此這兩塊恰恰正是飛行員缺乏練習的地方。


而人工操作能力的一點點退化都可能造成悲劇事故。手藝生疏的飛行員更有可能在緊急情況下犯錯。最近的多次飛行事故均牽扯到自動化相關的飛行員人為錯誤,其中就包括 2009 年美國大陸航空 3407 航班在布法羅的墜機事故以及法航 447 在大西洋的墜機,還是就是 2013 年韓亞航空在舊金山的著落失敗事故等。


去年,美國聯邦航空管理局(FAA)駕駛艙技術特別調查小組發布了一份報告,報告記錄了墜機與過度信賴自動化之間存在著越來越多的關聯。飛行員已經“習慣于先觀察發生了什么事情再去做出反應而不是保持前瞻性。”現在 FAA 已經敦促航空公司要讓飛行員花更多的時間去聯系人工操作。


軟件改進后,使用軟件的人也就不大愿意去磨練自己的專門技能。這應該歸咎于那些提供了大量提示的應用;而那些不那么熱心的、更簡單一些的應用卻會促使人更努力去思考、行動和學習。


10 年前,荷蘭烏特勒支大學的信息科學家讓一群人執行復雜的分析和規劃任務,這些人有的用不提供任何輔助的基本軟件,有的則用提供了大量輔助的復雜軟件。研究人員發現,使用簡單軟件的人反而制定出了更好的策略,所犯錯誤更少并且形成了更出色的工作技能。而使用更先進軟件的那些人往往卻在遭遇棘手問題時“毫無目標地亂點鼠標”。本該是有幫助的軟件實際上卻令這部分人頭腦短路,不懂學習。


加州大學伯克利分校的哲學家 Hubert Dreyfus 2002 年寫道,人類的專門知識是“經歷了各種情況后而形成的,觀察角度都是一樣的,但是需要不同的策略決策。”換句話說,熟能生巧,只有不斷地使用這些技能才能克服各種不同的挑戰。


相反,現代軟件的目標則是讓我們輕松面對這些挑戰。艱苦、費力的工作正是程序員渴望自動化的—畢竟這是立竿見影的東西。換言之,進行自動化的人的興趣點以及做工作的人的興趣點之間存在著根本性的緊張關系。


但無論如何,自動化的范圍還在繼續擴大。電子病歷的推廣使得醫生越來越依賴于在軟件模板的指導下進行病人身體檢查。軟件引進了有用的檢查列表和告警信息,但是也使得醫學愈發的程式化,并且疏遠了醫生與病人之間的距離。


2007-08 年間,紐約州立大學奧爾巴尼分校的Timothy Hoff 進行了一項研究,研究調查了 75 名采用計算機化系統進行初級診療的醫生。醫生認為軟件弱化了自己對病人的了解,令其“對診療做出明智決策的能力”受到削弱。


哈佛醫學院教授 Beth Lown 2012 年的一篇合著的期刊文章也對醫生受到“屏幕驅動”的現象提出了警告,文章認為醫生按照計算機指示而非病人的病情敘述進行的思考是狹隘的。最糟糕的情況有可能會導致錯失重要的診斷信號。


這種風險并非理論上存在而已。診斷雜志最近的一篇論文對美國的首個埃博拉私網病例的誤診進行了檢查。他們認為,醫院臨床醫生用來記錄病人信息的數字化模板有可能對誤診起到了誤導的作用。研究人員認為,這些工具為了能捕捉數據而進行了優化,但卻犧牲了分類診斷的實用性,所以存在很大的局限性,導致用戶只見樹木不見森林。其結論是,醫療軟件無法替代基本的病史采集、檢查技能以及批判性思維。


甚至連創意性的工作也不斷受到自動化去技能化的影響。計算機輔助設計幫助建筑師利用不同常規的形狀和材料來構造建筑,但是設計流程引入計算機過早的話,會損害到畫草圖和建模過程中產生的美學敏感性以及概念性洞見。


心理學研究已經發現,通過手工能夠更好地激發設計師的原創力,拓展其工作記憶以及增強他們的觸感。英國開放大學的設計學教授 Nigel Cross 說,畫板就是“智能放大器”。


軟件接管的事情手工技能就衰退。芬蘭建筑師 Juhani Pallasmaa 在《The Thinking Hand》一書中指出,過度依賴計算機使得設計師更難欣賞自己建筑的那些最微妙的、最具人文素質的地方。“計算機圖像的假精確以及顯然的有限性”限制了設計師的視野,意味著做出來的東西有可能技術上極其出色但卻缺乏情感。邁阿密大學的建筑學教授 Jacob Brillhart2011 年也寫道,盡管現代計算機系統可以不可思議的速度將一組空間轉化為精確的 3D 渲染,但也孕育出來“更多懶惰的、缺乏悟性、想象力以及情感的平庸之作。”


不過我們未必一定要聽任這種情況發展。自動化不需要消除我們工作面臨的挑戰,不需要消滅我們的技能。那些損失源自人類工程學者等其他學者所謂的“以技術為中心的自動化”,這種設計哲學統治了程序員和工程師的思維。


系統設計師在開始項目的時候,首先考慮的是計算機的能力,想著把盡可能多的工作都交到軟件身上。而分給人類操作者的則是剩下的事情,這些事情往往是相對被動的雜事,如輸入數據、跟著模板做以及監視屏幕等。


這種哲學讓人掉進了去技能化的惡性循環。通過讓人與艱苦工作隔絕而鈍化了人的技能并增加了犯錯的幾率。而一旦那些錯誤發生后,設計師的應對措施反而是進一步限制人的責任,從而導致新一輪的去技能化發生。


由于流行技術“強調技術需求勝過人的需求,”所以迫使人“進入到一個支撐的角色,但這種角色正好是我們最不擅長的角色之一,”加州大學學圣地亞哥分校的認知科學家以及設計研究者 Donald Norman 這樣寫道。


不過這里有一個替代方案。


“以人為中心的自動化,”人占據優先位置。系統在設計上把人類操作者放在一個工程師所謂的“決策環”—即行動、反饋及判斷的持續過程上。這會讓工人時刻留意、參與和促進了此類可強化技能的挑戰性任務。


在這種模式下,軟件扮演的是一個必不可少但卻是次要的角色。這次它接管的是人類操作者早已掌握的常規職能,當非預期情況發生時發出告警,提供實時信息來拓展操作者視野,并抵制往往歪曲人類思維的偏差。這時候技術變成了專家的合作伙伴而不是取代專家。


把自動化推向一個更加人性化的方向并不需要任何技術突破。只需要優先次序的轉移并重新關注于人類的優勢和劣勢。


比方說,航空公司可以在飛行期間設定控制權在計算機和飛行員之間不斷轉移。通過讓飛行員保持警覺和活躍的方式來讓飛行更加安全。


而會計、醫療等專業領域,軟件遠可以不用侵擾太多,給人留出更大的空間來實踐和做出判斷,而不是給出算法推導出來的建議。


愛荷華大學的 John Lee 認為,知識工作的計算機化可以采取一致不那么自動化的方案,讓自動化担任操作者的評判者的角色,相對而言,這種方法比用機器計算來替代人類判斷的做法要成功得多(例子參見Google想出了一個決定晉升的算法,然后……就沒有然后了)。最好的決策支持系統向專業人士提供的是“替代性的解釋、假設或選擇。”


以人為中心的自動化并不對流程做出限制。相反,它引導流程進入到一條更加人文主義的路徑,給一種太常見的推崇計算機厭惡人類的世界觀提供了一劑解毒劑。


以人為本的最令人興奮的例子之一是所謂的自適應自動化。它采用了先進的傳感器和解釋算法來監控人的身體和心理狀態,然后利用這一信息來實現任務和責任在人與計算機之間的轉移。一旦系統感覺到操作者掙正在與某一困難的任務做斗爭時,就會分配更多的任務給計算機,讓操作者避免分心。而當系統感覺到操作者興趣正在減弱時,系統就會增加此人的工作量以便提高其注意力并開發他們的技能。


計算機令人贊嘆。但我們不能讓這種狂熱導致我們低估了自己的才能。哪怕是最聰明的軟件也缺乏熟練專業人士的常識,靈巧性以及神韻。在駕駛艙、辦公室或者檢查室內,人類專家依然是不可或缺的。他們通過艱苦工作打磨出來的洞見、靈活性和直覺,以及經驗豐富的對現實世界的判斷,是算法或者機器人所無法取代的。


如果我們讓自己的技能隨過度依賴自動化而退化的話,我們自身的能力就會下降,越來越缺少韌性,對機器也會越來越屈從。然后創造出一個更適合機器人而不是人類自己的世界。


2015-08-23 08:42

歡迎訂閱我們的微信公眾賬號!
春秋茶館訂閱號
微信號 season-tea(春秋茶館)
每天分享一篇科技/遊戲/人文類的資訊,點綴生活,啟迪思想,探討古典韻味。
  清末民初歷史人物  民初人物
清末民初學者大師
梁啟超(1873年2月23日-1929年1月19日),字卓如、任甫,號任公、飲冰子,別署飲冰室主人,廣東新會人,中國近代思想家、政治活動家、學者、政治評論家、戊戌變法領袖....
晚清改革家強權人物
袁世凱(1859年9月16日-1916年6月6日),字慰亭,號容庵,河南項城人,故又稱袁項城,清末民初的軍事和政治人物,北洋系統的領袖。袁世凱出生於清咸豐九年八月二十日(....
資助民初精神網
        回頂部     寫評論

 
評論集
暫無評論!
發表評論歡迎你的評論
昵稱:     登陸  註冊
主頁:  
郵箱:  (僅管理員可見)

驗證:   验证码(不區分大小寫)  
© 2011   民初思韻網-清末民初傳奇時代的發現與復興   版權所有   加入收藏    設為首頁    聯繫我們    1616導航