柔軟但危險:量身訂做行為嚮導技術

從第 8 期開始,這個專欄開啟了針對「行為嚮導技術」的一系列討論。從行為嚮導技術的分類(第 8、9 期)與應用(第 10 期),到勸服科技的倫理準則與問題(第 11、12 期),再到助推與自由理念的辯證(第 13、14 期)。顯然,「柔軟」(採取膜內路徑)的行為嚮導技術通常比較吸引設計師,因為對於他們的客戶——即使用者來說,這樣的技術似乎比較不傷害行動與選擇的自由。然而,我們已經看到,那些看似能夠保障自由的設計守則,其實正在弱化行為嚮導技術的改善社會能力。

特別是在某些重要的議題,例如環保,採取勸服科技或助推多半是自廢武功或劃地自限,因為一方面,短期與長期目標的衝突導致我們很難確保每個人都同意以環保作為目的,另一方面,更糟糕的是,我們至今仍然缺乏壓倒性的道德論證來捍衛或確定自然極具價值,因此無法強力規定每個人都必須友善環境。顯然,面對這種需要共同行動才有可能解決的社會問題,比較「強硬」(採取膜外路徑)的行為嚮導技術,也就是物律(註),才是解決問題的契機。

反對者可能會質疑,為何不使用「量身訂做」的行為嚮導技術?這種質疑的確呼應了近年勸服科技和助推的設計趨勢:在不違反使用者目標的情況下,有效改善使用者行為的方式,就是以他的目標為目標。這是什麼意思呢?比如說,想讓在乎錢的駕駛少開車,那就設計能夠計算並且跳出油費提醒的儀表板,或者,如果你的使用者在乎的是健康,那麼行為嚮導技術就應該送出「少開車、多健康」的訊息。大量使用這種行為嚮導技術,確實有可能在不違背使用者目標的情況下,大幅增加被改變者的幅度和數量。然而,這種作法並非沒有問題。

首先,量身訂做之所以有效,其中關鍵在於送出的訊息必須盡量符合使用者的價值觀,但這實際上是矛盾於環境保護的本質,因為友善環境的行為主要是最大化他人或自然的利益,而非個人的利益。換言之,長期使用量身訂做式行為導向技術的後果,反而會加強人們自私自利的心態,而自然的價值則被視為可有可無的雞肋。如果這些反對者認為,強硬的行為嚮導技術只會讓使用者像機器人一般做出環保行為,心裡根本沒有環境意識或道德觀念,那麼他們也必須注意到,同樣功效但柔軟的行為嚮導技術,其實並沒有表現得比較好。

此外,量身訂做意味著「資訊蒐集」,而這正是大衆經常擔憂 Facebook 或 Google 的原因。如果設計師不夠瞭解你,就無法為你量身訂做。要瞭解你,設計師必須透過各種方式蒐集你的行為數據,進而推測你的價值觀,然後才能做出足以說服你的行為嚮導技術。這顯然涉及令多數人擔心的隱私問題。換句話說,除非我們忘記或放棄隱私的倫理問題,否則量身訂做行為嚮導技術很難成為選項之一。

更糟糕的,是「透明性」問題。讓我們比較一下兩個大樓:一個擁有智慧環境科技,會在掃描並偵測你的行為與資料後,建議你走樓梯而不要搭電梯,才能補足今天的運動量並且有利於膝蓋健康;另一個沒什麼高科技,只是簡單的把樓梯建在中庭,然後把電梯藏在偏遠而且不顯眼的角落。這兩個大樓都能促進使用者多走樓梯、少搭電梯,間接省下能源消耗,但哪一個比較像是如今讓人擔心的 Facebook 或 Google?顯然是前者。在後者中,我們可以清楚看到究竟是什麼東西在發揮效果;但在前者裡,我們不只很難發現周遭的偵測儀器,而且根本不知道其中的「演算法」究竟為何。

量身訂做是讓行為嚮導技術「柔軟」但又有效的唯一辦法,然而我們已經看到,它不只行不通,還會帶來其他問題。我們必須承認,不違背使用者目標還能大幅改善社會問題的行為嚮導技術,並不存在。換句話說,我們很難一邊捍衛人類自由、一邊相信環境問題的改善指日可待。解決這種兩難的關鍵在於:重新理解自由。


註:物律一詞由張衛(當代技術倫理中的道德物化思想研究,大連理工大學博士論文,2013)提出。詳見本報第七期在其初步概念之外增補物律的社會與政治意涵;物律比他律有效,卻不像法律強硬,例如在車道上設置安全島或行道樹規範汽機車行駛路線、在自家農地設置籬笆等。

Previous ArticleNext Article