咱們一直都在接受A / B測試

時間 2019-11-26

標籤咱們一直都在接受測試简体版

原文原文鏈接

網絡正在被無處不在的實踐所重塑 - 這是一個嚴重的道德問題

Testing出的解決方案是設計過程的核心部分，而且在網絡上，即常常發生在A / B測試的形式：設計師展現一組設計給A用戶，另外一組設計給B用戶，並測量它能夠獲取更接近指望的結果。而且不只僅是測試A / B的佈局 - 這些實驗決定了從咱們閱讀的標題到咱們看到的顏色的全部內容。
但正如一篇新論文所討論的那樣，A / B測試可能存在道德問題。
研究算法審計的東北大學副教授Christo Wilson說：「若是你不瞭解內容是如何變化的，或者佈局如何以影響你行爲的方式發生變化，那麼就會讓你受到操縱。」，以及該論文的做者，「這是A / B測試的重點。您正試圖銷售更多產品或得到更多點擊次數。」
在年度ACM公平，問責和透明度會議上發表的論文中，Wilson和他的合做者分析了575個在Optimizely平臺上運行A / B測試的大型網站，這使得非技術人員相對容易以各類方式使用A / B測試。在該論文中，威爾遜深刻研究了三個具體的案例：廣告，價格歧視和新聞頭條。雖然他不會責怪任何公司或用於不道德地應用A / B測試的案例，但威爾遜確實利用這個機會闡明公司如何使用這種通過深思熟慮的技術來改變人們在互聯網上看到的內容，不管是價格，廣告，頭條新聞或佈局。
問題在於，當它沒有以透明，負責任的方式完成時，A / B測試能夠利用人類心理學中最糟糕的衝動來講服你點擊某些東西。例如，當談到政治內容時，那種聳人聽聞的行爲
咱們中的許多人可能認爲咱們在網絡上瀏覽時看到的東西是同樣的，但事實並不是如此。要查看你訪問的任何運行A/B測試的一個網站，你能夠下載一個名爲Pessimizely的Chrome瀏覽器插件，它將顯示出Optimizely所能提供的一切便利，從廣告客戶嘗試向你展現哪些廣告，到《紐約時報》(New York Times)測試不一樣的標題。
Wilson的分析代表，目前大多數使用A / B測試的網站都是互聯網上最大的網站。而且它可能變得更加廣泛：使用Optimizely等工具能夠幫助小公司得到公平的競爭環境。「我但願看到較小的網站可以與較大的網站競爭，因此若是A / B測試是一種方法，那就是好的。我很高興技術水平較低的人擁有先進的能力 - 它不該該只是谷歌和Facebook，「他說。「另外一方面，我只是擔憂會有更多未受過訓練的人在大量觀衆面前進行實驗。」
在廣告方面，不道德用途的可能性尤爲使人痛苦。例如，假設您在男性主導的行業中爲高薪工做發佈了兩個廣告。一個包括刻意的男性性別印象，另外一個是性別中立。A / B測試可能會向您顯示更多人點擊該性別廣告。這會讓你確信顯示該廣告給更多的人。可是，點擊該廣告的全部人均可能是男性，致使適用於該工做的人口誤差。看到這些廣告的人可能不知道背景中發生了什麼。
「咱們觀察到Optimizely被許多很是受歡迎的網站使用，」研究人員寫道。「可是，據咱們所知，這些網站的訪問者從未被要求明確贊成這些實驗。即便是實驗的存在也不多被披露。「
價格歧視是您在網上看到的內容可能與其餘人看到的不一樣的另外一個例子：例如，A / B測試可能有助於優化不一樣郵政編碼中的人的價格，但人們居住的地方每每與他們的種族交織在一塊兒，可能致使基於種族的訂價。
威爾遜認爲，須要有更嚴格的指導方針來進行這些實驗。「我並非故意把全部這些描繪成邪惡的，」他說。「但咱們必須認可這些都是人體實驗。你正試圖改變人們的行爲。若是我做爲大學的科學家那樣作，那就是協議。你不能只是試驗人。「
有一些簡單的方法，像Optimizely這樣的公司和A / B測試平臺能夠更清楚地瞭解這些測試協議，這對於科學家來講是典型的。威爾遜設想一個內部公司審查委員會，確保測試不會無心中形成損害，以及公司能夠與合同審查研究計劃的外部服務。一個已發佈指南的行業貿易組織也能夠幫助甚至從Optimizely等平臺進行更多培訓。他認爲這些指導方針與學術界存在的指導方針相似，有關於尊重人，尊重自主權和藹行的規則 - 爲他人的利益行事的義務。
「這很是重要，由於這些工具很是易於使用，」Wilson說。「但它必須附帶一系列警告。若是你要作一些像價格歧視這樣的事情，這多是一個嚴重的事情。你是以公平公正的方式對待別人，仍是隻是忽略了這一點，說我關心的只是推進點擊？「算法