機器學習算法的“固有政治性”

大約在公元前1200年，中國商朝就已經(jīng)有工廠系統(tǒng)制造成千上萬件青銅器用于日常和祭祀用途。在這個早期大生產(chǎn)的例子中，青銅鑄造工藝需要錯綜復雜的規(guī)劃和大批工人間的協(xié)調(diào)，這些工人以精準的順序，各自完成單獨的任務(wù)。

一千年后，類似的復雜工藝也被用于制造著名的秦始皇兵馬俑，這些雕像“用奠定大生產(chǎn)和商業(yè)基礎(chǔ)的流水線生產(chǎn)系統(tǒng)制造”。

一些學者猜測，這些早期規(guī)范工作（prescriptive-work）技術(shù)的形式對中國社會的形成起到了非常重要的作用。它們與其他因素一起，讓人們接受了強調(diào)層級的官僚制度社會哲學，也讓人們相信凡事都有簡單的正確方法。

當工業(yè)化工廠在十九世紀的歐洲誕生時，就連恩格爾這樣的資本主義的堅定批評者也承認，不管經(jīng)濟制度是資本主義還是社會主義，大生產(chǎn)是中央集權(quán)的必要條件。在二十世紀，蘭登·維納（Langdon Winner）等理論家將這一思路延伸到技術(shù)中。他認為，（比如）原子彈應(yīng)該被視為“固有政治產(chǎn)物”，因為它的“致命屬性要求它應(yīng)由集中化的剛性命令層級鏈來控制?！?/p>

如今，我們可以將這一思路延伸到更遠。考慮一下機器學習算法—這是當今所運用的最重要的通用技術(shù)。

機器學習算法的一個關(guān)鍵特征是它們的表現(xiàn)會隨著數(shù)據(jù)的增加而改進。因此，使用這些算法就形成了一種技術(shù)動力，將關(guān)于人的信息處理為可記錄、可調(diào)用的數(shù)據(jù)。就像大生產(chǎn)系統(tǒng)一樣，它們具有“固有政治性”（inherently political），因為它們的核心功能要求某些社會行為、阻礙其他社會行為。特別是，機器學習散發(fā)與個體的隱私渴望直接對立。

一個基于關(guān)于個別社會成員信息的公開易得性的系統(tǒng)似乎契合社會學家阿米泰·艾奇奧尼（Amitai Etzioni）等社會主義者（communitarians），他們認為對隱私的限制是執(zhí)行社會規(guī)范的手段。但和社會主義者不同，算法不關(guān)心社會規(guī)范。它們只關(guān)注更好地做出預(yù)測，而這可以通過將越來越多的人類生活領(lǐng)域轉(zhuǎn)化為可挖掘的數(shù)據(jù)集來實現(xiàn)。

算法評估并非新鮮事。奧斯卡·甘迪（Oscar H. Gandy）等學者就警告說，我們正在轉(zhuǎn)變?yōu)橐粋€記錄和排名的社會，并要求更多問責以矯正技術(shù)導致的錯誤。但和現(xiàn)代機器學習算法不同，舊的評估工具可以理解得相當透徹。它們基于相關(guān)的規(guī)范性和實證性因子做出決定。比如，背負許多信用卡債務(wù)有損一個人的信譽，這早已不是什么秘密。

相反，新機器學習技術(shù)深挖大型數(shù)據(jù)集，能尋找到那些可預(yù)測的但沒有被充分理解的事物之間的關(guān)聯(lián)性。在職場中，算法能夠跟蹤員工的對話、他們在哪里吃午飯、在電腦、電話或會議上上花了多少時間等。有了這些數(shù)據(jù)，算法就能開發(fā)遠遠超過我們常識直覺的復雜的生產(chǎn)率模型。在一個算法精英體系中，模型要求什么，什么就成為出色的標準。

盡管如此，技術(shù)并非宿命。我們在技術(shù)決定我們之前決定技術(shù)。商業(yè)領(lǐng)袖和決策者可以根據(jù)他們的機構(gòu)需要開發(fā)和部署技術(shù)。我們有能力在人類生活的敏感區(qū)域周圍布置一張隱私網(wǎng)，保護人們免受傷害性數(shù)據(jù)用途的影響，并要求算法在預(yù)測的準確性和公平、問責和透明度等價值觀之間進行平衡。

但在我們遵循自然算法邏輯流之前，更精英化是不可避免的。這一變化將深遠影響到我們的民主制度和政治結(jié)構(gòu)。如果當前的商業(yè)和消費者文化持續(xù)下去，我們很快就會有更多與賢能政治和社會主義傳統(tǒng)相似之處，而不是我們自身的個人主義和自由民主傳統(tǒng)相近的東西。如果我們想要改變趨勢，就必須將我們自身的政治責任置于技術(shù)之前。