一位前華爾街量化分析師對遍布現代生活的數學模型發出警告——並威脅要撕裂我們的社會結構
我們生活在算法時代。越來越多的影響我們生活的決定——我們去哪裡上學、我們是否獲得汽車貸款、我們為健康保險支付了多少——不是由人類做出的，而是由數學模型做出的。從理論上講，這應該會帶來更大的公平：每個人都根據相同的規則進行判斷，並消除偏見。
但正如Cathy O’Neil在這本緊迫而必要的書中所揭示的那樣，事實恰恰相反。今天使用的模型是不透明的、不受監管的、無可爭議的，即使它們是錯誤的。最令人不安的是，它們強化了歧視：如果一個貧困學生因為貸款模式認為他風險太大（根據他的郵政編碼）而無法獲得貸款，那麼他就會與可以使他擺脫貧困的那種教育隔絕，惡性循環隨之而來。模特們支持幸運者並懲罰受壓迫者，創造了“民主的有毒雞尾酒”。歡迎來到大數據的陰暗面。
奧尼爾追踪一個人的生活軌跡，揭示了塑造我們未來的黑匣子模型，無論是作為個人還是作為一個社會。這些“數學破壞武器”對教師和學生進行評分、對簡歷進行分類、發放（或拒絕）貸款、評估工人、瞄準選民、假釋並監測我們的健康狀況。
O’Neil 呼籲建模者對其算法承擔更多責任，並呼籲政策制定者規範其使用。但最終，取決於我們對支配我們生活的模型變得更加精明。這本重要的書使我們能夠提出棘手的問題、揭示真相並要求改變。
