數據科學傢凱西•奧尼爾認為,我們應該警惕不斷滲透和深入我們生活的數學模型——它們的存在,很有可能威脅到我們的社會結構。
我們生活在一個依賴“算法”的時代,它對我們生活的影響越來越大,我們去哪裏上學,我是不是應該貸款買車,我們應該花多少錢來買健康保險,這些都不是由人來決定的,而是由大數據模型來決定的。從理論上來說,這一模型應該讓社會更加公平,每一個人的衡量標準都是一樣的,偏見是不存在的。
但是,正如凱西•奧尼爾書裏所揭示的那樣,事實並非如此。我們今天所使用的這些數學模型是不透明的、未經調節的、極富爭議的,有的甚至還是錯誤的。最糟糕的是,數學模型和大數據算法加劇瞭偏見與不公。例如,一個貧睏學生想申請貸款交付學費,但是銀行大數據算法根據他居住地的郵政編碼判斷將錢帶給他存在風險,因此,拒絕給他提供貸款。他因此失去瞭受教育的機會,而這個機會可能幫助他擺脫貧睏。大數據算法做的常常隻是錦上添花的事兒,有時甚至是落井下石。
通過個案追蹤,凱西•奧尼爾揭示瞭大數據是如何影響我們將來的,它不僅影響著個人,也影響著整個社會。這些數據評價著我們的老師、學生,篩選著我們的簡曆,審核著我們的貸款資格,衡量著員工的工作態度,監視著投票者,監控著我們的健康。
凱西•奧尼爾呼籲數據模型的創造者們要對算法負責,政策的製定者及執行者們在使用這一威力極大的“武器”前應該更加慎重。最後,作者指齣,大數據幾乎掌控著我們的生活,我們應該增加對它的瞭解。這本書相當的重要,它讓我們有能力去問一些十分尖銳的問題,幫助我們瞭解事實的真相,提齣需要改變的地方,探索更好的生活。
【編輯推薦】
案例豐富,內容兼具深度與話題性
未來20年,算法和大數據將席捲世界,接管我們的生活、社會和經濟。我們生活中的很多方麵都將落入自動化的數據分析之下。確保算法和大數據的公平性將是一項重大的任務,數據倫理的價值和意義將不斷凸顯齣來。在作者看來,大數據猶如一個黑盒,規模、傷害和隱秘共存,她在書中引用瞭大量發生在美國當下的、基於大數據和算法的、改變個人生活的案例,並對影響這些城市生活經驗的算法做瞭特彆的觀察和研究。作者認為,數據和算法的關係就像槍械和軍火,數據沒有價值觀,是中立的,但來自人類行為的輸入,難免隱含偏嚮,而算法創造的數據又對人類行為産生反作用,從而導緻更多的不公。凱西在書中指齣:算法模型一旦運轉,執法行為就會增多,産生的新數據又會進一步證明加強執法的必要性。形象地說,就是哪裏“前科”越多,哪裏就越受算法“關照”,最終形成一個失真,甚至有害的迴饋環路。這個觀點也正是近來Facebook乾預美國大選,國內很多專傢學者熱議“今日頭條”推送模式的核心所在。
權威作者的深刻洞見
本書作者是哈佛大學的數學博士,研究方嚮是數論和代數幾何,畢業之後在麻省理工學院執教,並在互聯網公司做過很長時間的數據科學傢,如今緻力於教育和媒體行業的數據知識普及工作,因此,這並不是一本傳統意義上唱衰大數據的書,相反,作者希望讓更多的人通過瞭解大數據、瞭解算法,反思模型,以及通過政府和相關機構的閤理監管,不斷改善各類設計評價體係,讓更多的人受益,維護社會的公平與民主。
【英文版獲奬情況】
《紐約時報》(New York Times)年度書籍
《波士頓環球報》年度最佳圖書
《連綫》雜誌年度必讀書目之一
《財富》年度最受歡迎的書之一
《柯剋斯評論》年度最佳作品
芝加哥公共圖書館年度最佳圖書
《自然》網站年度最佳圖書
《麻省理工科技評論》年度最佳科技圖書
##科普闲聊的写法,内容和想法好过某些社会学的博论
评分##今天看了《黑镜》第三季第一集,恰巧又读完本书,我想说我喜欢、支持,并且认为社会需要作者这种末世感和技术悲观主义。书很好读。
评分##把算法的缺点放大到极致,影响到教育、理财、就业、社会管理,几乎是生活的各个领域,本质上是效率和公平的问题,个体、阶层、地域的差异很可能会被算法一刀切带过。算法可以解放人类劳动,但并不意味着可以一劳永逸地把决定权交给机器,所以需要及时反馈和改进模型。具有偏见的和陷阱性的替代变量,加上信息使用和算法的不透明则使得算法具有欺骗性,因此适当的自律和监管是有益的。
评分##1、公平是模糊的,很难量化,关键在于如何界定公平;2、作者提到,“电子评分建模者回答的是,像你这样的一类人过去的行为表现如何。理想情况下,应该问的问题是,你过去的行为表现如何。但是这很难区分;3、作者认为,“数据越多越好是信息时代的指导原则,但是考虑到社会公平,一部分数据理应被排除在外”。 怎么办:1、确保信用评分的公平性;2、确保消费者可以看到数据档案对评分的影响,禁止在信用评分中纳入种族或者性别因素;3、参考欧洲模式:规定收集任何数据都必须经过用户的批准,用户有选择权,禁止将数据用于其他目的;4、对生活有重大影响的模型,包括信用评分系统和各类电子评分系统,都应该对公众公开
评分##Cathy O'Neil定义的数学杀伤性武器(Weapons of Math Destruction)有三个特征:不透明、规模化、毁灭性。它的构建过程存在着许多有害的假设,这些模型包裹着数学精确性的外衣,流行于市场,未经检测便投入使用,而人们对此却毫无争议。
评分##在地铁上快速读完了,令人意外,还挺好看的。我们正处在一个从现实世界向数字世界迁移的过程中,数字世界是少数人创造,奴役多数人的世界。算法,或者说各种自动化系统,是数字世界提高效率的关键。这些算法为谁服务?这是核心问题。算法的不透明,大规模,损害,其实只是权力的不透明/大规模/损害的体现。算法也要透明,闭环,个人化,每个人都需要带上自己的算法武器,对抗政府的算法霸权。
评分##今天看了《黑镜》第三季第一集,恰巧又读完本书,我想说我喜欢、支持,并且认为社会需要作者这种末世感和技术悲观主义。书很好读。
评分##How damage the WMD serves the world... #English
评分##1、公平是模糊的,很难量化,关键在于如何界定公平;2、作者提到,“电子评分建模者回答的是,像你这样的一类人过去的行为表现如何。理想情况下,应该问的问题是,你过去的行为表现如何。但是这很难区分;3、作者认为,“数据越多越好是信息时代的指导原则,但是考虑到社会公平,一部分数据理应被排除在外”。 怎么办:1、确保信用评分的公平性;2、确保消费者可以看到数据档案对评分的影响,禁止在信用评分中纳入种族或者性别因素;3、参考欧洲模式:规定收集任何数据都必须经过用户的批准,用户有选择权,禁止将数据用于其他目的;4、对生活有重大影响的模型,包括信用评分系统和各类电子评分系统,都应该对公众公开
本站所有內容均為互聯網搜索引擎提供的公開搜索信息,本站不存儲任何數據與內容,任何內容與數據均與本站無關,如有需要請聯繫相關搜索引擎包括但不限於百度,google,bing,sogou 等
© 2026 tushu.tinynews.org All Rights Reserved. 求知書站 版权所有