ch-0004 Chapter 3: Find and Question Your Data
- 原书章节: Chapter 3 Find and Question Your Data(pp. 71–88)
- 输入来源: 本地 pdf(HandsOnDataViz.pdf)
摘要
动手画图之前先回答两个问题:「哪里能找到可靠的数据?」 与 「这数据到底代表了什么?」 本章前半给出检索策略(引导性问题、公开/私有数据之争、敏感数据脱敏、开放数据仓库、 记录数据来源),后半教读者质询数据(识别坏数据、追问口径与定义)。
- 检索引导:先想清楚要证明什么、需要哪些字段,再到政府/非营利机构的开放数据仓库找
- 公开 vs 私有数据:政府数据通常公开,个人隐私数据受法律保护;讨论了数据"是否天然 客观"的争论
- 脱敏(mask)与聚合(aggregate):涉及个人敏感信息时,把精确值打码或合并成 范围/汇总,既讲故事又不泄露隐私
- 开放数据仓库:US Census、Data.gov、各州/市开放数据门户、国际组织数据等
- 记录来源:保存 source notes(出处、口径、下载日期),并在清洗前备份原始文件
- 坏数据识别:FIPS 码被 Excel 当数字丢前导零、日期被自动转换(1-Mar)、地址被 geocode 错(如 IP 定位集中到某地、全球数据被投到经纬度 0,0 的海面)等
- 质询数据:缩写列名背后是什么?统计口径(如美国人口普查的 race/ethnicity 分类)随 时代变化,是"社会建构"——数据不是中立的,要问 Whose stories are told? 和 Whose perspectives remain unspoken?
要点归纳
- 数据不是凭空出现,是"人"带着目的在特定社会权力结构中采集的——警惕"数据客观性"
- 敏感数据处理三件套:mask(打码)/ aggregate(聚合)/ 备份原始文件
- 坏数据常来自工具"好心办坏事":Excel 改编号/日期、geocoder 乱定位
- 来源记录(source notes)是可信叙事的基础,第 15 章还会强调致谢来源
- 引 Data Feminism(Catherine D'Ignazio & Lauren Klein):问"谁的故事被讲了、 谁的视角缺席",才能看见权力如何被编入数据
术语 / 概念
- open data(开放数据) — 政府/非营利机构免费公开、机器可读的数据
- masking / aggregation(脱敏 / 聚合) — 处理敏感数据的两种策略
- source notes(来源记录) — 记录数据出处、口径、下载时间的文档
- FIPS code — 美国地区统计编码;易被电子表格吃掉前导零
- data objectivity(数据客观性) — 本书批判的概念:数字并非中立
- social construction(社会建构) — 如人口普查中 race/ethnicity 分类随历史变化
- Data Feminism(数据女性主义) — D'Ignazio & Klein 的著作与视角(外链见 notes.md)
原句摘录
When working with data, pause to inquire more deeply about Whose stories are told? and Whose perspectives remain unspoken?
...we caution against embracing so-called data objectivity, since numbers and other forms of data are not neutral.
疑问 / 待查
- US Census 的 race/ethnicity 口径变迁细节值得深挖(作者附了 Margo J. Anderson《The American Census》参考)
- 第 14 章(Detect Lies and Reduce Bias)会回扣"质询数据"这一主题
Backlinks (1)
flowchart LR
n0["ch-0001 凶案、侦探与母亲的信(第 2–163 章)"]
n1["ch-0002 坦白、出逃与和解(第 163–233 章)"]
n2["The Curious Incident of the Dog in the Night-Time 人物"]
n3["The Curious Incident of the Dog in the Night-Time(整理完成)"]
n4["The Curious Incident of the Dog in the Night-Time 笔记"]
n5["The Curious Incident of the Dog in the Night-Time 故事线"]
n6["E-Commerce Bench(整理完成)"]
n7["E-Commerce Bench 笔记"]
n8["part-0001 摘要与引言:一年期电商运营基准(Abstract + §1)"]
n9["part-0002 相关工作与定位:continuing 任务谱系(Table 1 + §2)"]
n10["part-0003 基准设计:四层架构与确定性经济(§3 主体)"]
n11["part-0004 实验结果:18 模型的多维画像(Table 2 + §4)"]
n12["part-0005 结论与参考文献(§5 + References)"]
n13["part-0006 工具集与 agent harness:18 工具与上下文管理(Table 3 + Appendix A)"]
n14["part-0007 数据层:类目、店型、日历与供应商(Appendix B)"]
n15["part-0008 经济引擎:13 步结算与需求/退货/成本公式(Table 7 + Appendix C)"]
n16["part-0009 确定性谈判内核:决策函数与骗局目录(Appendix D)"]
n17["part-0010 评测指标定义:六个维度与统计口径(Appendix E)"]
n18["part-0011 每维度结果导览与模型/实验设置(Table 10 + Appendix F)"]
n19["part-0012 失败案例研究:骗局实录与一次破产(Appendix G)"]
n20["part-0013 失败模式规则表与提示词设计(Table 18 + Appendix H)"]
n21["The End of Software Engineering(整理完成)"]
n22["The End of Software Engineering 笔记"]
n23["part-0001 摘要与引言:范式重构的宣告(Abstract + §1 前段)"]
n24["part-0002 第一性原理:传统软件与 Agent 系统的形式化模型(§1 后段 + §2)"]
n25["part-0003 三代交付史与 AI→Software→Result 的失败(§3.1–3.2)"]
n26["part-0004 Agent→Result 与 Agentic Engineering 学科(§3.3 + §4)"]
n27["part-0005 实证证据与 EvoClaw 落差(§5)"]
n28["part-0006 四阶段演进路线图(前段:表 3 + Stage I–III)"]
n29["part-0007 路线图后段与建议:实践者与研究者(§6.3 后段 + §6.4 + §7.1–7.2)"]
n30["ch-0001 Introduction(为什么做数据可视化)"]
n31["ch-0002 选工具讲你的数据故事(Ch 1)"]
n32["ch-0003 强化电子表格技能(Ch 2)"]
n33["ch-0004 找到并质询你的数据(Ch 3)"]
n34["ch-0005 清洗脏数据(Ch 4)"]
n35["ch-0006 做有意义的比较(Ch 5)"]
n36["ch-0007 图表化你的数据(Ch 6)"]
n37["ch-0008 地图化你的数据(Ch 7)"]
n38["ch-0009 表格化你的数据(Ch 8)"]
n39["ch-0010 嵌入网页(Ch 9)"]
n40["ch-0011 用 GitHub 编辑与托管代码(Ch 10)"]
n41["ch-0012 Chart.js 与 Highcharts 模板(Ch 11)"]
n42["ch-0013 Leaflet 地图模板(Ch 12)"]
n43["ch-0014 转换你的地图数据(Ch 13)"]
n44["ch-0015 识别谎言、减少偏差(Ch 14)"]
n45["ch-0016 讲述并展示你的数据故事(Ch 15)"]
n46["ch-0017 附录 A 排查常见问题"]
n47["Hands-On Data Visualization(整理完成)"]
n48["Hands-On Data Visualization 笔记"]
n49["Reading"]
n0 --> n4
n3 --> n0
n3 --> n1
n3 --> n2
n3 --> n4
n3 --> n5
n5 --> n3
n6 --> n7
n6 --> n8
n6 --> n9
n6 --> n10
n6 --> n11
n6 --> n12
n6 --> n13
n6 --> n14
n6 --> n15
n6 --> n16
n6 --> n17
n6 --> n18
n6 --> n19
n6 --> n20
n21 --> n22
n21 --> n23
n21 --> n24
n21 --> n25
n21 --> n26
n21 --> n27
n21 --> n28
n21 --> n29
n22 --> n21
n47 --> n30
n47 --> n31
n47 --> n32
n47 --> n33
n47 --> n34
n47 --> n35
n47 --> n36
n47 --> n37
n47 --> n38
n47 --> n39
n47 --> n40
n47 --> n41
n47 --> n42
n47 --> n43
n47 --> n44
n47 --> n45
n47 --> n46
n47 --> n48
n49 --> n3
n49 --> n6
n49 --> n21
n49 --> n47
click n0 "../../curious-incident/ch-0001/" "ch-0001 凶案、侦探与母亲的信(第 2–163 章)"
click n1 "../../curious-incident/ch-0002/" "ch-0002 坦白、出逃与和解(第 163–233 章)"
click n2 "../../curious-incident/characters/" "The Curious Incident of the Dog in the Night-Time 人物"
click n3 "../../curious-incident/" "The Curious Incident of the Dog in the Night-Time(整理完成)"
click n4 "../../curious-incident/notes/" "The Curious Incident of the Dog in the Night-Time 笔记"
click n5 "../../curious-incident/storyline/" "The Curious Incident of the Dog in the Night-Time 故事线"
click n6 "../../e-commerce-bench/" "E-Commerce Bench(整理完成)"
click n7 "../../e-commerce-bench/notes/" "E-Commerce Bench 笔记"
click n8 "../../e-commerce-bench/part-0001/" "part-0001 摘要与引言:一年期电商运营基准(Abstract + §1)"
click n9 "../../e-commerce-bench/part-0002/" "part-0002 相关工作与定位:continuing 任务谱系(Table 1 + §2)"
click n10 "../../e-commerce-bench/part-0003/" "part-0003 基准设计:四层架构与确定性经济(§3 主体)"
click n11 "../../e-commerce-bench/part-0004/" "part-0004 实验结果:18 模型的多维画像(Table 2 + §4)"
click n12 "../../e-commerce-bench/part-0005/" "part-0005 结论与参考文献(§5 + References)"
click n13 "../../e-commerce-bench/part-0006/" "part-0006 工具集与 agent harness:18 工具与上下文管理(Table 3 + Appendix A)"
click n14 "../../e-commerce-bench/part-0007/" "part-0007 数据层:类目、店型、日历与供应商(Appendix B)"
click n15 "../../e-commerce-bench/part-0008/" "part-0008 经济引擎:13 步结算与需求/退货/成本公式(Table 7 + Appendix C)"
click n16 "../../e-commerce-bench/part-0009/" "part-0009 确定性谈判内核:决策函数与骗局目录(Appendix D)"
click n17 "../../e-commerce-bench/part-0010/" "part-0010 评测指标定义:六个维度与统计口径(Appendix E)"
click n18 "../../e-commerce-bench/part-0011/" "part-0011 每维度结果导览与模型/实验设置(Table 10 + Appendix F)"
click n19 "../../e-commerce-bench/part-0012/" "part-0012 失败案例研究:骗局实录与一次破产(Appendix G)"
click n20 "../../e-commerce-bench/part-0013/" "part-0013 失败模式规则表与提示词设计(Table 18 + Appendix H)"
click n21 "../../end-of-software-engineering/" "The End of Software Engineering(整理完成)"
click n22 "../../end-of-software-engineering/notes/" "The End of Software Engineering 笔记"
click n23 "../../end-of-software-engineering/part-0001/" "part-0001 摘要与引言:范式重构的宣告(Abstract + §1 前段)"
click n24 "../../end-of-software-engineering/part-0002/" "part-0002 第一性原理:传统软件与 Agent 系统的形式化模型(§1 后段 + §2)"
click n25 "../../end-of-software-engineering/part-0003/" "part-0003 三代交付史与 AI→Software→Result 的失败(§3.1–3.2)"
click n26 "../../end-of-software-engineering/part-0004/" "part-0004 Agent→Result 与 Agentic Engineering 学科(§3.3 + §4)"
click n27 "../../end-of-software-engineering/part-0005/" "part-0005 实证证据与 EvoClaw 落差(§5)"
click n28 "../../end-of-software-engineering/part-0006/" "part-0006 四阶段演进路线图(前段:表 3 + Stage I–III)"
click n29 "../../end-of-software-engineering/part-0007/" "part-0007 路线图后段与建议:实践者与研究者(§6.3 后段 + §6.4 + §7.1–7.2)"
click n30 "../ch-0001/" "ch-0001 Introduction(为什么做数据可视化)"
click n31 "../ch-0002/" "ch-0002 选工具讲你的数据故事(Ch 1)"
click n32 "../ch-0003/" "ch-0003 强化电子表格技能(Ch 2)"
click n33 "./" "ch-0004 找到并质询你的数据(Ch 3)"
click n34 "../ch-0005/" "ch-0005 清洗脏数据(Ch 4)"
click n35 "../ch-0006/" "ch-0006 做有意义的比较(Ch 5)"
click n36 "../ch-0007/" "ch-0007 图表化你的数据(Ch 6)"
click n37 "../ch-0008/" "ch-0008 地图化你的数据(Ch 7)"
click n38 "../ch-0009/" "ch-0009 表格化你的数据(Ch 8)"
click n39 "../ch-0010/" "ch-0010 嵌入网页(Ch 9)"
click n40 "../ch-0011/" "ch-0011 用 GitHub 编辑与托管代码(Ch 10)"
click n41 "../ch-0012/" "ch-0012 Chart.js 与 Highcharts 模板(Ch 11)"
click n42 "../ch-0013/" "ch-0013 Leaflet 地图模板(Ch 12)"
click n43 "../ch-0014/" "ch-0014 转换你的地图数据(Ch 13)"
click n44 "../ch-0015/" "ch-0015 识别谎言、减少偏差(Ch 14)"
click n45 "../ch-0016/" "ch-0016 讲述并展示你的数据故事(Ch 15)"
click n46 "../ch-0017/" "ch-0017 附录 A 排查常见问题"
click n47 "../" "Hands-On Data Visualization(整理完成)"
click n48 "../notes/" "Hands-On Data Visualization 笔记"
click n49 "../../" "Reading"