助睿实验作业 7 - 自媒体运营分析:数据清洗与预处理 + 作品特征构建 + 可视化探索
一、实验背景1.1 实验目的本次实验基于全班多平台自媒体作品的原始互动数据完整完成数据清洗预处理、作品特征构建、多维度可视化探索全链路操作最终输出标准化数据表与综合分析仪表盘。通过本次实验我掌握了以下核心技能理解数据清洗的必要性使用助睿 ETL 完成多源数据的过滤、空值填充、分支聚合等预处理操作掌握特征工程基础方法能够构建衍生指标与文本关键词特征实现数据回填与分组统计能够基于业务需求设计分析框架使用助睿 BI 制作多维度图表搭建逻辑完整的综合仪表盘学会 “从数据到洞察” 的分析方法能够从可视化结果中提炼可落地的运营优化结论。1.2 实验环境本次实验基于助睿数智Uniplore一站式数据科学实验平台完成该平台覆盖数据接入、ETL 处理、机器学习建模到可视化分析的全链路 Agentic 零代码数据智能能力适用于数据分析教学与企业级数据加工场景。平台全称助睿数智Uniplore一站式数据科学实验平台核心工具助睿 ETL数据集成平台、助睿 BI可视化探索平台原始数据自媒体作品数据明细.csv覆盖 B 站、CSDN、微信、知乎等多平台作品的浏览、点赞、收藏、分享、投币等互动数据。1.3 整体处理流程本次实验分为三个核心阶段整体逻辑如下数据清洗与预处理阶段对原始数据做分支处理 —— 一路完成全平台聚合统计输出概况总表另一路完成平台筛选、无效记录剔除、空值填充与字段精简输出重点平台内容明细表。作品特征构建阶段在明细表基础上计算互动总数提取 5 类标题关键词特征并回填数据表同时按关键词维度做分组统计输出标题效果分析汇总表。可视化探索阶段基于三张加工完成的数据表构建数据集制作核心指标、排名分析、标题影响、趋势变化四类图表按 “先总后分、左右对照” 的逻辑搭建综合仪表盘并输出运营分析结论。二、实验步骤第一阶段数据清洗与预处理步骤 1创建两张目标数据表操作说明在助睿 ETL 中预先创建两张目标表分别承载全平台汇总数据和重点平台明细数据。关键截图配置要点全平台概况表summary_all_platforms按采集日期 平台维度聚合字段包含作品数量、总浏览、总点赞、总收藏、总分享以及 B 站投币、微信推荐、知乎喜欢 / 赞同等平台特色指标内容分析表content_analysis保留作品明细维度字段包含日期、作者、标题、平台、各项互动数据、作品链接同时预留互动总数、标题特征等后续加工字段。步骤 2导入原始数据源操作说明将公共空间的自媒体作品数据明细.csv复制到个人文件库作为转换流的输入源。关键截图配置要点导入前确认 CSV 字段完整包含采集日期、作者昵称、作品标题、平台名称、浏览量、点赞数、收藏数、分享数、投币数等核心字段。步骤 3分支 1全平台聚合统计操作说明第一条数据分支不对数据做过滤直接按日期和平台分组聚合生成全平台每日统计数据。配置要点使用 “排序记录” 组件按crawl_date、platform字段升序排序使用 “分组” 组件分组字段为日期和平台所有数值字段执行求和聚合聚合结果通过 “表输出” 组件写入summary_all_platforms表。步骤 4分支 2过滤有效记录操作说明第二条数据分支筛选出 B 站和 CSDN 两个数据完整的平台并剔除浏览量为 0 的无效作品。关键截图配置要点 使用 “过滤记录” 组件通过括号分组保证条件逻辑正确过滤条件为plaintext(平台 B站 AND 浏览数量 0 ) OR (平台 CSDN AND 浏览数量 0)一个组件同时完成平台筛选和有效数据筛选。步骤 5填充缺失值操作说明对文本类字段的空值做统一填充避免后续计算和展示出现异常。关键截图配置要点使用 “替换 NULL 值” 组件将作者昵称、作品标题字段的 NULL 值和空字符串统一填充为 “未知”。步骤 6字段选择与精简操作说明剔除采集标记类无用字段仅保留分析所需的核心字段。配置要点使用 “字段选择” 组件仅保留 date、author_name、title、platform、likes、favorites、shares、coins、views、url 共 10 个字段剔除 source_file 等采集批次字段。步骤 7输出内容分析明细表操作说明将清洗完成的有效数据输出到content_analysis表作为下一阶段特征工程的输入。配置要点使用 “表输出” 组件目标表选择预先创建的content_analysis完成流字段与表字段的一一映射。步骤 8执行转换流并验证数据操作说明连接所有组件形成完整的双分支转换流运行后通过数据探查验证输出结果。关键截图配置要点转换流整体结构为 “CSV 文件输入 → 分支 1 排序聚合→全平台概况表输出分支 2 过滤记录→替换 NULL 值→字段选择→内容分析表输出”。运行后核对两张表的数据条数、字段取值确认无异常。第二阶段作品特征构建4.1 更新内容分析明细表互动总数 标题特征步骤 9读取清洗后的数据操作说明以实验 7-1 输出的content_analysis表作为数据源开启特征加工流程。配置要点使用 “表输入” 组件数据源选择团队私有数据库目标表为content_analysis。步骤 10提取标题关键词特征操作说明使用 JavaScript 代码组件从作品标题中匹配 5 类高频关键词生成 0/1 标志字段。关键截图配置要点 匹配 “保姆级”“零代码”“实战”“教程 / 指南”“踩坑” 5 个关键词代码如下javascript运行var title title; var has_best title.indexOf(保姆级) ! -1 ? 1 : 0; var has_lowcode title.indexOf(零代码) ! -1 ? 1 : 0; var has_practice title.indexOf(实战) ! -1 ? 1 : 0; var has_tutorial (title.indexOf(教程) ! -1 || title.indexOf(指南) ! -1) ? 1 : 0; var has_pit title.indexOf(踩坑) ! -1 ? 1 : 0; has_best has_best; has_lowcode has_lowcode; has_practice has_practice; has_tutorial has_tutorial; has_pit has_pit;需在组件的 “输出字段” 列表中添加对应 5 个字段类型设置为整数。步骤 11计算互动总数操作说明通过计算器组件汇总所有互动类指标得到单作品的总互动数值。配置要点使用 “计算器” 组件新增字段total_interaction计算公式为plaintexttotal_interaction likes favorites shares coins步骤 12回填更新明细表操作说明将计算好的特征字段和互动总数按主键匹配更新回content_analysis表不覆盖原有基础数据。关键截图配置要点使用 “插入 / 更新” 组件目标表为content_analysis查询关键字设置为id作为数据匹配的唯一依据指定更新字段为 total_interaction、has_best、has_lowcode、has_practice、has_tutorial、has_pit该组件按 id 匹配更新重复运行转换流不会产生重复数据。步骤 13执行第一部分转换流操作说明连接组件形成明细更新流程运行后验证字段更新是否成功。关键截图4.2 生成关键词级别汇总表步骤 14创建关键词分析目标表操作说明新建title_feature_analysis表用于存储每个关键词的互动效果统计结果。配置要点表字段包含自增主键 id、平台 platform、关键词名称 feature_name、关键词平均互动 avg_interaction、平台整体平均互动 overall_avg、关键词作品数 sample_count。步骤 15计算平台整体平均互动数操作说明统计对应平台所有作品的平均互动数作为效果对比的基准线。配置要点使用 “分组” 组件不设置分组字段直接计算total_interaction的平均值得到 overall_avg接入 “增加常量” 组件新增 feature_name 字段并赋值为对应关键词名称用于后续数据连接匹配。步骤 16计算单关键词的互动统计操作说明以 “保姆级” 关键词为例筛选包含该关键词的作品统计其平均互动数和样本量。配置要点使用 “过滤记录” 组件筛选条件为has_best 1使用 “分组” 组件计算平均互动数 avg_interaction 和作品数量 sample_count接入 “增加常量” 组件将 feature_name 赋值为 “保姆级”。步骤 17合并整体基准与关键词数据操作说明将整体平均值和关键词统计数据按 feature_name 连接合并为一行完整数据。配置要点使用 “记录集连接” 组件匹配字段为 feature_name采用内连接模式。步骤 18批量生成所有关键词统计操作说明复制 “保姆级” 的完整处理分支修改过滤条件和常量值批量生成其余 4 个关键词的数据。配置要点分别对应 has_lowcode、has_practice、has_tutorial、has_pit 四个字段常量值依次改为 “零代码”“实战”“教程”“踩坑”其余组件配置保持一致。步骤 19数据入库并验证操作说明将所有关键词的统计结果合并后输出到目标表执行完整转换流。关键截图配置要点使用 “表输出” 组件不勾选 “裁剪表”避免覆盖已写入的其他关键词数据。第三阶段可视化探索与仪表盘搭建步骤 20连接数据源与构建数据集操作说明进入助睿 BI 平台基于三张加工完成的数据表构建对应的分析数据集。关键截图配置要点全平台概况数据集基于summary_all_platforms表构建重点平台深度分析数据集基于content_analysis表构建标题关键词互动数据集基于title_feature_analysis表构建。步骤 21制作核心指标卡操作说明制作仪表盘顶部的指标卡区域分层展示全平台概况和重点平台核心数据。配置要点第一行全平台维度全平台作品总数、分发平台数、全平台总浏览数、全平台总互动数第二行分平台维度B 站作品数、CSDN 作品数、B 站总播放量、CSDN 总阅读量通过求和、去重计数、条件筛选等聚合方式计算对应指标。步骤 22制作排名分析图表操作说明分别制作学生排名和作品排名两类图表分 B 站、CSDN 两个平台左右对照展示。配置要点学生排名按作者分组计算平均播放 / 阅读量降序取 TOP10反映学生的整体运营水平作品排名按单作品播放 / 阅读量排序取 TOP10识别单篇爆款内容采用左右分栏布局B 站和 CSDN 各占一栏便于横向对比差异。步骤 23制作标题影响分析图表操作说明量化不同标题关键词对互动效果的影响直观展示最优标题策略。关键截图配置要点提升倍率条形图计算各关键词平均互动数 ÷ 整体平均互动数直观展示效果提升幅度特征对比柱状图展示每个关键词的平均互动数值叠加整体平均水平线作为参照分 B 站、CSDN 分别制作对比同一关键词在不同平台的效果差异。步骤 24制作趋势分析图表操作说明基于采集日期维度展示两个平台的流量累积变化趋势。配置要点使用折线图维度为日期指标为浏览量求和反映截止到每个采集日的总流量累积增长情况观察整体增长节奏分平台展示对比 B 站和 CSDN 的流量增长差异。步骤 25搭建综合仪表盘操作说明将所有图表按业务逻辑排布组合成完整的自媒体运营分析仪表盘。关键截图配置要点 布局遵循 “先总后分、左右对照” 原则顶部为核心指标卡下方左栏为 B 站全维度分析右栏为 CSDN 全维度分析每栏内部按 “排名→标题分析→趋势” 的顺序排列。步骤 26输出运营分析结论操作说明基于仪表盘数据提炼业务洞察形成数据驱动的优化建议。配置要点按照 “现状描述→原因分析→优化建议” 三层结构撰写每个结论对应仪表盘的图表作为数据证据。三、实验结果3.1 数据清洗预处理结果全平台概况表成功输出覆盖 B 站、CSDN、微信、知乎、小红书等多个平台的每日汇总数据完整保留各平台特色互动指标准确统计了全平台作品总量和总流量规模为顶部概览指标提供了数据支撑。 【截图位置】参考实验指导 128 号文档步骤 8 的数据探查结果 - 全平台表截图内容分析明细表完成无效数据过滤仅保留 B 站和 CSDN 的有效作品记录空值填充完整字段结构规范剔除了无用的采集标记字段为后续特征工程提供了干净、可用的基础数据。 【截图位置】参考实验指导 128 号文档步骤 8 的数据探查结果 - 内容分析表截图3.2 特征工程构建结果明细表字段更新content_analysis表成功新增互动总数字段和 5 个标题特征标志字段所有记录的关键词匹配准确无空值或错误标记数据可直接用于后续多维度分析。 【截图位置】参考实验指导 129 号文档 4.1 步骤 5 的数据结果截图关键词汇总表输出了 5 个关键词在两个平台的统计结果包含平均互动数、整体平均值、样本量三个核心指标可直接量化对比不同标题的引流效果。 典型数据结论CSDN 平台 “零代码” 关键词的作品平均互动 26高于整体平均 19提升效果显著B 站 “教程” 关键词平均互动 16优于平台整体水平。 【截图位置】参考实验指导 129 号文档 4.2 步骤 6 的完整关键词统计截图3.3 可视化分析结果成功搭建完整的自媒体运营分析仪表盘实现四大分析维度的可视化呈现整体概览通过指标卡可快速掌握全平台作品规模、总流量、总互动量以及两个重点平台的核心数据建立第一时间的整体认知排名对比清晰展示了学生运营水平排名和爆款作品排名可快速定位优秀标杆和优质内容特征标题洞察量化验证了不同标题关键词的引流效果明确了高转化关键词和低效果关键词为标题优化提供了数据依据趋势规律呈现了流量随时间的累积增长趋势反映了内容的长尾传播效果与增长节奏。 【截图位置】参考实验指导 130 号文档步骤 4 的综合仪表盘完整截图3.4 结果验证数据一致性验证随机抽取 10 条记录手动计算互动总数与系统计算结果完全一致特征准确性验证抽查 20 条作品标题的关键词标记准确率 100%可视化准确性验证BI 图表数值与底层数据表统计结果核对无误无计算偏差或维度错误。四、问题与解决在实验过程中我遇到了以下典型问题通过排查调试成功解决问题 1过滤条件逻辑错误导致数据筛选不符合预期问题现象运行转换流后content_analysis 表中出现了浏览量为 0 的 CSDN 记录有效数据筛选失效问题原因过滤条件中未使用括号分组AND 优先级高于 OR导致逻辑变成 “B 站且浏览 0或所有 CSDN”未能同时满足平台和浏览量两个条件解决方法在过滤记录组件中用括号将每个平台的独立条件分组确保平台名称和浏览量 0 同时满足再通过 OR 连接两个平台的条件组。问题 2JavaScript 组件输出字段缺失特征全部为空问题现象运行转换流后content_analysis 表的 has_best 等特征字段全部为 0 或空值问题原因仅在代码中定义了变量但未在组件的 “输出字段” 列表中添加对应字段导致计算结果无法传递到下游组件解决方法在 JavaScript 组件的输出字段配置中添加 5 个特征字段设置类型为 Integer并勾选替换选项确保变量值可以输出到数据流中。问题 3误用表输出组件导致数据重复新增问题现象多次运行转换流后content_analysis 表的数据条数持续翻倍出现大量重复记录问题原因使用了 “表输出” 组件而非 “插入 / 更新” 组件每次运行都会追加写入数据不会覆盖原有记录解决方法替换为 “插入 / 更新” 组件设置查询关键字为 id仅更新指定字段确保 id 存在时更新数据、不存在时才插入新行避免重复数据产生。问题 4BI 图表数值与底层表统计结果不一致问题现象BI 中计算的总浏览量和 ETL 表中手动求和的结果存在明显偏差问题原因构建数据集时未做平台筛选包含了浏览量为 0 的其他平台数据且部分指标的聚合方式错误选择了 “平均值” 而非 “求和”解决方法在重点平台数据集中添加筛选条件仅保留 B 站和 CSDN同时核对所有指标的聚合方式确保求和、计数、平均值选择正确。五、实验总结通过本次自媒体运营分析全流程实验我完整掌握了从原始数据到可视化分析的全链路操作核心收获如下我掌握了 ETL 数据清洗的完整流程学会了分支处理设计、多条件过滤、缺失值处理、宽表字段设计等预处理技能理解了 “一次清洗、多次复用” 的数据加工思路我理解了特征工程的核心价值学会了使用计算器和代码组件构建衍生指标与文本特征掌握了插入 / 更新组件的使用场景能够在不破坏基础数据的前提下回填特征字段我掌握了 BI 可视化的分析方法能够围绕业务问题设计分析框架选择合适的图表类型搭建逻辑清晰的综合仪表盘并从数据中提炼可落地的业务洞察我提升了数据问题排查能力能够快速定位 ETL 流程中的逻辑错误、字段映射问题以及 BI 中的数据计算偏差问题。