尧图建网站 尧图建网站 YAOTU WEB BUILD 免费咨询
ARTICLE DETAIL

资讯详情

深耕网站建设与建站编程的一线实战洞察。

Supervised Fine Tuning of Large Language Models for Domain Specific Knowledge Graph Construction:...

Supervised Fine Tuning of Large Language Models for Domain Specific Knowledge Graph Construction:... 文章核心总结与翻译一、主要内容本文聚焦湖南近代历史名人这一湖湘文化核心载体,针对该领域数据稀缺、标准化程度低,以及通用大语言模型(LLMs)领域知识提取精度不足、结构化输出能力弱的问题,提出了一种基于有监督微调的领域特定知识图谱构建方案。研究框架:构建了包含本体设计、数据标注与指令数据集构建、模型微调与知识提取、知识图谱构建的四阶段框架,定义了涵盖实体、属性、关系的细粒度知识 schema,规范了历史名人信息的结构化表达。数据集构建:通过多源数据收集(百科、新闻、文献等)、数据清洗与半自动化标注,构建了适配湖南近代历史名人领域的指令微调数据集,解决了领域微调缺乏专用指令数据的问题。模型微调与实验:采用 LoRA 高效参数微调技术,对 Qwen2.5-7B、Qwen3-8B、DeepSeek-R1-Distill-Qwen-7B、Llama-3.1-8B-Instruct 四种开源模型进行微调,并设计了多粒度评估指标(结构化信息精确匹配、叙事性信息向量相似度匹配)。实验表明,所有模型微调后性能显著提升,其中 Qwen3-8B 在 100 样本、50 轮微调下达到 89.3866 的最优分数。知识图谱落地:将微调后模型提取的实体、关系、属性等信息导入图数据库,实现了湖南近代历史名人知识图谱的可视化构建,为区域文化遗产数字化保护与智能历史研究提供支持。二、创新点
返回列表