法律领域语料数据集,适合训练法律相关AI模型。内容覆盖各类法律案例、法规文件、判决书等,数据量大,质量高。
法律领域语料数据集适合训练法律相关AI模型。内容覆盖各类法律案例、法规文件、判决书等数据量大质量高。一共10万多条数据。json 格式10万条法律领域语料数据集 使用指南这份数据集是面向法律领域AI模型训练的高质量语料库覆盖法规、案例、判决书、法律问答等内容格式为标准JSON可直接用于法律大模型微调、法律问答系统、文书生成等场景。下面从数据结构、使用场景、训练流程和实操建议给你讲清楚。一、数据集结构与特点1. 数据格式与字段标准JSON格式单条数据通常为指令微调三元组结构适配主流大模型训练框架{instruction:你是一名专业的法律顾问请回答用户的法律问题。,input:劳动合同到期不续签公司需要支付经济补偿吗,output:根据《劳动合同法》第46条规定除用人单位维持或者提高劳动合同约定条件续订劳动合同劳动者不同意续订的情形外劳动合同期满终止固定期限劳动合同的用人单位应当向劳动者支付经济补偿...}部分纯法规/判决书数据也可包含law_id法规编号/案件编号category法律领域分类民法、刑法、劳动法、行政法等content法规条文/判决书全文summary案件摘要/法规解读2. 内容覆盖范围法律法规条文宪法、民法、刑法、劳动法、公司法等法院判决书、裁定书、调解书含案件事实、法院说理、判决结果法律问答与咨询用户常见法律问题专业解答法律文书模板起诉状、答辩状、合同条款等司法解释、典型案例解读二、核心使用场景场景1训练专属法律问答AI模型最主流这是这套数据最直接的用途可用于轻量化法律咨询助手本地部署、小程序接入企业合规咨询机器人合同审核、劳动用工问题解答普法科普AI面向大众的法律问题答疑降低专业术语门槛律师辅助工具案件检索、法条匹配、文书生成辅助场景2法律文书生成/辅助撰写起诉状、答辩状、合同模板生成微调判决书摘要、案件要点自动提炼法律条款自动匹配、合规性审查辅助场景3学术/科研用途法律自然语言处理研究法条分类、案件要素抽取、裁判文书分析法律AI模型评估验证模型回答的专业性、合规性语料分析统计高频法律问题、典型案例特征、法条引用分布场景4RAG知识库构建作为高质量语料清洗后构建法律知识库搭配向量数据库用于检索增强生成RAG提升法律AI回答的准确性和溯源性三、完整使用流程以大模型微调为例Step 1数据预处理1数据清洗过滤无效数据去除重复、乱码、不完整的JSON条目合规性过滤剔除敏感、涉密、过时的法律条文/案例保留现行有效法规格式统一统一字段名如instruction/input/output去除多余换行、特殊符号修正文本编码问题分类标注可选按法律领域民法/刑法/劳动法、数据类型法规/案例/问答打标签方便后续训练和分析2数据划分按训练集:验证集 9:1划分10万条数据建议拆分训练集约9万条验证集约1万条Step 2模型微调以LlamaFactory为例1环境准备pipinstallllamafactory[torch,metrics]transformers datasets accelerate2编写配置文件train_law.yamlmodel_name_or_path:Qwen/Qwen2-7B-Instruct# 可替换为其他开源模型dataset:10w_law_corpustemplate:qwenfinetuning_type:loralora_rank:8lora_alpha:16learning_rate:5e-5num_train_epochs:3per_device_train_batch_size:4gradient_accumulation_steps:4logging_steps:10save_steps:100evaluation_strategy:epochmax_samples:100000# 可根据显存调整max_seq_length:2048output_dir:./law_chatbot_lora3启动微调llamafactory-cli train train_law.yaml4模型合并与部署# 合并LoRA权重到基础模型llamafactory-cliexport\--model_name_or_pathQwen/Qwen2-7B-Instruct\--adapter_name_or_path./law_chatbot_lora\--templateqwen\--finetuning_typelora\--export_dir./law_chatbot_mergedStep 3模型推理测试fromtransformersimportAutoModelForCausalLM,AutoTokenizer model_name./law_chatbot_mergedtokenizerAutoTokenizer.from_pretrained(model_name)modelAutoModelForCausalLM.from_pretrained(model_name,device_mapauto)prompt|im_start|system 你是一名专业的法律顾问请用清晰易懂的语言回答用户的法律问题。 |im_end| |im_start|user 劳动合同到期不续签公司需要支付经济补偿吗|im_end| |im_start|assistant inputstokenizer(prompt,return_tensorspt).to(cuda)outputsmodel.generate(**inputs,max_new_tokens512)print(tokenizer.decode(outputs[0],skip_special_tokensTrue))四、避坑与优化建议1. 合规性与风险提示必看模型回答仅为参考性质不能直接作为法律意见或诉讼依据部署时必须添加免责声明明确“AI回答仅供参考不替代专业律师意见”注意数据时效性部分法规/案例可能已更新训练前需筛选现行有效法律条文避免模型输出过时内容避免生成涉及敏感案件、涉密信息的内容过滤不当案例数据2. 模型优化技巧显存不足优先用LoRA微调降低max_seq_length建议2048以内减少max_samples专业性不足清洗数据时保留法条引用、案件说理逻辑过滤过于口语化的回答回答冗长训练时添加max_new_tokens限制或在prompt中要求回答条理清晰、重点突出明确引用相关法条3. 进阶玩法结合RAG检索增强将数据提炼为结构化知识库搭配向量数据库让模型回答可溯源、可引用具体法条/案例多轮对话优化如果数据包含多轮法律咨询对话可调整prompt模板支持连续问诊场景垂直场景微调针对劳动法、公司法等细分领域提取对应数据做专项微调提升模型在特定领域的专业性