革命性图表解读AIchartreader-0.8B-OptiQ-4bit如何让数据可视化秒变精准答案【免费下载链接】chartreader-0.8B-OptiQ-4bit项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/chartreader-0.8B-OptiQ-4bitchartreader-0.8B-OptiQ-4bit是一款在Mac上微调的0.8B视觉语言模型专为读取图表设计。它基于mlx-community/Qwen3.5-0.8B-OptiQ-4bit基础模型捆绑了名为ChartReader的图像文本LoRA该LoRA在ChartQA上训练而成。视觉塔保持冻结LoRA适配语言塔以ChartQA期望的方式回答图表问题简短、精确直指核心价值。基础模型和附加组件支持完整的图像文本推理因此同一仓库也适用于一般的视觉语言模型任务。 核心优势小模型大能力惊人的性能提升在80个预留的ChartQA问题上将图像加边框调整为512像素画布基础模型与基础模型ChartReader的对比结果如下指标基础0.8B模型 ChartReader提升宽松准确率50.0%55.0%5.0 pp精确匹配26.2%40.0%13.8 pp输出相似度0.3850.5980.21基础模型读取图表较为松散和冗长例如条形图中显示了10种食品而ChartReader则回答简洁例如3。最大的优势在于格式和精确匹配宽松准确率的提升虽小但确实存在。高效的4位量化技术该模型采用了先进的4位量化技术在config.json中详细定义了量化参数如组大小为64模式为affine。这种量化方式在保持模型性能的同时显著降低了内存占用和计算资源需求使其能够在普通设备上高效运行。 项目文件结构config.json, model.safetensors 基础Qwen3.5-0.8B OptiQ-4bit量化模型 optiq_vision.safetensors 视觉附加组件支持完整图像文本推理 mtp.safetensors 多令牌预测草稿头 adapters/chartreader/ ChartQA LoRAadapters.safetensors值得注意的是LoRA未合并到权重中——它作为附加组件在服务时应用因此你既保留了普通的基础量化模型又拥有了ChartReader的功能。LoRA的配置信息可在adapters/chartreader/adapter_config.json中查看其中定义了秩为8缩放因子为8.0dropout为0.0等参数。 快速开始3步实现图表解读1. 安装依赖首先确保安装mlx-optiqpip install mlx-optiq2. 下载模型使用huggingface-cli下载模型到本地huggingface-cli download mlx-community/chartreader-0.8B-OptiQ-4bit --local-dir ./chartreader3. 启动服务运行以下命令启动服务其中--adapter参数指定ChartReader的LoRAoptiq serve --model ./chartreader --adapter ./chartreader/adapters/chartreader然后将图像和图表问题发送到localhost:8080上的OpenAI兼容端点即可获取精准答案。如果不使用--adapter参数同一仓库将作为普通的图像文本基础模型提供服务。 为什么选择chartreader-0.8B-OptiQ-4bit对于需要快速从图表中提取准确信息的用户来说chartreader-0.8B-OptiQ-4bit是一个理想的选择。它体积小巧但功能强大4位量化使其在资源有限的设备上也能高效运行。无论是数据分析、学术研究还是商业报告都能显著提高工作效率让你从繁琐的图表解读中解放出来专注于更重要的决策和分析。该项目使用OptiQ构建——这是一个用于Apple Silicon上LLM和VLM的混合精度量化、LoRA和OpenAI兼容服务器。只需pip install mlx-optiq即可体验这一强大工具。如果你想了解更多关于模型训练的细节可以查看完整的文章在Mac上微调视觉模型。【免费下载链接】chartreader-0.8B-OptiQ-4bit项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/chartreader-0.8B-OptiQ-4bit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考