尧图建网站 尧图建网站 YAOTU WEB BUILD 免费咨询
ARTICLE DETAIL

资讯详情

深耕网站建设与建站编程的一线实战洞察。

TS-HINT: Enhancing Semiconductor Time Series Regression Using Attention Hints From Large Language...

TS-HINT: Enhancing Semiconductor Time Series Regression Using Attention Hints From Large Language... 一、文章主要内容总结该研究针对半导体化学机械抛光(CMP)工艺中材料去除率(MRR)的预测问题,提出了一种名为TS-Hint的时间序列基础模型(TSFM)框架。现有方法多依赖从时间序列中提取静态特征,导致时间动态信息丢失,且需大量训练数据。TS-Hint通过整合大型语言模型(LLM)的思维链推理,利用注意力机制数据和显著性数据提供注意力提示,实现了多变量时间序列的直接学习,在有限数据场景下(少样本学习)表现优异。研究使用2016 PHM数据集(含19个时间序列特征)进行验证,结果显示:在仅使用15%训练数据的少样本微调中,模型RMSE从0-shot的8.86降至5-shot的8.20;使用全量训练数据时,RMSE达3.92,仅次于随机森林(RF)模型,且无需依赖静态特征(如Stage)即可保持竞争力。模型通过注意力图和显著性图优化关注重点,提升了预测的可解释性和准确性。二、文章创新点首个面向外在回归的多变量时间序列基础模型:专门针对序列到单一输出(sequence-to-one)的回归任务设计,可直接从原始多变量时间序列中学习,无需提取静态特征,保留时间动态信息。整合LLM思维链推理的注意力提示机制:通过LLM的思维链推理生成注意力提示,结合预训练模型的注意力分数和显著性图,引导模型关注关键特征和时间步,类似知识蒸馏的优化逻辑,提升模型性能。数据高效性:在有限数据场景(仅15%训练数据)下通过少样本微调实现有效预测,解决了半导体制造数据稀缺
返回列表