An Improved Transformer-KAN Model for Soybean Mapping Based on Multi-Temporal Remote Sensing Data
Chulin Pan · Jiachen Ju · Hongpeng Guo 等 5 人
提出改进的Transformer-KAN模型,基于多时相遥感数据实现高精度、可迁移的大豆种植区制图。
结合时间位置编码、相对位置偏置、Pre-LayerNorm和FastKAN替换M
模型在四个区域精度达0.958-0.983,跨年迁移稳定,但计算复杂度高于传统Transformer
可探索降低模型复杂度或轻量化设计,以平衡精度与效率,并研究跨区域物候差异对迁移的影响。
提出改进的Transformer-KAN模型用于大豆遥感制图,跨区域跨年份验证精度高,对农业监测有实质贡献。
准确且可迁移的大豆制图对于农业监测和面积核查至关重要,然而传统Transformer模型在建模复杂非线性物候关系及维持训练稳定性方面可能存在局限。本研究提出一种改进的Transformer-KAN模型,用于多时相Sentinel-2数据。引入时间位置编码、带相对位置偏置的多头自注意力机制以及Pre-LayerNorm残差结构,以增强物候序列建模能力,同时采用FastKAN替代传统基于MLP的前馈网络,以提升非线性特征表达能力。该模型利用2023年海伦市样本进行训练,并在北州、麦克莱恩和卡斯直接评估,无需重新训练或微调。跨年度迁移能力进一步通过将海伦训练模型应用于2021至2025年北州和麦克莱恩的数据进行评估。所提模型在海伦、北州、麦克莱恩和卡斯的总体精度分别为0.975、0.983、0.958和0.966,对应的Kappa系数分别为0.895、0.887、0.883和0.916。复杂度分析表明,Transformer-KAN需要0.8142 M参数和1.1967 M FLOPs,平均每样本推理时间为3.0191 ms,而传统Transformer为0.6130 M参数、0.7971 M FLOPs和每样本1.4009 ms,说明改进的特征表示伴随着计算复杂度的增加。2021至2025年跨年度分类性能总体保持较高水平,但由于作物生长条件、物候时序和影像获取质量的差异,存在年际波动。遥感反演大豆面积与官方统计面积之间的差异主要与统计口径差异和残余分类不确定性有关,而非模型迁移能力所致。总体而言,Transformer-KAN能够提供准确且可迁移的大豆制图结果,可作为官方农业统计的空间显式补充。