Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

关于 vit-base's fine-tuning 的问题 #32

Open
zhu-zhu-ding opened this issue Mar 24, 2024 · 9 comments
Open

关于 vit-base's fine-tuning 的问题 #32

zhu-zhu-ding opened this issue Mar 24, 2024 · 9 comments

Comments

@zhu-zhu-ding
Copy link

我使用作者你在https://github.com/ViTAE-Transformer/RSP
的mmseg训练代码来微调vit-base,复现你的结果。在potsdam上微调观察训练日志我发现了一个问题,中间测试结果和作者你的不一样,请问作者你改动什么超参数了吗。ps: 作者你给出的环境我都用一样的,potsdam使用RSP版本的mmseg处理的。下面是我的部分日志
image
这是作者你的日志
image
不同之处在于impervious_surface的问题,我考虑是train的reduce_zero_label参数的问题,但是修改后训练会报错,所以想请问你一下
修改了哪些超参数呢?或者是其他的问题?

@DotWang
Copy link
Collaborator

DotWang commented Mar 24, 2024

@zhu-zhu-ding
Copy link
Author

image
image
根据作者你提供的修改方式修改了config和dataset,并且数据和你使用的一样,但是报这个错误,请问是什么导致的呢,非常感谢!

@DotWang
Copy link
Collaborator

DotWang commented Mar 24, 2024

@zhu-zhu-ding 标签不对吧,还有类别数相关的设置

@zhu-zhu-ding
Copy link
Author

我都是用作者你RSP仓库里的那个转换代码,感觉没什么问题,不知道是那个参数设置的不对,所以可能是我的数据集下载错了吗还是其他什么原因?我用mmseg官方文档的链接下的,感觉都没问题。。。

@zhu-zhu-ding
Copy link
Author

哦还有个问题,
image
这个num_class设置=5会报错,提示未知参数,这个的错误原因是什么呢

@DotWang
Copy link
Collaborator

DotWang commented Mar 24, 2024

@zhu-zhu-ding 有问题啊,你说的那个RSP仓库里的标签转换工具那是mmseg自带的,我没用,我用的是我们之前做项目时候的标签转换方案,在这个issue中,我给了我们转换potsdam数据集的代码,你把这个issue从头到尾完整看完就明白了

ViTAE-Transformer/ViTAE-Transformer-Remote-Sensing#9

@zhu-zhu-ding
Copy link
Author

我看完了,我理解了整个流程,但是问题在于,我使用官方的转换代码,reduce_zero_label和ignore_index按issues修改,但是还是有如上错误,请问这是怎么回事呢?

@DotWang
Copy link
Collaborator

DotWang commented Mar 25, 2024

哦还有个问题, image 这个num_class设置=5会报错,提示未知参数,这个的错误原因是什么呢

说明customdataset这个类里边没有num_classes这个参数,因为这个参数是设置模型输出类别个数的,只在模型config里边的head上设置就可以了

@DotWang
Copy link
Collaborator

DotWang commented Mar 25, 2024

@zhu-zhu-ding 你这个错误肯定跟标签有关,所以你要注意的地方应该有,数据集类里的ignore_index, 数据集config里边pipeline中的reduce_zero_label, seg_pad_val, 模型config里边decode_head和auxiliary_head中的num_classes和ignore_index

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants