使用Cleanlab、PCA和Procrustes可视化ViT微调
与传统的卷积神经网络不同,vit使用最初设计用于自然语言处理任务的Transformers架构来处理图像。微调这些模型以获得最佳性能可能是一个复杂的过程。下面是使用动画演示了在微调过程中嵌入的变化。这是通过对嵌入执行主成分分析(PCA)来实现的。这些嵌入是从处于不同微调阶段的模型及其相应的检查
与传统的卷积神经网络不同,vit使用最初设计用于自然语言处理任务的Transformers架构来处理图像。微调这些模型以获得最佳性能可能是一个复杂的过程。下面是使用动画演示了在微调过程中嵌入的变化。这是通过对嵌入执行主成分分析(PCA)来实现的。这些嵌入是从处于不同微调阶段的模型及其相应的检查
直接上代码:<pre<code&39;log&39;>&39;traceLevel&39;>YII_DEBUG?3:0,&39;targets&39;>&39;c