Le taux d’apprentissage change le résultat
Sur trois taux enregistrés, les deux implémentations changent fortement ; à 0,0001, les exactitudes de test sauvegardées sont de 38,47 % et 66,04 %.
Examiner la configuration d’entraînement avant d’attribuer un écart à l’architecture ou à la bibliothèque.
Question
Comment les exactitudes de test enregistrées varient-elles avec le taux d’apprentissage pour un MLP personnalisé et une implémentation PyTorch ?
Expérience
Des exécutions sauvegardées sur Fashion-MNIST comparent un MLP personnalisé à une implémentation PyTorch pour trois taux d’apprentissage. Les valeurs ci-dessous sont les sorties de test disponibles.
Résultats enregistrés
| Taux d’apprentissage | Exactitude PyTorch | Exactitude MLP personnalisé |
|---|---|---|
| 0,0001 | 38,47 % | 66,04 % |
| 0,002 | 75,81 % | 81,35 % |
| 0,1 | 86,87 % | 87,67 % |
Limites
Ces exécutions ne documentent pas plusieurs graines et ne prouvent pas une supériorité générale du modèle personnalisé sur PyTorch. Aucune courbe, durée ou intervalle de confiance n’a été fourni.
Interprétation
Dans ces essais, le taux d’apprentissage modifie fortement le résultat. La configuration peut contribuer à l’écart observé.
Examiner la configuration d’entraînement avant d’attribuer un écart à l’architecture ou à la bibliothèque.
Prochaine expérience
Comparer des architectures et réglages d’entraînement équivalents avec plusieurs graines documentées, puis rapporter la distribution des résultats de test.
Origine et contribution
Comparaison pédagogique sur Fashion-MNIST. Valeurs issues de la synthèse éditoriale des sorties sauvegardées fournie pour cette mise à jour ; les notebooks ne sont pas dans ce dépôt.
Le code d’origine et la contribution personnelle précise restent à vérifier. Cette comparaison présente les sorties sauvegardées, sans nouvelle expérience.
Aucune page publique de ce projet n’est encore disponible.