Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Réparer les données metabase pour pouvoir faire des jointures sur l'ObjectId #1849

Open
7 tasks done
alice-telescoop opened this issue Nov 7, 2023 · 4 comments · Fixed by #1864
Open
7 tasks done
Assignees
Labels
api Modification sur le package api bug Bug à résoudre metabase

Comments

@alice-telescoop
Copy link
Collaborator

alice-telescoop commented Nov 7, 2023

Sur OVH les userId des logs étaient marquées Object et celles sur visits sont des ObjectId et donc différent des _id de users qui sont des string

Après observation, on ne stocke pas les userId dans les logs à la base. Dans les logs de la prod, quand on a l'info de l'utilisateur, userId vaut {}

Je vous demanderai en daily demain parce que c'est assez facile de remplacer des string par des ObjectId, mais rajouter des id quand on ne les a pas c'est pas si simple

Pistes

pour visits

  • à l'import ne plus transformer user._id en string (laisser ObjectId)

pour logs

  • faire une migration/commande cli pour remettre les user._id dans les logs passés (à partir du mail)
  • s'assurer qu'ils soient sauvegardés à l'avenir (en string sinon pas possible)
  • modifier la méthode dumpService.publishStatsData pour aller convertir les userId à ce moment-là

dans tous les cas, à la mise en prod

  • vider les collections metabase
  • vider la valeur DUMP_PUBLISH_DATE de la table configurations
  • refaire le dump
@alice-telescoop alice-telescoop converted this from a draft issue Nov 7, 2023
@alice-telescoop alice-telescoop added api Modification sur le package api metabase bug Bug à résoudre labels Nov 7, 2023
@alice-telescoop alice-telescoop self-assigned this Nov 7, 2023
@alice-telescoop
Copy link
Collaborator Author

alice-telescoop commented Nov 7, 2023

  • mettre les utilisateurs entiers

@alice-telescoop alice-telescoop moved this from To Do to In Progress in Data.Subvention Nov 8, 2023
@alice-telescoop
Copy link
Collaborator Author

Pour le fait que les id soient mal renseignées dans log, je pense qu'on n'a pas de bonne solution : je peux le transformer en string pour que l'info ne soit pas perdue mais elle ne sera pas au bon format dans la table.
Ça vient d'un bug de notre dépendance. J'ai créé une issue chez eux : winstonjs/winston-mongodb#258 mais ils n'ont pas l'air réactifs du tout

@alice-telescoop
Copy link
Collaborator Author

Donc on sauvegarde en string dans les logs et on convertit en ObjectId au moment du dump vers metabase

@alice-telescoop alice-telescoop moved this from In Progress to To Review in Data.Subvention Nov 13, 2023
@github-project-automation github-project-automation bot moved this from To Review to Done in Data.Subvention Nov 14, 2023
@alice-telescoop
Copy link
Collaborator Author

Ça marche pas 😢

@alice-telescoop alice-telescoop moved this from Done to To Do in Data.Subvention Nov 20, 2023
@alice-telescoop alice-telescoop moved this from To Do to In Progress in Data.Subvention Nov 20, 2023
@alice-telescoop alice-telescoop moved this from In Progress to Done in Data.Subvention Nov 21, 2023
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
api Modification sur le package api bug Bug à résoudre metabase
Projects
Status: Done
Development

Successfully merging a pull request may close this issue.

1 participant