Note de ce sujet :
  • Moyenne : 0 (0 vote(s))
  • 1
  • 2
  • 3
  • 4
  • 5
purge_non_existing_images
#1
Bonjour,

Après quelques années d'utilisation je me suis inévitablement retrouvé avec un certain nombres d'images orphelines de leur fichier (tête de mort)

J'ai d'abord utilisé la dernière version du script dt  purge_non_existing_images.sh pour faire le nettoyage
https://github.com/darktable-org/darktab..._images.sh

Très lent. J'ai cru qu'il s'était planté. En lisant le script, je me suis dit qu'il pouvait être amélioré en utilisant (g)awk

Benchmark
  • DB de 17000 fichiers/images (table images)
  • fichiers orphelins à purger: 80
  • script dt: 50 sec.
  • script awk: 5 sec.
  • script gawk: 0.3 sec.
Le problème du script dt est qu'il utilise un "read" shell séquentiel sur le fichier des images de la DB et surtout que chaque DELETE est exécuté en invoquant à chaque fois un process sqlite3 au lieu d'utiliser une seule transaction sqlite (begin...commit).

Mon script awk utilise un appel au shell ("system") pour vérifier l'existence d'un fichier alors que le script gawk utilise "stat()" de la librairie filefunc de gawk. Bien plus rapide que l'appel "system".

Version awk
https://gist.github.com/esperlu/cdad8e7e...ea4d06d4bb

Version gawk
https://gist.github.com/esperlu/3d4c58bd...ac4144bd51

Quelqu'un pour valider ces scripts? J'ai testé, mais qu'en pensent les dev?

Note: utiliser, bien sûr, une copie de library.db pour tester.

Jean-Luc
Répondre


Messages dans ce sujet
purge_non_existing_images - par JeanLucLacroix - 12-11-18, 10:32
RE: purge_non_existing_images - par rawfiner - 13-11-18, 08:15
RE: purge_non_existing_images - par jpg54 - 13-11-18, 08:41
RE: purge_non_existing_images - par pascal - 13-11-18, 09:22
RE: purge_non_existing_images - par pascal - 13-11-18, 13:20
RE: purge_non_existing_images - par Ngux - 03-04-19, 07:08
RE: purge_non_existing_images - par nca000 - 13-11-18, 13:53
RE: purge_non_existing_images - par jpverrue - 03-04-19, 09:51
RE: purge_non_existing_images - par Ngux - 03-04-19, 11:26
RE: purge_non_existing_images - par mimi85 - 04-04-19, 22:03
RE: purge_non_existing_images - par mimi85 - 04-04-19, 22:25

Atteindre :


Utilisateur(s) parcourant ce sujet : 1 visiteur(s)