bin/BackupPC_incPartsUpdate

   1 #!/usr/local/bin/perl -w
   2
   3 use strict;
   4 use lib "__INSTALLDIR__/lib";
   5
   6 use DBI;
   7 use BackupPC::Lib;
   8 use BackupPC::View;
   9 use BackupPC::Attrib qw/:all/;
  10 use Data::Dumper;
  11 use Time::HiRes qw/time/;
  12 use POSIX qw/strftime/;
  13 use BackupPC::SearchLib;
  14 use Cwd qw/abs_path/;
  15 use File::Which;
  16 use Archive::Tar;
  17 use Algorithm::Diff;
  18 use Getopt::Std;
  19
  20 my $path = abs_path($0);
  21 $path =~ s#/[^/]+$#/#;
  22 my $tarIncCreate = $path .= 'BackupPC_tarIncCreate';
  23
  24 die "can't find $tarIncCreate: $!\n" unless (-x $tarIncCreate);
  25
  26 my $bin;
  27 foreach my $c (qw/gzip split/) {
  28         $bin->{$c} = which($c) || die "$0 needs $c, install it\n";
  29 }
  30
  31 my %opt;
  32 getopts("cd", \%opt );
  33
  34 my $debug = $opt{d};
  35 my $check = $opt{c} && print STDERR "NOTICE: tar archive check forced\n";
  36
  37 $|=1;
  38
  39 my $start_t = time();
  40
  41 my $t_fmt = '%Y-%m-%d %H:%M:%S';
  42
  43 my $hosts;
  44 my $bpc = BackupPC::Lib->new || die;
  45 my %Conf = $bpc->Conf();
  46 my $TopDir = $bpc->TopDir();
  47 my $beenThere = {};
  48
  49 my $dsn = $Conf{SearchDSN} || die "Need SearchDSN in config.pl\n";
  50 my $user = $Conf{SearchUser} || '';
  51
  52 my $dbh = DBI->connect($dsn, $user, "", { RaiseError => 1, AutoCommit => 0 });
  53
  54 my $tar_dir = $Conf{InstallDir}.'/'.$Conf{GzipTempDir};
  55
  56 die "problem with $tar_dir, check GzipTempDir in configuration\n" unless (-d $tar_dir && -w $tar_dir);
  57
  58 #---- subs ----
  59
  60 sub fmt_time {
  61         my $t = shift || return;
  62         my $out = "";
  63         my ($ss,$mm,$hh) = gmtime($t);
  64         $out .= "${hh}h" if ($hh);
  65         $out .= sprintf("%02d:%02d", $mm,$ss);
  66         return $out;
  67 }
  68
  69 sub curr_time {
  70         return strftime($t_fmt,localtime());
  71 }
  72
  73 sub tar_join($) {
  74         my $filename = shift;
  75
  76         my $in = my $out = $filename;
  77         $out .= '.tmp';
  78
  79         # FIXME I should really order parts manually!
  80         system("cat $in/part* > $out && rm -Rf $in && mv $out $in") == 0 or die "can't join $in: $?";
  81
  82 }
  83
  84 sub tar_check($$$$) {
  85         my ($host,$share,$num,$filename) = @_;
  86
  87         if ($debug) {
  88                 print STDERR " {{ CHECK: ${host}:${share}#${num} and $filename";
  89         } else {
  90                 print " check";
  91         }
  92
  93         if (-d $filename) {
  94                 print STDERR ", joining";
  95                 tar_join($filename);
  96         }
  97
  98         my $tar = Archive::Tar->new;
  99         my $comp = 0;
 100         $comp = 1 if ($filename =~ m/\.(gz|tgz)$/);
 101         print STDERR ", opening" if ($debug);
 102         $tar->read($filename, $comp) or die "can't open $filename: $!";
 103
 104         print STDERR ", tar" if ($debug);
 105         my @tar_files = sort $tar->list_files();
 106         print STDERR " ",($#tar_files + 1), " files" if ($debug);
 107
 108         print STDERR ", database" if ($debug);
 109
 110         my $sth = $dbh->prepare(qq{
 111                 SELECT path,type
 112                 FROM files
 113                 JOIN shares on shares.id = shareid
 114                 JOIN hosts on hosts.id = shares.hostid
 115                 WHERE hosts.name = ? and shares.name = ? and backupnum = ?
 116         });
 117         $sth->execute($host, $share, $num);
 118         my @db_files;
 119         while( my $row = $sth->fetchrow_hashref ) {
 120
 121                 my $path = $row->{'path'} || die "no path?";
 122                 $path =~ s#^/#./#;
 123                 $path .= '/' if ($row->{'type'} == BPC_FTYPE_DIR);
 124                 push @db_files, $path;
 125         }
 126
 127         print STDERR " ",($#db_files + 1), " files, diff" if ($debug);
 128
 129         @db_files = sort @db_files;
 130
 131         my $same = 1;
 132         if ($#tar_files != $#db_files) {
 133                 $same = 0;
 134                 print STDERR " NUMBER" if ($debug);
 135         } else {
 136                 my $diff = Algorithm::Diff->new(\@tar_files, \@db_files);
 137                 while ( $diff->Next() ) {
 138                         next if $diff->Same();
 139                         $same = 0;
 140                         print "< $_\n" for $diff->Items(1);
 141                         print "> $_\n" for $diff->Items(2);
 142                 }
 143         }
 144
 145         print STDERR " ",($same ? 'ok' : 'DIFFERENT');
 146         print STDERR " }} " if ($debug);
 147
 148         return $same;
 149 }
 150
 151
 152 #----- main
 153
 154 my $sth = $dbh->prepare( qq{
 155
 156 select
 157         backups.id as backup_id,
 158         hosts.name as host,
 159         shares.name as share,
 160         backups.num as num,
 161         inc_size,
 162         parts
 163 from backups
 164         join shares on backups.hostid = shares.hostid
 165                 and shares.id = backups.shareid
 166         join hosts on shares.hostid = hosts.id
 167 where not inc_deleted
 168 order by backups.date
 169
 170 } );
 171
 172 my $sth_inc_size = $dbh->prepare(qq{ update backups set inc_size = ?, parts = ? where id = ? });
 173 my $sth_inc_deleted = $dbh->prepare(qq{ update backups set inc_deleted = ? where id = ? });
 174
 175 %BackupPC::SearchLib::Conf = %Conf;
 176
 177 $sth->execute();
 178 my $num_backups = $sth->rows;
 179 my $curr_backup = 1;
 180
 181 while (my $row = $sth->fetchrow_hashref) {
 182         my $tar_file = BackupPC::SearchLib::getGzipName($row->{'host'}, $row->{'share'}, $row->{'num'});
 183
 184         # this will return -1 if file doesn't exist
 185         my $size = BackupPC::SearchLib::get_tgz_size_by_name($tar_file);
 186
 187         print curr_time, " $curr_backup/$num_backups ", $row->{'host'}, ":", $row->{'share'}, " #", $row->{'num'}, " -> $tar_file";
 188         $curr_backup++;
 189
 190         my $t = time();
 191
 192         # re-create archive?
 193         if ($row->{'inc_size'} == -1 || $size == -1 ||
 194                 $row->{'inc_size'} != $size ||
 195                 $check && ! tar_check($row->{'host'}, $row->{'share'}, $row->{'num'}, "$tar_dir/$tar_file")
 196         ) {
 197                 my $cmd = qq{rm -Rf $tar_dir/$tar_file && $tarIncCreate -h "$row->{'host'}" -s "$row->{'share'}" -n $row->{'num'} | $bin->{'gzip'} $Conf{GzipLevel} > ${tar_dir}/${tar_file}.tmp};
 198                 print STDERR "## $cmd\n" if ($debug);
 199
 200                 system($cmd) == 0 or die "failed: $?";
 201
 202                 rename("${tar_dir}/${tar_file}.tmp", "$tar_dir/$tar_file") or die "can't rename $tar_dir/$tar_file: $!";
 203
 204                 $size = (stat( "$tar_dir/$tar_file" ))[7];
 205         }
 206
 207         if ($size > 45) {
 208
 209                 my $max_size = $Conf{'MaxArchiveSize'} || die "problem with MaxArchieSize parametar";
 210                 $max_size *= 1024;      # convert to bytes
 211
 212                 my $parts = int( ($size + $max_size - 1) / $max_size );
 213
 214                 if (-d "$tar_dir/$tar_file" && $parts != $row->{'parts'}) {
 215                         print " join";
 216                         tar_join("$tar_dir/$tar_file");
 217                 }
 218
 219                 if ($size > $max_size && ! -d "$tar_dir/$tar_file") {
 220                         print " split/$parts";
 221                         my $in = my $out = "$tar_dir/$tar_file";
 222                         $out .= '.tmp';
 223                         rename $in, $out || die "can't rename $in: $!";
 224                         mkdir $in || die "can't mkdir $in: $!";
 225
 226                         my $suffix_len = length("$parts");
 227                         system("$bin->{'split'} -d -b $max_size -a $suffix_len $out $in/part") == 0 or die "can't split $out: $?";
 228                         unlink $out || die "can't unlink $out: $!";
 229                 }
 230
 231                 $sth_inc_size->execute($size, $parts, $row->{'backup_id'});
 232                 $sth_inc_deleted->execute(0, $row->{'backup_id'});
 233
 234                 printf(" %1.2f MB", ($size / 1024 / 1024));
 235
 236         } else {
 237                 $sth_inc_deleted->execute(1, $row->{'backup_id'});
 238                 unlink "$tar_dir/$tar_file" || die "can't delete $tar_dir/$tar_file: $!\n";
 239                 print " EMPTY";
 240         }
 241         print ", dur: ",fmt_time(time() - $t), "\n";
 242
 243         $dbh->commit;
 244
 245 }
 246
 247 undef $sth;
 248 $dbh->disconnect;