makeDist

   1 #!/bin/perl
   2 #
   3 # makeDist: Build a BackupPC distribution
   4 #
   5 # DESCRIPTION
   6 #
   7 #   This script should be run with no arguments to build a
   8 #   distribution.  The $Version and $ReleaseDate should be
   9 #   edited below to specify the version name and the release
  10 #   date.  The distribution is createede in the sub-directory
  11 #   dist.  The dsitribution is in the file name:
  12 #
  13 #           dist/BackupPC-$Version.tar.gz.
  14 #
  15 #   Often the language files are not up to date, and makeDist
  16 #   exits after complaining about the lang files being inconsistent.
  17 #   Use the -l option to turn off that behavior.
  18 #
  19 # AUTHOR
  20 #   Craig Barratt <cbarratt@users.sourceforge.net>
  21 #
  22 # COPYRIGHT
  23 #   Copyright (C) 2001-2006  Craig Barratt
  24 #
  25 #   This program is free software; you can redistribute it and/or modify
  26 #   it under the terms of the GNU General Public License as published by
  27 #   the Free Software Foundation; either version 2 of the License, or
  28 #   (at your option) any later version.
  29 #
  30 #   This program is distributed in the hope that it will be useful,
  31 #   but WITHOUT ANY WARRANTY; without even the implied warranty of
  32 #   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  33 #   GNU General Public License for more details.
  34 #
  35 #   You should have received a copy of the GNU General Public License
  36 #   along with this program; if not, write to the Free Software
  37 #   Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  38 #
  39 #========================================================================
  40 #
  41
  42 use strict;
  43 use File::Path;
  44 use File::Copy;
  45 use Getopt::Std;
  46
  47 umask(0022);
  48
  49 my $Version     = "3.0.0alpha";
  50 my $ReleaseDate = "23 Jan 2006";
  51 my $DistDir     = "dist/BackupPC-$Version";
  52
  53 my @PerlSrc = qw(
  54     bin/BackupPC
  55     bin/BackupPC_archive
  56     bin/BackupPC_archiveHost
  57     bin/BackupPC_attribPrint
  58     bin/BackupPC_dump
  59     bin/BackupPC_fixupBackupSummary
  60     bin/BackupPC_link
  61     bin/BackupPC_nightly
  62     bin/BackupPC_restore
  63     bin/BackupPC_sendEmail
  64     bin/BackupPC_serverMesg
  65     bin/BackupPC_trashClean
  66     bin/BackupPC_tarExtract
  67     bin/BackupPC_tarCreate
  68     bin/BackupPC_tarPCCopy
  69     bin/BackupPC_compressPool
  70     bin/BackupPC_zipCreate
  71     bin/BackupPC_zcat
  72     lib/BackupPC/Attrib.pm
  73     lib/BackupPC/Config.pm
  74     lib/BackupPC/FileZIO.pm
  75     lib/BackupPC/Lib.pm
  76     lib/BackupPC/PoolWrite.pm
  77     lib/BackupPC/Storage.pm
  78     lib/BackupPC/View.pm
  79     lib/BackupPC/CGI/AdminOptions.pm
  80     lib/BackupPC/CGI/Archive.pm
  81     lib/BackupPC/CGI/ArchiveInfo.pm
  82     lib/BackupPC/CGI/Browse.pm
  83     lib/BackupPC/CGI/DirHistory.pm
  84     lib/BackupPC/CGI/EditConfig.pm
  85     lib/BackupPC/CGI/EmailSummary.pm
  86     lib/BackupPC/CGI/GeneralInfo.pm
  87     lib/BackupPC/CGI/HostInfo.pm
  88     lib/BackupPC/CGI/Lib.pm
  89     lib/BackupPC/CGI/LOGlist.pm
  90     lib/BackupPC/CGI/Queue.pm
  91     lib/BackupPC/CGI/ReloadServer.pm
  92     lib/BackupPC/CGI/RestoreFile.pm
  93     lib/BackupPC/CGI/RestoreInfo.pm
  94     lib/BackupPC/CGI/Restore.pm
  95     lib/BackupPC/CGI/StartServer.pm
  96     lib/BackupPC/CGI/StartStopBackup.pm
  97     lib/BackupPC/CGI/StopServer.pm
  98     lib/BackupPC/CGI/Summary.pm
  99     lib/BackupPC/CGI/View.pm
 100     lib/BackupPC/Config/Meta.pm
 101     lib/BackupPC/Lang/de.pm
 102     lib/BackupPC/Lang/en.pm
 103     lib/BackupPC/Lang/es.pm
 104     lib/BackupPC/Lang/fr.pm
 105     lib/BackupPC/Lang/it.pm
 106     lib/BackupPC/Lang/nl.pm
 107     lib/BackupPC/Lang/pt_br.pm
 108     lib/BackupPC/Storage/Text.pm
 109     lib/BackupPC/Xfer/Archive.pm
 110     lib/BackupPC/Xfer/BackupPCd.pm
 111     lib/BackupPC/Xfer/Smb.pm
 112     lib/BackupPC/Xfer/Tar.pm
 113     lib/BackupPC/Xfer/Rsync.pm
 114     lib/BackupPC/Xfer/RsyncDigest.pm
 115     lib/BackupPC/Xfer/RsyncFileIO.pm
 116     lib/BackupPC/Zip/FileMember.pm
 117     cgi-bin/BackupPC_Admin
 118 );
 119
 120 my %opts;
 121 if ( !getopts("l", \%opts) || @ARGV != 0 ) {
 122     print("usage: $0 [-l]\n");
 123     exit(1);
 124 }
 125
 126 #
 127 # Check config parameters
 128 #
 129 my $ConfVars = {};
 130 my $errCnt;
 131
 132 $errCnt += CheckConfigParams("conf/config.pl", $ConfVars, 0);
 133
 134 $errCnt += CheckConfigParams("doc-src/BackupPC.pod", $ConfVars, 1);
 135
 136 #
 137 # These config parameters are not used in the code, so ignore them.
 138 #
 139 $ConfVars->{BackupPCUser} = 2;
 140 $ConfVars->{CgiDir}       = 2;
 141 $ConfVars->{InstallDir}   = 2;
 142 $ConfVars->{CgiImageDir}  = 2;
 143
 144 #
 145 # These config parameters are used in the code to be backward compatible,
 146 # but are not present in the current config file, so ignore them.
 147 #
 148 $ConfVars->{BlackoutHourBegin} = 2;
 149 $ConfVars->{BlackoutHourEnd}   = 2;
 150 $ConfVars->{BlackoutWeekDays}  = 2;
 151 $ConfVars->{RsyncLogLevel}     = 2;
 152
 153 foreach my $file ( @PerlSrc ) {
 154     $errCnt += CheckConfigParams($file, $ConfVars, 1);
 155 }
 156 if ( !$opts{l} ) {
 157     $errCnt += CheckLangUsage();
 158     $errCnt += CheckLangTags();
 159 }
 160 if ( $errCnt ) {
 161     print("Exiting because of errors\n");
 162     exit(1)
 163 }
 164
 165 $errCnt = 0;
 166 foreach my $var ( sort(keys(%$ConfVars) ) ) {
 167     next if ( $ConfVars->{$var} >= 2 || $var =~ /^\$/ );
 168     printf("Unused config parameter $var\n");
 169     $errCnt++;
 170 }
 171 if ( $errCnt ) {
 172     print("Exiting because of errors\n");
 173     exit(1)
 174 }
 175
 176 rmtree($DistDir, 0, 0);
 177 mkpath($DistDir, 0, 0777);
 178
 179 foreach my $dir ( qw(bin doc conf images init.d/src cgi-bin
 180                      lib/BackupPC/CGI
 181                      lib/BackupPC/Config
 182                      lib/BackupPC/Lang
 183                      lib/BackupPC/Storage
 184                      lib/BackupPC/Xfer
 185                      lib/BackupPC/Zip
 186                 ) ) {
 187     mkpath("$DistDir/$dir", 0, 0777);
 188 }
 189
 190 my %ConfName;
 191 my $ConfPod = config2pod();
 192 rmtree("doc", 0, 0);
 193 mkpath("doc", 0, 0777);
 194 InstallFile("doc-src/BackupPC.pod", "doc/BackupPC.pod");
 195
 196 use Pod::Html;
 197 pod2html("doc/BackupPC.pod",
 198         "--backlink=Back to Top",
 199         "--header",
 200         "--title=BackupPC",
 201         "--outfile=doc/BackupPC.html");
 202
 203 foreach my $file ( (@PerlSrc,
 204             <images/*>,
 205             qw(
 206                 conf/config.pl
 207                 conf/hosts
 208                 conf/BackupPC_stnd.css
 209                 init.d/README
 210                 init.d/src/debian-backuppc
 211                 init.d/src/gentoo-backuppc
 212                 init.d/src/gentoo-backuppc.conf
 213                 init.d/src/linux-backuppc
 214                 init.d/src/slackware-backuppc
 215                 init.d/src/solaris-backuppc
 216                 init.d/src/suse-backuppc
 217                 doc/BackupPC.pod
 218                 doc/BackupPC.html
 219                 README
 220                 LICENSE
 221                 ChangeLog
 222                 configure.pl
 223         )) ) {
 224     InstallFile("$file", "$DistDir/$file");
 225 }
 226 rmtree("doc", 0, 0);
 227 system("cd dist ; tar zcf BackupPC-$Version.tar.gz BackupPC-$Version");
 228 print("Distribution written to dist/BackupPC-$Version.tar.gz\n");
 229 unlink("pod2htmd.x~~");
 230 unlink("pod2htmi.x~~");
 231 unlink("pod2htmd.tmp");
 232 unlink("pod2htmi.tmp");
 233
 234 ###########################################################################
 235 # Subroutines
 236 ###########################################################################
 237
 238 sub InstallFile
 239 {
 240     my($file, $dest) = @_;
 241
 242     unlink($dest) if ( -d $dest );
 243     if ( $file =~ /\.gif/ ) {
 244         die("can't copy($file, $dest)\n") unless copy($file, $dest);
 245     } else {
 246         open(FILE, $file)   || die("can't open $file for reading\n");
 247         open(OUT, ">$dest") || die("can't open $dest for writing\n");
 248         binmode(FILE);
 249         binmode(OUT);
 250         while ( <FILE> ) {
 251             s/^([#*\s]+)Version \d+\.\d+[\.\w]*, released \d+ \w+ \d{4}\.?/$1Version __VERSION__, released __RELEASEDATE__./;
 252             s/__VERSION__/$Version/g;
 253             s/__RELEASEDATE__/$ReleaseDate/g;
 254             if ( $file =~ /BackupPC\.html$/ ) {
 255                 #
 256                 # fixup for perl 5.6.x
 257                 #
 258                 if ( !/A NAME="item_(%|_)24Conf/i ) {
 259                     s/\$Conf{([^}]*)}/
 260                         defined($ConfName{$1})
 261                             ? "\L<A HREF=\"#$ConfName{$1}\">\E\$Conf{$1}<\/A>"
 262                             : "\$Conf{$1}"/eg;
 263                 }
 264                 s/<(A NAME="item_(%|_)24Conf(%|_)7B(.*?)(%|_)7D).*?">/\L<A NAME="item_%24Conf%7b$4%7d">/ig;
 265                 s/^<DD>/<DD><P>/;
 266                 #
 267                 # Fixup for perl 5.8.x first one no longer needed after
 268                 # fix in CSS)
 269                 #
 270 #               if ( /^<\/dt>/ ) {
 271 #                   $_ .= <FILE>;
 272 #                   s/^(<\/dt>\n<dd>)/$1<p>/s;
 273 #               }
 274                 s/^<li><\/li>/<li>/;
 275             }
 276             if ( /__CONFIGPOD__/ ) {
 277                 print OUT $ConfPod;
 278             } elsif ( /^use lib ".*BackupPC\/lib";/
 279                     || /^use lib "\/home\/pcbackup\/install\/lib";/ ) {
 280                 print OUT "use lib \"__INSTALLDIR__/lib\";\n";
 281             } elsif ( $file =~ /Lib.pm/ && /^(\s*\$topDir\s*=\s*)'.*'(\s*if\s.*)/ ) {
 282                 print OUT "$1'__TOPDIR__'$2\n";
 283             } elsif ( $file =~ /Lib.pm/ && /^(\s*\$installDir\s*=\s*)'.*'(\s*if\s.*)/ ) {
 284                 print OUT "$1'__INSTALLDIR__'$2\n";
 285             } elsif ( $file =~ /Lib.pm/ && /^(\s*my \$useFHS\s*=\s*)\d;/ ) {
 286                 print OUT "${1}__USEFHS__;\n";
 287             } elsif ( $file =~ /Lib.pm/ && /(.*Version *=> .*)'[\w\d\.]+',/ ) {
 288                 print OUT "$1'$Version',\n";
 289             } elsif ( $file =~ /BackupPC_Admin/ && /(my *\$installDir *= *)'.*'/ ) {
 290                 print OUT "$1'__INSTALLDIR__/lib';\n";
 291             } else {
 292                 print OUT;
 293             }
 294         }
 295         close(FILE);
 296         close(OUT);
 297     }
 298     if ( -x $file ) {
 299         chmod(0555, $dest);
 300     } else {
 301         chmod(0444, $dest);
 302     }
 303 }
 304
 305 sub config2pod
 306 {
 307     open(C, "conf/config.pl") || die("can't open conf/config.pl");
 308     binmode(C);
 309     my($str, $out, $getHdr, @conf);
 310     my $first = 1;
 311     while ( <C> ) {
 312         chomp;
 313         s/ +$//;
 314         if ( /^#########################/ ) {
 315             if ( $getHdr ) {
 316                 $str =~ s/\n.*//sg;
 317                 $out .= "=back\n\n" if ( !$first );
 318                 $out .= "=head2 $str\n\n=over 4\n\n";
 319                 $str = "";
 320                 $first = 0;
 321             }
 322             $getHdr = !$getHdr;
 323             next;
 324         }
 325         if ( /^#/ ) {
 326             s/# ?//;
 327             next if ( $str eq "" && /^$/ );
 328             $str .= $_ . "\n";
 329             $str .= "\n" if ( $str =~ /examples?:\n$/i );
 330         } elsif ( /^\$Conf{([^}]*)/ ) {
 331             my $var = $1;
 332             s/  +/ /g;
 333             s/;\s*#.*/;/;
 334             if ( !s/\[$/[ ... ];/ && !s/<<'EOF'/.../ ) {
 335                 s/([^;])\s*$/$1 .../;
 336             }
 337             push(@conf, $_);
 338             my $text = "\$Conf{$var}";
 339             $text =~ s/\s+/_/sg;
 340             $text =~ s{(\W)}{sprintf("%%%02X", ord($1) )}gxe;
 341             $text = substr($text, 0, 50);
 342             $ConfName{$var} = "item_$text";
 343         } elsif ( /^$/ ) {
 344             if ( $str ne "" && @conf ) {
 345                 $out .= "=item " . join("\n\n=item ", @conf) . "\n\n";
 346                 $out .= $str;
 347                 $out .= "\n" if ( $str !~ /\n$/ );
 348             }
 349             $str = "";
 350             @conf = ();
 351         }
 352     }
 353     if ( $str ne "" && @conf ) {
 354         $out .= "=item " . join("\n\n=item ", @conf) . "\n\n";
 355         $out .= $str;
 356         $out .= "\n" if ( $str !~ /\n$/ );
 357     }
 358     $out .= "=back\n\n" if ( !$first );
 359     return $out;
 360 }
 361
 362 sub CheckConfigParams
 363 {
 364     my($file, $vars, $check) = @_;
 365     my $errors;
 366
 367     open(F, $file) || die("can't open $file\n");
 368     binmode(F);
 369     if ( $check ) {
 370         while ( <F> ) {
 371             s/\$(self|bpc)->{Conf}{([^}\$]+)}/if ( !defined($vars->{$2}) ) {
 372                     print("Unexpected Conf var $2 in $file\n");
 373                     $errors++;
 374                 } else {
 375                     $vars->{$2}++;
 376                 }/eg;
 377             s/\$[Cc]onf(?:->)?{([^}\$]+)}/if ( !defined($vars->{$1}) ) {
 378                     print("Unexpected Conf var $1 in $file\n");
 379                     $errors++;
 380                 } else {
 381                     $vars->{$1}++;
 382                 }/eg;
 383             s/UserCommandRun\("([^"]*)"/if ( !defined($vars->{$1}) ) {
 384                     print("Unexpected Conf var $1 in $file\n");
 385                     $errors++;
 386                 } else {
 387                     $vars->{$1}++;
 388                 }/eg;
 389         }
 390     } else {
 391         while ( <F> ) {
 392             s/^[^#]*\$self->{Conf}{([^}]*)/$vars->{$1} = 1;/eg;
 393             s/^[^#]*\$Conf{([^}]*)/$vars->{$1} = 1;/eg;
 394         }
 395     }
 396     close(F);
 397     return $errors;
 398 }
 399
 400 #
 401 # Make sure that every lang variable in cgi-bin/BackupPC_Admin matches
 402 # the strings in each lib/BackupPC/Lang/*.pm file.  This makes sure
 403 # we didn't miss any translations in any of the languages.
 404 #
 405 sub CheckLangUsage
 406 {
 407     my $errors;
 408     my $vars = {};
 409
 410     foreach my $file ( (
 411                 qw(cgi-bin/BackupPC_Admin bin/BackupPC_sendEmail),
 412                 <lib/BackupPC/CGI/*pm>
 413             ) ) {
 414         open(F, $file) || die("can't open $file");
 415         binmode(F);
 416         while ( <F> ) {
 417             next if ( /^\s*#/ );
 418             s/\$Lang->{([^}]*)}/$vars->{$1} = 1;/eg;
 419         }
 420         close(F);
 421     }
 422
 423     foreach my $f ( <lib/BackupPC/Lang/*.pm> ) {
 424         my $done = {};
 425         open(F, $f) || die("can't open $f\n");
 426         binmode(F);
 427         while ( <F> ) {
 428             s/#.*//g;
 429             s/\$Lang{([^}]*)}/
 430                     my $var = $1;
 431                     next if ( $var =~ m{^(Reason_|Status_|backupType_)} );
 432                     next if ( $var eq "Documentation" );
 433                     if ( !defined($vars->{$var}) ) {
 434                         print("Unexpected Lang var $var in $f\n");
 435                         $errors++;
 436                     } else {
 437                         $done->{$var} = 1;
 438                     }/eg;
 439         }
 440         close(F);
 441         foreach my $v ( keys(%$vars) ) {
 442             #
 443             # skip "variables" with "$", since they are like expressions
 444             #
 445             next if ( $v =~ /\$/ );
 446             if ( !defined($done->{$v}) ) {
 447                 print("Lang var $v missing from $f\n");
 448                 $errors++;
 449             }
 450         }
 451     }
 452     return $errors;
 453 }
 454
 455 #
 456 # Pedantically check that all the html tags in each language file
 457 # match.
 458 #
 459 sub CheckLangTags
 460 {
 461     my($en, $enVars) = LangParse("lib/BackupPC/Lang/en.pm");
 462     my($errors);
 463
 464     foreach my $lang ( qw(fr.pm de.pm es.pm it.pm nl.pm) ) {
 465         my($d, $dVars) = LangParse("lib/BackupPC/Lang/$lang");
 466         foreach my $v1 ( @$en ) {
 467             my $v2 = shift(@$d);
 468             if ( $v1->{var} ne $v2->{var} ) {
 469                 print("Botch: got $lang var $v2->{var} vs en.pm $v1->{var}\n");
 470                 exit;
 471             }
 472             my $t1 = LangTextStrip($v1->{val});
 473             my $t2 = LangTextStrip($v2->{val});
 474             if ( $t1 ne $t2 ) {
 475                 print("$v1->{var}: got en.pm $t1\nvs $lang $t2\n\n");
 476                 $errors++;
 477             }
 478         }
 479     }
 480     return $errors;
 481 }
 482
 483 sub LangTextStrip
 484 {
 485     my($t) = @_;
 486
 487     $t = "" if ( $t !~ /<.*>/ );
 488     $t =~ s/^[^<]*</</s;
 489     $t =~ s/([}>])[^<]*</$1</g;
 490     $t =~ s/>[^<]*$/>/;
 491     $t =~ s/(value=)"[^"]*"/$1""/sg;
 492     $t =~ s/({h[12]\()"[^"]*"/$1""/g;
 493     $t =~ s/ENG[\s\n]*//sg;
 494     $t =~ s/^(<<EOF;\n)[^<]*/$1/g;
 495     return $t;
 496 }
 497
 498 sub LangParse
 499 {
 500     my($file) = @_;
 501     open(C, $file) || die("can't open $file");
 502     binmode(C);
 503     my($out, @lang, $var);
 504     my $comment = 1;
 505     my $allVars = {};
 506     my $endLine = undef;
 507     while ( <C> ) {
 508         if ( /^#/ && !defined($endLine) ) {
 509             if ( $comment ) {
 510                 $out .= $_;
 511             } else {
 512                 if ( $out ne "" ) {
 513                     $allVars->{$var} = @lang if ( defined($var) );
 514                     push(@lang, {
 515                         text => $out,
 516                         var => $var,
 517                     });
 518                 }
 519                 $var = undef;
 520                 $comment = 1;
 521                 $out = $_;
 522             }
 523         } elsif ( /^\s*\$Lang\{([^}]*)/ ) {
 524             $comment = 0;
 525             if ( defined($var) ) {
 526                 $allVars->{$var} = @lang if ( defined($var) );
 527                 push(@lang, {
 528                     text => $out,
 529                     var => $var,
 530                 });
 531                 $out = $_;
 532             } else {
 533                 $out .= $_;
 534             }
 535             $var = $1;
 536             $endLine = $1 if ( /^\s*\$Lang\{[^}]*} *= *<<(.*);/ );
 537             $endLine = $1 if ( /^\s*\$Lang\{[^}]*} *= *<<'(.*)';/ );
 538         } else {
 539             $endLine = undef if ( defined($endLine) && /^\Q$endLine[\n\r]*$/ );
 540             $out .= $_;
 541         }
 542     }
 543     if ( $out ne "" ) {
 544         $allVars->{$var} = @lang if ( defined($var) );
 545         push(@lang, {
 546             text => $out,
 547             var  => $var,
 548         });
 549     }
 550     close(C);
 551     foreach my $v ( @lang ) {
 552         if ( $v->{text} =~ /\$Lang{$v->{var}}\s*=\s*(.*)/s ) {
 553             $v->{val} = $1;
 554         }
 555     }
 556     return (\@lang, $allVars);
 557 }