rsync-piper.pl

   1 #!/usr/bin/perl
   2 use warnings;
   3 use strict;
   4
   5 use autodie;
   6 use POSIX;
   7 use File::Slurp;
   8 use IO::Select;
   9 use Time::HiRes;
  10 use Data::Dump qw(dump);
  11 use English;
  12 use Module::Refresh;
  13
  14 use lib 'lib';
  15 use WarnColor;
  16 use CloudStore::Store;
  17
  18 my $dir   = $ENV{RSYNC_DIR}  || '/srv/cloudstore';
  19 my $port  = $ENV{RSYNC_PORT} || 6501;
  20 my $users = "users";
  21 my $default_quota = $ENV{QUOTA} || 200 * 1024; # 200 Kb for test.sh
  22
  23 my $log_fifo = "$dir/var/$port.log";
  24 my $pid_file = "$dir/var/$port.pid";
  25 my $cfg_file = "$dir/var/$port.conf";
  26
  27 my $rsync = 'rsync';
  28 $rsync = 'bin/rsync' if -x 'bin/rsync'; # use 3.1dev version!
  29
  30 my @transfer = qw(
  31 timestamp:%t:timestamp
  32 login:%m:text
  33 port:$port:int
  34 auth:%u:text
  35 host:%h:text
  36 pid:%p:int
  37 perms:%B:text
  38 itemize:%i:text
  39 mtime:%M:timestamp
  40 md5:%C:text
  41 op:%o:text
  42 size:%l:int
  43 transfered:%b:int
  44 file:%f:text
  45 );
  46
  47 $transfer[2] = "port:$port:int"; # expand $port
  48
  49 my @transfer_names =          map { ( split(/:/,$_,3) )[0] } @transfer;
  50 my $transfer_log   = join('|',map { ( split(/:/,$_,3) )[1] } @transfer );
  51
  52 if ( $ENV{SQL} ) {
  53         print "CREATE TABLE rsync_transfer (\n\t",
  54         join(",\n\t", map { my @m = split(/:/,$_,3); "$m[0] $m[2]" } @transfer),
  55         "\n);\n";
  56         exit 1;
  57 }
  58
  59 my $store = CloudStore::Store->new;
  60
  61 mkdir "$dir/var" if ! -e "$dir/var";
  62
  63 unlink $log_fifo if -f $log_fifo;
  64 mkfifo $log_fifo, 0700 unless -p $log_fifo;
  65
  66 my $rsync_config = qq{
  67
  68 #uid = nobody
  69 #gid = nogroup
  70 #use chroot = yes
  71 use chroot = no
  72
  73 #max connections = 4
  74 lock file = $dir/var/$port.lock
  75
  76 #syslog facility = local5
  77 log file  = $log_fifo
  78
  79 transfer logging = yes
  80 log format = transfer-log:$transfer_log
  81 max verbosity = 5
  82
  83 pid file  = $pid_file
  84
  85 # don't check secrets file permission (uid)
  86 strict modes = no
  87
  88 pre-xfer exec = /srv/cloudstore/rsync-xfer-trigger.pl
  89 post-xfer exec = /srv/cloudstore/rsync-xfer-trigger.pl
  90
  91 };
  92
  93 foreach my $path ( glob "$users/*" ) {
  94
  95         my $login = $path;
  96         $login =~ s{^.+/([^/]+)$}{$1};
  97
  98         if ( -d $path && -d "$path/blob" && -f "$path/secrets" ) {
  99                 my @secrets = map { chomp; $_ } read_file "$path/secrets";
 100                 my $auth_users = join(', ', map { s/:.+$//; $_ } @secrets );
 101
 102                 $rsync_config .= <<__RSYNC_MODULE__;
 103
 104 [$login]
 105         path = $dir/users/$login/blob
 106         auth users = $auth_users
 107         secrets file = $dir/users/$login/secrets
 108         read only = false
 109
 110 __RSYNC_MODULE__
 111
 112                 print "INFO: added $login = $auth_users\n";
 113
 114                 my $quota = $default_quota;
 115                 $quota = read_file("$path/quota") * 1 if -e "$path/quota";
 116
 117                 $store->user_set({
 118                         login => $login,
 119                         path => $path,
 120                         secrets => [ @secrets ],
 121                         quota => $quota,
 122                         port => $port,
 123                 });
 124
 125         } else {
 126                 warn "skipped $login: $!";
 127         }
 128
 129 }
 130
 131 write_file $cfg_file, $rsync_config;
 132 warn "created $cfg_file ", -s $cfg_file, " bytes\n";
 133
 134 sub rsync_running_pid {
 135         return unless -e $pid_file;
 136         my $pid = read_file $pid_file;
 137         chomp($pid);
 138         return $pid;
 139 }
 140
 141 if ( my $pid = rsync_running_pid ) {
 142         if ( kill 0, $pid ) {
 143                 warn "found rsync pid $pid\n";
 144                 kill 1, $pid && warn "reload config";
 145 =for kill-rsync
 146                 kill 2, $pid;
 147                 while ( -e $pid_file ) {
 148                         warn "waiting for rsync to die...\n";
 149                         sleep 1;
 150                 }
 151
 152                 open(my $fifo, '<', $log_fifo);
 153                 while ( kill 0, $pid ) {
 154                         my $line = <$fifo>;
 155                         warn "<<< $line\n";
 156                 }
 157
 158                 kill 0, $pid && die "can't kill it!";
 159 =cut
 160         } else {
 161                 unlink $pid_file;
 162         }
 163 }
 164
 165 use POSIX ":sys_wait_h";
 166 sub REAPER {
 167         my $child;
 168         while ((my $waitedpid = waitpid(-1,WNOHANG)) > 0) {
 169                 warn "reaped $waitedpid" . ($? ? " with exit $?" : '');
 170         }
 171         $SIG{CHLD} = \&REAPER;  # loathe SysV
 172 }
 173
 174 $SIG{CHLD} = \&REAPER;
 175
 176
 177 if ( ! -e $pid_file ) {
 178         my $exec = "$rsync --daemon --config $cfg_file --no-detach --port=$port";
 179         warn "START $exec\n";
 180
 181         die "could not fork\n" unless defined(my $pid = fork);
 182         unless ($pid) {
 183                 warn "start server with $exec\n";
 184                 exec $exec || die $!;
 185         }
 186
 187         warn "wait for pid file";
 188         while ( ! -e $pid_file ) {
 189                 sleep 1;
 190         }
 191 }
 192
 193 =for gearman
 194 use Gearman::Client;
 195 my $gearman = Gearman::Client->new;
 196 $gearman->job_servers('127.0.0.1:4730');
 197 =cut
 198
 199 while(1) {
 200         die "no rsync running" unless kill 0, rsync_running_pid;
 201         warn "waiting for log from $log_fifo\n";
 202         open(my $fifo, '<', $log_fifo);
 203         while( my $line = <$fifo> ) {
 204                 Module::Refresh->refresh;
 205                 chomp $line;
 206                 warn $line, $/;
 207
 208                 if ( $line =~ /transfer-log:(.+)/ ) {
 209                         my $transfer = $1;
 210                         $transfer =~ s|(\d\d\d\d)/(\d\d)/(\d\d)[-\s](\d\d:\d\d:\d\d)|$1-$2-$3T$4|g;
 211                         my ( $yyyy,$mm,$dd,undef,$login,undef ) = split( /[\-T\|]/, $transfer, 6 );
 212                         my $host = $1 if $login =~ s/\+(.+)//;
 213
 214                         my $path = "users/$login/log";
 215                         mkdir $path unless -d $path;
 216                         $path .= "/$yyyy-$mm-$dd";
 217                         my $new_log = ! -e $path;
 218                         open( my $log, '>>', $path );
 219                         print $log join('|',@transfer),"\n" if $new_log; # store header
 220                         print $log "$transfer\n";
 221                         close $log;
 222
 223                         my @v = split(/\|/,$transfer,$#transfer + 1);
 224                         my %data;
 225                         @data{@transfer_names} = @v ; # FIXME validate?
 226
 227                         print ">>> data ",dump( \%data ) if $ENV{DEBUG};
 228
 229                         $store->rsync_transfer( \%data );
 230 =for gearman
 231                         $gearman->dispatch_background( 'rsync_transfer' => $json );
 232 =cut
 233
 234                         die "no rsync running" unless kill 0, rsync_running_pid;
 235                 } elsif ( $line =~ m/unknown module/ ) {
 236                         my $pid = rsync_running_pid;
 237                         kill 1, $pid && warn "reload config";
 238                 } else {
 239                         $store->rsync_log( $line );
 240                 }
 241         }
 242         close($fifo);
 243         sleep 1;
 244 }
 245