09e928b7e61bea301d98eafbe3c2581c1e45ffa4
[cloudstore.git] / rsync-piper.pl
1 #!/usr/bin/perl
2 use warnings;
3 use strict;
4
5 use autodie;
6 use POSIX;
7 use File::Slurp;
8 use IO::Select;
9 use Time::HiRes;
10 use Data::Dump qw(dump);
11 use English;
12 use Module::Refresh;
13
14 use lib 'lib';
15 use WarnColor;
16 use CloudStore::Store;
17
18 my $slice = $ARGV[0] || 's1';
19
20 my ( undef, $dir, $port, undef ) = getgrnam($slice);
21
22 my $log_fifo = "$dir/$port.log";
23 my $pid_file = "$dir/$port.pid";
24 my $cfg_file = "$dir/$port.conf";
25
26 my $rsync = 'rsync';
27 $rsync = 'bin/rsync' if -x 'bin/rsync'; # use 3.1dev version!
28
29 my @transfer = qw(
30 timestamp:%t:timestamp
31 login:%m:text
32 port:$port:int
33 auth:%u:text
34 host:%h:text
35 pid:%p:int
36 perms:%B:text
37 itemize:%i:text
38 mtime:%M:timestamp
39 md5:%C:text
40 op:%o:text
41 size:%l:int
42 transfered:%b:int
43 file:%f:text
44 );
45
46 $transfer[2] = "port:$port:int"; # expand $port
47
48 my @transfer_names =          map { ( split(/:/,$_,3) )[0] } @transfer;
49 my $transfer_log   = join('|',map { ( split(/:/,$_,3) )[1] } @transfer );
50
51 if ( $ENV{SQL} ) {
52         print "CREATE TABLE rsync_transfer (\n\t",
53         join(",\n\t", map { my @m = split(/:/,$_,3); "$m[0] $m[2]" } @transfer),
54         "\n);\n";
55         exit 1;
56 }
57
58 my $store = CloudStore::Store->new( dir => $dir );
59
60 unlink $log_fifo if -f $log_fifo;
61 mkfifo $log_fifo, 0700 unless -p $log_fifo;
62
63 my $rsync_config = qq{
64
65 #uid = nobody
66 #gid = nogroup
67 #use chroot = yes
68 use chroot = no
69
70 #max connections = 4
71 lock file = $dir/$port.lock
72
73 #syslog facility = local5
74 log file  = $log_fifo
75
76 transfer logging = yes
77 log format = transfer-log:$transfer_log
78 max verbosity = 5
79
80 pid file  = $pid_file
81
82 # don't check secrets file permission (uid)
83 strict modes = no
84
85 #pre-xfer exec = /srv/cloudstore/rsync-xfer-trigger.pl
86 #post-xfer exec = /srv/cloudstore/rsync-xfer-trigger.pl
87
88 };
89
90 open(my $p, '<', '/var/lib/extrausers/passwd');
91 while(<$p>) {
92         chomp;
93
94         my ( $login, undef, $uid, $gid, $email, $path, $shell ) = split(/:/,$_,7);
95
96         if ( -d $path && -f "$path/.secrets" ) {
97                 my @secrets = map { chomp; $_ } read_file "$path/.secrets";
98                 my $auth_users = join(', ', map { s/:.+$//; $_ } @secrets );
99
100                 $rsync_config .= <<__RSYNC_MODULE__;
101
102 [$login]
103         path = $path
104         auth users = $auth_users
105         secrets file = $path/.secrets
106         read only = false
107         uid = $uid
108         gid = $gid
109         filter = - /.secrets - /.md5
110 #       refuse options = c delete
111 #       dont compress = *
112         incoming chmod = ug=rwX
113
114
115 __RSYNC_MODULE__
116
117                 print "INFO: added $login = $auth_users\n";
118
119         } else {
120                 warn "skipped $login: $!";
121         }
122
123 }
124
125 write_file $cfg_file, $rsync_config;
126 warn "created $cfg_file ", -s $cfg_file, " bytes\n";
127
128 sub rsync_running_pid {
129         return unless -e $pid_file;
130         my $pid = read_file $pid_file;
131         chomp($pid);
132         return $pid;
133 }
134
135 if ( my $pid = rsync_running_pid ) {
136         if ( kill 0, $pid ) {
137                 warn "found rsync pid $pid\n";
138                 kill 1, $pid && warn "reload config";
139 =for kill-rsync
140                 kill 2, $pid;
141                 while ( -e $pid_file ) {
142                         warn "waiting for rsync to die...\n";
143                         sleep 1;
144                 }
145                 
146                 open(my $fifo, '<', $log_fifo);
147                 while ( kill 0, $pid ) {
148                         my $line = <$fifo>;
149                         warn "<<< $line\n";
150                 }
151
152                 kill 0, $pid && die "can't kill it!";
153 =cut
154         } else {
155                 unlink $pid_file;
156         }
157 }
158
159 use POSIX ":sys_wait_h";
160 sub REAPER {
161         my $child;
162         while ((my $waitedpid = waitpid(-1,WNOHANG)) > 0) {
163                 warn "reaped $waitedpid" . ($? ? " with exit $?" : '');
164         }
165         $SIG{CHLD} = \&REAPER;  # loathe SysV
166 }
167
168 $SIG{CHLD} = \&REAPER;
169
170
171 if ( ! -e $pid_file ) {
172         my $exec = "$rsync --daemon --config $cfg_file --no-detach --port=$port";
173         warn "START $exec\n";
174
175         die "could not fork\n" unless defined(my $pid = fork);
176         unless ($pid) {
177                 warn "start server with $exec\n";
178                 exec $exec || die $!;
179         }
180
181         warn "wait for pid file";
182         while ( ! -e $pid_file ) {
183                 sleep 1;
184         }
185 }
186
187 =for gearman
188 use Gearman::Client;
189 my $gearman = Gearman::Client->new;
190 $gearman->job_servers('127.0.0.1:4730');
191 =cut
192
193 while(1) {
194         die "no rsync running" unless kill 0, rsync_running_pid;
195         warn "waiting for log from $log_fifo\n";
196         open(my $fifo, '<', $log_fifo);
197         while( my $line = <$fifo> ) {
198                 Module::Refresh->refresh;
199                 chomp $line;
200                 warn $line, $/;
201
202                 if ( $line =~ /\[(\d+)\] transfer-log:(.+)/ ) {
203                         my $pid = $1;
204                         my $transfer = $2;
205                         $transfer =~ s|(\d\d\d\d)/(\d\d)/(\d\d)[-\s](\d\d:\d\d:\d\d)|$1-$2-$3T$4|g;
206                         my ( $yyyy,$mm,$dd,undef,$login,undef ) = split( /[\-T\|]/, $transfer, 6 );
207                         my $host = $1 if $login =~ s/\+(.+)//;
208
209 if(0) {
210                         my $path = "users/$login/log";
211                         mkdir $path unless -d $path;
212                         $path .= "/$yyyy-$mm-$dd";
213                         my $new_log = ! -e $path;
214                         open( my $log, '>>', $path );
215                         print $log join('|',@transfer),"\n" if $new_log; # store header
216                         print $log "$transfer\n";
217                         close $log;
218 }
219
220                         my @v = split(/\|/,$transfer,$#transfer + 1);
221                         my %data;
222                         @data{@transfer_names} = @v ; # FIXME validate?
223
224                         $data{pid} = $pid;
225                         # overwrite pid from transfer log with consistant one for start/stop
226
227                         print ">>> data ",dump( \%data ) if $ENV{DEBUG};
228
229                         $store->rsync_transfer( \%data );
230 =for gearman
231                         $gearman->dispatch_background( 'rsync_transfer' => $json );
232 =cut
233
234                         die "no rsync running" unless kill 0, rsync_running_pid;
235                 } elsif ( $line =~ m/unknown module/ ) {
236                         my $pid = rsync_running_pid;
237                         kill 1, $pid && warn "reload config";
238                 } else {
239                         $store->rsync_log( $line );
240                 }
241         }
242         close($fifo);
243         sleep 1;
244 }
245