grep
[bak-git.git] / bak-git-server.pl
1 #!/usr/bin/perl
2
3 =head1 bak-git
4
5 Simple tracking of remote files in central git repository
6 with only shell, netcat, rsync and ssh on client
7
8 Start server, install on remote-host or upgrade with:
9
10   ./bak-git-server.pl /path/to/backup 192.168.42.42
11         [--install remote-host]
12         [--upgrade]
13
14 C<rsync> traffic is always transfered over ssh, but C<diff> or C<ch> can
15 still leak sensitive information if C<bak> shell client connects directly
16 to server host.
17
18 Add following line to C<~/.ssh/config> under C<Host> for which you want encrypted
19 controll channel (or to pass through server ssh hops using C<ProxyCommand>)
20
21   RemoteForward 9001 192.168.42.42:9001
22
23 bak command overview:
24
25   bak add /path
26   bak commit [/path [message]]
27   bak diff [host:][/path]
28   bak status [/path]
29   bak log [/path]
30
31   bak show
32   bak ch[anges]
33   bak revert [host:]/path
34
35   bak cat [host:]/path
36   bak grep pattern
37
38   bak - push all changed files to server
39
40 See L<http://blog.rot13.org/bak-git> for more information
41
42 =cut
43
44 use warnings;
45 use strict;
46 use autodie;
47 use IO::Socket::INET;
48 use File::Path;
49 use Getopt::Long;
50
51 my $upgrade = 0;
52 my $install;
53
54 GetOptions(
55         'upgrade!'  => \$upgrade,
56         'install=s' => \$install,
57 ) || die "$!\n";
58
59 my ( $dir, $server_ip ) = @ARGV;
60 die "usage: $0 /backup/directory 127.0.0.1\n" unless $dir;
61 $server_ip ||= '127.0.0.1';
62
63 # parse ssh config
64 my $ssh_tunnel;
65 open(my $ssh_fd, '<', "$ENV{HOME}/.ssh/config");
66 my $host;
67 while(<$ssh_fd>) {
68         chomp;
69         next unless length($_) > 0;
70         next if m/^\s*#/;
71
72         if ( /^Host\s+(.+)/i ) {
73                 $host = $1;
74         } elsif ( /^\s+(\S+)\s+(.+)/ ) {
75                 $ssh_tunnel->{$host}++ if lc($1) eq 'remoteforward' && $2 =~ m/9001/;
76         } else {
77                 die "can't parse $_";
78         }
79 }
80
81 sub shell_client {
82         my ( $hostname ) = @_;
83         my $path = '/tmp/bak';
84         my $server = $server_ip;
85         $server = '127.0.0.1' if $ssh_tunnel->{$hostname};
86 warn "# ssh_client $hostname $server";
87         open(my $fh, '>', $path);
88         print $fh "#!/bin/sh\n";
89         print $fh "echo \$USER/\$SUDO_USER $hostname `pwd` \$* | nc $server 9001\n";
90         close($fh);
91         chmod 0755, $path;
92         return $path;
93 }
94
95 chdir $dir;
96 system 'git init' unless -e '.git';
97
98 if ( $upgrade || $install ) {
99
100         my @hosts = grep { -d $_ } glob '*';
101         @hosts = ( $install ) if $install;
102
103         foreach my $hostname ( @hosts ) {
104                 warn "install on $hostname\n";
105                 system 'ssh-copy-id', "root\@$hostname" if ! -d $hostname;
106                 my $path = shell_client( $hostname );
107                 system "scp $path root\@$hostname:/usr/local/bin/";
108                 system "ssh root\@$hostname apt-get install -y rsync";
109         }
110 } else {
111         my $ssh = $ENV{SSH} || 'ssh';
112         warn "# start $ssh tunnels...";
113         foreach my $host ( keys %$ssh_tunnel ) {
114                 warn "## $host\n";
115                 open( $ssh_tunnel->{$host}, '-|', "$ssh -N root\@$host &" ) or die $!;
116         }
117 }
118
119 my $server = IO::Socket::INET->new(
120         Proto     => 'tcp',
121         LocalAddr => $server_ip,
122         LocalPort => 9001,
123         Listen    => SOMAXCONN,
124         Reuse     => 1
125 ) || die $!;
126
127
128 warn "dir: $dir listen: $server_ip:9001\n";
129
130 sub rsync {
131         warn "# rsync ",join(' ', @_), "\n";
132         system 'rsync', @_;
133 }
134
135 sub pull_changes {
136         my $hostname = shift;
137         system "find $hostname -type f | sed 's,$hostname,,' > /tmp/$hostname.list";
138         if ( @_ ) {
139                 open(my $files, '>>', "/tmp/$hostname.list");
140                 print $files "$_\n" foreach @_;
141                 close($files);
142         }
143         rsync split / /, "-avv --files-from /tmp/$hostname.list root\@$hostname:/ $hostname/";
144 }
145
146 while (my $client = $server->accept()) {
147         my $line = <$client>;
148         chomp($line);
149         warn "<<< $line\n";
150         my ($user,$hostname,$pwd,$command,$rel_path,$message) = split(/\s+/,$line,6);
151         $hostname =~ s/\..+$//;
152
153         my $on_host = '';
154         if ( $rel_path =~ s/^([^:]+):(.+)$/$2/ ) {
155                 if ( -e $1 ) {
156                         $on_host = $1;
157                 } else {
158                         print $client "host $1 doesn't exist in backup\n";
159                         next;
160                 }
161         }
162         my $path = $rel_path =~ m{^/} ? $rel_path : "$pwd/$rel_path";
163
164         warn "$hostname [$command] $on_host:$path | $message\n";
165
166         my $args_message = $message;
167
168         $message ||= "$path [$command]";
169         $message = "$hostname: $message";
170
171         my $dir = $path;
172         $dir =~ s{/[^/]+$}{};
173
174         my $backup_path = -e "$hostname/$path" ? "$hostname/$path" : $hostname;
175
176         sub git {
177                 my $args = join(' ',@_);
178                 warn "# git $args\n";
179                 my $out = `git $args`;
180                 warn "$out\n# [", length($out), " bytes]\n" if defined $out;
181                 return $out;
182         }
183
184         if ( ! $command ) {
185                 pull_changes $hostname;
186         } elsif ( $command eq 'add' ) {
187                 mkpath "$hostname/$dir" unless -e "$hostname/$dir";
188                 while ( $path ) {
189                         rsync( '-avv', "root\@$hostname:$path", "$hostname/$path" );
190                         print $client git 'add', "$hostname/$path";
191
192                         $args_message =~ s/^(.+)\b// || last;
193                         $path = $1;
194                         warn "? $path";
195                 }
196         } elsif ( $command eq 'commit' ) {
197                 pull_changes $hostname;
198                 $message =~ s/'/\\'/g;
199                 $user =~ s/\/$//;
200                 print $client git( "commit -m '$message' --author '$user <$hostname>' $backup_path" );
201         } elsif ( $command =~ m{(diff|status|log|ch)} ) {
202                 $command .= ' --stat' if $command eq 'log';
203                 $command = 'log --patch-with-stat' if $command =~ m/^ch/;
204                 pull_changes( $hostname ) if $command eq 'diff';
205                 if ( $on_host ) {
206                         mkpath $_ foreach grep { ! -e $_ } ( "$hostname/$dir", "$on_host/$dir" );
207                         rsync( '-avv', "root\@$hostname:$path", "$hostname/$path" );
208                         rsync( '-avv', "root\@$on_host:$path", "$on_host/$path" );
209                         open(my $diff, '-|', "diff -Nuw $hostname$path $on_host$path");
210                         while(<$diff>) {
211                                 print $client $_;
212                         }
213                 } else {
214                         # commands without path will show host-wide status/changes
215                         my $backup_path = $path ? "$hostname/$path" : "$hostname/";
216                         # hostname must end with / to prevent error from git:
217                         # ambiguous argument 'arh-hw': both revision and filename
218                         # to support branches named as hosts
219                         print $client git($command, $backup_path);
220                 }
221         } elsif ( $command eq 'revert' ) {
222                 if ( $on_host ) {
223                         rsync( '-avv', "$on_host/$path", "root\@$hostname:$path" );
224                 } else {
225                         print $client git "checkout -- $hostname/$path";
226                         rsync( '-avv', "$hostname/$path", "root\@$hostname:$path" );
227                 }
228         } elsif ( $command eq 'cat' ) {
229                 my $file_path = ( $on_host ? $on_host : $hostname ) . "/$path";
230                 open(my $file, '<', $file_path) || warn "ERROR $file_path: $!";
231                 while(<$file>) {
232                         print $client $_;
233                 }
234                 close($file);
235         } elsif ( $command eq 'ls' ) {
236                 print $client `ls $backup_path`;
237         } elsif ( $command eq 'show' ) {
238                 print $client `git show $rel_path`;
239         } elsif ( $command eq 'grep' ) {
240                 print $client `git log -g --grep=$rel_path`;
241         } else {
242                 print $client "Unknown command: $command\n";
243         }
244
245 }
246