replace mplayer with oggThumb for frame extraction
[HTML5TV.git] / bin / mplayer.pl
1 #!/usr/bin/perl
2
3 use warnings;
4 use strict;
5
6 use IPC::Open3 qw(open3);
7 use IO::Epoll;
8 use Data::Dump qw(dump);
9 use File::Slurp;
10 use YAML;
11 use JSON;
12 use HTML::TreeBuilder;
13 use Imager;
14
15 my $debug = 0;
16
17 my $movie = shift @ARGV;
18
19 sub base_dir  { $1 if $_[0] =~ m{^(.+)/[^/]+$} }
20 sub base_name { $1 if $_[0] =~ m{^.+/([^/]+)$} }
21
22 if ( ! $movie && -e 'media/_editing' ) {
23         $movie = 'media/' . readlink('media/_editing') . '/video.ogv';
24         warn "using media/_editing -> $movie\n";
25 } elsif ( -d $movie && $movie =~ m{media/} ) {
26         $movie .= '/video.ogv';
27 } elsif ( -f $movie && $movie !~ m{video\.ogv} ) {
28         my $movie_master = $movie;
29         $movie = base_dir($movie) . '/video.ogv';
30         if ( ! -e $movie ) {
31                 symlink base_name($movie_master), $movie;
32                 warn "symlink video.ogv -> $movie_master";
33         } else {
34                 warn "using symlink video.ogv -> ", readlink $movie;
35         }
36 } elsif ( -f $movie ) {
37         warn "using video $movie";
38 } else {
39         die "Usage: $0 media/conference-Title_of_talk[/video.ogv'\n";
40 }
41
42 my $media_part = my $media_dir = base_dir($movie);
43 $media_part =~ s{media/}{};
44 $media_part =~ s{/$}{};
45
46 unlink 'media/_editing';
47 symlink $media_part, 'media/_editing';
48
49 warn "# media_part $media_part\n";
50
51 my $edl = "/dev/shm/edl";
52 my $subtitles = $movie;
53 $subtitles =~ s{\.\w+$}{.srt};
54
55 my $preroll = 3;
56
57 my $slide_factor = 4; # 1/4 size of video
58
59 our $to_mplayer;
60 our $from_mplayer;
61 our $err_mplayer;
62 our $prop = {};
63
64 my $pid = open3( $to_mplayer, $from_mplayer, $err_mplayer,
65          'mplayer',
66                 '-slave', '-idle',
67                 '-quiet',
68                 '-edlout', $edl,
69                 '-osdlevel', 3,
70                 '-vf' => 'screenshot',
71 );
72
73 my $epfd = epoll_create(10);
74
75 epoll_ctl($epfd, EPOLL_CTL_ADD, fileno STDIN         , EPOLLIN  ) >= 0 || die $!;
76 epoll_ctl($epfd, EPOLL_CTL_ADD, fileno $from_mplayer , EPOLLIN  ) >= 0 || die $!;
77 #epoll_ctl($epfd, EPOLL_CTL_ADD, fileno $to_mplayer   , EPOLLOUT ) >= 0 || die $!;
78
79 sub load_subtitles;
80
81 sub load_movie {
82         warn "$movie ", -s $movie, " bytes $edl\n";
83         print $to_mplayer qq|loadfile "$movie"\n|;
84         print $to_mplayer "get_property $_\n" foreach ( qw/metadata video_codec video_bitrate width height fps length/ );
85         load_subtitles;
86 }
87
88
89 my $term_id = `xdotool getwindowfocus`;
90 our $mplayer_id;
91
92
93 sub focus_mplayer {
94         $mplayer_id ||= `xdotool search mplayer`;
95         warn "focus_mplayer $mplayer_id\n";
96         system "xdotool windowactivate $mplayer_id"
97 }
98
99 sub focus_term {
100         warn "focus_term $term_id\n";
101         system "xdotool windowactivate $term_id";
102 }
103
104 sub preroll {
105         my ( $pos, $osd ) = @_;
106         $osd =~ s{\W+}{ }gs;
107         warn "PREROLL $pos $osd\n";
108         print $to_mplayer "osd_show_text \"PREROLL $osd\" ", $preroll * 1000, "\n";
109         my $to = $pos - $preroll;
110         $to = 0 if $to < 0;
111         print $to_mplayer "set_property time_pos $to\n";
112         print $to_mplayer "get_property time_pos\n";
113         print $to_mplayer "play\n";
114 }
115
116
117 $|=1;
118
119 my $line;
120 my $repl;
121
122 sub repl {
123         print "> ";
124         my $cmd = <STDIN>;
125         warn ">>> $cmd\n";
126         print $to_mplayer $cmd;
127 }
128
129
130 our @subtitles;
131
132 sub slide_jpg {
133         sprintf "%s/s/%d/%03d.jpg", $media_dir, @_;
134 }
135
136 sub oggThumb {
137         my ($video,$t,$file) = @_;
138         system "oggvideotools/src/oggThumb -t $t -o jpg -n $file $video";
139         warn "oggThumb $file at $t from $video\n";
140 }
141
142 sub html5tv {
143
144         if ( ! $prop->{width} || ! $prop->{height} ) {
145                 warn "SKIP no size yet\n";
146                 return;
147         }
148
149         if ( ! @subtitles ) {
150                 warn "SKIP no subtitles yet\n";
151                 return;
152         }
153
154
155         my $sync;
156
157         my @slide_t;
158
159         my @videos;
160
161         foreach my $s ( @subtitles ) {
162                 push @{ $sync->{htmlEvents}->{'#subtitle'} }, {
163                         startTime => $s->[0],
164                         endTime   => $s->[1],
165                         html      => $s->[2],
166                 };
167
168                 if ( $s->[2] =~ m{video:(.+)} ) {
169                         my $video = $1;
170                         my $path = "$media_dir/$video";
171                         if ( ! -e $path ) {
172                                 warn "MISSING $path: $!\n";
173                         } else {
174                                 my $frame_dir = "$media_dir/s/$video";
175                                 system "mplayer -vo jpeg:outdir=$frame_dir,quality=95 -frames 1 -ss 0 -ao null -really-quiet $media_dir/$video"
176                                         if ! -e $frame_dir;
177                                 push @videos, [ @$s, $video ];
178                         }
179                 } elsif ( $s->[2] =~ m{slide:(\d+)\s+shot:(\d+\.\d+)} ) {
180                         my ( $nr, $t ) = ( $1, $2 );
181
182                         my $hires = "$media_dir/s/hires";
183                         mkdir $hires unless -e $hires;
184
185                         my $shot_path = sprintf "$hires/s%03d.jpg", $nr;
186                         oggThumb $movie, $t, $shot_path unless -e $shot_path;
187                 }
188
189                 next unless $s->[2] =~ m{\[(\d+)\]};
190
191
192                 push @{ $sync->{customEvents} }, {
193                         startTime => $s->[0],
194                         endTime   => $s->[1],
195                         action    => 'chapterChange',
196                         args => {
197                                 carousel => 'theCarousel',
198                                 id => "chapter$1",
199                                 title => $s->[2],
200                                 description => $s->[2],
201                                 src => slide_jpg( 4 => $1 ),
202                                 href => '',
203                         },
204                 };
205
206                 push @slide_t, $s->[0];
207         }
208
209         foreach ( 0 .. $#slide_t ) {
210                 my $slide_nr = $_ + 1;
211                 push @{ $sync->{htmlEvents}->{'#slide'} }, {
212                         startTime => $slide_t[$_],
213                         endTime   => $slide_t[$_ + 1] || $prop->{length},
214                         html      => '<img src=' . slide_jpg( 1 => $slide_nr ) . '>',
215                 };
216         }
217
218         my @slides_hires = glob "$media_dir/s/hires/*";
219
220         foreach my $factor ( 4, 2, 1 ) {
221                 my $w = $prop->{width}  / $factor;
222                 my $h = $prop->{height} / $factor;
223
224                 my $path = "$media_dir/s";
225                 if ( ! -d $path ) {
226                         warn "create slides imaes in $path";
227                         mkdir $path;
228                 }
229
230                 $path .= '/' . $factor;
231
232                 if ( ! -d $path ) {
233                         mkdir $path;
234                         warn "created $path\n";
235
236                 }
237
238                 foreach my $hires ( @slides_hires ) {
239
240                         my $nr = $1 if $hires =~ m{(\d+)\.\w+$} || warn "can't find number in $hires";
241                         next unless $nr;
242                         my $file = slide_jpg( $factor => $nr );
243                         warn "slide $hires -> $file\n";
244                         next if -e $file;
245
246                         if ( my $im = Imager->new( file => $hires ) ) {
247                                 $im->scale( xpixels => $w, ypixels => $h, type => 'min' )->write( file => $file );
248                                 warn "resized $file ", -s $file, " bytes\n";
249                         } else {
250                                 die "can't open $hires: $!";
251                         }
252                 }
253
254         }
255
256         my ( $slide_width, $slide_height );
257
258         my $im = Imager->new( file => slide_jpg( 1 => 1 ) );
259
260         if ( $im ) {
261                 $slide_width  = $im->getwidth  / $slide_factor;
262                 $slide_height = $im->getheight / $slide_factor;
263         } else {
264                 warn "can't find first slide default to 1/$slide_factor of video size\n";
265                 $slide_width  = $prop->{width}  / $slide_factor;
266                 $slide_height = $prop->{height} / $slide_factor;
267         }
268
269         my $html5tv = {
270                 sync => $sync,
271                 video => $prop,
272                 slide => {
273                         width => $slide_width,
274                         height => $slide_height,
275                 },
276         };
277
278         $html5tv->{html}->{video_tags} =
279                 join("\n",
280                         map {
281                                 my $s = $_;
282                                 my $id = $s->[3];
283                                 $id =~ s{\W+}{_}g;
284
285                                 push @{ $html5tv->{sync}->{customEvents} }, {
286                                         startTime => $s->[0],
287                                         endTime   => $s->[1],
288                                         action    => 'additional_video',
289                                         args => {
290                                                 id => $id,
291                                                 title => $s->[2],
292                                                 description => $s->[2],
293                                                 src => "$media_dir/s/1/00000001.jpg",
294                                                 href => '',
295                                         },
296                                 };
297
298                                 qq|
299                                         <video id="$id" style="display: none" controls="controls" width="$html5tv->{video}->{width}px" height="$html5tv->{video}->{height}px">
300                                         <source src="$media_dir/$_->[3]" />
301                                         </video>
302                                 |
303                         } @videos
304                 )
305         ;
306
307         sub customEvents_sorted {
308
309                 if ( ref $html5tv->{sync}->{customEvents} ne 'ARRAY' ) {
310                         my $max = 
311                         warn "ERROR: no slide markers [1] .. [", scalar @slides_hires, "] in subtitles\n";
312                         return;
313                 }
314
315                 sort { $a->{startTime} <=> $b->{startTime} }
316                 @{ $html5tv->{sync}->{customEvents} }
317         }
318
319         my $index = 1;
320
321         $_->{args}->{index} = $index++ foreach customEvents_sorted;
322
323         warn "last customEvent $index\n";
324
325         $html5tv->{html}->{subtitles_table}
326                 = qq|<table id="subtitles">|
327                 . join("\n",
328                         map { qq|
329                                 <tr id="sub_$_->{index}">
330                                         <td class="seek_video">$_->{startTime}</td>
331                                         <td class="seek_video">$_->{endTime}</td>
332                                         <td>$_->{args}->{title}</td>
333                                 </tr>
334                         | }
335                         customEvents_sorted
336                 )
337                 . qq|</table><a href="$media_dir/video.srt">download subtitles</a>|
338                 ;
339
340         my $hCalendar = '<div style="color: red">Create <tt>hCalendar.html</tt> to fill this space</div>';
341         my $hcal_path = '$media_dir/hCalendar.html';
342         if ( -e $hcal_path ) {
343                 $html5tv->{hCalendar} = read_file $hcal_path;
344                 my $tree = HTML::TreeBuilder->new;
345                 $tree->parse_file($hcal_path);
346                 if ( my $vevent = $tree->look_down( class => 'vevent' ) ) {
347                         $html5tv->{title} = $vevent->look_down( class=> 'summary' )->as_trimmed_text;
348                 }
349         }
350
351         warn "# html5tv ", dump $html5tv if $debug;
352
353         my $sync_path = "$media_dir/video.js";
354         write_file $sync_path, "var html5tv = " . to_json($html5tv) . " ;\n";
355         warn "sync $sync_path ", -s $sync_path, " bytes\n";
356
357         my $html = read_file 'www/tv.html';
358         $html =~ s|{([^}]+)}|my $n = $1; $n =~ s(\.)(}->{)g; eval "\$html5tv->{$n}"|egs ||
359                 warn "no interpolation in template!";
360
361         write_file "www/_editing.html", $html;
362         $html =~ s{media/_editing}{media/$media_part}gs;
363         write_file "www/$media_part.html", $html;
364
365         my $carousel_width = $prop->{width} + $slide_width - 80;
366         $carousel_width -= $carousel_width % ( $slide_width + 6 ); # round to full slide
367         my $carousel_height =   $slide_height + 2;
368
369         write_file "$media_dir/video.css", qq|
370
371 .jcarousel-skin-ie7 .jcarousel-container-horizontal,
372 .jcarousel-skin-ie7 .jcarousel-clip-horizontal {
373         width: ${carousel_width}px;
374         height: ${carousel_height}px;
375 }
376
377 .jcarousel-skin-ie7 .jcarousel-item {
378         width: ${slide_width}px;
379         height: ${slide_height}px;
380         margin: 0 2px 0 2px;
381 }
382
383 .active {
384         background-color: #ffc;
385 }
386
387 div#videoContainer {
388         width: $prop->{width}px;
389         height: $prop->{height}px;
390         font-family: Arial, Helvetica, sans-serif;
391         margin: 0 10px 0px 0;
392         position: relative;
393         display: inline;
394 }
395
396
397 div#subtitle {
398         bottom: 24px;
399         color: white;
400         font-size: 100%;
401         font-weight: bold;
402         height: 22px;
403         line-height: 1em;
404         margin: 0  0 0 0;
405         padding: 1px 10px 5px 10px ;
406         position: absolute;
407         text-align: center;
408         width: $html5tv->{video}->{width}px;
409 }
410
411
412
413 .jcarousel-skin-ie7 .jcarousel-item img:hover {
414 //      border-color: #555 !important;
415 }
416
417 .jcarousel-skin-ie7 .jcarousel-item:hover div.thumbnailOverlay {
418         visibility: visible !important;
419 }
420
421 .jcarousel-skin-ie7 .jcarousel-item div.thumbnailOverlay {
422         background: black;
423         bottom: 1px;
424         color: #00EEFF;
425         visibility: hidden;
426         font-size: 10px;
427         font-family: Arial, Verdana;
428         font-weight: bold;
429         line-height: 0.9em;
430         opacity: 0.5;
431         position: absolute;
432         text-align: center;
433         z-index: 10;
434         padding: 2px 0 2px 0;
435         width: ${slide_width}px;
436 }
437
438 .seek_video {
439         text-align: right;
440         font-family: monospace;
441 }
442
443         |;
444
445         return 1;
446 }
447
448
449 sub t_srt {
450         my $t = shift;
451         my $hh = int( $t / 3600 );
452         $t -= $hh * 3600;
453         my $mm = int( $t / 60 );
454         $t -= $mm * 60;
455         my $srt = sprintf "%02d:%02d:%04.1f", $hh, $mm, $t;
456         $srt =~ s{\.}{,};
457         return $srt;
458 }
459
460 sub save_subtitles {
461
462         html5tv || return;
463
464         my $nr = 0;
465         my $srt = "\n";
466         foreach my $s ( @subtitles ) {
467                 $srt .= $nr++ . "\n"
468                         . t_srt( $s->[0] ) . " --> " . t_srt( $s->[1] ) . "\n"
469                         . $s->[2] . "\n\n"
470                         ;
471         }
472         warn $srt;
473
474         write_file $subtitles, $srt;
475         YAML::DumpFile "$subtitles.yaml", sort { $a->[0] <=> $b->[0] } @subtitles;
476
477         print $to_mplayer "sub_remove\n";
478         print $to_mplayer qq|sub_load "$subtitles"\n|;
479         print $to_mplayer "sub_select 1\n";
480 }
481
482 sub load_subtitles {
483         if ( ! -e "$subtitles.yaml" ) {
484                 warn "no subtitles $subtitles to load\n";
485                 return;
486         }
487         @subtitles = YAML::LoadFile "$subtitles.yaml";
488         warn "subtitles ", dump @subtitles;
489         save_subtitles;
490 }
491
492 sub edit_subtitles {
493         print $to_mplayer qq|pause\n|;
494         focus_term;
495         system( qq|vi "$subtitles.yaml"| ) == 0 and load_subtitles;
496         focus_mplayer;
497 }
498
499 sub add_subtitle {
500         print $to_mplayer qq|pause\n|;
501
502         focus_term;
503
504         warn "subtitles ", dump( @subtitles );
505         print "## ";
506         my $line = <STDIN>;
507         $subtitles[ $#subtitles ]->[2] = $line if defined $line;
508
509         save_subtitles;
510
511         focus_mplayer;
512
513         preroll $subtitles[ $#subtitles ]->[0], $line;
514 }
515
516 sub time_pos {
517         print $to_mplayer qq|get_property time_pos\n|;
518         my $pos = <$from_mplayer>;
519         if ( $pos =~ m{^ANS_time_pos=(\d+\.\d+)} ) {
520                 warn "# time_pos $1\n";
521                 return $1;
522         }
523 }
524
525 sub sub_fmt {
526         my $s = shift;
527         sprintf "%1.5f - %1.5f %s %s\n", @$s, join(' | ',@_);
528 }
529
530 sub prev_subtitle {
531         my $pos = time_pos;
532         my $s = ( grep { $_->[0] < $pos } @subtitles )[0] || return;
533         warn "<<<< subtitle ", sub_fmt $s;
534         preroll $s->[0], $s->[2];
535 #       print $to_mplayer "set_property time_pos $s->[0]\n";
536 }
537
538 sub next_subtitle {
539         my $pos = time_pos + $preroll;
540         my $s = ( grep { $_->[0] > $pos } @subtitles )[0] || return;
541         warn ">>>> subtitle ", sub_fmt $s;
542         preroll $s->[0], $s->[2];
543 #       print $to_mplayer "set_property time_pos $s->[0]\n";
544 }
545
546 sub current_subtitle {
547         my $callback = shift;
548         my $pos = time_pos;
549         my $visible;
550         foreach my $nr ( 0 .. $#subtitles ) {
551                 my $s = $subtitles[$nr];
552                 if ( $s->[0] <= $pos && $s->[1] >= $pos ) {
553                         warn sub_fmt $s, $pos;
554                         $visible = $nr;
555                         $callback->( $visible, $pos ) if $callback;
556                         return ( $visible, $pos );
557                 }
558         }
559         warn "# $pos no visible subtitle\n";
560 }
561
562 sub move_subtitle {
563         my $offset = shift;
564         current_subtitle( sub {
565                 my ( $nr, $pos ) = @_;
566                 my $new_start = $subtitles[$nr]->[0] += $offset;
567                 warn "subtitle $nr $pos $offset $new_start\n";
568                 save_subtitles;
569                 preroll $new_start, "$pos $offset $new_start";
570         } );
571 }
572
573
574
575 # XXX main epool loop
576
577 load_movie;
578
579 while ( my $events = epoll_wait($epfd, 10, 1000) ) { # Max 10 events returned, 1s timeout
580
581         warn "no events" unless $events;
582
583         foreach my $e ( @$events ) {
584 #               warn "# event: ", dump($e), $/;
585
586                 my $fileno = $e->[0];
587
588                 if ( $fileno == fileno STDIN ) {
589                         my $chr;
590                         sysread STDIN, $chr, 1;
591                         print $chr;
592                 } elsif ( $fileno == fileno $from_mplayer ) {
593                         my $chr;
594                         sysread $from_mplayer, $chr, 1;
595                         print $chr;
596
597                         if ( $chr =~ m{[\n\r]} ) {
598
599                                 exit if $line =~ m{Exiting};
600
601                                 if ( $line =~ m{ANS_(\w+)=(\S+)} ) {
602                                         $prop->{$1} = $2;
603                                         warn "prop $1 = $2\n";
604                                 } elsif ( $line =~ m{No bind found for key '(.+)'} ) {
605
606                                         # XXX keyboard shortcuts
607
608                                           $1 eq 'c'  ? repl
609                                         : $1 eq ','  ? add_subtitle
610                                         : $1 eq 'F1' ? prev_subtitle
611                                         : $1 eq 'F2' ? move_subtitle( -0.3 )
612                                         : $1 eq 'F3' ? move_subtitle( +0.3 )
613                                         : $1 eq 'F4' ? next_subtitle
614                                         : $1 eq 'F5' ? save_subtitles
615                                         : $1 eq 'F9' ? add_subtitle
616                                         : $1 eq 'F12' ? edit_subtitles
617                                         : warn "CUSTOM $1\n"
618                                         ;
619
620                                 } elsif ( $line =~ m{EDL}i ) {
621
622                                         print $to_mplayer qq|osd_show_text "$line"\n|;
623
624                                         if ( my $pos = time_pos ) {
625                                                 if ( $line =~ m{start}i ) {
626                                                         push @subtitles, [ $pos, $pos, '-' ];
627                                                 } else {
628                                                         $subtitles[ $#subtitles ]->[1] = $pos;
629                                                 }
630                                         }
631                                 } elsif ( $line =~ m{(shot\d+.png)} ) {
632                                         my $shot = $1;
633                                         my $t = time_pos;
634                                         warn "shot $t $shot\n";
635
636                                         my @existing_slides = glob("$media_dir/s/hires/*");
637                                         my $nr = $#existing_slides + 2;
638
639                                         push @subtitles, [ $t, $t, "slide:$nr shot:$t" ];
640
641                                         warn "slide $nr from video $t file $shot\n";
642                                         save_subtitles;
643                                 }
644
645                                 $line = '';
646                         } else {
647                                 $line .= $chr;
648                         }
649
650
651                 } elsif ( $fileno == fileno $to_mplayer ) {
652 #                       warn "command";
653                 } else {
654                         die "invalid fileno $fileno";
655                 }
656         }
657
658 }
659