Aleph.pm

   1 package Aleph;
   2
   3 use warnings;
   4 use strict;
   5
   6 use MARC::Record;
   7 use Data::Dump qw/dump/;
   8
   9 use base 'Scraper';
  10
  11 sub diag {
  12         warn "# ", @_, $/;
  13 }
  14
  15 # Koha Z39.50 query:
  16 #
  17 # Bib-1 @and @and @and @and @and @and @and @or
  18 # @attr 1=8 isbn-issn
  19 # @attr 1=7 isbn-issn
  20 # @attr 1=4 title
  21 # @attr 1=1003 author
  22 # @attr 1=16 dewey
  23 # @attr 1=21 subject-holding
  24 # @attr 1=12 control-no
  25 # @attr 1=1007 standard-id
  26 # @attr 1=1016 any
  27
  28 # LCC - Klasifikacija Kongresne knjižnice
  29 # LCN - Signatura Kongresne knjižnice
  30 # DDC - Deweyjeva klasifikacija
  31 # TIT - Naslovi
  32 # AUT - Autori
  33 # IMP - Impresum
  34 # SUB - Predmetnice
  35 # SRS - Nakladnička cjelina
  36 # LOC - Lokacija
  37 # WRD - Riječi
  38 # WTI - Riječi u polju naslova
  39 # WAU - Riječi u polju autora
  40 # WPE - Riječi u polju individualnog autora
  41 # WCO - Riječi u polju korporativnog autora
  42 # WME - Riječi u polju sastanka
  43 # WUT - Riječi u polju jedinstvenog naslova
  44 # WPL - Riječi u polju mjesta izdavanja
  45 # WPU - Riječi u polju nakladnika
  46 # WSU - Riječi u polju predmetnica
  47 # WSM - Riječi u predmetnicama MeSH-a
  48 # WST - Riječi u polju status
  49 # WGA - Riječi u geografskim odrednicama
  50 # WYR - Godina izdavanja
  51
  52 sub usemap {{
  53         4               => 'WTI',
  54         1003    => 'WTI',
  55         16              => 'CU',
  56         21              => 'SU',
  57 #       12              => '',
  58 #       1007    => '',
  59 #       1016    => '',
  60 }};
  61
  62 our $session_id;
  63
  64 sub search {
  65         my ( $self, $query ) = @_;
  66
  67         die "need query" unless defined $query;
  68
  69         $session_id ||= int rand(1000000000);
  70         # FIXME allocate session just once
  71         my $url = 'http://161.53.240.197:8991/F?RN=' . $session_id;
  72         # fake JavaScript code on page which creates random session
  73
  74 diag "get $url";
  75
  76         my $mech = $self->{mech} || die "no mech?";
  77         $mech->get( $url );
  78
  79 diag "advanced search";
  80
  81         $mech->follow_link( url_regex => qr/find-c/ );
  82
  83 diag "submit search [$query] on ", $self->{database};
  84
  85         $self->save_content;
  86
  87         $mech->submit_form(
  88                 fields => {
  89                         'ccl_term' => $query,
  90                         'local_base' => $self->{database},
  91                 },
  92         );
  93
  94         my $hits = 0;
  95         if ( $mech->content =~ m{ukupno\s+(\d+).*do\s+(\d+)}s ) {
  96                 $hits = $1;
  97                 $hits = $2 if $2 && $2 < $1; # correct for max. results
  98         } else {
  99                 diag "get't find results in ", $mech->content;
 100                 return;
 101         }
 102
 103 diag "got $hits results, get first one";
 104
 105         $mech->follow_link( url_regex => qr/set_entry=000001/ );
 106
 107 diag "in MARC format";
 108
 109         $mech->follow_link( url_regex => qr/format=001/ );
 110
 111         return $hits;
 112 }
 113
 114
 115 our ( $hash, $marc );
 116
 117 sub next_marc {
 118         my ($self,$format) = @_;
 119
 120         $format ||= 'marc';
 121
 122         my $mech = $self->{mech} || die "no mech?";
 123
 124 #warn "## ", $mech->content;
 125
 126         if ( $mech->content =~ m{Zapis\s+(\d+)}s ) {
 127
 128                 my $nr = $1;
 129
 130 warn "parse $nr";
 131
 132                 $marc = MARC::Record->new;
 133                 $hash = {};
 134
 135                 my $html = $mech->content;
 136
 137                 sub field {
 138                         my ( $f, $v ) = @_;
 139                         $v =~ s/\Q&nbsp;\E/ /gs;
 140 warn "## $f\t$v\n";
 141                         $hash->{$f} = $v;
 142
 143                         if ( $f eq 'LDR' ) {
 144                                 $marc->leader( $v );
 145                                 return;
 146                         }
 147
 148                         if ( $f =~ m/\D/ ) {
 149                                 warn "$f not numeric!";
 150                                 return;
 151                         }
 152
 153                         if ( $v !~ s/^\|// ) { # no subfields
 154                                 $marc->add_fields( $f, $v );
 155 warn "## ++ ", dump( $f, $v );
 156                                 return;
 157                         }
 158
 159                         my ($i1,$i2) = (' ',' ');
 160                         ($i1,$i2) = ($2,$3) if $f =~ s/^(...)(.)?(.)?/$1/;
 161                         my @sf = split(/\|/, $v);
 162                         @sf = map { s/^(\w)\s+//; { $1 => $_ } } @sf;
 163 #warn "## sf = ", dump(@sf);
 164                         $marc->add_fields( $f, $i1, $i2, @sf );
 165 warn "## ++ ", dump( $f, $i1, $i2, @sf );
 166                 }
 167
 168                 $html =~ s|<tr>\s*<td class=td1 id=bold[^>]*>(.+?)</td>\s*<td class=td1>(.+?)</td>|field($1,$2)|ges;
 169                 diag "# hash ",dump($hash);
 170                 diag "# marc ", $marc->as_formatted;
 171
 172                 my $id = $hash->{SYS} || die "no SYS";
 173
 174                 $self->save_marc( $id, $marc->as_usmarc );
 175
 176                 $nr++;
 177
 178                 $mech->follow_link( url_regex => qr/set_entry=0*$nr/ );
 179
 180                 return $marc->as_usmarc;
 181         } else {
 182                 die "can't fetch COMARC format from ", $mech->content;
 183         }
 184
 185 }
 186
 187 1;