Aleph.pm

   1 package Aleph;
   2
   3 use warnings;
   4 use strict;
   5
   6 use MARC::Record;
   7 use Data::Dump qw/dump/;
   8
   9 use base 'Scraper';
  10
  11 sub diag {
  12         warn "# ", @_, $/;
  13 }
  14
  15 # Koha Z39.50 query:
  16 #
  17 # Bib-1 @and @and @and @and @and @and @and @or
  18 # @attr 1=4 title
  19 # @attr 1=7 isbn
  20 # @attr 1=8 issn
  21 # @attr 1=1003 author
  22 # @attr 1=16 dewey
  23 # @attr 1=21 subject-holding
  24 # @attr 1=12 control-no
  25 # @attr 1=1007 standard-id
  26 # @attr 1=1016 any
  27
  28 # LCC - Klasifikacija Kongresne knjižnice
  29 # LCN - Signatura Kongresne knjižnice
  30 # DDC - Deweyjeva klasifikacija
  31 # TIT - Naslovi
  32 # AUT - Autori
  33 # IMP - Impresum
  34 # SUB - Predmetnice
  35 # SRS - Nakladnička cjelina
  36 # LOC - Lokacija
  37 # WRD - Riječi
  38 # WTI - Riječi u polju naslova
  39 # WAU - Riječi u polju autora
  40 # WPE - Riječi u polju individualnog autora
  41 # WCO - Riječi u polju korporativnog autora
  42 # WME - Riječi u polju sastanka
  43 # WUT - Riječi u polju jedinstvenog naslova
  44 # WPL - Riječi u polju mjesta izdavanja
  45 # WPU - Riječi u polju nakladnika
  46 # WSU - Riječi u polju predmetnica
  47 # WSM - Riječi u predmetnicama MeSH-a
  48 # WST - Riječi u polju status
  49 # WGA - Riječi u geografskim odrednicama
  50 # WYR - Godina izdavanja
  51
  52 sub usemap {{
  53         4               => 'WTI',
  54         7               => 'ISBN',
  55         8               => 'ISSN',
  56         1003            => 'AUT',
  57         16              => 'DDC',
  58         21              => 'SUB',
  59         12              => 'LCN',
  60 #       1007    => '',
  61         1016    => 'WRD',
  62 }};
  63
  64 our $session_id;
  65
  66 sub search {
  67         my ( $self, $query ) = @_;
  68
  69         die "need query" unless defined $query;
  70
  71         $session_id ||= int rand(1000000000);
  72         # FIXME allocate session just once
  73         my $url = 'http://161.53.240.197:8991/F?RN=' . $session_id;
  74         # fake JavaScript code on page which creates random session
  75
  76 diag "get $url";
  77
  78         my $mech = $self->{mech} || die "no mech?";
  79         $mech->get( $url );
  80
  81 diag "advanced search";
  82
  83         $mech->follow_link( url_regex => qr/find-c/ );
  84
  85         my $database = $self->{database};
  86
  87         if ( $mech->content =~ m{Requested library is unavailable at the moment} ) {
  88                 warn "ERROR: default database not available, try to swith to $database\n";
  89                 $self->save_content;
  90                 $mech->follow_link( url_regex => qr/local_base=$database/i );
  91                 diag "re-try advanced search";
  92                 $mech->follow_link( url_regex => qr/find-c/ );
  93         }
  94
  95 diag "submit search [$query] on ", $self->{database};
  96
  97
  98         $mech->submit_form(
  99                 fields => {
 100                         'ccl_term' => $query,
 101                         'local_base' => $self->{database},
 102                 },
 103         );
 104
 105         my $hits = 0;
 106         if ( $mech->content =~ m{ukupno\s+(\d+).*do\s+(\d+)}s ) {
 107                 $hits = $1;
 108                 $hits = $2 if $2 && $2 < $1; # correct for max. results
 109         } else {
 110                 diag "get't find results in ", $mech->content;
 111                 return;
 112         }
 113
 114 diag "got $hits results, get first one";
 115
 116         $mech->follow_link( url_regex => qr/set_entry=000001/ );
 117
 118 diag "in MARC format";
 119
 120         $mech->follow_link( url_regex => qr/format=001/ );
 121
 122         return $self->{hits} = $hits;
 123 }
 124
 125
 126 our ( $hash, $marc );
 127
 128 sub next_marc {
 129         my ($self,$format) = @_;
 130
 131         $format ||= 'marc';
 132
 133         my $mech = $self->{mech} || die "no mech?";
 134
 135 #warn "## ", $mech->content;
 136
 137         if ( $mech->content =~ m{Zapis\s+(\d+)}s ) {
 138
 139                 my $nr = $1;
 140
 141 warn "parse $nr";
 142
 143                 $marc = MARC::Record->new;
 144                 $hash = {};
 145
 146                 my $html = $mech->content;
 147
 148                 sub field {
 149                         my ( $f, $v ) = @_;
 150                         $v =~ s/\Q&nbsp;\E/ /gs;
 151                         $v =~ s/\s+$//gs;
 152 warn "## $f\t$v\n";
 153                         $hash->{$f} = $v;
 154
 155                         if ( $f eq 'LDR' ) {
 156                                 $marc->leader( $v );
 157                                 return;
 158                         }
 159
 160                         if ( $f =~ m/\D/ ) {
 161                                 warn "$f not numeric!";
 162                                 return;
 163                         }
 164
 165                         if ( $v !~ s/^\|// ) { # no subfields
 166                                 $marc->add_fields( $f, $v );
 167 warn "## ++ ", dump( $f, $v );
 168                                 return;
 169                         }
 170
 171                         my ($i1,$i2) = (' ',' ');
 172                         ($i1,$i2) = ($2,$3) if $f =~ s/^(...)(.)?(.)?/$1/;
 173                         my @sf = split(/\|/, $v);
 174                         @sf = map { s/^(\w)\s+//; { $1 => $_ } } @sf;
 175 #warn "## sf = ", dump(@sf);
 176                         $marc->add_fields( $f, $i1, $i2, @sf );
 177 warn "## ++ ", dump( $f, $i1, $i2, @sf );
 178                 }
 179
 180                 $html =~ s|<tr>\s*<td class=td1 id=bold[^>]*>(.+?)</td>\s*<td class=td1>(.+?)</td>|field($1,$2)|ges;
 181                 diag "# hash ",dump($hash);
 182                 diag "# marc ", $marc->as_formatted;
 183
 184                 my $id = $hash->{SYS} || die "no SYS";
 185
 186                 $self->save_marc( "$id.marc", $marc->as_usmarc );
 187
 188                 if ( $nr < $self->{hits} ) {
 189                         $nr++;
 190                         diag "follow link to next record $nr";
 191                         $mech->follow_link( url_regex => qr/set_entry=0*$nr/ );
 192                 }
 193
 194                 return $id;
 195         } else {
 196                 die "can't fetch COMARC format from ", $mech->content;
 197         }
 198
 199 }
 200
 201 1;