C4/Installer.pm

   1 package C4::Installer;
   2
   3 # Copyright (C) 2008 LibLime
   4 #
   5 # This file is part of Koha.
   6 #
   7 # Koha is free software; you can redistribute it and/or modify it
   8 # under the terms of the GNU General Public License as published by
   9 # the Free Software Foundation; either version 3 of the License, or
  10 # (at your option) any later version.
  11 #
  12 # Koha is distributed in the hope that it will be useful, but
  13 # WITHOUT ANY WARRANTY; without even the implied warranty of
  14 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
  15 # GNU General Public License for more details.
  16 #
  17 # You should have received a copy of the GNU General Public License
  18 # along with Koha; if not, see <http://www.gnu.org/licenses>.
  19
  20 use strict;
  21 #use warnings; FIXME - Bug 2505
  22
  23 use Encode qw( encode is_utf8 );
  24 our $VERSION = 3.07.00.049;
  25 use C4::Context;
  26 use C4::Installer::PerlModules;
  27 use Koha;
  28
  29 =head1 NAME
  30
  31 C4::Installer
  32
  33 =head1 SYNOPSIS
  34
  35  use C4::Installer;
  36  my $installer = C4::Installer->new();
  37  my $all_languages = getAllLanguages();
  38  my $error = $installer->load_db_schema();
  39  my $list;
  40  #fill $list with list of sql files
  41  my ($fwk_language, $error_list) = $installer->load_sql_in_order($all_languages, @$list);
  42  $installer->set_version_syspref();
  43  $installer->set_marcflavour_syspref('MARC21');
  44
  45 =head1 DESCRIPTION
  46
  47 =cut
  48
  49 =head1 METHODS
  50
  51 =head2 new
  52
  53   my $installer = C4::Installer->new();
  54
  55 Creates a new installer.
  56
  57 =cut
  58
  59 sub new {
  60     my $class = shift;
  61
  62     my $self = {};
  63
  64     # get basic information from context
  65     $self->{'dbname'}   = C4::Context->config("database");
  66     $self->{'dbms'}     = C4::Context->config("db_scheme") ? C4::Context->config("db_scheme") : "mysql";
  67     $self->{'hostname'} = C4::Context->config("hostname");
  68     $self->{'port'}     = C4::Context->config("port");
  69     $self->{'user'}     = C4::Context->config("user");
  70     $self->{'password'} = C4::Context->config("pass");
  71     $self->{'dbh'} = DBI->connect("DBI:$self->{dbms}:dbname=$self->{dbname};host=$self->{hostname}" .
  72                                   ( $self->{port} ? ";port=$self->{port}" : "" ),
  73                                   $self->{'user'}, $self->{'password'});
  74     $self->{'language'} = undef;
  75     $self->{'marcflavour'} = undef;
  76         $self->{'dbh'}->do('set NAMES "utf8"');
  77     $self->{'dbh'}->{'mysql_enable_utf8'}=1;
  78
  79     bless $self, $class;
  80     return $self;
  81 }
  82
  83 =head2 marc_framework_sql_list
  84
  85   my ($defaulted_to_en, $list) =
  86      $installer->marc_framework_sql_list($lang, $marcflavour);
  87
  88 Returns in C<$list> a structure listing the filename, description, section,
  89 and mandatory/optional status of MARC framework scripts available for C<$lang>
  90 and C<$marcflavour>.
  91
  92 If the C<$defaulted_to_en> return value is true, no scripts are available
  93 for language C<$lang> and the 'en' ones are returned.
  94
  95 =cut
  96
  97 sub marc_framework_sql_list {
  98     my $self = shift;
  99     my $lang = shift;
 100     my $marcflavour = shift;
 101
 102     my $defaulted_to_en = 0;
 103
 104     undef $/;
 105     my $dir = C4::Context->config('intranetdir') . "/installer/data/$self->{dbms}/$lang/marcflavour/".lc($marcflavour);
 106     unless (opendir( MYDIR, $dir )) {
 107         if ($lang eq 'en') {
 108             warn "cannot open MARC frameworks directory $dir";
 109         } else {
 110             # if no translated MARC framework is available,
 111             # default to English
 112             $dir = C4::Context->config('intranetdir') . "/installer/data/$self->{dbms}/en/marcflavour/".lc($marcflavour);
 113             opendir(MYDIR, $dir) or warn "cannot open English MARC frameworks directory $dir";
 114             $defaulted_to_en = 1;
 115         }
 116     }
 117     my @listdir = sort grep { !/^\.|marcflavour/ && -d "$dir/$_" } readdir(MYDIR);
 118     closedir MYDIR;
 119
 120     my @fwklist;
 121     my $request = $self->{'dbh'}->prepare("SELECT value FROM systempreferences WHERE variable='FrameworksLoaded'");
 122     $request->execute;
 123     my ($frameworksloaded) = $request->fetchrow;
 124     $frameworksloaded = '' unless defined $frameworksloaded; # avoid warning
 125     my %frameworksloaded;
 126     foreach ( split( /\|/, $frameworksloaded ) ) {
 127         $frameworksloaded{$_} = 1;
 128     }
 129
 130     foreach my $requirelevel (@listdir) {
 131         opendir( MYDIR, "$dir/$requirelevel" );
 132         my @listname = grep { !/^\./ && -f "$dir/$requirelevel/$_" && $_ =~ m/\.sql$/ } readdir(MYDIR);
 133         closedir MYDIR;
 134         my %cell;
 135         my @frameworklist;
 136         map {
 137             my $name = substr( $_, 0, -4 );
 138             open my $fh, "<:encoding(UTF-8)", "$dir/$requirelevel/$name.txt";
 139             my $lines = <$fh>;
 140             $lines =~ s/\n|\r/<br \/>/g;
 141             $lines = Encode::encode('UTF-8', $lines) unless ( Encode::is_utf8($lines) );
 142             my $mandatory = ($requirelevel =~ /(mandatory|requi|oblig|necess)/i);
 143             push @frameworklist,
 144               {
 145                 'fwkname'        => $name,
 146                 'fwkfile'        => "$dir/$requirelevel/$_",
 147                 'fwkdescription' => $lines,
 148                 'checked'        => ( ( $frameworksloaded{$_} || $mandatory ) ? 1 : 0 ),
 149                 'mandatory'      => $mandatory,
 150               };
 151         } @listname;
 152         my @fwks =
 153           sort { $a->{'fwkname'} cmp $b->{'fwkname'} } @frameworklist;
 154
 155         $cell{"frameworks"} = \@fwks;
 156         $cell{"label"}      = ucfirst($requirelevel);
 157         $cell{"code"}       = lc($requirelevel);
 158         push @fwklist, \%cell;
 159     }
 160
 161     return ($defaulted_to_en, \@fwklist);
 162 }
 163
 164 =head2 sample_data_sql_list
 165
 166   my ($defaulted_to_en, $list) = $installer->sample_data_sql_list($lang);
 167
 168 Returns in C<$list> a structure listing the filename, description, section,
 169 and mandatory/optional status of sample data scripts available for C<$lang>.
 170 If the C<$defaulted_to_en> return value is true, no scripts are available
 171 for language C<$lang> and the 'en' ones are returned.
 172
 173 =cut
 174
 175 sub sample_data_sql_list {
 176     my $self = shift;
 177     my $lang = shift;
 178
 179     my $defaulted_to_en = 0;
 180
 181     undef $/;
 182     my $dir = C4::Context->config('intranetdir') . "/installer/data/$self->{dbms}/$lang";
 183     unless (opendir( MYDIR, $dir )) {
 184         if ($lang eq 'en') {
 185             warn "cannot open sample data directory $dir";
 186         } else {
 187             # if no sample data is available,
 188             # default to English
 189             $dir = C4::Context->config('intranetdir') . "/installer/data/$self->{dbms}/en";
 190             opendir(MYDIR, $dir) or warn "cannot open English sample data directory $dir";
 191             $defaulted_to_en = 1;
 192         }
 193     }
 194     my @listdir = sort grep { !/^\.|marcflavour/ && -d "$dir/$_" } readdir(MYDIR);
 195     closedir MYDIR;
 196
 197     my @levellist;
 198     my $request = $self->{'dbh'}->prepare("SELECT value FROM systempreferences WHERE variable='FrameworksLoaded'");
 199     $request->execute;
 200     my ($frameworksloaded) = $request->fetchrow;
 201     $frameworksloaded = '' unless defined $frameworksloaded; # avoid warning
 202     my %frameworksloaded;
 203     foreach ( split( /\|/, $frameworksloaded ) ) {
 204         $frameworksloaded{$_} = 1;
 205     }
 206
 207     foreach my $requirelevel (@listdir) {
 208         opendir( MYDIR, "$dir/$requirelevel" );
 209         my @listname = grep { !/^\./ && -f "$dir/$requirelevel/$_" && $_ =~ m/\.sql$/ } readdir(MYDIR);
 210         closedir MYDIR;
 211         my %cell;
 212         my @frameworklist;
 213         map {
 214             my $name = substr( $_, 0, -4 );
 215             open my $fh , "<:encoding(UTF-8)", "$dir/$requirelevel/$name.txt";
 216             my $lines = <$fh>;
 217             $lines =~ s/\n|\r/<br \/>/g;
 218             $lines = Encode::encode('UTF-8', $lines) unless ( Encode::is_utf8($lines) );
 219             my $mandatory = ($requirelevel =~ /(mandatory|requi|oblig|necess)/i);
 220             push @frameworklist,
 221               {
 222                 'fwkname'        => $name,
 223                 'fwkfile'        => "$dir/$requirelevel/$_",
 224                 'fwkdescription' => $lines,
 225                 'checked'        => ( ( $frameworksloaded{$_} || $mandatory ) ? 1 : 0 ),
 226                 'mandatory'      => $mandatory,
 227               };
 228         } @listname;
 229         my @fwks = sort { $a->{'fwkname'} cmp $b->{'fwkname'} } @frameworklist;
 230
 231         $cell{"frameworks"} = \@fwks;
 232         $cell{"label"}      = ucfirst($requirelevel);
 233         $cell{"code"}       = lc($requirelevel);
 234         push @levellist, \%cell;
 235     }
 236
 237     return ($defaulted_to_en, \@levellist);
 238 }
 239
 240 =head2 load_db_schema
 241
 242   my $error = $installer->load_db_schema();
 243
 244 Loads the SQL script that creates Koha's tables and indexes.  The
 245 return value is a string containing error messages reported by the
 246 load.
 247
 248 =cut
 249
 250 sub load_db_schema {
 251     my $self = shift;
 252
 253     my $datadir = C4::Context->config('intranetdir') . "/installer/data/$self->{dbms}";
 254     my $error = $self->load_sql("$datadir/kohastructure.sql");
 255     return $error;
 256
 257 }
 258
 259 =head2 load_sql_in_order
 260
 261   my ($fwk_language, $list) = $installer->load_sql_in_order($all_languages, @sql_list);
 262
 263 Given a list of SQL scripts supplied in C<@sql_list>, loads each of them
 264 into the database and sets the FrameworksLoaded system preference to names
 265 of the scripts that were loaded.
 266
 267 The SQL files are loaded in alphabetical order by filename (not including
 268 directory path).  This means that dependencies among the scripts are to
 269 be resolved by carefully naming them, keeping in mind that the directory name
 270 does *not* currently count.
 271
 272 B<FIXME:> this is a rather delicate way of dealing with dependencies between
 273 the install scripts.
 274
 275 The return value C<$list> is an arrayref containing a hashref for each
 276 "level" or directory containing SQL scripts; the hashref in turns contains
 277 a list of hashrefs containing a list of each script load and any error
 278 messages associated with the loading of each script.
 279
 280 B<FIXME:> The C<$fwk_language> code probably doesn't belong and needs to be
 281 moved to a different method.
 282
 283 =cut
 284
 285 sub load_sql_in_order {
 286     my $self = shift;
 287     my $all_languages = shift;
 288     my @sql_list = @_;
 289
 290     my $lang;
 291     my %hashlevel;
 292     my @fnames = sort {
 293         my @aa = split /\/|\\/, ($a);
 294         my @bb = split /\/|\\/, ($b);
 295         $aa[-1] cmp $bb[-1]
 296     } @sql_list;
 297     my $request = $self->{'dbh'}->prepare( "SELECT value FROM systempreferences WHERE variable='FrameworksLoaded'" );
 298     $request->execute;
 299     my ($systempreference) = $request->fetchrow;
 300     $systempreference = '' unless defined $systempreference; # avoid warning
 301     # Make sure subtag_registry.sql is loaded second
 302     my $subtag_registry = C4::Context->config('intranetdir') . "/installer/data/$self->{dbms}/mandatory/subtag_registry.sql";
 303     unshift(@fnames, $subtag_registry);
 304     # Make sure the global sysprefs.sql file is loaded first
 305     my $globalsysprefs = C4::Context->config('intranetdir') . "/installer/data/$self->{dbms}/sysprefs.sql";
 306     unshift(@fnames, $globalsysprefs);
 307     foreach my $file (@fnames) {
 308         #      warn $file;
 309         undef $/;
 310         my $error = $self->load_sql($file);
 311         my @file = split qr(\/|\\), $file;
 312         $lang = $file[ scalar(@file) - 3 ] unless ($lang);
 313         my $level = $file[ scalar(@file) - 2 ];
 314         unless ($error) {
 315             $systempreference .= "$file[scalar(@file)-1]|"
 316               unless ( index( $systempreference, $file[ scalar(@file) - 1 ] ) >= 0 );
 317         }
 318
 319         #Bulding here a hierarchy to display files by level.
 320         push @{ $hashlevel{$level} },
 321           { "fwkname" => $file[ scalar(@file) - 1 ], "error" => $error };
 322     }
 323
 324     #systempreference contains an ending |
 325     chop $systempreference;
 326     my @list;
 327     map { push @list, { "level" => $_, "fwklist" => $hashlevel{$_} } } keys %hashlevel;
 328     my $fwk_language;
 329     for my $each_language (@$all_languages) {
 330
 331         #       warn "CODE".$each_language->{'language_code'};
 332         #       warn "LANG:".$lang;
 333         if ( $lang eq $each_language->{'language_code'} ) {
 334             $fwk_language = $each_language->{language_locale_name};
 335         }
 336     }
 337     my $updateflag =
 338       $self->{'dbh'}->do(
 339         "UPDATE systempreferences set value=\"$systempreference\" where variable='FrameworksLoaded'"
 340       );
 341
 342     unless ( $updateflag == 1 ) {
 343         my $string =
 344             "INSERT INTO systempreferences (value, variable, explanation, type) VALUES (\"$systempreference\",'FrameworksLoaded','Frameworks loaded through webinstaller','choice')";
 345         my $rq = $self->{'dbh'}->prepare($string);
 346         $rq->execute;
 347     }
 348     return ($fwk_language, \@list);
 349 }
 350
 351 =head2 set_marcflavour_syspref
 352
 353   $installer->set_marcflavour_syspref($marcflavour);
 354
 355 Set the 'marcflavour' system preference.  The incoming
 356 C<$marcflavour> references to a subdirectory of
 357 installer/data/$dbms/$lang/marcflavour, and is
 358 normalized to MARC21, UNIMARC or NORMARC.
 359
 360 FIXME: this method assumes that the MARC flavour will be either
 361 MARC21, UNIMARC or NORMARC.
 362
 363 =cut
 364
 365 sub set_marcflavour_syspref {
 366     my $self = shift;
 367     my $marcflavour = shift;
 368
 369     # we can have some variants of marc flavour, by having different directories, like : unimarc_small and unimarc_full, for small and complete unimarc frameworks.
 370     # marc_cleaned finds the marcflavour, without the variant.
 371     my $marc_cleaned = 'MARC21';
 372     $marc_cleaned = 'UNIMARC' if $marcflavour =~ /unimarc/i;
 373     $marc_cleaned = 'NORMARC' if $marcflavour =~ /normarc/i;
 374     my $request =
 375         $self->{'dbh'}->prepare(
 376           "INSERT IGNORE INTO `systempreferences` (variable,value,explanation,options,type) VALUES('marcflavour','$marc_cleaned','Define global MARC flavor (MARC21, UNIMARC or NORMARC) used for character encoding','MARC21|UNIMARC|NORMARC','Choice');"
 377         );
 378     $request->execute;
 379 }
 380
 381 =head2 set_version_syspref
 382
 383   $installer->set_version_syspref();
 384
 385 Set or update the 'Version' system preference to the current
 386 Koha software version.
 387
 388 =cut
 389
 390 sub set_version_syspref {
 391     my $self = shift;
 392
 393     my $kohaversion = Koha::version();
 394     # remove the 3 last . to have a Perl number
 395     $kohaversion =~ s/(.*\..*)\.(.*)\.(.*)/$1$2$3/;
 396     if (C4::Context->preference('Version')) {
 397         warn "UPDATE Version";
 398         my $finish=$self->{'dbh'}->prepare("UPDATE systempreferences SET value=? WHERE variable='Version'");
 399         $finish->execute($kohaversion);
 400     } else {
 401         warn "INSERT Version";
 402         my $finish=$self->{'dbh'}->prepare("INSERT into systempreferences (variable,value,explanation) values ('Version',?,'The Koha database version. WARNING: Do not change this value manually, it is maintained by the webinstaller')");
 403         $finish->execute($kohaversion);
 404     }
 405     C4::Context->clear_syspref_cache();
 406 }
 407
 408 =head2 load_sql
 409
 410   my $error = $installer->load_sql($filename);
 411
 412 Runs a the specified SQL using the DB's command-line
 413 SQL tool, and returns any strings sent to STDERR
 414 by the command-line tool.
 415
 416 B<FIXME:> there has been a long-standing desire to
 417 replace this with an SQL loader that goes
 418 through DBI; partly for portability issues
 419 and partly to improve error handling.
 420
 421 B<FIXME:> even using the command-line loader, some more
 422 basic error handling should be added - deal
 423 with missing files, e.g.
 424
 425 =cut
 426
 427 sub load_sql {
 428     my $self = shift;
 429     my $filename = shift;
 430
 431     my $datadir = C4::Context->config('intranetdir') . "/installer/data/$self->{dbms}";
 432     my $error;
 433     my $strcmd;
 434     my $cmd;
 435     if ( $self->{dbms} eq 'mysql' ) {
 436         $cmd = qx(which mysql 2>/dev/null || whereis mysql 2>/dev/null);
 437         chomp $cmd;
 438         $cmd = $1 if ($cmd && $cmd =~ /^(.+?)[\r\n]+$/);
 439         $cmd = 'mysql' if (!$cmd || !-x $cmd);
 440         $strcmd = "$cmd "
 441             . ( $self->{hostname} ? " -h $self->{hostname} " : "" )
 442             . ( $self->{port}     ? " -P $self->{port} "     : "" )
 443             . ( $self->{user}     ? " -u $self->{user} "     : "" )
 444             . ( $self->{password} ? " -p'$self->{password}'"   : "" )
 445             . " $self->{dbname} ";
 446         $error = qx($strcmd --default-character-set=utf8 <$filename 2>&1 1>/dev/null);
 447     } elsif ( $self->{dbms} eq 'Pg' ) {
 448         $cmd = qx(which psql 2>/dev/null || whereis psql 2>/dev/null);
 449         chomp $cmd;
 450         $cmd = $1 if ($cmd && $cmd =~ /^(.+?)[\r\n]+$/);
 451         $cmd = 'psql' if (!$cmd || !-x $cmd);
 452         $strcmd = "$cmd "
 453             . ( $self->{hostname} ? " -h $self->{hostname} " : "" )
 454             . ( $self->{port}     ? " -p $self->{port} "     : "" )
 455             . ( $self->{user}     ? " -U $self->{user} "     : "" )
 456 #            . ( $self->{password} ? " -W $self->{password}"   : "" )       # psql will NOT accept a password, but prompts...
 457             . " $self->{dbname} ";                        # Therefore, be sure to run 'trust' on localhost in pg_hba.conf -fbcit
 458         $error = qx($strcmd -f $filename 2>&1 1>/dev/null);
 459         # Be sure to set 'client_min_messages = error' in postgresql.conf
 460         # so that only true errors are returned to stderr or else the installer will
 461         # report the import a failure although it really succeded -fbcit
 462     }
 463 #   errors thrown while loading installer data should be logged
 464     if($error) {
 465       warn "C4::Installer::load_sql returned the following errors while attempting to load $filename:\n";
 466       warn "$error";
 467     }
 468     return $error;
 469 }
 470
 471 =head2 get_file_path_from_name
 472
 473   my $filename = $installer->get_file_path_from_name('script_name');
 474
 475 searches through the set of known SQL scripts and finds the fully
 476 qualified path name for the script that mathches the input.
 477
 478 returns undef if no match was found.
 479
 480
 481 =cut
 482
 483 sub get_file_path_from_name {
 484     my $self = shift;
 485     my $partialname = shift;
 486
 487     my $lang = 'en'; # FIXME: how do I know what language I want?
 488
 489     my ($defaulted_to_en, $list) = $self->sample_data_sql_list($lang);
 490     # warn( Data::Dumper->Dump( [ $list ], [ 'list' ] ) );
 491
 492     my @found;
 493     foreach my $frameworklist ( @$list ) {
 494         push @found, grep { $_->{'fwkfile'} =~ /$partialname$/ } @{$frameworklist->{'frameworks'}};
 495     }
 496
 497     # warn( Data::Dumper->Dump( [ \@found ], [ 'found' ] ) );
 498     if ( 0 == scalar @found ) {
 499         return;
 500     } elsif ( 1 < scalar @found ) {
 501         warn "multiple results found for $partialname";
 502         return;
 503     } else {
 504         return $found[0]->{'fwkfile'};
 505     }
 506
 507 }
 508
 509
 510 =head1 AUTHOR
 511
 512 C4::Installer is a refactoring of logic originally from installer/installer.pl, which was
 513 originally written by Henri-Damien Laurant.
 514
 515 Koha Development Team <http://koha-community.org/>
 516
 517 Galen Charlton <galen.charlton@liblime.com>
 518
 519 =cut
 520
 521 1;