Bug 24688: Check the priority of the fulfilled hold when fixing priorities
[koha.git] / C4 / Reports / Guided.pm
1 package C4::Reports::Guided;
2
3 # Copyright 2007 Liblime Ltd
4 #
5 # This file is part of Koha.
6 #
7 # Koha is free software; you can redistribute it and/or modify it
8 # under the terms of the GNU General Public License as published by
9 # the Free Software Foundation; either version 3 of the License, or
10 # (at your option) any later version.
11 #
12 # Koha is distributed in the hope that it will be useful, but
13 # WITHOUT ANY WARRANTY; without even the implied warranty of
14 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
15 # GNU General Public License for more details.
16 #
17 # You should have received a copy of the GNU General Public License
18 # along with Koha; if not, see <http://www.gnu.org/licenses>.
19
20 use Modern::Perl;
21 use CGI qw ( -utf8 );
22 use Carp;
23 use JSON qw( from_json );
24
25 use vars qw(@ISA @EXPORT @EXPORT_OK %EXPORT_TAGS);
26 use C4::Context;
27 use C4::Templates qw/themelanguage/;
28 use C4::Koha;
29 use Koha::DateUtils;
30 use Koha::Patrons;
31 use Koha::Reports;
32 use C4::Output;
33 use C4::Debug;
34 use C4::Log;
35 use Koha::Notice::Templates;
36 use C4::Letters;
37
38 use Koha::AuthorisedValues;
39 use Koha::Patron::Categories;
40 use Koha::SharedContent;
41
42 BEGIN {
43     require Exporter;
44     @ISA    = qw(Exporter);
45     @EXPORT = qw(
46       get_report_types get_report_areas get_report_groups get_columns build_query get_criteria
47       save_report get_saved_reports execute_query
48       get_column_type get_distinct_values save_dictionary get_from_dictionary
49       delete_definition delete_report format_results get_sql
50       nb_rows update_sql
51       GetReservedAuthorisedValues
52       GetParametersFromSQL
53       IsAuthorisedValueValid
54       ValidateSQLParameters
55       nb_rows update_sql
56     );
57 }
58
59 =head1 NAME
60
61 C4::Reports::Guided - Module for generating guided reports 
62
63 =head1 SYNOPSIS
64
65   use C4::Reports::Guided;
66
67 =head1 DESCRIPTION
68
69 =cut
70
71 =head1 METHODS
72
73 =head2 get_report_areas
74
75 This will return a list of all the available report areas
76
77 =cut
78
79 sub get_area_name_sql_snippet {
80     my @REPORT_AREA = (
81         [CIRC => "Circulation"],
82         [CAT  => "Catalogue"],
83         [PAT  => "Patrons"],
84         [ACQ  => "Acquisition"],
85         [ACC  => "Accounts"],
86         [SER  => "Serials"],
87     );
88
89     return "CASE report_area " .
90     join (" ", map "WHEN '$_->[0]' THEN '$_->[1]'", @REPORT_AREA) .
91     " END AS areaname";
92 }
93
94 sub get_report_areas {
95
96     my $report_areas = [ 'CIRC', 'CAT', 'PAT', 'ACQ', 'ACC', 'SER' ];
97
98     return $report_areas;
99 }
100
101 sub get_table_areas {
102     return (
103     CIRC => [ 'borrowers', 'statistics', 'items', 'biblioitems' ],
104     CAT  => [ 'items', 'biblioitems', 'biblio' ],
105     PAT  => ['borrowers'],
106     ACQ  => [ 'aqorders', 'biblio', 'items' ],
107     ACC  => [ 'borrowers', 'accountlines' ],
108     SER  => [ 'serial', 'serialitems', 'subscription', 'subscriptionhistory', 'subscriptionroutinglist', 'biblioitems', 'biblio', 'aqbooksellers' ],
109     );
110 }
111
112 =head2 get_report_types
113
114 This will return a list of all the available report types
115
116 =cut
117
118 sub get_report_types {
119     my $dbh = C4::Context->dbh();
120
121     # FIXME these should be in the database perhaps
122     my @reports = ( 'Tabular', 'Summary', 'Matrix' );
123     my @reports2;
124     for ( my $i = 0 ; $i < 3 ; $i++ ) {
125         my %hashrep;
126         $hashrep{id}   = $i + 1;
127         $hashrep{name} = $reports[$i];
128         push @reports2, \%hashrep;
129     }
130     return ( \@reports2 );
131
132 }
133
134 =head2 get_report_groups
135
136 This will return a list of all the available report areas with groups
137
138 =cut
139
140 sub get_report_groups {
141     my $dbh = C4::Context->dbh();
142
143     my $groups = GetAuthorisedValues('REPORT_GROUP');
144     my $subgroups = GetAuthorisedValues('REPORT_SUBGROUP');
145
146     my %groups_with_subgroups = map { $_->{authorised_value} => {
147                         name => $_->{lib},
148                         groups => {}
149                     } } @$groups;
150     foreach (@$subgroups) {
151         my $sg = $_->{authorised_value};
152         my $g = $_->{lib_opac}
153           or warn( qq{REPORT_SUBGROUP "$sg" without REPORT_GROUP (lib_opac)} ),
154              next;
155         my $g_sg = $groups_with_subgroups{$g}
156           or warn( qq{REPORT_SUBGROUP "$sg" with invalid REPORT_GROUP "$g"} ),
157              next;
158         $g_sg->{subgroups}{$sg} = $_->{lib};
159     }
160     return \%groups_with_subgroups
161 }
162
163 =head2 get_all_tables
164
165 This will return a list of all tables in the database 
166
167 =cut
168
169 sub get_all_tables {
170     my $dbh   = C4::Context->dbh();
171     my $query = "SHOW TABLES";
172     my $sth   = $dbh->prepare($query);
173     $sth->execute();
174     my @tables;
175     while ( my $data = $sth->fetchrow_arrayref() ) {
176         push @tables, $data->[0];
177     }
178     $sth->finish();
179     return ( \@tables );
180
181 }
182
183 =head2 get_columns($area)
184
185 This will return a list of all columns for a report area
186
187 =cut
188
189 sub get_columns {
190
191     # this calls the internal function _get_columns
192     my ( $area, $cgi ) = @_;
193     my %table_areas = get_table_areas;
194     my $tables = $table_areas{$area}
195       or die qq{Unsuported report area "$area"};
196
197     my @allcolumns;
198     my $first = 1;
199     foreach my $table (@$tables) {
200         my @columns = _get_columns($table,$cgi, $first);
201         $first = 0;
202         push @allcolumns, @columns;
203     }
204     return ( \@allcolumns );
205 }
206
207 sub _get_columns {
208     my ($tablename,$cgi, $first) = @_;
209     my $dbh         = C4::Context->dbh();
210     my $sth         = $dbh->prepare("show columns from $tablename");
211     $sth->execute();
212     my @columns;
213         my $column_defs = _get_column_defs($cgi);
214         my %tablehash;
215         $tablehash{'table'}=$tablename;
216     $tablehash{'__first__'} = $first;
217         push @columns, \%tablehash;
218     while ( my $data = $sth->fetchrow_arrayref() ) {
219         my %temphash;
220         $temphash{'name'}        = "$tablename.$data->[0]";
221         $temphash{'description'} = $column_defs->{"$tablename.$data->[0]"};
222         push @columns, \%temphash;
223     }
224     $sth->finish();
225     return (@columns);
226 }
227
228 =head2 build_query($columns,$criteria,$orderby,$area)
229
230 This will build the sql needed to return the results asked for, 
231 $columns is expected to be of the format tablename.columnname.
232 This is what get_columns returns.
233
234 =cut
235
236 sub build_query {
237     my ( $columns, $criteria, $orderby, $area, $totals, $definition ) = @_;
238
239     my %keys = (
240         CIRC => [ 'statistics.borrowernumber=borrowers.borrowernumber',
241                   'items.itemnumber = statistics.itemnumber',
242                   'biblioitems.biblioitemnumber = items.biblioitemnumber' ],
243         CAT  => [ 'items.biblioitemnumber=biblioitems.biblioitemnumber',
244                   'biblioitems.biblionumber=biblio.biblionumber' ],
245         PAT  => [],
246         ACQ  => [ 'aqorders.biblionumber=biblio.biblionumber',
247                   'biblio.biblionumber=items.biblionumber' ],
248         ACC  => ['borrowers.borrowernumber=accountlines.borrowernumber'],
249         SER  => [ 'serial.serialid=serialitems.serialid', 'serial.subscriptionid=subscription.subscriptionid', 'serial.subscriptionid=subscriptionhistory.subscriptionid', 'serial.subscriptionid=subscriptionroutinglist.subscriptionid', 'biblioitems.biblionumber=serial.biblionumber', 'biblio.biblionumber=biblioitems.biblionumber', 'subscription.aqbooksellerid=aqbooksellers.id'],
250     );
251
252
253 ### $orderby
254     my $keys   = $keys{$area};
255     my %table_areas = get_table_areas;
256     my $tables = $table_areas{$area};
257
258     my $sql =
259       _build_query( $tables, $columns, $criteria, $keys, $orderby, $totals, $definition );
260     return ($sql);
261 }
262
263 sub _build_query {
264     my ( $tables, $columns, $criteria, $keys, $orderby, $totals, $definition) = @_;
265 ### $orderby
266     # $keys is an array of joining constraints
267     my $dbh           = C4::Context->dbh();
268     my $joinedtables  = join( ',', @$tables );
269     my $joinedcolumns = join( ',', @$columns );
270     my $query =
271       "SELECT $totals $joinedcolumns FROM $tables->[0] ";
272         for (my $i=1;$i<@$tables;$i++){
273                 $query .= "LEFT JOIN $tables->[$i] on ($keys->[$i-1]) ";
274         }
275
276     if ($criteria) {
277                 $criteria =~ s/AND/WHERE/;
278         $query .= " $criteria";
279     }
280         if ($definition){
281                 my @definitions = split(',',$definition);
282                 my $deftext;
283                 foreach my $def (@definitions){
284                         my $defin=get_from_dictionary('',$def);
285                         $deftext .=" ".$defin->[0]->{'saved_sql'};
286                 }
287                 if ($query =~ /WHERE/i){
288                         $query .= $deftext;
289                 }
290                 else {
291                         $deftext  =~ s/AND/WHERE/;
292                         $query .= $deftext;                     
293                 }
294         }
295     if ($totals) {
296         my $groupby;
297         my @totcolumns = split( ',', $totals );
298         foreach my $total (@totcolumns) {
299             if ( $total =~ /\((.*)\)/ ) {
300                 if ( $groupby eq '' ) {
301                     $groupby = " GROUP BY $1";
302                 }
303                 else {
304                     $groupby .= ",$1";
305                 }
306             }
307         }
308         $query .= $groupby;
309     }
310     if ($orderby) {
311         $query .= $orderby;
312     }
313     return ($query);
314 }
315
316 =head2 get_criteria($area,$cgi);
317
318 Returns an arraref to hashrefs suitable for using in a tmpl_loop. With the criteria and available values.
319
320 =cut
321
322 sub get_criteria {
323     my ($area,$cgi) = @_;
324     my $dbh    = C4::Context->dbh();
325
326     # have to do someting here to know if its dropdown, free text, date etc
327     my %criteria = (
328         CIRC => [ 'statistics.type', 'borrowers.categorycode', 'statistics.branch',
329                   'biblioitems.publicationyear|date', 'items.dateaccessioned|date' ],
330         CAT  => [ 'items.itemnumber|textrange', 'items.biblionumber|textrange',
331                   'items.barcode|textrange', 'biblio.frameworkcode',
332                   'items.holdingbranch', 'items.homebranch',
333                   'biblio.datecreated|daterange', 'biblio.timestamp|daterange',
334                   'items.onloan|daterange', 'items.ccode',
335                   'items.itemcallnumber|textrange', 'items.itype', 'items.itemlost',
336                   'items.location' ],
337         PAT  => [ 'borrowers.branchcode', 'borrowers.categorycode' ],
338         ACQ  => ['aqorders.datereceived|date'],
339         ACC  => [ 'borrowers.branchcode', 'borrowers.categorycode' ],
340         SER  => ['subscription.startdate|date', 'subscription.enddate|date', 'subscription.periodicity', 'subscription.callnumber', 'subscription.location', 'subscription.branchcode'],
341     );
342
343     # Adds itemtypes to criteria, according to the syspref
344     if ( C4::Context->preference('item-level_itypes') ) {
345         unshift @{ $criteria{'CIRC'} }, 'items.itype';
346         unshift @{ $criteria{'CAT'} }, 'items.itype';
347     } else {
348         unshift @{ $criteria{'CIRC'} }, 'biblioitems.itemtype';
349         unshift @{ $criteria{'CAT'} }, 'biblioitems.itemtype';
350     }
351
352
353     my $crit   = $criteria{$area};
354     my $column_defs = _get_column_defs($cgi);
355     my @criteria_array;
356     foreach my $localcrit (@$crit) {
357         my ( $value, $type )   = split( /\|/, $localcrit );
358         my ( $table, $column ) = split( /\./, $value );
359         if ($type eq 'textrange') {
360             my %temp;
361             $temp{'name'}        = $value;
362             $temp{'from'}        = "from_" . $value;
363             $temp{'to'}          = "to_" . $value;
364             $temp{'textrange'}   = 1;
365             $temp{'description'} = $column_defs->{$value};
366             push @criteria_array, \%temp;
367         }
368         elsif ($type eq 'date') {
369             my %temp;
370             $temp{'name'}        = $value;
371             $temp{'date'}        = 1;
372             $temp{'description'} = $column_defs->{$value};
373             push @criteria_array, \%temp;
374         }
375         elsif ($type eq 'daterange') {
376             my %temp;
377             $temp{'name'}        = $value;
378             $temp{'from'}        = "from_" . $value;
379             $temp{'to'}          = "to_" . $value;
380             $temp{'daterange'}   = 1;
381             $temp{'description'} = $column_defs->{$value};
382             push @criteria_array, \%temp;
383         }
384         else {
385             my $query =
386             "SELECT distinct($column) as availablevalues FROM $table";
387             my $sth = $dbh->prepare($query);
388             $sth->execute();
389             my @values;
390             # push the runtime choosing option
391             my $list;
392             $list='branches' if $column eq 'branchcode' or $column eq 'holdingbranch' or $column eq 'homebranch';
393             $list='categorycode' if $column eq 'categorycode';
394             $list='itemtypes' if $column eq 'itype';
395             $list='ccode' if $column eq 'ccode';
396             # TODO : improve to let the librarian choose the description at runtime
397             push @values, {
398                 availablevalues => "<<$column" . ( $list ? "|$list" : '' ) . ">>",
399                 display_value   => "<<$column" . ( $list ? "|$list" : '' ) . ">>",
400             };
401             while ( my $row = $sth->fetchrow_hashref() ) {
402                 if ($row->{'availablevalues'} eq '') { $row->{'default'} = 1 }
403                 else { $row->{display_value} = _get_display_value( $row->{'availablevalues'}, $column ); }
404                 push @values, $row;
405             }
406             $sth->finish();
407
408             my %temp;
409             $temp{'name'}        = $value;
410             $temp{'description'} = $column_defs->{$value};
411             $temp{'values'}      = \@values;
412
413             push @criteria_array, \%temp;
414         }
415     }
416     return ( \@criteria_array );
417 }
418
419 sub nb_rows {
420     my $sql = shift or return;
421
422     my $derived_name = 'xxx';
423     # make sure the derived table name is not already used
424     while ( $sql =~ m/$derived_name/ ) {
425         $derived_name .= 'x';
426     }
427
428     my $sth = C4::Context->dbh->prepare(qq{
429         SELECT COUNT(*) FROM
430         ( $sql ) $derived_name
431     });
432
433     $sth->execute();
434
435     if ( $sth->errstr ) {
436         return 0;
437     }
438     else {
439        return $sth->fetch->[0];
440     }
441 }
442
443 =head2 execute_query
444
445   ($sth, $error) = execute_query($sql, $offset, $limit[, \@sql_params])
446
447
448 This function returns a DBI statement handler from which the caller can
449 fetch the results of the SQL passed via C<$sql>.
450
451 If passed any query other than a SELECT, or if there is a DB error,
452 C<$errors> is returned, and is a hashref containing the error after this
453 manner:
454
455 C<$error->{'sqlerr'}> contains the offending SQL keyword.
456 C<$error->{'queryerr'}> contains the native db engine error returned
457 for the query.
458
459 C<$offset>, and C<$limit> are required parameters.
460
461 C<\@sql_params> is an optional list of parameter values to paste in.
462 The caller is responsible for making sure that C<$sql> has placeholders
463 and that the number placeholders matches the number of parameters.
464
465 =cut
466
467 # returns $sql, $offset, $limit
468 # $sql returned will be transformed to:
469 #  ~ remove any LIMIT clause
470 #  ~ repace SELECT clause w/ SELECT count(*)
471
472 sub select_2_select_count {
473     # Modify the query passed in to create a count query... (I think this covers all cases -crn)
474     my ($sql) = strip_limit(shift) or return;
475     $sql =~ s/\bSELECT\W+(?:\w+\W+){1,}?FROM\b|\bSELECT\W\*\WFROM\b/SELECT count(*) FROM /ig;
476     return $sql;
477 }
478
479 # This removes the LIMIT from the query so that a custom one can be specified.
480 # Usage:
481 #   ($new_sql, $offset, $limit) = strip_limit($sql);
482 #
483 # Where:
484 #   $sql is the query to modify
485 #   $new_sql is the resulting query
486 #   $offset is the offset value, if the LIMIT was the two-argument form,
487 #       0 if it wasn't otherwise given.
488 #   $limit is the limit value
489 #
490 # Notes:
491 #   * This makes an effort to not break subqueries that have their own
492 #     LIMIT specified. It does that by only removing a LIMIT if it comes after
493 #     a WHERE clause (which isn't perfect, but at least should make more cases
494 #     work - subqueries with a limit in the WHERE will still break.)
495 #   * If your query doesn't have a WHERE clause then all LIMITs will be
496 #     removed. This may break some subqueries, but is hopefully rare enough
497 #     to not be a big issue.
498 sub strip_limit {
499     my ($sql) = @_;
500
501     return unless $sql;
502     return ($sql, 0, undef) unless $sql =~ /\bLIMIT\b/i;
503
504     # Two options: if there's no WHERE clause in the SQL, we simply capture
505     # any LIMIT that's there. If there is a WHERE, we make sure that we only
506     # capture a LIMIT after the last one. This prevents stomping on subqueries.
507     if ($sql !~ /\bWHERE\b/i) {
508         (my $res = $sql) =~ s/\bLIMIT\b\s*(\d+)(\s*\,\s*(\d+))?\s*/ /ig;
509         return ($res, (defined $2 ? $1 : 0), (defined $3 ? $3 : $1));
510     } else {
511         my $res = $sql;
512         $res =~ m/.*\bWHERE\b/gsi;
513         $res =~ s/\G(.*)\bLIMIT\b\s*(\d+)(\s*\,\s*(\d+))?\s*/$1 /is;
514         return ($res, (defined $3 ? $2 : 0), (defined $4 ? $4 : $2));
515     }
516 }
517
518 sub execute_query {
519
520     my ( $sql, $offset, $limit, $sql_params, $report_id ) = @_;
521
522     $sql_params = [] unless defined $sql_params;
523
524     # check parameters
525     unless ($sql) {
526         carp "execute_query() called without SQL argument";
527         return;
528     }
529     $offset = 0    unless $offset;
530     $limit  = 999999 unless $limit;
531     $debug and print STDERR "execute_query($sql, $offset, $limit)\n";
532     if ($sql =~ /;?\W?(UPDATE|DELETE|DROP|INSERT|SHOW|CREATE)\W/i) {
533         return (undef, {  sqlerr => $1} );
534     } elsif ($sql !~ /^\s*SELECT\b\s*/i) {
535         return (undef, { queryerr => 'Missing SELECT'} );
536     }
537
538     my ($useroffset, $userlimit);
539
540     # Grab offset/limit from user supplied LIMIT and drop the LIMIT so we can control pagination
541     ($sql, $useroffset, $userlimit) = strip_limit($sql);
542     $debug and warn sprintf "User has supplied (OFFSET,) LIMIT = %s, %s",
543         $useroffset,
544         (defined($userlimit ) ? $userlimit  : 'UNDEF');
545     $offset += $useroffset;
546     if (defined($userlimit)) {
547         if ($offset + $limit > $userlimit ) {
548             $limit = $userlimit - $offset;
549         } elsif ( ! $offset && $limit < $userlimit ) {
550             $limit = $userlimit;
551         }
552     }
553     $sql .= " LIMIT ?, ?";
554
555     my $dbh = C4::Context->dbh;
556
557     $dbh->do( 'UPDATE saved_sql SET last_run = NOW() WHERE id = ?', undef, $report_id ) if $report_id;
558
559     my $sth = $dbh->prepare($sql);
560     $sth->execute(@$sql_params, $offset, $limit);
561
562     return ( $sth, { queryerr => $sth->errstr } ) if ($sth->err);
563     return ( $sth );
564 }
565
566 =head2 save_report($sql,$name,$type,$notes)
567
568 Given some sql and a name this will saved it so that it can reused
569 Returns id of the newly created report
570
571 =cut
572
573 sub save_report {
574     my ($fields) = @_;
575     my $borrowernumber = $fields->{borrowernumber};
576     my $sql = $fields->{sql};
577     my $name = $fields->{name};
578     my $type = $fields->{type};
579     my $notes = $fields->{notes};
580     my $area = $fields->{area};
581     my $group = $fields->{group};
582     my $subgroup = $fields->{subgroup};
583     my $cache_expiry = $fields->{cache_expiry} || 300;
584     my $public = $fields->{public};
585
586     my $dbh = C4::Context->dbh();
587     $sql =~ s/(\s*\;\s*)$//;    # removes trailing whitespace and /;/
588     my $query = "INSERT INTO saved_sql (borrowernumber,date_created,last_modified,savedsql,report_name,report_area,report_group,report_subgroup,type,notes,cache_expiry,public)  VALUES (?,now(),now(),?,?,?,?,?,?,?,?,?)";
589     $dbh->do($query, undef, $borrowernumber, $sql, $name, $area, $group, $subgroup, $type, $notes, $cache_expiry, $public);
590
591     my $id = $dbh->selectrow_array("SELECT max(id) FROM saved_sql WHERE borrowernumber=? AND report_name=?", undef,
592                                    $borrowernumber, $name);
593     return $id;
594 }
595
596 sub update_sql {
597     my $id         = shift || croak "No Id given";
598     my $fields     = shift;
599     my $sql = $fields->{sql};
600     my $name = $fields->{name};
601     my $notes = $fields->{notes};
602     my $group = $fields->{group};
603     my $subgroup = $fields->{subgroup};
604     my $cache_expiry = $fields->{cache_expiry};
605     my $public = $fields->{public};
606
607     if( $cache_expiry >= 2592000 ){
608       die "Please specify a cache expiry less than 30 days\n";
609     }
610
611     my $dbh        = C4::Context->dbh();
612     $sql =~ s/(\s*\;\s*)$//;    # removes trailing whitespace and /;/
613     my $query = "UPDATE saved_sql SET savedsql = ?, last_modified = now(), report_name = ?, report_group = ?, report_subgroup = ?, notes = ?, cache_expiry = ?, public = ? WHERE id = ? ";
614     $dbh->do($query, undef, $sql, $name, $group, $subgroup, $notes, $cache_expiry, $public, $id );
615 }
616
617 sub store_results {
618     my ( $id, $json ) = @_;
619     my $dbh = C4::Context->dbh();
620     $dbh->do(q|
621         INSERT INTO saved_reports ( report_id, report, date_run ) VALUES ( ?, ?, NOW() );
622     |, undef, $id, $json );
623 }
624
625 sub format_results {
626     my ( $id ) = @_;
627     my $dbh = C4::Context->dbh();
628     my ( $report_name, $notes, $json, $date_run ) = $dbh->selectrow_array(q|
629        SELECT ss.report_name, ss.notes, sr.report, sr.date_run
630        FROM saved_sql ss
631        LEFT JOIN saved_reports sr ON sr.report_id = ss.id
632        WHERE sr.id = ?
633     |, undef, $id);
634     return {
635         report_name => $report_name,
636         notes => $notes,
637         results => from_json( $json ),
638         date_run => $date_run,
639     };
640 }
641
642 sub delete_report {
643     my (@ids) = @_;
644     return unless @ids;
645     foreach my $id (@ids) {
646         my $data = Koha::Reports->find($id);
647         logaction( "REPORTS", "DELETE", $id, $data->report_name." | ".$data->savedsql ) if C4::Context->preference("ReportsLog");
648     }
649     my $dbh = C4::Context->dbh;
650     my $query = 'DELETE FROM saved_sql WHERE id IN (' . join( ',', ('?') x @ids ) . ')';
651     my $sth = $dbh->prepare($query);
652     return $sth->execute(@ids);
653 }
654
655 sub get_saved_reports_base_query {
656     my $area_name_sql_snippet = get_area_name_sql_snippet;
657     return <<EOQ;
658 SELECT s.*, $area_name_sql_snippet, av_g.lib AS groupname, av_sg.lib AS subgroupname,
659 b.firstname AS borrowerfirstname, b.surname AS borrowersurname
660 FROM saved_sql s
661 LEFT JOIN saved_reports r ON r.report_id = s.id
662 LEFT OUTER JOIN authorised_values av_g ON (av_g.category = 'REPORT_GROUP' AND av_g.authorised_value = s.report_group)
663 LEFT OUTER JOIN authorised_values av_sg ON (av_sg.category = 'REPORT_SUBGROUP' AND av_sg.lib_opac = s.report_group AND av_sg.authorised_value = s.report_subgroup)
664 LEFT OUTER JOIN borrowers b USING (borrowernumber)
665 EOQ
666 }
667
668 sub get_saved_reports {
669 # $filter is either { date => $d, author => $a, keyword => $kw, }
670 # or $keyword. Optional.
671     my ($filter) = @_;
672     $filter = { keyword => $filter } if $filter && !ref( $filter );
673     my ($group, $subgroup) = @_;
674
675     my $dbh   = C4::Context->dbh();
676     my $query = get_saved_reports_base_query;
677     my (@cond,@args);
678     if ($filter) {
679         if (my $date = $filter->{date}) {
680             $date = eval { output_pref( { dt => dt_from_string( $date ), dateonly => 1, dateformat => 'iso' }); };
681             push @cond, "DATE(last_modified) = ? OR
682                          DATE(last_run) = ?";
683             push @args, $date, $date, $date;
684         }
685         if (my $author = $filter->{author}) {
686             $author = "%$author%";
687             push @cond, "surname LIKE ? OR
688                          firstname LIKE ?";
689             push @args, $author, $author;
690         }
691         if (my $keyword = $filter->{keyword}) {
692             push @cond, q|
693                        report LIKE ?
694                     OR report_name LIKE ?
695                     OR notes LIKE ?
696                     OR savedsql LIKE ?
697                     OR s.id = ?
698             |;
699             push @args, "%$keyword%", "%$keyword%", "%$keyword%", "%$keyword%", $keyword;
700         }
701         if ($filter->{group}) {
702             push @cond, "report_group = ?";
703             push @args, $filter->{group};
704         }
705         if ($filter->{subgroup}) {
706             push @cond, "report_subgroup = ?";
707             push @args, $filter->{subgroup};
708         }
709     }
710     $query .= " WHERE ".join( " AND ", map "($_)", @cond ) if @cond;
711     $query .= " GROUP BY s.id, s.borrowernumber, s.date_created, s.last_modified, s.savedsql, s.last_run, s.report_name, s.type, s.notes, s.cache_expiry, s.public, s.report_area, s.report_group, s.report_subgroup, s.mana_id, av_g.lib, av_sg.lib, b.firstname, b.surname";
712     $query .= " ORDER by date_created";
713
714     my $result = $dbh->selectall_arrayref($query, {Slice => {}}, @args);
715
716     return $result;
717 }
718
719 =head2 get_column_type($column)
720
721 This takes a column name of the format table.column and will return what type it is
722 (free text, set values, date)
723
724 =cut
725
726 sub get_column_type {
727         my ($tablecolumn) = @_;
728         my ($table,$column) = split(/\./,$tablecolumn);
729         my $dbh = C4::Context->dbh();
730         my $catalog;
731         my $schema;
732
733     # mysql doesn't support a column selection, set column to %
734         my $tempcolumn='%';
735         my $sth = $dbh->column_info( $catalog, $schema, $table, $tempcolumn ) || die $dbh->errstr;
736         while (my $info = $sth->fetchrow_hashref()){
737                 if ($info->{'COLUMN_NAME'} eq $column){
738                         #column we want
739                         if ($info->{'TYPE_NAME'} eq 'CHAR' || $info->{'TYPE_NAME'} eq 'VARCHAR'){
740                                 $info->{'TYPE_NAME'} = 'distinct';
741                         }
742                         return $info->{'TYPE_NAME'};            
743                 }
744         }
745 }
746
747 =head2 get_distinct_values($column)
748
749 Given a column name, return an arrary ref of hashrefs suitable for use as a tmpl_loop 
750 with the distinct values of the column
751
752 =cut
753
754 sub get_distinct_values {
755         my ($tablecolumn) = @_;
756         my ($table,$column) = split(/\./,$tablecolumn);
757         my $dbh = C4::Context->dbh();
758         my $query =
759           "SELECT distinct($column) as availablevalues FROM $table";
760         my $sth = $dbh->prepare($query);
761         $sth->execute();
762     return $sth->fetchall_arrayref({});
763 }       
764
765 sub save_dictionary {
766     my ( $name, $description, $sql, $area ) = @_;
767     my $dbh   = C4::Context->dbh();
768     my $query = "INSERT INTO reports_dictionary (name,description,saved_sql,report_area,date_created,date_modified)
769   VALUES (?,?,?,?,now(),now())";
770     my $sth = $dbh->prepare($query);
771     $sth->execute($name,$description,$sql,$area) || return 0;
772     return 1;
773 }
774
775 sub get_from_dictionary {
776     my ( $area, $id ) = @_;
777     my $dbh   = C4::Context->dbh();
778     my $area_name_sql_snippet = get_area_name_sql_snippet;
779     my $query = <<EOQ;
780 SELECT d.*, $area_name_sql_snippet
781 FROM reports_dictionary d
782 EOQ
783
784     if ($area) {
785         $query .= " WHERE report_area = ?";
786     } elsif ($id) {
787         $query .= " WHERE id = ?";
788     }
789     my $sth = $dbh->prepare($query);
790     if ($id) {
791         $sth->execute($id);
792     } elsif ($area) {
793         $sth->execute($area);
794     } else {
795         $sth->execute();
796     }
797     my @loop;
798     while ( my $data = $sth->fetchrow_hashref() ) {
799         push @loop, $data;
800     }
801     return ( \@loop );
802 }
803
804 sub delete_definition {
805         my ($id) = @_ or return;
806         my $dbh = C4::Context->dbh();
807         my $query = "DELETE FROM reports_dictionary WHERE id = ?";
808         my $sth = $dbh->prepare($query);
809         $sth->execute($id);
810 }
811
812 =head2 get_sql($report_id)
813
814 Given a report id, return the SQL statement for that report.
815 Otherwise, it just returns.
816
817 =cut
818
819 sub get_sql {
820         my ($id) = @_ or return;
821         my $dbh = C4::Context->dbh();
822         my $query = "SELECT * FROM saved_sql WHERE id = ?";
823         my $sth = $dbh->prepare($query);
824         $sth->execute($id);
825         my $data=$sth->fetchrow_hashref();
826         return $data->{'savedsql'};
827 }
828
829 sub get_results {
830     my ( $report_id ) = @_;
831     my $dbh = C4::Context->dbh;
832     return $dbh->selectall_arrayref(q|
833         SELECT id, report, date_run
834         FROM saved_reports
835         WHERE report_id = ?
836     |, { Slice => {} }, $report_id);
837 }
838
839 sub _get_column_defs {
840     my ($cgi) = @_;
841     my %columns;
842     my $columns_def_file = "columns.def";
843     my $htdocs = C4::Context->config('intrahtdocs');
844     my $section = 'intranet';
845
846     # We need the theme and the lang
847     # Since columns.def is not in the modules directory, we cannot sent it for the $tmpl var
848     my ($theme, $lang, $availablethemes) = C4::Templates::themelanguage($htdocs, 'about.tt', $section, $cgi);
849
850     my $full_path_to_columns_def_file="$htdocs/$theme/$lang/$columns_def_file";
851     open (my $fh, '<:encoding(utf-8)', $full_path_to_columns_def_file);
852     while ( my $input = <$fh> ){
853         chomp $input;
854         if ( $input =~ m|<field name="(.*)">(.*)</field>| ) {
855             my ( $field, $translation ) = ( $1, $2 );
856             $columns{$field} = $translation;
857         }
858     }
859     close $fh;
860     return \%columns;
861 }
862
863 =head2 GetReservedAuthorisedValues
864
865     my %reserved_authorised_values = GetReservedAuthorisedValues();
866
867 Returns a hash containig all reserved words
868
869 =cut
870
871 sub GetReservedAuthorisedValues {
872     my %reserved_authorised_values =
873             map { $_ => 1 } ( 'date',
874                               'branches',
875                               'itemtypes',
876                               'cn_source',
877                               'categorycode',
878                               'biblio_framework' );
879
880    return \%reserved_authorised_values;
881 }
882
883
884 =head2 IsAuthorisedValueValid
885
886     my $is_valid_ath_value = IsAuthorisedValueValid($authorised_value)
887
888 Returns 1 if $authorised_value is on the reserved authorised values list or
889 in the authorised value categories defined in
890
891 =cut
892
893 sub IsAuthorisedValueValid {
894
895     my $authorised_value = shift;
896     my $reserved_authorised_values = GetReservedAuthorisedValues();
897
898     if ( exists $reserved_authorised_values->{$authorised_value} ||
899          Koha::AuthorisedValues->search({ category => $authorised_value })->count ) {
900         return 1;
901     }
902
903     return 0;
904 }
905
906 =head2 GetParametersFromSQL
907
908     my @sql_parameters = GetParametersFromSQL($sql)
909
910 Returns an arrayref of hashes containing the keys name and authval
911
912 =cut
913
914 sub GetParametersFromSQL {
915
916     my $sql = shift ;
917     my @split = split(/<<|>>/,$sql);
918     my @sql_parameters = ();
919
920     for ( my $i = 0; $i < ($#split/2) ; $i++ ) {
921         my ($name,$authval) = split(/\|/,$split[$i*2+1]);
922         $authval =~ s/\:all$// if $authval;
923         push @sql_parameters, { 'name' => $name, 'authval' => $authval };
924     }
925
926     return \@sql_parameters;
927 }
928
929 =head2 ValidateSQLParameters
930
931     my @problematic_parameters = ValidateSQLParameters($sql)
932
933 Returns an arrayref of hashes containing the keys name and authval of
934 those SQL parameters that do not correspond to valid authorised names
935
936 =cut
937
938 sub ValidateSQLParameters {
939
940     my $sql = shift;
941     my @problematic_parameters = ();
942     my $sql_parameters = GetParametersFromSQL($sql);
943
944     foreach my $sql_parameter (@$sql_parameters) {
945         if ( defined $sql_parameter->{'authval'} ) {
946             push @problematic_parameters, $sql_parameter unless
947                 IsAuthorisedValueValid($sql_parameter->{'authval'});
948         }
949     }
950
951     return \@problematic_parameters;
952 }
953
954 =head2 EmailReport
955
956     my ( $emails, $arrayrefs ) = EmailReport($report_id, $letter_code, $module, $branch, $email)
957
958 Take a report and use it to process a Template Toolkit formatted notice
959 Returns arrayrefs containing prepared letters and errors respectively
960
961 =cut
962
963 sub EmailReport {
964
965     my $params     = shift;
966     my $report_id  = $params->{report_id};
967     my $from       = $params->{from};
968     my $email_col  = $params->{email} || 'email';
969     my $module     = $params->{module};
970     my $code       = $params->{code};
971     my $branch     = $params->{branch} || "";
972
973     my @errors = ();
974     my @emails = ();
975
976     return ( undef, [{ FATAL => "MISSING_PARAMS" }] ) unless ($report_id && $module && $code);
977
978     return ( undef, [{ FATAL => "NO_LETTER" }] ) unless
979     my $letter = Koha::Notice::Templates->find({
980         module     => $module,
981         code       => $code,
982         branchcode => $branch,
983         message_transport_type => 'email',
984     });
985     $letter = $letter->unblessed;
986
987     my $report = Koha::Reports->find( $report_id );
988     my $sql = $report->savedsql;
989     return ( { FATAL => "NO_REPORT" } ) unless $sql;
990
991     my ( $sth, $errors ) = execute_query( $sql ); #don't pass offset or limit, hardcoded limit of 999,999 will be used
992     return ( undef, [{ FATAL => "REPORT_FAIL" }] ) if $errors;
993
994     my $counter = 1;
995     my $template = $letter->{content};
996
997     while ( my $row = $sth->fetchrow_hashref() ) {
998         my $email;
999         my $err_count = scalar @errors;
1000         push ( @errors, { NO_BOR_COL => $counter } ) unless defined $row->{borrowernumber};
1001         push ( @errors, { NO_EMAIL_COL => $counter } ) unless ( defined $row->{$email_col} );
1002         push ( @errors, { NO_FROM_COL => $counter } ) unless defined ( $from || $row->{from} );
1003         push ( @errors, { NO_BOR => $row->{borrowernumber} } ) unless Koha::Patrons->find({borrowernumber=>$row->{borrowernumber}});
1004
1005         my $from_address = $from || $row->{from};
1006         my $to_address = $row->{$email_col};
1007         push ( @errors, { NOT_PARSE => $counter } ) unless my $content = _process_row_TT( $row, $template );
1008         $counter++;
1009         next if scalar @errors > $err_count; #If any problems, try next
1010
1011         $letter->{content}       = $content;
1012         $email->{borrowernumber} = $row->{borrowernumber};
1013         $email->{letter}         = { %$letter };
1014         $email->{from_address}   = $from_address;
1015         $email->{to_address}     = $to_address;
1016
1017         push ( @emails, $email );
1018     }
1019
1020     return ( \@emails, \@errors );
1021
1022 }
1023
1024
1025
1026 =head2 ProcessRowTT
1027
1028    my $content = ProcessRowTT($row_hashref, $template);
1029
1030 Accepts a hashref containing values and processes them against Template Toolkit
1031 to produce content
1032
1033 =cut
1034
1035 sub _process_row_TT {
1036
1037     my ($row, $template) = @_;
1038
1039     return 0 unless ($row && $template);
1040     my $content;
1041     my $processor = Template->new();
1042     $processor->process( \$template, $row, \$content);
1043     return $content;
1044
1045 }
1046
1047 sub _get_display_value {
1048     my ( $original_value, $column ) = @_;
1049     if ( $column eq 'periodicity' ) {
1050         my $dbh = C4::Context->dbh();
1051         my $query = "SELECT description FROM subscription_frequencies WHERE id = ?";
1052         my $sth   = $dbh->prepare($query);
1053         $sth->execute($original_value);
1054         return $sth->fetchrow;
1055     }
1056     return $original_value;
1057 }
1058
1059
1060 =head3 convert_sql
1061
1062 my $updated_sql = C4::Reports::Guided::convert_sql( $sql );
1063
1064 Convert a sql query using biblioitems.marcxml to use the new
1065 biblio_metadata.metadata field instead
1066
1067 =cut
1068
1069 sub convert_sql {
1070     my ( $sql ) = @_;
1071     my $updated_sql = $sql;
1072     if ( $sql =~ m|biblioitems| and $sql =~ m|marcxml| ) {
1073         $updated_sql =~ s|biblioitems|biblio_metadata|g;
1074         $updated_sql =~ s|marcxml|metadata|g;
1075     }
1076     return $updated_sql;
1077 }
1078
1079 1;
1080 __END__
1081
1082 =head1 AUTHOR
1083
1084 Chris Cormack <crc@liblime.com>
1085
1086 =cut