Bug 17047: SQL reports management with Mana-KB
[koha.git] / reports / guided_reports.pl
1 #!/usr/bin/perl
2
3 # Copyright 2007 Liblime ltd
4 #
5 # This file is part of Koha.
6 #
7 # Koha is free software; you can redistribute it and/or modify it
8 # under the terms of the GNU General Public License as published by
9 # the Free Software Foundation; either version 3 of the License, or
10 # (at your option) any later version.
11 #
12 # Koha is distributed in the hope that it will be useful, but
13 # WITHOUT ANY WARRANTY; without even the implied warranty of
14 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
15 # GNU General Public License for more details.
16 #
17 # You should have received a copy of the GNU General Public License
18 # along with Koha; if not, see <http://www.gnu.org/licenses>.
19
20 use Modern::Perl;
21 use CGI qw/-utf8/;
22 use Text::CSV::Encoded;
23 use Encode qw( decode );
24 use URI::Escape;
25 use File::Temp;
26 use File::Basename qw( dirname );
27 use C4::Reports::Guided;
28 use Koha::Reports;
29 use C4::Auth qw/:DEFAULT get_session/;
30 use C4::Output;
31 use C4::Debug;
32 use C4::Context;
33 use Koha::Caches;
34 use C4::Log;
35 use Koha::DateUtils qw/dt_from_string output_pref/;
36 use Koha::AuthorisedValue;
37 use Koha::AuthorisedValues;
38 use Koha::BiblioFrameworks;
39 use Koha::Libraries;
40 use Koha::Patron::Categories;
41 use Koha::SharedContent;
42
43 =head1 NAME
44
45 guided_reports.pl
46
47 =head1 DESCRIPTION
48
49 Script to control the guided report creation
50
51 =cut
52
53 my $input = new CGI;
54 my $usecache = Koha::Caches->get_instance->memcached_cache;
55
56 my $phase = $input->param('phase') // '';
57 my $flagsrequired;
58 if ( ( $phase eq 'Build new' ) || ( $phase eq 'Create report from SQL' ) || ( $phase eq 'Edit SQL' ) ){
59     $flagsrequired = 'create_reports';
60 }
61 elsif ( $phase eq 'Use saved' ) {
62     $flagsrequired = 'execute_reports';
63 }
64 elsif ( $phase eq 'Delete Saved' ) {
65     $flagsrequired = 'delete_reports';
66 }
67 else {
68     $flagsrequired = '*';
69 }
70
71 my ( $template, $borrowernumber, $cookie ) = get_template_and_user(
72     {
73         template_name   => "reports/guided_reports_start.tt",
74         query           => $input,
75         type            => "intranet",
76         authnotrequired => 0,
77         flagsrequired   => { reports => $flagsrequired },
78         debug           => 1,
79     }
80 );
81 my $session = $cookie ? get_session($cookie->value) : undef;
82
83 my $filter;
84 if ( $input->param("filter_set") or $input->param('clear_filters') ) {
85     $filter = {};
86     $filter->{$_} = $input->param("filter_$_") foreach qw/date author keyword group subgroup/;
87     $session->param('report_filter', $filter) if $session;
88     $template->param( 'filter_set' => 1 );
89 }
90 elsif ($session and not $input->param('clear_filters')) {
91     $filter = $session->param('report_filter');
92 }
93
94 my $op = $input->param('op') || q||;
95
96 my @errors = ();
97 if ( !$phase ) {
98     $template->param( 'start' => 1 );
99     # show welcome page
100 }
101 elsif ( $phase eq 'Build new' ) {
102     # build a new report
103     $template->param( 'build1' => 1 );
104     $template->param(
105         'areas'        => get_report_areas(),
106         'usecache'     => $usecache,
107         'cache_expiry' => 300,
108         'public'       => '0',
109     );
110 } elsif ( $phase eq 'Use saved' ) {
111
112     if ( $op eq 'convert' ) {
113         my $report_id = $input->param('report_id');
114         my $report    = Koha::Reports->find($report_id);
115         if ($report) {
116             my $updated_sql = C4::Reports::Guided::convert_sql( $report->savedsql );
117             C4::Reports::Guided::update_sql(
118                 $report_id,
119                 {
120                     sql          => $updated_sql,
121                     name         => $report->report_name,
122                     group        => $report->report_group,
123                     subgroup     => $report->report_subgroup,
124                     notes        => $report->notes,
125                     public       => $report->public,
126                     cache_expiry => $report->cache_expiry,
127                 }
128             );
129             $template->param( report_converted => $report->report_name );
130         }
131     }
132
133     # use a saved report
134     # get list of reports and display them
135     my $group = $input->param('group');
136     my $subgroup = $input->param('subgroup');
137     $filter->{group} = $group;
138     $filter->{subgroup} = $subgroup;
139     my $reports = get_saved_reports($filter);
140     my $has_obsolete_reports;
141     for my $report ( @$reports ) {
142         $report->{results} = C4::Reports::Guided::get_results( $report->{id} );
143         if ( $report->{savedsql} =~ m|biblioitems| and $report->{savedsql} =~ m|marcxml| ) {
144             $report->{seems_obsolete} = 1;
145             $has_obsolete_reports++;
146         }
147     }
148     $template->param(
149         'manamsg' => $input->param('manamsg') || '',
150         'saved1'                => 1,
151         'savedreports'          => $reports,
152         'usecache'              => $usecache,
153         'groups_with_subgroups' => groups_with_subgroups( $group, $subgroup ),
154         filters                 => $filter,
155         has_obsolete_reports    => $has_obsolete_reports,
156     );
157 }
158
159 elsif ( $phase eq 'Delete Multiple') {
160     my @ids = $input->multi_param('ids');
161     delete_report( @ids );
162     print $input->redirect("/cgi-bin/koha/reports/guided_reports.pl?phase=Use%20saved");
163     exit;
164 }
165
166 elsif ( $phase eq 'Delete Saved') {
167         
168         # delete a report from the saved reports list
169     my $ids = $input->param('reports');
170     delete_report($ids);
171     print $input->redirect("/cgi-bin/koha/reports/guided_reports.pl?phase=Use%20saved");
172         exit;
173 }               
174
175 elsif ( $phase eq 'Show SQL'){
176         
177     my $id = $input->param('reports');
178     my $report = Koha::Reports->find($id);
179     $template->param(
180         'id'      => $id,
181         'reportname' => $report->report_name,
182         'notes'      => $report->notes,
183         'sql'     => $report->savedsql,
184         'showsql' => 1,
185         'mana_success' => $input->param('mana_success'),
186         'mana_success' => scalar $input->param('mana_success'),
187         'mana_id' => $report->{mana_id},
188         'mana_comments' => $report->{comments}
189     );
190 }
191
192 elsif ( $phase eq 'Edit SQL'){
193     my $id = $input->param('reports');
194     my $report = Koha::Reports->find($id);
195     my $group = $report->report_group;
196     my $subgroup  = $report->report_subgroup;
197     $template->param(
198         'sql'        => $report->savedsql,
199         'reportname' => $report->report_name,
200         'groups_with_subgroups' => groups_with_subgroups($group, $subgroup),
201         'notes'      => $report->notes,
202         'id'         => $id,
203         'cache_expiry' => $report->cache_expiry,
204         'public' => $report->public,
205         'usecache' => $usecache,
206         'editsql'    => 1,
207         'mana_id' => $report->{mana_id},
208         'mana_comments' => $report->{comments}
209     );
210 }
211
212 elsif ( $phase eq 'Update SQL'){
213     my $id         = $input->param('id');
214     my $sql        = $input->param('sql');
215     my $reportname = $input->param('reportname');
216     my $group      = $input->param('group');
217     my $subgroup   = $input->param('subgroup');
218     my $notes      = $input->param('notes');
219     my $cache_expiry = $input->param('cache_expiry');
220     my $cache_expiry_units = $input->param('cache_expiry_units');
221     my $public = $input->param('public');
222     my $save_anyway = $input->param('save_anyway');
223
224     my @errors;
225
226     # if we have the units, then we came from creating a report from SQL and thus need to handle converting units
227     if( $cache_expiry_units ){
228       if( $cache_expiry_units eq "minutes" ){
229         $cache_expiry *= 60;
230       } elsif( $cache_expiry_units eq "hours" ){
231         $cache_expiry *= 3600; # 60 * 60
232       } elsif( $cache_expiry_units eq "days" ){
233         $cache_expiry *= 86400; # 60 * 60 * 24
234       }
235     }
236     # check $cache_expiry isn't too large, Memcached::set requires it to be less than 30 days or it will be treated as if it were an absolute time stamp
237     if( $cache_expiry >= 2592000 ){
238       push @errors, {cache_expiry => $cache_expiry};
239     }
240
241     create_non_existing_group_and_subgroup($input, $group, $subgroup);
242
243     if ($sql =~ /;?\W?(UPDATE|DELETE|DROP|INSERT|SHOW|CREATE)\W/i) {
244         push @errors, {sqlerr => $1};
245     }
246     elsif ($sql !~ /^(SELECT)/i) {
247         push @errors, {queryerr => "No SELECT"};
248     }
249
250     if (@errors) {
251         $template->param(
252             'errors'    => \@errors,
253             'sql'       => $sql,
254         );
255     } else {
256
257         # Check defined SQL parameters for authorised value validity
258         my $problematic_authvals = ValidateSQLParameters($sql);
259
260         if ( scalar @$problematic_authvals > 0 && not $save_anyway ) {
261             # There's at least one problematic parameter, report to the
262             # GUI and provide all user input for further actions
263             $template->param(
264                 'id' => $id,
265                 'sql' => $sql,
266                 'reportname' => $reportname,
267                 'group' => $group,
268                 'subgroup' => $subgroup,
269                 'notes' => $notes,
270                 'public' => $public,
271                 'problematic_authvals' => $problematic_authvals,
272                 'warn_authval_problem' => 1,
273                 'phase_update' => 1
274             );
275
276         } else {
277             # No params problem found or asked to save anyway
278             update_sql( $id, {
279                     sql => $sql,
280                     name => $reportname,
281                     group => $group,
282                     subgroup => $subgroup,
283                     notes => $notes,
284                     public => $public,
285                     cache_expiry => $cache_expiry,
286                 } );
287             $template->param(
288                 'save_successful'       => 1,
289                 'reportname'            => $reportname,
290                 'id'                    => $id,
291                 'editsql'               => 1,
292                 'sql'                   => $sql,
293                 'groups_with_subgroups' => groups_with_subgroups($group, $subgroup),
294                 'notes'                 => $notes,
295                 'cache_expiry'          => $cache_expiry,
296                 'public'                => $public,
297                 'usecache'              => $usecache,
298             );
299             logaction( "REPORTS", "MODIFY", $id, "$reportname | $sql" ) if C4::Context->preference("ReportsLog");
300         }
301         if ( $usecache ) {
302             $template->param(
303                 cache_expiry => $cache_expiry,
304                 cache_expiry_units => $cache_expiry_units,
305             );
306         }
307     }
308 }
309
310 elsif ($phase eq 'retrieve results') {
311     my $id = $input->param('id');
312     my $result = format_results( $id );
313     $template->param(
314         report_name   => $result->{report_name},
315         notes         => $result->{notes},
316         saved_results => $result->{results},
317         date_run      => $result->{date_run},
318     );
319 }
320
321 elsif ( $phase eq 'Report on this Area' ) {
322     my $cache_expiry_units = $input->param('cache_expiry_units'),
323     my $cache_expiry = $input->param('cache_expiry');
324
325     # we need to handle converting units
326     if( $cache_expiry_units eq "minutes" ){
327       $cache_expiry *= 60;
328     } elsif( $cache_expiry_units eq "hours" ){
329       $cache_expiry *= 3600; # 60 * 60
330     } elsif( $cache_expiry_units eq "days" ){
331       $cache_expiry *= 86400; # 60 * 60 * 24
332     }
333     # check $cache_expiry isn't too large, Memcached::set requires it to be less than 30 days or it will be treated as if it were an absolute time stamp
334     if( $cache_expiry >= 2592000 ){ # oops, over the limit of 30 days
335       # report error to user
336       $template->param(
337         'cache_error' => 1,
338         'build1' => 1,
339         'areas'   => get_report_areas(),
340         'cache_expiry' => $cache_expiry,
341         'usecache' => $usecache,
342         'public' => scalar $input->param('public'),
343       );
344     } else {
345       # they have chosen a new report and the area to report on
346       $template->param(
347           'build2' => 1,
348           'area'   => scalar $input->param('area'),
349           'types'  => get_report_types(),
350           'cache_expiry' => $cache_expiry,
351           'public' => scalar $input->param('public'),
352       );
353     }
354 }
355
356 elsif ( $phase eq 'Choose this type' ) {
357     # they have chosen type and area
358     # get area and type and pass them to the template
359     my $area = $input->param('area');
360     my $type = $input->param('types');
361     $template->param(
362         'build3' => 1,
363         'area'   => $area,
364         'type'   => $type,
365         columns  => get_columns($area,$input),
366         'cache_expiry' => scalar $input->param('cache_expiry'),
367         'public' => scalar $input->param('public'),
368     );
369 }
370
371 elsif ( $phase eq 'Choose these columns' ) {
372     # we now know type, area, and columns
373     # next step is the constraints
374     my $area    = $input->param('area');
375     my $type    = $input->param('type');
376     my @columns = $input->multi_param('columns');
377     my $column  = join( ',', @columns );
378
379     $template->param(
380         'build4' => 1,
381         'area'   => $area,
382         'type'   => $type,
383         'column' => $column,
384         definitions => get_from_dictionary($area),
385         criteria    => get_criteria($area,$input),
386         'public' => scalar $input->param('public'),
387     );
388     if ( $usecache ) {
389         $template->param(
390             cache_expiry => scalar $input->param('cache_expiry'),
391             cache_expiry_units => scalar $input->param('cache_expiry_units'),
392         );
393     }
394
395 }
396
397 elsif ( $phase eq 'Choose these criteria' ) {
398     my $area     = $input->param('area');
399     my $type     = $input->param('type');
400     my $column   = $input->param('column');
401     my @definitions = $input->multi_param('definition');
402     my $definition = join (',',@definitions);
403     my @criteria = $input->multi_param('criteria_column');
404     my $query_criteria;
405     foreach my $crit (@criteria) {
406         my $value = $input->param( $crit . "_value" );
407
408         # If value is not defined, then it may be range values
409         if (!defined $value) {
410
411             my $fromvalue = $input->param( "from_" . $crit . "_value" );
412             my $tovalue   = $input->param( "to_"   . $crit . "_value" );
413
414             # If the range values are dates
415             my $fromvalue_dt;
416             $fromvalue_dt = eval { dt_from_string( $fromvalue ); } if ( $fromvalue );
417             my $tovalue_dt;
418             $tovalue_dt = eval { dt_from_string( $tovalue ); } if ($tovalue);
419             if ( $fromvalue_dt && $tovalue_dt ) {
420                 $fromvalue = output_pref( { dt => dt_from_string( $fromvalue_dt ), dateonly => 1, dateformat => 'iso' } );
421                 $tovalue   = output_pref( { dt => dt_from_string( $tovalue_dt ), dateonly => 1, dateformat => 'iso' } );
422             }
423
424             if ($fromvalue && $tovalue) {
425                 $query_criteria .= " AND $crit >= '$fromvalue' AND $crit <= '$tovalue'";
426             }
427
428         } else {
429
430             # If value is a date
431             my $value_dt;
432             $value_dt  =  eval { dt_from_string( $value ); } if ( $value );
433             if ( $value_dt ) {
434                 $value = output_pref( { dt => dt_from_string( $value_dt ), dateonly => 1, dateformat => 'iso' } );
435             }
436             # don't escape runtime parameters, they'll be at runtime
437             if ($value =~ /<<.*>>/) {
438                 $query_criteria .= " AND $crit=$value";
439             } else {
440                 $query_criteria .= " AND $crit='$value'";
441             }
442         }
443     }
444     $template->param(
445         'build5'         => 1,
446         'area'           => $area,
447         'type'           => $type,
448         'column'         => $column,
449         'definition'     => $definition,
450         'criteriastring' => $query_criteria,
451         'public' => scalar $input->param('public'),
452     );
453     if ( $usecache ) {
454         $template->param(
455             cache_expiry => scalar $input->param('cache_expiry'),
456             cache_expiry_units => scalar $input->param('cache_expiry_units'),
457         );
458     }
459
460     # get columns
461     my @columns = split( ',', $column );
462     my @total_by;
463
464     # build structue for use by tmpl_loop to choose columns to order by
465     # need to do something about the order of the order :)
466         # we also want to use the %columns hash to get the plain english names
467     foreach my $col (@columns) {
468         my %total = (name => $col);
469         my @selects = map {+{ value => $_ }} (qw(sum min max avg count));
470         $total{'select'} = \@selects;
471         push @total_by, \%total;
472     }
473
474     $template->param( 'total_by' => \@total_by );
475 }
476
477 elsif ( $phase eq 'Choose these operations' ) {
478     my $area     = $input->param('area');
479     my $type     = $input->param('type');
480     my $column   = $input->param('column');
481     my $criteria = $input->param('criteria');
482         my $definition = $input->param('definition');
483     my @total_by = $input->multi_param('total_by');
484     my $totals;
485     foreach my $total (@total_by) {
486         my $value = $input->param( $total . "_tvalue" );
487         $totals .= "$value($total),";
488     }
489
490     $template->param(
491         'build6'         => 1,
492         'area'           => $area,
493         'type'           => $type,
494         'column'         => $column,
495         'criteriastring' => $criteria,
496         'totals'         => $totals,
497         'definition'     => $definition,
498         'cache_expiry' => scalar $input->param('cache_expiry'),
499         'public' => scalar $input->param('public'),
500     );
501
502     # get columns
503     my @columns = split( ',', $column );
504     my @order_by;
505
506     # build structue for use by tmpl_loop to choose columns to order by
507     # need to do something about the order of the order :)
508     foreach my $col (@columns) {
509         my %order = (name => $col);
510         my @selects = map {+{ value => $_ }} (qw(asc desc));
511         $order{'select'} = \@selects;
512         push @order_by, \%order;
513     }
514
515     $template->param( 'order_by' => \@order_by );
516 }
517
518 elsif ( $phase eq 'Build report' ) {
519
520     # now we have all the info we need and can build the sql
521     my $area     = $input->param('area');
522     my $type     = $input->param('type');
523     my $column   = $input->param('column');
524     my $crit     = $input->param('criteria');
525     my $totals   = $input->param('totals');
526     my $definition = $input->param('definition');
527     my $query_criteria=$crit;
528     # split the columns up by ,
529     my @columns = split( ',', $column );
530     my @order_by = $input->multi_param('order_by');
531
532     my $query_orderby;
533     foreach my $order (@order_by) {
534         my $value = $input->param( $order . "_ovalue" );
535         if ($query_orderby) {
536             $query_orderby .= ",$order $value";
537         }
538         else {
539             $query_orderby = " ORDER BY $order $value";
540         }
541     }
542
543     # get the sql
544     my $sql =
545       build_query( \@columns, $query_criteria, $query_orderby, $area, $totals, $definition );
546     $template->param(
547         'showreport' => 1,
548         'area'       => $area,
549         'sql'        => $sql,
550         'type'       => $type,
551         'cache_expiry' => scalar $input->param('cache_expiry'),
552         'public' => scalar $input->param('public'),
553     );
554 }
555
556 elsif ( $phase eq 'Save' ) {
557     # Save the report that has just been built
558     my $area = $input->param('area');
559     my $sql  = $input->param('sql');
560     my $type = $input->param('type');
561     $template->param(
562         'save' => 1,
563         'area'  => $area,
564         'sql'  => $sql,
565         'type' => $type,
566         'cache_expiry' => scalar $input->param('cache_expiry'),
567         'public' => scalar $input->param('public'),
568         'groups_with_subgroups' => groups_with_subgroups($area), # in case we have a report group that matches area
569     );
570 }
571
572 elsif ( $phase eq 'Save Report' ) {
573     # save the sql pasted in by a user
574     my $area  = $input->param('area');
575     my $group = $input->param('group');
576     my $subgroup = $input->param('subgroup');
577     my $sql   = $input->param('sql');
578     my $name  = $input->param('reportname');
579     my $type  = $input->param('types');
580     my $notes = $input->param('notes');
581     my $cache_expiry = $input->param('cache_expiry');
582     my $cache_expiry_units = $input->param('cache_expiry_units');
583     my $public = $input->param('public');
584     my $save_anyway = $input->param('save_anyway');
585
586
587     # if we have the units, then we came from creating a report from SQL and thus need to handle converting units
588     if( $cache_expiry_units ){
589       if( $cache_expiry_units eq "minutes" ){
590         $cache_expiry *= 60;
591       } elsif( $cache_expiry_units eq "hours" ){
592         $cache_expiry *= 3600; # 60 * 60
593       } elsif( $cache_expiry_units eq "days" ){
594         $cache_expiry *= 86400; # 60 * 60 * 24
595       }
596     }
597     # check $cache_expiry isn't too large, Memcached::set requires it to be less than 30 days or it will be treated as if it were an absolute time stamp
598     if( $cache_expiry && $cache_expiry >= 2592000 ){
599       push @errors, {cache_expiry => $cache_expiry};
600     }
601
602     create_non_existing_group_and_subgroup($input, $group, $subgroup);
603
604     ## FIXME this is AFTER entering a name to save the report under
605     if ($sql =~ /;?\W?(UPDATE|DELETE|DROP|INSERT|SHOW|CREATE)\W/i) {
606         push @errors, {sqlerr => $1};
607     }
608     elsif ($sql !~ /^(SELECT)/i) {
609         push @errors, {queryerr => "No SELECT"};
610     }
611
612     if (@errors) {
613         $template->param(
614             'errors'    => \@errors,
615             'sql'       => $sql,
616             'reportname'=> $name,
617             'type'      => $type,
618             'notes'     => $notes,
619             'cache_expiry' => $cache_expiry,
620             'public'    => $public,
621         );
622     } else {
623         # Check defined SQL parameters for authorised value validity
624         my $problematic_authvals = ValidateSQLParameters($sql);
625
626         if ( scalar @$problematic_authvals > 0 && not $save_anyway ) {
627             # There's at least one problematic parameter, report to the
628             # GUI and provide all user input for further actions
629             $template->param(
630                 'area' => $area,
631                 'group' =>  $group,
632                 'subgroup' => $subgroup,
633                 'sql' => $sql,
634                 'reportname' => $name,
635                 'type' => $type,
636                 'notes' => $notes,
637                 'public' => $public,
638                 'problematic_authvals' => $problematic_authvals,
639                 'warn_authval_problem' => 1,
640                 'phase_save' => 1
641             );
642             if ( $usecache ) {
643                 $template->param(
644                     cache_expiry => $cache_expiry,
645                     cache_expiry_units => $cache_expiry_units,
646                 );
647             }
648         } else {
649             # No params problem found or asked to save anyway
650             my $id = save_report( {
651                     borrowernumber => $borrowernumber,
652                     sql            => $sql,
653                     name           => $name,
654                     area           => $area,
655                     group          => $group,
656                     subgroup       => $subgroup,
657                     type           => $type,
658                     notes          => $notes,
659                     cache_expiry   => $cache_expiry,
660                     public         => $public,
661                 } );
662
663                 logaction( "REPORTS", "ADD", $id, "$name | $sql" ) if C4::Context->preference("ReportsLog");
664             $template->param(
665                 'save_successful' => 1,
666                 'reportname'      => $name,
667                 'id'              => $id,
668                 'editsql'         => 1,
669                 'sql'             => $sql,
670                 'groups_with_subgroups' => groups_with_subgroups($group, $subgroup),
671                 'notes'      => $notes,
672                 'cache_expiry' => $cache_expiry,
673                 'public' => $public,
674                 'usecache' => $usecache,
675             );
676         }
677     }
678 }
679
680 elsif ($phase eq 'Share'){
681     my $result = Koha::SharedContent::send_entity($input->param('mana_language'), $borrowernumber, scalar $input->param('reportid'), 'report');
682     if ( $result ) {
683         print $input->redirect("/cgi-bin/koha/reports/guided_reports.pl?phase=Use%20saved&manamsg=".$result->{msg});
684     }else{
685         print $input->redirect("/cgi-bin/koha/reports/guided_reports.pl?phase=Use%20saved&manamsg=noanswer");
686     }
687 }
688 elsif ($phase eq 'Run this report'){
689     # execute a saved report
690     my $limit      = $input->param('limit') || 20;
691     my $offset     = 0;
692     my $report_id  = $input->param('reports');
693     my @sql_params = $input->multi_param('sql_params');
694     my @param_names = $input->multi_param('param_name');
695
696     # offset algorithm
697     if ($input->param('page')) {
698         $offset = ($input->param('page') - 1) * $limit;
699     }
700
701     $template->param(
702         'limit'   => $limit,
703         'report_id' => $report_id,
704     );
705
706     my ( $sql, $original_sql, $type, $name, $notes );
707     if (my $report = Koha::Reports->find($report_id)) {
708         $sql   = $original_sql = $report->savedsql;
709         $name  = $report->report_name;
710         $notes = $report->notes;
711
712         my @rows = ();
713         my @allrows = ();
714         # if we have at least 1 parameter, and it's not filled, then don't execute but ask for parameters
715         if ($sql =~ /<</ && !@sql_params) {
716             # split on ??. Each odd (2,4,6,...) entry should be a parameter to fill
717             my @split = split /<<|>>/,$sql;
718             my @tmpl_parameters;
719             my @authval_errors;
720             my %uniq_params;
721             for(my $i=0;$i<($#split/2);$i++) {
722                 my ($text,$authorised_value) = split /\|/,$split[$i*2+1];
723                 my $sep = $authorised_value ? "|" : "";
724                 if( defined $uniq_params{$text.$sep.$authorised_value} ){
725                     next;
726                 } else { $uniq_params{$text.$sep.$authorised_value} = "$i"; }
727                 my $input;
728                 my $labelid;
729                 if ( not defined $authorised_value ) {
730                     # no authorised value input, provide a text box
731                     $input = "text";
732                 } elsif ( $authorised_value eq "date" ) {
733                     # require a date, provide a date picker
734                     $input = 'date';
735                 } else {
736                     # defined $authorised_value, and not 'date'
737                     my $dbh=C4::Context->dbh;
738                     my @authorised_values;
739                     my %authorised_lib;
740                     # builds list, depending on authorised value...
741                     if ( $authorised_value eq "branches" ) {
742                         my $libraries = Koha::Libraries->search( {}, { order_by => ['branchname'] } );
743                         while ( my $library = $libraries->next ) {
744                             push @authorised_values, $library->branchcode;
745                             $authorised_lib{$library->branchcode} = $library->branchname;
746                         }
747                     }
748                     elsif ( $authorised_value eq "itemtypes" ) {
749                         my $sth = $dbh->prepare("SELECT itemtype,description FROM itemtypes ORDER BY description");
750                         $sth->execute;
751                         while ( my ( $itemtype, $description ) = $sth->fetchrow_array ) {
752                             push @authorised_values, $itemtype;
753                             $authorised_lib{$itemtype} = $description;
754                         }
755                     }
756                     elsif ( $authorised_value eq "biblio_framework" ) {
757                         my @frameworks = Koha::BiblioFrameworks->search({}, { order_by => ['frameworktext'] });
758                         my $default_source = '';
759                         push @authorised_values,$default_source;
760                         $authorised_lib{$default_source} = 'Default';
761                         foreach my $framework (@frameworks) {
762                             push @authorised_values, $framework->frameworkcode;
763                             $authorised_lib{$framework->frameworkcode} = $framework->frameworktext;
764                         }
765                     }
766                     elsif ( $authorised_value eq "cn_source" ) {
767                         my $class_sources = GetClassSources();
768                         my $default_source = C4::Context->preference("DefaultClassificationSource");
769                         foreach my $class_source (sort keys %$class_sources) {
770                             next unless $class_sources->{$class_source}->{'used'} or
771                                         ($class_source eq $default_source);
772                             push @authorised_values, $class_source;
773                             $authorised_lib{$class_source} = $class_sources->{$class_source}->{'description'};
774                         }
775                     }
776                     elsif ( $authorised_value eq "categorycode" ) {
777                         my @patron_categories = Koha::Patron::Categories->search({}, { order_by => ['description']});
778                         %authorised_lib = map { $_->categorycode => $_->description } @patron_categories;
779                         push @authorised_values, $_->categorycode for @patron_categories;
780                     }
781                     else {
782                         if ( Koha::AuthorisedValues->search({ category => $authorised_value })->count ) {
783                             my $query = '
784                             SELECT authorised_value,lib
785                             FROM authorised_values
786                             WHERE category=?
787                             ORDER BY lib
788                             ';
789                             my $authorised_values_sth = $dbh->prepare($query);
790                             $authorised_values_sth->execute( $authorised_value);
791
792                             while ( my ( $value, $lib ) = $authorised_values_sth->fetchrow_array ) {
793                                 push @authorised_values, $value;
794                                 $authorised_lib{$value} = $lib;
795                                 # For item location, we show the code and the libelle
796                                 $authorised_lib{$value} = $lib;
797                             }
798                         } else {
799                             # not exists $authorised_value_categories{$authorised_value})
800                             push @authval_errors, {'entry' => $text,
801                                                    'auth_val' => $authorised_value };
802                             # tell the template there's an error
803                             $template->param( auth_val_error => 1 );
804                             # skip scrolling list creation and params push
805                             next;
806                         }
807                     }
808                     $labelid = $text;
809                     $labelid =~ s/\W//g;
810                     $input = {
811                         name    => "sql_params",
812                         id      => "sql_params_".$labelid,
813                         values  => \@authorised_values,
814                         labels  => \%authorised_lib,
815                     };
816                 }
817
818                 push @tmpl_parameters, {'entry' => $text, 'input' => $input, 'labelid' => $labelid, 'name' => $text.$sep.$authorised_value };
819             }
820             $template->param('sql'         => $sql,
821                             'name'         => $name,
822                             'sql_params'   => \@tmpl_parameters,
823                             'auth_val_errors'  => \@authval_errors,
824                             'enter_params' => 1,
825                             'reports'      => $report_id,
826                             );
827         } else {
828             my $sql = get_prepped_report( $sql, \@param_names, \@sql_params);
829             my ( $sth, $errors ) = execute_query( $sql, $offset, $limit, undef, $report_id );
830             my ($sth2, $errors2) = execute_query($sql);
831             my $total = nb_rows($sql) || 0;
832             unless ($sth) {
833                 die "execute_query failed to return sth for report $report_id: $sql";
834             } else {
835                 my $headers = header_cell_loop($sth);
836                 $template->param(header_row => $headers);
837                 while (my $row = $sth->fetchrow_arrayref()) {
838                     my @cells = map { +{ cell => $_ } } @$row;
839                     push @rows, { cells => \@cells };
840                 }
841                 while (my $row = $sth2->fetchrow_arrayref()) {
842                     my @cells = map { +{ cell => $_ } } @$row;
843                     push @allrows, { cells => \@cells };
844                 }
845             }
846
847             my $totpages = int($total/$limit) + (($total % $limit) > 0 ? 1 : 0);
848             my $url = "/cgi-bin/koha/reports/guided_reports.pl?reports=$report_id&amp;phase=Run%20this%20report&amp;limit=$limit";
849             if (@param_names) {
850                 $url = join('&amp;param_name=', $url, map { URI::Escape::uri_escape_utf8($_) } @param_names);
851             }
852             if (@sql_params) {
853                 $url = join('&amp;sql_params=', $url, map { URI::Escape::uri_escape_utf8($_) } @sql_params);
854             }
855
856             $template->param(
857                 'results' => \@rows,
858                 'allresults' => \@allrows,
859                 'sql'     => $sql,
860                 original_sql => $original_sql,
861                 'id'      => $report_id,
862                 'execute' => 1,
863                 'name'    => $name,
864                 'notes'   => $notes,
865                 'errors'  => defined($errors) ? [ $errors ] : undef,
866                 'pagination_bar'  => pagination_bar($url, $totpages, scalar $input->param('page')),
867                 'unlimited_total' => $total,
868                 'sql_params'      => \@sql_params,
869                 'param_names'     => \@param_names,
870             );
871         }
872     }
873     else {
874         push @errors, { no_sql_for_id => $report_id };
875     }
876 }
877
878 elsif ($phase eq 'Export'){
879
880         # export results to tab separated text or CSV
881     my $report_id      = $input->param('report_id');
882     my $report         = Koha::Reports->find($report_id);
883     my $sql            = $report->savedsql;
884     my @param_names    = $input->multi_param('param_name');
885     my @sql_params     = $input->multi_param('sql_params');
886     my $format         = $input->param('format');
887     my $reportname     = $input->param('reportname');
888     my $reportfilename = $reportname ? "$reportname-reportresults.$format" : "reportresults.$format" ;
889
890     $sql = get_prepped_report( $sql, \@param_names, \@sql_params );
891         my ($sth, $q_errors) = execute_query($sql);
892     unless ($q_errors and @$q_errors) {
893         my ( $type, $content );
894         if ($format eq 'tab') {
895             $type = 'application/octet-stream';
896             $content .= join("\t", header_cell_values($sth)) . "\n";
897             $content = Encode::decode('UTF-8', $content);
898             while (my $row = $sth->fetchrow_arrayref()) {
899                 $content .= join("\t", @$row) . "\n";
900             }
901         } else {
902             my $delimiter = C4::Context->preference('delimiter') || ',';
903             if ( $format eq 'csv' ) {
904                 $delimiter = "\t" if $delimiter eq 'tabulation';
905                 $type = 'application/csv';
906                 my $csv = Text::CSV::Encoded->new({ encoding_out => 'UTF-8', sep_char => $delimiter});
907                 $csv or die "Text::CSV::Encoded->new({binary => 1}) FAILED: " . Text::CSV::Encoded->error_diag();
908                 if ($csv->combine(header_cell_values($sth))) {
909                     $content .= Encode::decode('UTF-8', $csv->string()) . "\n";
910                 } else {
911                     push @$q_errors, { combine => 'HEADER ROW: ' . $csv->error_diag() } ;
912                 }
913                 while (my $row = $sth->fetchrow_arrayref()) {
914                     if ($csv->combine(@$row)) {
915                         $content .= $csv->string() . "\n";
916                     } else {
917                         push @$q_errors, { combine => $csv->error_diag() } ;
918                     }
919                 }
920             }
921             elsif ( $format eq 'ods' ) {
922                 $type = 'application/vnd.oasis.opendocument.spreadsheet';
923                 my $ods_fh = File::Temp->new( UNLINK => 0 );
924                 my $ods_filepath = $ods_fh->filename;
925
926                 use OpenOffice::OODoc;
927                 my $tmpdir = dirname $ods_filepath;
928                 odfWorkingDirectory( $tmpdir );
929                 my $container = odfContainer( $ods_filepath, create => 'spreadsheet' );
930                 my $doc = odfDocument (
931                     container => $container,
932                     part      => 'content'
933                 );
934                 my $table = $doc->getTable(0);
935                 my @headers = header_cell_values( $sth );
936                 my $rows = $sth->fetchall_arrayref();
937                 my ( $nb_rows, $nb_cols ) = ( 0, 0 );
938                 $nb_rows = @$rows;
939                 $nb_cols = @headers;
940                 $doc->expandTable( $table, $nb_rows + 1, $nb_cols );
941
942                 my $row = $doc->getRow( $table, 0 );
943                 my $j = 0;
944                 for my $header ( @headers ) {
945                     $doc->cellValue( $row, $j, $header );
946                     $j++;
947                 }
948                 my $i = 1;
949                 for ( @$rows ) {
950                     $row = $doc->getRow( $table, $i );
951                     for ( my $j = 0 ; $j < $nb_cols ; $j++ ) {
952                         my $value = Encode::encode( 'UTF8', $rows->[$i - 1][$j] );
953                         $doc->cellValue( $row, $j, $value );
954                     }
955                     $i++;
956                 }
957                 $doc->save();
958                 binmode(STDOUT);
959                 open $ods_fh, '<', $ods_filepath;
960                 $content .= $_ while <$ods_fh>;
961                 unlink $ods_filepath;
962             }
963         }
964         print $input->header(
965             -type => $type,
966             -attachment=> $reportfilename
967         );
968         print $content;
969
970         foreach my $err (@$q_errors, @errors) {
971             print "# ERROR: " . (map {$_ . ": " . $err->{$_}} keys %$err) . "\n";
972         }   # here we print all the non-fatal errors at the end.  Not super smooth, but better than nothing.
973         exit;
974     }
975     $template->param(
976         'sql'           => $sql,
977         'execute'       => 1,
978         'name'          => 'Error exporting report!',
979         'notes'         => '',
980         'errors'        => $q_errors,
981     );
982 }
983
984 elsif ( $phase eq 'Create report from SQL' ) {
985
986     my ($group, $subgroup);
987     # allow the user to paste in sql
988     if ( $input->param('sql') ) {
989         $group = $input->param('report_group');
990         $subgroup  = $input->param('report_subgroup');
991         $template->param(
992             'sql'           => scalar $input->param('sql') // '',
993             'reportname'    => scalar $input->param('reportname') // '',
994             'notes'         => scalar $input->param('notes') // '',
995         );
996     }
997     $template->param(
998         'create' => 1,
999         'groups_with_subgroups' => groups_with_subgroups($group, $subgroup),
1000         'public' => '0',
1001         'cache_expiry' => 300,
1002         'usecache' => $usecache,
1003     );
1004 }
1005
1006 # pass $sth, get back an array of names for the column headers
1007 sub header_cell_values {
1008     my $sth = shift or return ();
1009     return '' unless ($sth->{NAME});
1010     return @{$sth->{NAME}};
1011 }
1012
1013 # pass $sth, get back a TMPL_LOOP-able set of names for the column headers
1014 sub header_cell_loop {
1015     my @headers = map { +{ cell => decode('UTF-8',$_) } } header_cell_values (shift);
1016     return \@headers;
1017 }
1018
1019 foreach (1..6) {
1020      $template->{VARS}->{'build' . $_} and last;
1021 }
1022 $template->param(   'referer' => $input->referer(),
1023                 );
1024
1025 output_html_with_http_headers $input, $cookie, $template->output;
1026
1027 sub groups_with_subgroups {
1028     my ($group, $subgroup) = @_;
1029
1030     my $groups_with_subgroups = get_report_groups();
1031     my @g_sg;
1032     my @sorted_keys = sort {
1033         $groups_with_subgroups->{$a}->{name} cmp $groups_with_subgroups->{$b}->{name}
1034     } keys %$groups_with_subgroups;
1035     foreach my $g_id (@sorted_keys) {
1036         my $v = $groups_with_subgroups->{$g_id};
1037         my @subgroups;
1038         if (my $sg = $v->{subgroups}) {
1039             foreach my $sg_id (sort { $sg->{$a} cmp $sg->{$b} } keys %$sg) {
1040                 push @subgroups, {
1041                     id => $sg_id,
1042                     name => $sg->{$sg_id},
1043                     selected => ($group && $g_id eq $group && $subgroup && $sg_id eq $subgroup ),
1044                 };
1045             }
1046         }
1047         push @g_sg, {
1048             id => $g_id,
1049             name => $v->{name},
1050             selected => ($group && $g_id eq $group),
1051             subgroups => \@subgroups,
1052         };
1053     }
1054     return \@g_sg;
1055 }
1056
1057 sub create_non_existing_group_and_subgroup {
1058     my ($input, $group, $subgroup) = @_;
1059
1060     if (defined $group and $group ne '') {
1061         my $report_groups = C4::Reports::Guided::get_report_groups;
1062         if (not exists $report_groups->{$group}) {
1063             my $groupdesc = $input->param('groupdesc') // $group;
1064             Koha::AuthorisedValue->new({
1065                 category => 'REPORT_GROUP',
1066                 authorised_value => $group,
1067                 lib => $groupdesc,
1068             })->store;
1069         }
1070         if (defined $subgroup and $subgroup ne '') {
1071             if (not exists $report_groups->{$group}->{subgroups}->{$subgroup}) {
1072                 my $subgroupdesc = $input->param('subgroupdesc') // $subgroup;
1073                 Koha::AuthorisedValue->new({
1074                     category => 'REPORT_SUBGROUP',
1075                     authorised_value => $subgroup,
1076                     lib => $subgroupdesc,
1077                     lib_opac => $group,
1078                 })->store;
1079             }
1080         }
1081     }
1082 }
1083
1084 # pass $sth and sql_params, get back an executable query
1085 sub get_prepped_report {
1086     my ($sql, $param_names, $sql_params ) = @_;
1087     my %lookup;
1088     @lookup{@$param_names} = @$sql_params;
1089     my @split = split /<<|>>/,$sql;
1090     my @tmpl_parameters;
1091     for(my $i=0;$i<$#split/2;$i++) {
1092         my $quoted = @$param_names ? $lookup{ $split[$i*2+1] } : @$sql_params[$i];
1093         # if there are special regexp chars, we must \ them
1094         $split[$i*2+1] =~ s/(\||\?|\.|\*|\(|\)|\%)/\\$1/g;
1095         if ($split[$i*2+1] =~ /\|\s*date\s*$/) {
1096             $quoted = output_pref({ dt => dt_from_string($quoted), dateformat => 'iso', dateonly => 1 }) if $quoted;
1097         }
1098         $quoted = C4::Context->dbh->quote($quoted);
1099         $sql =~ s/<<$split[$i*2+1]>>/$quoted/;
1100     }
1101     return $sql;
1102 }