refactor out the ignoring rules into check_chargable; ignore carrierid rule w/411...
[freeside.git] / FS / FS / part_pkg / voip_cdr.pm
1 package FS::part_pkg::voip_cdr;
2
3 use strict;
4 use vars qw(@ISA $DEBUG %info);
5 use Date::Format;
6 use Tie::IxHash;
7 use FS::Conf;
8 use FS::Record qw(qsearchs qsearch);
9 use FS::part_pkg::flat;
10 use FS::cdr;
11 use FS::rate;
12 use FS::rate_prefix;
13 use FS::rate_detail;
14
15 @ISA = qw(FS::part_pkg::flat);
16
17 $DEBUG = 1;
18
19 tie my %rating_method, 'Tie::IxHash',
20   'prefix' => 'Rate calls by using destination prefix to look up a region and rate according to the internal prefix and rate tables',
21   'upstream' => 'Rate calls based on upstream data: If the call type is "1", map the upstream rate ID directly to an internal rate (rate_detail), otherwise, pass the upstream price through directly.',
22   'upstream_simple' => 'Simply pass through and charge the "upstream_price" amount.',
23 ;
24
25 #tie my %cdr_location, 'Tie::IxHash',
26 #  'internal' => 'Internal: CDR records imported into the internal CDR table',
27 #  'external' => 'External: CDR records queried directly from an external '.
28 #                'Asterisk (or other?) CDR table',
29 #;
30
31 tie my %temporalities, 'Tie::IxHash',
32   'upcoming'  => "Upcoming (future)",
33   'preceding' => "Preceding (past)",
34 ;
35
36 %info = (
37   'name' => 'VoIP rating by plan of CDR records in an internal (or external) SQL table',
38   'shortname' => 'VoIP/telco CDR rating (standard)',
39   'fields' => {
40     'setup_fee'     => { 'name' => 'Setup fee for this package',
41                          'default' => 0,
42                        },
43     'recur_fee'     => { 'name' => 'Base recurring fee for this package',
44                          'default' => 0,
45                        },
46
47     #false laziness w/flat.pm
48     'recur_temporality' => { 'name' => 'Charge recurring fee for period',
49                              'type' => 'select',
50                              'select_options' => \%temporalities,
51                            },
52
53     'unused_credit' => { 'name' => 'Credit the customer for the unused portion'.
54                                    ' of service at cancellation',
55                          'type' => 'checkbox',
56                        },
57
58     'rating_method' => { 'name' => 'Region rating method',
59                          'type' => 'radio',
60                          'options' => \%rating_method,
61                        },
62
63     'ratenum'   => { 'name' => 'Rate plan',
64                      'type' => 'select',
65                      'select_table' => 'rate',
66                      'select_key'   => 'ratenum',
67                      'select_label' => 'ratename',
68                    },
69
70     'ignore_unrateable' => { 'name' => 'Ignore calls without a rate in the rate tables.  By default, the system will throw a fatal error upon encountering unrateable calls.',
71                              'type' => 'checkbox',
72                            },
73
74     'default_prefix' => { 'name'    => 'Default prefix optionally prepended to customer DID numbers when searching for CDR records',
75                           'default' => '+1',
76                         },
77
78     'disable_src' => { 'name' => 'Disable rating of CDR records based on the "src" field in addition to "charged_party"',
79                        'type' => 'checkbox'
80                      },
81
82     'domestic_prefix' => { 'name'    => 'Destination prefix for domestic CDR records',
83                            'default' => '1',
84                          },
85
86 #    'domestic_prefix_required' => { 'name' => 'Require explicit destination prefix for domestic CDR records',
87 #                                    'type' => 'checkbox',
88 #                                  },
89
90     'international_prefix' => { 'name'    => 'Destination prefix for international CDR records',
91                                 'default' => '011',
92                               },
93
94     'disable_tollfree' => { 'name' => 'Disable automatic toll-free processing',
95                             'type' => 'checkbox',
96                           },
97
98     'use_amaflags' => { 'name' => 'Do not charge for CDRs where the amaflags field is not set to "2" ("BILL"/"BILLING").',
99                         'type' => 'checkbox',
100                       },
101
102     'use_disposition' => { 'name' => 'Do not charge for CDRs where the disposition flag is not set to "ANSWERED".',
103                            'type' => 'checkbox',
104                          },
105
106     'use_disposition_taqua' => { 'name' => 'Do not charge for CDRs where the disposition is not set to "100" (Taqua).',
107                                  'type' => 'checkbox',
108                                },
109
110     'use_carrierid' => { 'name' => 'Do not charge for CDRs where the Carrier ID is not set to: ',
111                          },
112
113     'use_cdrtypenum' => { 'name' => 'Do not charge for CDRs where the CDR Type is not set to: ',
114                          },
115
116     'use_duration'   => { 'name' => 'Calculate usage based on the duration field instead of the billsec field',
117                           'type' => 'checkbox',
118                         },
119
120     '411_rewrite' => { 'name' => 'Rewrite these (comma-separated) destination numbers to 411 for rating purposes (also ignore any carrierid check): ',
121                       },
122
123     'output_format' => { 'name' => 'CDR invoice display format',
124                          'type' => 'select',
125                          'select_options' => { FS::cdr::invoice_formats() },
126                          'default'        => 'default', #XXX test
127                        },
128
129     'usage_section' => { 'name' => 'Section in which to place separate usage charges',
130                        },
131
132     'summarize_usage' => { 'name' => 'Include usage summary with recurring charges when usage is in separate section',
133                           'type' => 'checkbox',
134                         },
135
136     'bill_every_call' => { 'name' => 'Generate an invoice immediately for every call.  Useful for prepaid.',
137                            'type' => 'checkbox',
138                          },
139
140     #XXX also have option for an external db
141 #    'cdr_location' => { 'name' => 'CDR database location'
142 #                        'type' => 'select',
143 #                        'select_options' => \%cdr_location,
144 #                        'select_callback' => {
145 #                          'external' => {
146 #                            'enable' => [ 'datasrc', 'username', 'password' ],
147 #                          },
148 #                          'internal' => {
149 #                            'disable' => [ 'datasrc', 'username', 'password' ],
150 #                          }
151 #                        },
152 #                      },
153 #    'datasrc' => { 'name' => 'DBI data source for external CDR table',
154 #                   'disabled' => 'Y',
155 #                 },
156 #    'username' => { 'name' => 'External database username',
157 #                    'disabled' => 'Y',
158 #                  },
159 #    'password' => { 'name' => 'External database password',
160 #                    'disabled' => 'Y',
161 #                  },
162
163   },
164   'fieldorder' => [qw(
165                        setup_fee recur_fee recur_temporality unused_credit
166                        rating_method ratenum ignore_unrateable
167                        default_prefix
168                        disable_src
169                        domestic_prefix international_prefix
170                        disable_tollfree
171                        use_amaflags use_disposition
172                        use_disposition_taqua use_carrierid use_cdrtypenum
173                        use_duration
174                        411_rewrite
175                        output_format summarize_usage usage_section
176                        bill_every_call
177                      )
178                   ],
179   'weight' => 40,
180 );
181
182 sub calc_setup {
183   my($self, $cust_pkg ) = @_;
184   $self->option('setup_fee');
185 }
186
187 #false laziness w/voip_sqlradacct calc_recur resolve it if that one ever gets used again
188 sub calc_recur {
189   my($self, $cust_pkg, $sdate, $details, $param ) = @_;
190
191   #my $last_bill = $cust_pkg->last_bill;
192   my $last_bill = $cust_pkg->get('last_bill'); #->last_bill falls back to setup
193
194   return 0
195     if $self->option('recur_temporality', 1) eq 'preceding' && $last_bill == 0;
196
197   my $ratenum = $cust_pkg->part_pkg->option('ratenum');
198
199   my $spool_cdr = $cust_pkg->cust_main->spool_cdr;
200
201   my %included_min = ();
202
203   my $charges = 0;
204
205   my $downstream_cdr = '';
206
207   my $rating_method = $self->option('rating_method') || 'prefix';
208
209   my $output_format =
210     $self->option('output_format', 'Hush!')
211     || ( $rating_method eq 'upstream_simple' ? 'simple' : 'default' );
212
213   eval "use Text::CSV_XS;";
214   die $@ if $@;
215   my $csv = new Text::CSV_XS;
216
217   foreach my $cust_svc (
218     grep { $_->part_svc->svcdb eq 'svc_phone' } $cust_pkg->cust_svc
219   ) {
220
221     foreach my $cdr (
222       $cust_svc->get_cdrs_for_update( 'disable_src'    => $self->option('disable_src'),
223                                       'default_prefix' => $self->option('default_prefix'),
224                                     )  # $last_bill, $$sdate )
225     ) {
226       if ( $DEBUG > 1 ) {
227         warn "rating CDR $cdr\n".
228              join('', map { "  $_ => ". $cdr->{$_}. "\n" } keys %$cdr );
229       }
230
231       my $rate_detail;
232       my( $rate_region, $regionnum );
233       my $pretty_destnum;
234       my $charge = '';
235       my $classnum = '';
236       my @call_details = ();
237       if ( $rating_method eq 'prefix' ) {
238
239         my $da_rewrite = 0;
240         if ( $self->option('411_rewrite') ) {
241           my $dirass = $self->option('411_rewrite');
242           $dirass =~ s/\s//g;
243           my @dirass = split(',', $dirass);
244           if ( grep $cdr->dst eq $_, @dirass ) {
245             $cdr->dst('411');
246             $da_rewrite = 1;
247           }
248         }
249
250         my $reason = $self->check_chargable( $cdr,
251                                              '411_rewrite' => $da_rewrite,
252                                            );
253
254         if ( $reason ) {
255
256           warn "not charging for CDR ($reason)\n" if $DEBUG;
257           $charge = 0;
258
259         } else {
260           
261           ###
262           # look up rate details based on called station id
263           # (or calling station id for toll free calls)
264           ###
265
266           my( $to_or_from, $number );
267           if ( $cdr->dst =~ /^(\+?1)?8([02-8])\1/
268                && ! $self->option('disable_tollfree')
269               )
270           { #tollfree call
271             $to_or_from = 'from';
272             $number = $cdr->src;
273           } else { #regular call
274             $to_or_from = 'to';
275             $number = $cdr->dst;
276           }
277
278           warn "parsing call $to_or_from $number\n" if $DEBUG;
279
280           #remove non-phone# stuff and whitespace
281           $number =~ s/\s//g;
282 #          my $proto = '';
283 #          $dest =~ s/^(\w+):// and $proto = $1; #sip:
284 #          my $siphost = '';
285 #          $dest =~ s/\@(.*)$// and $siphost = $1; # @10.54.32.1, @sip.example.com
286
287           my $intl = $self->option('international_prefix') || '011';
288
289           #determine the country code
290           my $countrycode;
291           if (    $number =~ /^$intl(((\d)(\d))(\d))(\d+)$/
292                || $number =~ /^\+(((\d)(\d))(\d))(\d+)$/
293              )
294           {
295
296             my( $three, $two, $one, $u1, $u2, $rest ) = ( $1,$2,$3,$4,$5,$6 );
297             #first look for 1 digit country code
298             if ( qsearch('rate_prefix', { 'countrycode' => $one } ) ) {
299               $countrycode = $one;
300               $number = $u1.$u2.$rest;
301             } elsif ( qsearch('rate_prefix', { 'countrycode' => $two } ) ) { #or 2
302               $countrycode = $two;
303               $number = $u2.$rest;
304             } else { #3 digit country code
305               $countrycode = $three;
306               $number = $rest;
307             }
308
309           } else {
310             $countrycode = $self->option('domestic_prefix') || '1';
311             $number =~ s/^$countrycode//;# if length($number) > 10;
312           }
313
314           warn "rating call $to_or_from +$countrycode $number\n" if $DEBUG;
315           $pretty_destnum = "+$countrycode $number";
316
317           my $rate = qsearchs('rate', { 'ratenum' => $ratenum })
318             or die "ratenum $ratenum not found!";
319
320           $rate_detail = $rate->dest_detail({ 'countrycode' => $countrycode,
321                                               'phonenum'    => $number,
322                                             });
323
324           if ( $rate_detail ) {
325
326             warn "  found rate for regionnum $regionnum ".
327                  "and rate detail $rate_detail\n"
328               if $DEBUG;
329             $rate_region = $rate_detail->dest_region;
330             $regionnum = $rate_region->regionnum;
331
332           } elsif ( $self->option('ignore_unrateable', 1) ) {
333
334             $rate_region = '';
335             $regionnum = '';
336             #code below will throw a warning & skip
337
338           } else {
339
340             die "FATAL: no rate_detail found in ".
341                 $rate->ratenum. ":". $rate->ratename. " rate plan ".
342                 "for +$countrycode $number (CDR acctid ". $cdr->acctid. "); ".
343                 "add a rate or set ignore_unrateable flag on the package def\n";
344           }
345
346         }
347
348       } elsif ( $rating_method eq 'upstream' ) { #XXX this was convergent, not currently used.  very much becoming the odd one out. remove?
349
350         if ( $cdr->cdrtypenum == 1 ) { #rate based on upstream rateid
351
352           $rate_detail = $cdr->cdr_upstream_rate->rate_detail;
353
354           $regionnum = $rate_detail->dest_regionnum;
355           $rate_region = $rate_detail->dest_region;
356
357           $pretty_destnum = $cdr->dst;
358
359           warn "  found rate for regionnum $regionnum and ".
360                "rate detail $rate_detail\n"
361             if $DEBUG;
362
363         } else { #pass upstream price through
364
365           $charge = sprintf('%.2f', $cdr->upstream_price);
366           $charges += $charge;
367  
368           @call_details = (
369             #time2str("%Y %b %d - %r", $cdr->calldate_unix ),
370             time2str("%c", $cdr->calldate_unix),  #XXX this should probably be a config option dropdown so they can select US vs- rest of world dates or whatnot
371             'N/A', #minutes...
372             '$'.$charge,
373             #$pretty_destnum,
374             $cdr->description, #$rate_region->regionname,
375           );
376
377         }
378
379       } elsif ( $rating_method eq 'upstream_simple' ) {
380
381         #XXX $charge = sprintf('%.2f', $cdr->upstream_price);
382         $charge = sprintf('%.3f', $cdr->upstream_price);
383         $charges += $charge;
384
385         @call_details = ($cdr->downstream_csv( 'format' => $output_format,
386                                                'charge' => $charge,
387                                              )
388                         );
389         $classnum = $cdr->calltypenum;
390
391       } else {
392         die "don't know how to rate CDRs using method: $rating_method\n";
393       }
394
395       ###
396       # find the price and add detail to the invoice
397       ###
398
399       # if $rate_detail is not found, skip this CDR... i.e. 
400       # don't add it to invoice, don't set its status to done,
401       # don't call downstream_csv or something on it...
402       # but DO emit a warning...
403       #if ( ! $rate_detail && ! scalar(@call_details) ) {}
404       if ( ! $rate_detail && $charge eq '' ) {
405
406         warn "no rate_detail found for CDR.acctid: ". $cdr->acctid.
407              "; skipping\n"
408
409       } else { # there *is* a rate_detail (or call_details), proceed...
410
411         unless ( @call_details || ( $charge ne '' && $charge == 0 ) ) {
412
413           $included_min{$regionnum} = $rate_detail->min_included
414             unless exists $included_min{$regionnum};
415
416           my $granularity = $rate_detail->sec_granularity;
417
418                       # length($cdr->billsec) ? $cdr->billsec : $cdr->duration;
419           my $seconds = $self->option('use_duration')
420                           ? $cdr->duration
421                           : $cdr->billsec;
422
423           $seconds += $granularity - ( $seconds % $granularity )
424             if $seconds      # don't granular-ize 0 billsec calls (bills them)
425             && $granularity; # 0 is per call
426           my $minutes = sprintf("%.1f", $seconds / 60);
427           $minutes =~ s/\.0$// if $granularity == 60;
428
429           # per call rather than per minute
430           $minutes = 1 unless $granularity;
431
432           $included_min{$regionnum} -= $minutes;
433
434           if ( $included_min{$regionnum} < 0 ) {
435             my $charge_min = 0 - $included_min{$regionnum};
436             $included_min{$regionnum} = 0;
437             $charge = sprintf('%.2f', $rate_detail->min_charge * $charge_min );
438             $charges += $charge;
439           }
440
441           # this is why we need regionnum/rate_region....
442           warn "  (rate region $rate_region)\n" if $DEBUG;
443
444           @call_details = (
445            $cdr->downstream_csv( 'format'         => $output_format,
446                                  'granularity'    => $granularity,
447                                  'minutes'        => $minutes,
448                                  'charge'         => $charge,
449                                  'pretty_dst'     => $pretty_destnum,
450                                  'dst_regionname' => $rate_region->regionname,
451                                )
452           );
453
454           $classnum = $rate_detail->classnum;
455
456         }
457
458         if ( $charge > 0 ) {
459           #just use FS::cust_bill_pkg_detail objects?
460           my $call_details;
461
462           #if ( $self->option('rating_method') eq 'upstream_simple' ) {
463           if ( scalar(@call_details) == 1 ) {
464             $call_details = [ 'C', $call_details[0], $charge, $classnum ];
465           } else { #only used for $rating_method eq 'upstream' now
466             $csv->combine(@call_details);
467             $call_details = [ 'C', $csv->string, $charge, $classnum ];
468           }
469           warn "  adding details on charge to invoice: [ ".
470               join(', ', @{$call_details} ). " ]"
471             if ( $DEBUG && ref($call_details) );
472           push @$details, $call_details; #\@call_details,
473         }
474
475         # if the customer flag is on, call "downstream_csv" or something
476         # like it to export the call downstream!
477         # XXX price plan option to pick format, or something...
478         $downstream_cdr .= $cdr->downstream_csv( 'format' => 'convergent' )
479           if $spool_cdr;
480
481         my $error = $cdr->set_status_and_rated_price('done', $charge);
482         die $error if $error;
483
484       }
485
486     } # $cdr
487
488   } # $cust_svc
489
490   unshift @$details, [ 'C', FS::cdr::invoice_header($output_format) ]
491     if @$details && $rating_method ne 'upstream';
492
493   if ( $spool_cdr && length($downstream_cdr) ) {
494
495     use FS::UID qw(datasrc);
496     my $dir = '/usr/local/etc/freeside/export.'. datasrc. '/cdr';
497     mkdir $dir, 0700 unless -d $dir;
498     $dir .= '/'. $cust_pkg->custnum.
499     mkdir $dir, 0700 unless -d $dir;
500     my $filename = time2str("$dir/CDR%Y%m%d-spool.CSV", time); #XXX invoice date instead?  would require changing the order things are generated in cust_main::bill insert cust_bill first - with transactions it could be done though
501
502     push @{ $param->{'precommit_hooks'} },
503          sub {
504                #lock the downstream spool file and append the records 
505                use Fcntl qw(:flock);
506                use IO::File;
507                my $spool = new IO::File ">>$filename"
508                  or die "can't open $filename: $!\n";
509                flock( $spool, LOCK_EX)
510                  or die "can't lock $filename: $!\n";
511                seek($spool, 0, 2)
512                  or die "can't seek to end of $filename: $!\n";
513                print $spool $downstream_cdr;
514                flock( $spool, LOCK_UN );
515                close $spool;
516              };
517
518   } #if ( $spool_cdr && length($downstream_cdr) )
519
520   $charges += $self->option('recur_fee')
521     if $param->{'increment_next_bill'};
522
523   $charges;
524 }
525
526 #returns a reason why not to rate this CDR, or false if the CDR is chargeable
527 sub check_chargable {
528   my( $self, $cdr, %opt ) = @_;
529
530   #should have some better way of checking these options from a hash
531   #or something
532
533   return 'amaflags != 2'
534     if $self->option('use_amaflags') && $cdr->amaflags != 2;
535
536   return 'disposition != ANSWERED'
537     if $self->option('use_disposition') && $cdr->disposition ne 'ANSWERED';
538
539   return "disposition != 100"
540     if $self->option('use_disposition_taqua') && $cdr->disposition != 100;
541
542   return 'carrierid != '. $self->option('use_carrierid')
543     if $self->option('use_carrierid')
544     && $cdr->carrierid != $self->option('use_carrierid')
545     && ! $opt{'411_rewrite'};
546
547   return 'cdrtypenum != '. $self->option('use_cdrtypenum')
548     if $self->option('use_cdrtypenum')
549     && $cdr->cdrtypenum != $self->option('use_cdrtypenum');
550
551   #all right then, rate it
552   '';
553 }
554
555 sub is_free {
556   0;
557 }
558
559 sub base_recur {
560   my($self, $cust_pkg) = @_;
561   $self->option('recur_fee');
562 }
563
564 #  This equates svc_phone records; perhaps svc_phone should have a field
565 #  to indicate it represents a line
566 sub calc_units {    
567   my($self, $cust_pkg ) = @_;
568   scalar(grep { $_->part_svc->svcdb eq 'svc_phone' } $cust_pkg->cust_svc);
569 }
570
571 1;
572