better auto toll free regex
[freeside.git] / FS / FS / part_pkg / voip_cdr.pm
1 package FS::part_pkg::voip_cdr;
2
3 use strict;
4 use vars qw(@ISA $DEBUG %info);
5 use Date::Format;
6 use Tie::IxHash;
7 use FS::Conf;
8 use FS::Record qw(qsearchs qsearch);
9 use FS::part_pkg::flat;
10 use FS::cdr;
11 use FS::rate;
12 use FS::rate_prefix;
13 use FS::rate_detail;
14
15 @ISA = qw(FS::part_pkg::prorate);
16
17 $DEBUG = 0;
18
19 tie my %rating_method, 'Tie::IxHash',
20   'prefix' => 'Rate calls by using destination prefix to look up a region and rate according to the internal prefix and rate tables',
21   'upstream' => 'Rate calls based on upstream data: If the call type is "1", map the upstream rate ID directly to an internal rate (rate_detail), otherwise, pass the upstream price through directly.',
22   'upstream_simple' => 'Simply pass through and charge the "upstream_price" amount.',
23 ;
24
25 #tie my %cdr_location, 'Tie::IxHash',
26 #  'internal' => 'Internal: CDR records imported into the internal CDR table',
27 #  'external' => 'External: CDR records queried directly from an external '.
28 #                'Asterisk (or other?) CDR table',
29 #;
30
31 tie my %temporalities, 'Tie::IxHash',
32   'upcoming'  => "Upcoming (future)",
33   'preceding' => "Preceding (past)",
34 ;
35
36 %info = (
37   'name' => 'VoIP rating by plan of CDR records in an internal (or external) SQL table',
38   'shortname' => 'VoIP/telco CDR rating (standard)',
39   'fields' => {
40     'setup_fee'     => { 'name' => 'Setup fee for this package',
41                          'default' => 0,
42                        },
43     'recur_fee'     => { 'name' => 'Base recurring fee for this package',
44                          'default' => 0,
45                        },
46
47     #false laziness w/flat.pm
48     'recur_temporality' => { 'name' => 'Charge recurring fee for period',
49                              'type' => 'select',
50                              'select_options' => \%temporalities,
51                            },
52
53     'unused_credit' => { 'name' => 'Credit the customer for the unused portion'.
54                                    ' of service at cancellation',
55                          'type' => 'checkbox',
56                        },
57
58     'enable_prorate' => { 'name' => 'Enable prorating of the first month',
59                           'type' => 'checkbox',
60                         },
61
62     'cutoff_day'    => { 'name' => 'Billing Day (1 - 28) for prorating ',
63                          'default' => '1',
64                        },
65
66     'rating_method' => { 'name' => 'Region rating method',
67                          'type' => 'radio',
68                          'options' => \%rating_method,
69                        },
70
71     'ratenum'   => { 'name' => 'Rate plan',
72                      'type' => 'select',
73                      'select_table' => 'rate',
74                      'select_key'   => 'ratenum',
75                      'select_label' => 'ratename',
76                    },
77
78     'ignore_unrateable' => { 'name' => 'Ignore calls without a rate in the rate tables.  By default, the system will throw a fatal error upon encountering unrateable calls.',
79                              'type' => 'checkbox',
80                            },
81
82     'default_prefix' => { 'name'    => 'Default prefix optionally prepended to customer DID numbers when searching for CDR records',
83                           'default' => '+1',
84                         },
85
86     'disable_src' => { 'name' => 'Disable rating of CDR records based on the "src" field in addition to "charged_party"',
87                        'type' => 'checkbox'
88                      },
89
90     'domestic_prefix' => { 'name'    => 'Destination prefix for domestic CDR records',
91                            'default' => '1',
92                          },
93
94 #    'domestic_prefix_required' => { 'name' => 'Require explicit destination prefix for domestic CDR records',
95 #                                    'type' => 'checkbox',
96 #                                  },
97
98     'international_prefix' => { 'name'    => 'Destination prefix for international CDR records',
99                                 'default' => '011',
100                               },
101
102     'disable_tollfree' => { 'name' => 'Disable automatic toll-free processing',
103                             'type' => 'checkbox',
104                           },
105
106     'use_amaflags' => { 'name' => 'Do not charge for CDRs where the amaflags field is not set to "2" ("BILL"/"BILLING").',
107                         'type' => 'checkbox',
108                       },
109
110     'use_disposition' => { 'name' => 'Do not charge for CDRs where the disposition flag is not set to "ANSWERED".',
111                            'type' => 'checkbox',
112                          },
113
114     'use_disposition_taqua' => { 'name' => 'Do not charge for CDRs where the disposition is not set to "100" (Taqua).',
115                                  'type' => 'checkbox',
116                                },
117
118     'use_carrierid' => { 'name' => 'Do not charge for CDRs where the Carrier ID is not set to: ',
119                          },
120
121     'use_cdrtypenum' => { 'name' => 'Do not charge for CDRs where the CDR Type is not set to: ',
122                          },
123
124     'skip_dcontext' => { 'name' => 'Do not charge for CDRs where the dcontext is set to any of these (comma-separated) values:',
125                        },
126
127     'skip_dstchannel_prefix' => { 'name' => 'Do not charge for CDRs where the dstchannel starts with:',
128                                 },
129
130     'skip_dst_length_less' => { 'name' => 'Do not charge for CDRs where the destination is less than this many digits:',
131                               },
132
133     'skip_lastapp' => { 'name' => 'Do not charge for CDRs where the lastapp matches this value',
134                       },
135
136     'use_duration'   => { 'name' => 'Calculate usage based on the duration field instead of the billsec field',
137                           'type' => 'checkbox',
138                         },
139
140     '411_rewrite' => { 'name' => 'Rewrite these (comma-separated) destination numbers to 411 for rating purposes (also ignore any carrierid check): ',
141                       },
142
143     'output_format' => { 'name' => 'CDR invoice display format',
144                          'type' => 'select',
145                          'select_options' => { FS::cdr::invoice_formats() },
146                          'default'        => 'default', #XXX test
147                        },
148
149     'usage_section' => { 'name' => 'Section in which to place separate usage charges',
150                        },
151
152     'summarize_usage' => { 'name' => 'Include usage summary with recurring charges when usage is in separate section',
153                           'type' => 'checkbox',
154                         },
155
156     'bill_every_call' => { 'name' => 'Generate an invoice immediately for every call.  Useful for prepaid.',
157                            'type' => 'checkbox',
158                          },
159
160     'count_available_phones' => { 'name' => 'Consider for tax purposes the number of lines to be svc_phones that may be provisioned rather than those that actually are.',
161                            'type' => 'checkbox',
162                          },
163
164     #XXX also have option for an external db
165 #    'cdr_location' => { 'name' => 'CDR database location'
166 #                        'type' => 'select',
167 #                        'select_options' => \%cdr_location,
168 #                        'select_callback' => {
169 #                          'external' => {
170 #                            'enable' => [ 'datasrc', 'username', 'password' ],
171 #                          },
172 #                          'internal' => {
173 #                            'disable' => [ 'datasrc', 'username', 'password' ],
174 #                          }
175 #                        },
176 #                      },
177 #    'datasrc' => { 'name' => 'DBI data source for external CDR table',
178 #                   'disabled' => 'Y',
179 #                 },
180 #    'username' => { 'name' => 'External database username',
181 #                    'disabled' => 'Y',
182 #                  },
183 #    'password' => { 'name' => 'External database password',
184 #                    'disabled' => 'Y',
185 #                  },
186
187   },
188   'fieldorder' => [qw(
189                        setup_fee recur_fee recur_temporality unused_credit
190                        enable_prorate cutoff_day
191                        rating_method ratenum ignore_unrateable
192                        default_prefix
193                        disable_src
194                        domestic_prefix international_prefix
195                        disable_tollfree
196                        use_amaflags use_disposition
197                        use_disposition_taqua use_carrierid use_cdrtypenum
198                        skip_dcontext skip_dstchannel_prefix
199                        skip_dst_length_less skip_lastapp
200                        use_duration
201                        411_rewrite
202                        output_format summarize_usage usage_section
203                        bill_every_call
204                        count_available_phones
205                      )
206                   ],
207   'weight' => 40,
208 );
209
210 sub calc_setup {
211   my($self, $cust_pkg ) = @_;
212   $self->option('setup_fee');
213 }
214
215 #false laziness w/voip_sqlradacct calc_recur resolve it if that one ever gets used again
216 sub calc_recur {
217   my $self = shift;
218   my($cust_pkg, $sdate, $details, $param ) = @_;
219
220   #my $last_bill = $cust_pkg->last_bill;
221   my $last_bill = $cust_pkg->get('last_bill'); #->last_bill falls back to setup
222
223   return 0
224     if $self->option('recur_temporality', 1) eq 'preceding'
225     && ( $last_bill eq '' || $last_bill == 0 );
226
227   my $ratenum = $cust_pkg->part_pkg->option('ratenum');
228
229   my $spool_cdr = $cust_pkg->cust_main->spool_cdr;
230
231   my %included_min = ();
232
233   my $charges = 0;
234
235   my $downstream_cdr = '';
236
237   my $rating_method     = $self->option('rating_method') || 'prefix';
238   my $intl              = $self->option('international_prefix') || '011';
239   my $domestic_prefix   = $self->option('domestic_prefix');
240   my $disable_tollfree  = $self->option('disable_tollfree');
241   my $ignore_unrateable = $self->option('ignore_unrateable', 'Hush!');
242   my $use_duration      = $self->option('use_duration');
243
244   my $output_format     = $self->option('output_format', 'Hush!')
245                           || ( $rating_method eq 'upstream_simple'
246                                  ? 'simple'
247                                  : 'default'
248                              );
249
250   my @dirass = ();
251   if ( $self->option('411_rewrite') ) {
252     my $dirass = $self->option('411_rewrite');
253     $dirass =~ s/\s//g;
254     @dirass = split(',', $dirass);
255   }
256
257   #for check_chargable, so we don't keep looking up options inside the loop
258   my %opt_cache = ();
259
260   eval "use Text::CSV_XS;";
261   die $@ if $@;
262   my $csv = new Text::CSV_XS;
263
264   foreach my $cust_svc (
265     grep { $_->part_svc->svcdb eq 'svc_phone' } $cust_pkg->cust_svc
266   ) {
267
268     foreach my $cdr (
269       $cust_svc->get_cdrs_for_update(
270         'disable_src'    => $self->option('disable_src'),
271         'default_prefix' => $self->option('default_prefix'),
272       )  # $last_bill, $$sdate )
273     ) {
274       if ( $DEBUG > 1 ) {
275         warn "rating CDR $cdr\n".
276              join('', map { "  $_ => ". $cdr->{$_}. "\n" } keys %$cdr );
277       }
278
279       my $rate_detail;
280       my( $rate_region, $regionnum );
281       my $pretty_destnum;
282       my $charge = '';
283       my $classnum = '';
284       my @call_details = ();
285       if ( $rating_method eq 'prefix' ) {
286
287         my $da_rewrote = 0;
288         if ( length($cdr->dst) && grep { $cdr->dst eq $_ } @dirass ){
289           $cdr->dst('411');
290           $da_rewrote = 1;
291         }
292
293         my $reason = $self->check_chargable( $cdr,
294                                              'da_rewrote'   => $da_rewrote,
295                                              'option_cache' => \%opt_cache,
296                                            );
297
298         if ( $reason ) {
299
300           warn "not charging for CDR ($reason)\n" if $DEBUG;
301           $charge = 0;
302
303         } else {
304           
305           ###
306           # look up rate details based on called station id
307           # (or calling station id for toll free calls)
308           ###
309
310           my( $to_or_from, $number );
311           if ( $cdr->dst =~ /^(\+?1)?8(8|[02-7]{2})/
312                && ! $disable_tollfree
313               )
314           { #tollfree call
315             $to_or_from = 'from';
316             $number = $cdr->src;
317           } else { #regular call
318             $to_or_from = 'to';
319             $number = $cdr->dst;
320           }
321
322           warn "parsing call $to_or_from $number\n" if $DEBUG;
323
324           #remove non-phone# stuff and whitespace
325           $number =~ s/\s//g;
326 #          my $proto = '';
327 #          $dest =~ s/^(\w+):// and $proto = $1; #sip:
328 #          my $siphost = '';
329 #          $dest =~ s/\@(.*)$// and $siphost = $1; # @10.54.32.1, @sip.example.com
330
331           #determine the country code
332           my $countrycode;
333           if (    $number =~ /^$intl(((\d)(\d))(\d))(\d+)$/
334                || $number =~ /^\+(((\d)(\d))(\d))(\d+)$/
335              )
336           {
337
338             my( $three, $two, $one, $u1, $u2, $rest ) = ( $1,$2,$3,$4,$5,$6 );
339             #first look for 1 digit country code
340             if ( qsearch('rate_prefix', { 'countrycode' => $one } ) ) {
341               $countrycode = $one;
342               $number = $u1.$u2.$rest;
343             } elsif ( qsearch('rate_prefix', { 'countrycode' => $two } ) ) { #or 2
344               $countrycode = $two;
345               $number = $u2.$rest;
346             } else { #3 digit country code
347               $countrycode = $three;
348               $number = $rest;
349             }
350
351           } else {
352             $countrycode = $domestic_prefix || '1';
353             $number =~ s/^$countrycode//;# if length($number) > 10;
354           }
355
356           warn "rating call $to_or_from +$countrycode $number\n" if $DEBUG;
357           $pretty_destnum = "+$countrycode $number";
358
359           my $rate = qsearchs('rate', { 'ratenum' => $ratenum })
360             or die "ratenum $ratenum not found!";
361
362           $rate_detail = $rate->dest_detail({ 'countrycode' => $countrycode,
363                                               'phonenum'    => $number,
364                                             });
365
366           if ( $rate_detail ) {
367
368             $rate_region = $rate_detail->dest_region;
369             $regionnum = $rate_region->regionnum;
370             warn "  found rate for regionnum $regionnum ".
371                  "and rate detail $rate_detail\n"
372               if $DEBUG;
373
374           } elsif ( $ignore_unrateable ) {
375
376             $rate_region = '';
377             $regionnum = '';
378             #code below will throw a warning & skip
379
380           } else {
381
382             die "FATAL: no rate_detail found in ".
383                 $rate->ratenum. ":". $rate->ratename. " rate plan ".
384                 "for +$countrycode $number (CDR acctid ". $cdr->acctid. "); ".
385                 "add a rate or set ignore_unrateable flag on the package def\n";
386           }
387
388         }
389
390       } elsif ( $rating_method eq 'upstream' ) { #XXX this was convergent, not currently used.  very much becoming the odd one out. remove?
391
392         if ( $cdr->cdrtypenum == 1 ) { #rate based on upstream rateid
393
394           $rate_detail = $cdr->cdr_upstream_rate->rate_detail;
395
396           $regionnum = $rate_detail->dest_regionnum;
397           $rate_region = $rate_detail->dest_region;
398
399           $pretty_destnum = $cdr->dst;
400
401           warn "  found rate for regionnum $regionnum and ".
402                "rate detail $rate_detail\n"
403             if $DEBUG;
404
405         } else { #pass upstream price through
406
407           $charge = sprintf('%.2f', $cdr->upstream_price);
408           $charges += $charge;
409  
410           @call_details = (
411             #time2str("%Y %b %d - %r", $cdr->calldate_unix ),
412             time2str("%c", $cdr->calldate_unix),  #XXX this should probably be a config option dropdown so they can select US vs- rest of world dates or whatnot
413             'N/A', #minutes...
414             '$'.$charge,
415             #$pretty_destnum,
416             $cdr->description, #$rate_region->regionname,
417           );
418
419         }
420
421       } elsif ( $rating_method eq 'upstream_simple' ) {
422
423         #XXX $charge = sprintf('%.2f', $cdr->upstream_price);
424         $charge = sprintf('%.3f', $cdr->upstream_price);
425         $charges += $charge;
426
427         @call_details = ($cdr->downstream_csv( 'format' => $output_format,
428                                                'charge' => $charge,
429                                              )
430                         );
431         $classnum = $cdr->calltypenum;
432
433       } else {
434         die "don't know how to rate CDRs using method: $rating_method\n";
435       }
436
437       ###
438       # find the price and add detail to the invoice
439       ###
440
441       # if $rate_detail is not found, skip this CDR... i.e. 
442       # don't add it to invoice, don't set its status to done,
443       # don't call downstream_csv or something on it...
444       # but DO emit a warning...
445       #if ( ! $rate_detail && ! scalar(@call_details) ) {}
446       if ( ! $rate_detail && $charge eq '' ) {
447
448         warn "no rate_detail found for CDR.acctid: ". $cdr->acctid.
449              "; skipping\n"
450
451       } else { # there *is* a rate_detail (or call_details), proceed...
452
453         unless ( @call_details || ( $charge ne '' && $charge == 0 ) ) {
454
455           $included_min{$regionnum} = $rate_detail->min_included
456             unless exists $included_min{$regionnum};
457
458           my $granularity = $rate_detail->sec_granularity;
459
460                       # length($cdr->billsec) ? $cdr->billsec : $cdr->duration;
461           my $seconds = $use_duration ? $cdr->duration : $cdr->billsec;
462
463           $seconds += $granularity - ( $seconds % $granularity )
464             if $seconds      # don't granular-ize 0 billsec calls (bills them)
465             && $granularity; # 0 is per call
466           my $minutes = sprintf("%.1f", $seconds / 60);
467           $minutes =~ s/\.0$// if $granularity == 60;
468
469           # per call rather than per minute
470           $minutes = 1 unless $granularity;
471
472           $included_min{$regionnum} -= $minutes;
473
474           if ( $included_min{$regionnum} < 0 ) {
475             my $charge_min = 0 - $included_min{$regionnum}; #XXX should preserve
476                                                             #(display?) this
477             $included_min{$regionnum} = 0;
478             $charge = sprintf('%.2f', ( $rate_detail->min_charge * $charge_min )
479                                       + 0.00000001 ); #so 1.005 rounds to 1.01
480             $charges += $charge;
481           }
482
483           # this is why we need regionnum/rate_region....
484           warn "  (rate region $rate_region)\n" if $DEBUG;
485
486           @call_details = (
487            $cdr->downstream_csv( 'format'         => $output_format,
488                                  'granularity'    => $granularity,
489                                  'minutes'        => $minutes,
490                                  'charge'         => $charge,
491                                  'pretty_dst'     => $pretty_destnum,
492                                  'dst_regionname' => $rate_region->regionname,
493                                )
494           );
495
496           $classnum = $rate_detail->classnum;
497
498         }
499
500         if ( $charge > 0 ) {
501           #just use FS::cust_bill_pkg_detail objects?
502           my $call_details;
503
504           #if ( $self->option('rating_method') eq 'upstream_simple' ) {
505           if ( scalar(@call_details) == 1 ) {
506             $call_details = [ 'C', $call_details[0], $charge, $classnum ];
507           } else { #only used for $rating_method eq 'upstream' now
508             $csv->combine(@call_details);
509             $call_details = [ 'C', $csv->string, $charge, $classnum ];
510           }
511           warn "  adding details on charge to invoice: [ ".
512               join(', ', @{$call_details} ). " ]"
513             if ( $DEBUG && ref($call_details) );
514           push @$details, $call_details; #\@call_details,
515         }
516
517         # if the customer flag is on, call "downstream_csv" or something
518         # like it to export the call downstream!
519         # XXX price plan option to pick format, or something...
520         $downstream_cdr .= $cdr->downstream_csv( 'format' => 'convergent' )
521           if $spool_cdr;
522
523         my $error = $cdr->set_status_and_rated_price('done', $charge);
524         die $error if $error;
525
526       }
527
528     } # $cdr
529
530   } # $cust_svc
531
532   unshift @$details, [ 'C', FS::cdr::invoice_header($output_format) ]
533     if @$details && $rating_method ne 'upstream';
534
535   if ( $spool_cdr && length($downstream_cdr) ) {
536
537     use FS::UID qw(datasrc);
538     my $dir = '/usr/local/etc/freeside/export.'. datasrc. '/cdr';
539     mkdir $dir, 0700 unless -d $dir;
540     $dir .= '/'. $cust_pkg->custnum.
541     mkdir $dir, 0700 unless -d $dir;
542     my $filename = time2str("$dir/CDR%Y%m%d-spool.CSV", time); #XXX invoice date instead?  would require changing the order things are generated in cust_main::bill insert cust_bill first - with transactions it could be done though
543
544     push @{ $param->{'precommit_hooks'} },
545          sub {
546                #lock the downstream spool file and append the records 
547                use Fcntl qw(:flock);
548                use IO::File;
549                my $spool = new IO::File ">>$filename"
550                  or die "can't open $filename: $!\n";
551                flock( $spool, LOCK_EX)
552                  or die "can't lock $filename: $!\n";
553                seek($spool, 0, 2)
554                  or die "can't seek to end of $filename: $!\n";
555                print $spool $downstream_cdr;
556                flock( $spool, LOCK_UN );
557                close $spool;
558              };
559
560   } #if ( $spool_cdr && length($downstream_cdr) )
561
562   if ($param->{'increment_next_bill'}) {
563     if ( $self->option('enable_prorate', 1) ) {
564       $charges += $self->SUPER::calc_recur(@_);
565     } else {
566       $charges += $self->option('recur_fee')
567     }
568   }
569
570   $charges;
571 }
572
573 #returns a reason why not to rate this CDR, or false if the CDR is chargeable
574 sub check_chargable {
575   my( $self, $cdr, %flags ) = @_;
576
577   #should have some better way of checking these options from a hash
578   #or something
579
580   my @opt = qw(
581     use_amaflags
582     use_disposition
583     use_disposition_taqua
584     use_carrierid
585     use_cdrtypenum
586     skip_dcontext
587     skip_dstchannel_prefix
588     skip_dst_length_less
589     skip_lastapp
590   );
591   foreach my $opt (grep !exists($flags{option_cache}->{$_}), @opt ) {
592     $flags{option_cache}->{$opt} = $self->option($opt);
593   }
594   my %opt = %{ $flags{option_cache} };
595
596   return 'amaflags != 2'
597     if $opt{'use_amaflags'} && $cdr->amaflags != 2;
598
599   return 'disposition != ANSWERED'
600     if $opt{'use_disposition'} && $cdr->disposition ne 'ANSWERED';
601
602   return "disposition != 100"
603     if $opt{'use_disposition_taqua'} && $cdr->disposition != 100;
604
605   return "carrierid != $opt{'use_carrierid'}"
606     if length($opt{'use_carrierid'})
607     && $cdr->carrierid ne $opt{'use_carrierid'} #ne otherwise 0 matches ''
608     && ! $flags{'da_rewrote'};
609
610   return "cdrtypenum != $opt{'use_cdrtypenum'}"
611     if length($opt{'use_cdrtypenum'})
612     && $cdr->cdrtypenum ne $opt{'use_cdrtypenum'}; #ne otherwise 0 matches ''
613
614   return "dcontext IN ( $opt{'skip_dcontext'} )"
615     if $opt{'skip_dcontext'} =~ /\S/
616     && grep { $cdr->dcontext eq $_ } split(/\s*,\s*/, $opt{'skip_dcontext'});
617
618   my $len_prefix = length($opt{'skip_dstchannel_prefix'});
619   return "dstchannel starts with $opt{'skip_dstchannel_prefix'}"
620     if $len_prefix
621     && substr($cdr->dstchannel,0,$len_prefix) eq $opt{'skip_dstchannel_prefix'};
622
623   my $dst_length = $opt{'skip_dst_length_less'};
624   return "destination less than $dst_length digits"
625     if $dst_length && length($cdr->dst) < $dst_length;
626
627   return "lastapp is $opt{'skip_lastapp'}"
628     if length($opt{'skip_lastapp'}) && $cdr->lastapp eq $opt{'skip_lastapp'};
629
630   #all right then, rate it
631   '';
632 }
633
634 sub is_free {
635   0;
636 }
637
638 sub base_recur {
639   my($self, $cust_pkg) = @_;
640   $self->option('recur_fee');
641 }
642
643 #  This equates svc_phone records; perhaps svc_phone should have a field
644 #  to indicate it represents a line
645 sub calc_units {    
646   my($self, $cust_pkg ) = @_;
647   my $count = 0;
648   if ( $self->option('count_available_phones', 1)) {
649     map { $count += ( $_->quantity || 0 ) }
650       grep { $_->part_svc->svcdb eq 'svc_phone' }
651       $cust_pkg->part_pkg->pkg_svc;
652   } else {
653     $count = 
654       scalar(grep { $_->part_svc->svcdb eq 'svc_phone' } $cust_pkg->cust_svc);
655   }
656   $count;
657 }
658
659 1;
660