FS/FS/part_pkg/voip_cdr.pm

   1 package FS::part_pkg::voip_cdr;
   2
   3 use strict;
   4 use vars qw(@ISA $DEBUG %info);
   5 use Date::Format;
   6 use Tie::IxHash;
   7 use FS::Conf;
   8 use FS::Record qw(qsearchs qsearch);
   9 use FS::part_pkg::flat;
  10 use FS::cdr;
  11 use FS::rate;
  12 use FS::rate_prefix;
  13 use FS::rate_detail;
  14
  15 @ISA = qw(FS::part_pkg::flat);
  16
  17 $DEBUG = 0;
  18
  19 tie my %rating_method, 'Tie::IxHash',
  20   'prefix' => 'Rate calls by using destination prefix to look up a region and rate according to the internal prefix and rate tables',
  21   'upstream' => 'Rate calls based on upstream data: If the call type is "1", map the upstream rate ID directly to an internal rate (rate_detail), otherwise, pass the upstream price through directly.',
  22   'upstream_simple' => 'Simply pass through and charge the "upstream_price" amount.',
  23 ;
  24
  25 #tie my %cdr_location, 'Tie::IxHash',
  26 #  'internal' => 'Internal: CDR records imported into the internal CDR table',
  27 #  'external' => 'External: CDR records queried directly from an external '.
  28 #                'Asterisk (or other?) CDR table',
  29 #;
  30
  31 tie my %temporalities, 'Tie::IxHash',
  32   'upcoming'  => "Upcoming (future)",
  33   'preceding' => "Preceding (past)",
  34 ;
  35
  36 %info = (
  37   'name' => 'VoIP rating by plan of CDR records in an internal (or external) SQL table',
  38   'shortname' => 'VoIP/telco CDR rating (standard)',
  39   'fields' => {
  40     'setup_fee'     => { 'name' => 'Setup fee for this package',
  41                          'default' => 0,
  42                        },
  43     'recur_fee'     => { 'name' => 'Base recurring fee for this package',
  44                          'default' => 0,
  45                        },
  46
  47     #false laziness w/flat.pm
  48     'recur_temporality' => { 'name' => 'Charge recurring fee for period',
  49                              'type' => 'select',
  50                              'select_options' => \%temporalities,
  51                            },
  52
  53     'unused_credit' => { 'name' => 'Credit the customer for the unused portion'.
  54                                    ' of service at cancellation',
  55                          'type' => 'checkbox',
  56                        },
  57
  58     'rating_method' => { 'name' => 'Region rating method',
  59                          'type' => 'radio',
  60                          'options' => \%rating_method,
  61                        },
  62
  63     'ratenum'   => { 'name' => 'Rate plan',
  64                      'type' => 'select',
  65                      'select_table' => 'rate',
  66                      'select_key'   => 'ratenum',
  67                      'select_label' => 'ratename',
  68                    },
  69
  70     'ignore_unrateable' => { 'name' => 'Ignore calls without a rate in the rate tables.  By default, the system will throw a fatal error upon encountering unrateable calls.',
  71                              'type' => 'checkbox',
  72                            },
  73
  74     'default_prefix' => { 'name'    => 'Default prefix optionally prepended to customer DID numbers when searching for CDR records',
  75                           'default' => '+1',
  76                         },
  77
  78     'disable_src' => { 'name' => 'Disable rating of CDR records based on the "src" field in addition to "charged_party"',
  79                        'type' => 'checkbox'
  80                      },
  81
  82     'domestic_prefix' => { 'name'    => 'Destination prefix for domestic CDR records',
  83                            'default' => '1',
  84                          },
  85
  86 #    'domestic_prefix_required' => { 'name' => 'Require explicit destination prefix for domestic CDR records',
  87 #                                    'type' => 'checkbox',
  88 #                                  },
  89
  90     'international_prefix' => { 'name'    => 'Destination prefix for international CDR records',
  91                                 'default' => '011',
  92                               },
  93
  94     'disable_tollfree' => { 'name' => 'Disable automatic toll-free processing',
  95                             'type' => 'checkbox',
  96                           },
  97
  98     'use_amaflags' => { 'name' => 'Do not charge for CDRs where the amaflags field is not set to "2" ("BILL"/"BILLING").',
  99                         'type' => 'checkbox',
 100                       },
 101
 102     'use_disposition' => { 'name' => 'Do not charge for CDRs where the disposition flag is not set to "ANSWERED".',
 103                            'type' => 'checkbox',
 104                          },
 105
 106     'use_disposition_taqua' => { 'name' => 'Do not charge for CDRs where the disposition is not set to "100" (Taqua).',
 107                                  'type' => 'checkbox',
 108                                },
 109
 110     'use_carrierid' => { 'name' => 'Do not charge for CDRs where the Carrier ID is not set to: ',
 111                          },
 112
 113     'use_cdrtypenum' => { 'name' => 'Do not charge for CDRs where the CDR Type is not set to: ',
 114                          },
 115
 116     'skip_dcontext' => { 'name' => 'Do not charge for CDRs where the dcontext is set to any of these (comma-separated) values:',
 117                        },
 118
 119     'skip_dstchannel_prefix' => { 'name' => 'Do not charge for CDRs where the dstchannel starts with:',
 120                                 },
 121
 122     'use_duration'   => { 'name' => 'Calculate usage based on the duration field instead of the billsec field',
 123                           'type' => 'checkbox',
 124                         },
 125
 126     '411_rewrite' => { 'name' => 'Rewrite these (comma-separated) destination numbers to 411 for rating purposes (also ignore any carrierid check): ',
 127                       },
 128
 129     'output_format' => { 'name' => 'CDR invoice display format',
 130                          'type' => 'select',
 131                          'select_options' => { FS::cdr::invoice_formats() },
 132                          'default'        => 'default', #XXX test
 133                        },
 134
 135     'usage_section' => { 'name' => 'Section in which to place separate usage charges',
 136                        },
 137
 138     'summarize_usage' => { 'name' => 'Include usage summary with recurring charges when usage is in separate section',
 139                           'type' => 'checkbox',
 140                         },
 141
 142     'bill_every_call' => { 'name' => 'Generate an invoice immediately for every call.  Useful for prepaid.',
 143                            'type' => 'checkbox',
 144                          },
 145
 146     #XXX also have option for an external db
 147 #    'cdr_location' => { 'name' => 'CDR database location'
 148 #                        'type' => 'select',
 149 #                        'select_options' => \%cdr_location,
 150 #                        'select_callback' => {
 151 #                          'external' => {
 152 #                            'enable' => [ 'datasrc', 'username', 'password' ],
 153 #                          },
 154 #                          'internal' => {
 155 #                            'disable' => [ 'datasrc', 'username', 'password' ],
 156 #                          }
 157 #                        },
 158 #                      },
 159 #    'datasrc' => { 'name' => 'DBI data source for external CDR table',
 160 #                   'disabled' => 'Y',
 161 #                 },
 162 #    'username' => { 'name' => 'External database username',
 163 #                    'disabled' => 'Y',
 164 #                  },
 165 #    'password' => { 'name' => 'External database password',
 166 #                    'disabled' => 'Y',
 167 #                  },
 168
 169   },
 170   'fieldorder' => [qw(
 171                        setup_fee recur_fee recur_temporality unused_credit
 172                        rating_method ratenum ignore_unrateable
 173                        default_prefix
 174                        disable_src
 175                        domestic_prefix international_prefix
 176                        disable_tollfree
 177                        use_amaflags use_disposition
 178                        use_disposition_taqua use_carrierid use_cdrtypenum
 179                        skip_dcontext skip_dstchannel_prefix
 180                        use_duration
 181                        411_rewrite
 182                        output_format summarize_usage usage_section
 183                        bill_every_call
 184                      )
 185                   ],
 186   'weight' => 40,
 187 );
 188
 189 sub calc_setup {
 190   my($self, $cust_pkg ) = @_;
 191   $self->option('setup_fee');
 192 }
 193
 194 #false laziness w/voip_sqlradacct calc_recur resolve it if that one ever gets used again
 195 sub calc_recur {
 196   my($self, $cust_pkg, $sdate, $details, $param ) = @_;
 197
 198   #my $last_bill = $cust_pkg->last_bill;
 199   my $last_bill = $cust_pkg->get('last_bill'); #->last_bill falls back to setup
 200
 201   return 0
 202     if $self->option('recur_temporality', 1) eq 'preceding'
 203     && ( $last_bill eq '' || $last_bill == 0 );
 204
 205   my $ratenum = $cust_pkg->part_pkg->option('ratenum');
 206
 207   my $spool_cdr = $cust_pkg->cust_main->spool_cdr;
 208
 209   my %included_min = ();
 210
 211   my $charges = 0;
 212
 213   my $downstream_cdr = '';
 214
 215   my $rating_method     = $self->option('rating_method') || 'prefix';
 216   my $intl              = $self->option('international_prefix') || '011';
 217   my $domestic_prefix   = $self->option('domestic_prefix');
 218   my $disable_tollfree  = $self->option('disable_tollfree');
 219   my $ignore_unrateable = $self->option('ignore_unrateable', 'Hush!');
 220   my $use_duration      = $self->option('use_duration');
 221
 222   my $output_format     = $self->option('output_format', 'Hush!')
 223                           || ( $rating_method eq 'upstream_simple'
 224                                  ? 'simple'
 225                                  : 'default'
 226                              );
 227
 228   my @dirass = ();
 229   if ( $self->option('411_rewrite') ) {
 230     my $dirass = $self->option('411_rewrite');
 231     $dirass =~ s/\s//g;
 232     @dirass = split(',', $dirass);
 233   }
 234
 235   #for check_chargable, so we don't keep looking up options inside the loop
 236   my %opt_cache = ();
 237
 238   eval "use Text::CSV_XS;";
 239   die $@ if $@;
 240   my $csv = new Text::CSV_XS;
 241
 242   foreach my $cust_svc (
 243     grep { $_->part_svc->svcdb eq 'svc_phone' } $cust_pkg->cust_svc
 244   ) {
 245
 246     foreach my $cdr (
 247       $cust_svc->get_cdrs_for_update(
 248         'disable_src'    => $self->option('disable_src'),
 249         'default_prefix' => $self->option('default_prefix'),
 250       )  # $last_bill, $$sdate )
 251     ) {
 252       if ( $DEBUG > 1 ) {
 253         warn "rating CDR $cdr\n".
 254              join('', map { "  $_ => ". $cdr->{$_}. "\n" } keys %$cdr );
 255       }
 256
 257       my $rate_detail;
 258       my( $rate_region, $regionnum );
 259       my $pretty_destnum;
 260       my $charge = '';
 261       my $classnum = '';
 262       my @call_details = ();
 263       if ( $rating_method eq 'prefix' ) {
 264
 265         my $da_rewrote = 0;
 266         if ( length($cdr->dst) && grep { $cdr->dst eq $_ } @dirass ){
 267           $cdr->dst('411');
 268           $da_rewrote = 1;
 269         }
 270
 271         my $reason = $self->check_chargable( $cdr,
 272                                              'da_rewrote'   => $da_rewrote,
 273                                              'option_cache' => \%opt_cache,
 274                                            );
 275
 276         if ( $reason ) {
 277
 278           warn "not charging for CDR ($reason)\n" if $DEBUG;
 279           $charge = 0;
 280
 281         } else {
 282
 283           ###
 284           # look up rate details based on called station id
 285           # (or calling station id for toll free calls)
 286           ###
 287
 288           my( $to_or_from, $number );
 289           if ( $cdr->dst =~ /^(\+?1)?8([02-8])\1/
 290                && ! $disable_tollfree
 291               )
 292           { #tollfree call
 293             $to_or_from = 'from';
 294             $number = $cdr->src;
 295           } else { #regular call
 296             $to_or_from = 'to';
 297             $number = $cdr->dst;
 298           }
 299
 300           warn "parsing call $to_or_from $number\n" if $DEBUG;
 301
 302           #remove non-phone# stuff and whitespace
 303           $number =~ s/\s//g;
 304 #          my $proto = '';
 305 #          $dest =~ s/^(\w+):// and $proto = $1; #sip:
 306 #          my $siphost = '';
 307 #          $dest =~ s/\@(.*)$// and $siphost = $1; # @10.54.32.1, @sip.example.com
 308
 309           #determine the country code
 310           my $countrycode;
 311           if (    $number =~ /^$intl(((\d)(\d))(\d))(\d+)$/
 312                || $number =~ /^\+(((\d)(\d))(\d))(\d+)$/
 313              )
 314           {
 315
 316             my( $three, $two, $one, $u1, $u2, $rest ) = ( $1,$2,$3,$4,$5,$6 );
 317             #first look for 1 digit country code
 318             if ( qsearch('rate_prefix', { 'countrycode' => $one } ) ) {
 319               $countrycode = $one;
 320               $number = $u1.$u2.$rest;
 321             } elsif ( qsearch('rate_prefix', { 'countrycode' => $two } ) ) { #or 2
 322               $countrycode = $two;
 323               $number = $u2.$rest;
 324             } else { #3 digit country code
 325               $countrycode = $three;
 326               $number = $rest;
 327             }
 328
 329           } else {
 330             $countrycode = $domestic_prefix || '1';
 331             $number =~ s/^$countrycode//;# if length($number) > 10;
 332           }
 333
 334           warn "rating call $to_or_from +$countrycode $number\n" if $DEBUG;
 335           $pretty_destnum = "+$countrycode $number";
 336
 337           my $rate = qsearchs('rate', { 'ratenum' => $ratenum })
 338             or die "ratenum $ratenum not found!";
 339
 340           $rate_detail = $rate->dest_detail({ 'countrycode' => $countrycode,
 341                                               'phonenum'    => $number,
 342                                             });
 343
 344           if ( $rate_detail ) {
 345
 346             $rate_region = $rate_detail->dest_region;
 347             $regionnum = $rate_region->regionnum;
 348             warn "  found rate for regionnum $regionnum ".
 349                  "and rate detail $rate_detail\n"
 350               if $DEBUG;
 351
 352           } elsif ( $ignore_unrateable ) {
 353
 354             $rate_region = '';
 355             $regionnum = '';
 356             #code below will throw a warning & skip
 357
 358           } else {
 359
 360             die "FATAL: no rate_detail found in ".
 361                 $rate->ratenum. ":". $rate->ratename. " rate plan ".
 362                 "for +$countrycode $number (CDR acctid ". $cdr->acctid. "); ".
 363                 "add a rate or set ignore_unrateable flag on the package def\n";
 364           }
 365
 366         }
 367
 368       } elsif ( $rating_method eq 'upstream' ) { #XXX this was convergent, not currently used.  very much becoming the odd one out. remove?
 369
 370         if ( $cdr->cdrtypenum == 1 ) { #rate based on upstream rateid
 371
 372           $rate_detail = $cdr->cdr_upstream_rate->rate_detail;
 373
 374           $regionnum = $rate_detail->dest_regionnum;
 375           $rate_region = $rate_detail->dest_region;
 376
 377           $pretty_destnum = $cdr->dst;
 378
 379           warn "  found rate for regionnum $regionnum and ".
 380                "rate detail $rate_detail\n"
 381             if $DEBUG;
 382
 383         } else { #pass upstream price through
 384
 385           $charge = sprintf('%.2f', $cdr->upstream_price);
 386           $charges += $charge;
 387
 388           @call_details = (
 389             #time2str("%Y %b %d - %r", $cdr->calldate_unix ),
 390             time2str("%c", $cdr->calldate_unix),  #XXX this should probably be a config option dropdown so they can select US vs- rest of world dates or whatnot
 391             'N/A', #minutes...
 392             '$'.$charge,
 393             #$pretty_destnum,
 394             $cdr->description, #$rate_region->regionname,
 395           );
 396
 397         }
 398
 399       } elsif ( $rating_method eq 'upstream_simple' ) {
 400
 401         #XXX $charge = sprintf('%.2f', $cdr->upstream_price);
 402         $charge = sprintf('%.3f', $cdr->upstream_price);
 403         $charges += $charge;
 404
 405         @call_details = ($cdr->downstream_csv( 'format' => $output_format,
 406                                                'charge' => $charge,
 407                                              )
 408                         );
 409         $classnum = $cdr->calltypenum;
 410
 411       } else {
 412         die "don't know how to rate CDRs using method: $rating_method\n";
 413       }
 414
 415       ###
 416       # find the price and add detail to the invoice
 417       ###
 418
 419       # if $rate_detail is not found, skip this CDR... i.e.
 420       # don't add it to invoice, don't set its status to done,
 421       # don't call downstream_csv or something on it...
 422       # but DO emit a warning...
 423       #if ( ! $rate_detail && ! scalar(@call_details) ) {}
 424       if ( ! $rate_detail && $charge eq '' ) {
 425
 426         warn "no rate_detail found for CDR.acctid: ". $cdr->acctid.
 427              "; skipping\n"
 428
 429       } else { # there *is* a rate_detail (or call_details), proceed...
 430
 431         unless ( @call_details || ( $charge ne '' && $charge == 0 ) ) {
 432
 433           $included_min{$regionnum} = $rate_detail->min_included
 434             unless exists $included_min{$regionnum};
 435
 436           my $granularity = $rate_detail->sec_granularity;
 437
 438                       # length($cdr->billsec) ? $cdr->billsec : $cdr->duration;
 439           my $seconds = $use_duration ? $cdr->duration : $cdr->billsec;
 440
 441           $seconds += $granularity - ( $seconds % $granularity )
 442             if $seconds      # don't granular-ize 0 billsec calls (bills them)
 443             && $granularity; # 0 is per call
 444           my $minutes = sprintf("%.1f", $seconds / 60);
 445           $minutes =~ s/\.0$// if $granularity == 60;
 446
 447           # per call rather than per minute
 448           $minutes = 1 unless $granularity;
 449
 450           $included_min{$regionnum} -= $minutes;
 451
 452           if ( $included_min{$regionnum} < 0 ) {
 453             my $charge_min = 0 - $included_min{$regionnum};
 454             $included_min{$regionnum} = 0;
 455             $charge = sprintf('%.2f', $rate_detail->min_charge * $charge_min );
 456             $charges += $charge;
 457           }
 458
 459           # this is why we need regionnum/rate_region....
 460           warn "  (rate region $rate_region)\n" if $DEBUG;
 461
 462           @call_details = (
 463            $cdr->downstream_csv( 'format'         => $output_format,
 464                                  'granularity'    => $granularity,
 465                                  'minutes'        => $minutes,
 466                                  'charge'         => $charge,
 467                                  'pretty_dst'     => $pretty_destnum,
 468                                  'dst_regionname' => $rate_region->regionname,
 469                                )
 470           );
 471
 472           $classnum = $rate_detail->classnum;
 473
 474         }
 475
 476         if ( $charge > 0 ) {
 477           #just use FS::cust_bill_pkg_detail objects?
 478           my $call_details;
 479
 480           #if ( $self->option('rating_method') eq 'upstream_simple' ) {
 481           if ( scalar(@call_details) == 1 ) {
 482             $call_details = [ 'C', $call_details[0], $charge, $classnum ];
 483           } else { #only used for $rating_method eq 'upstream' now
 484             $csv->combine(@call_details);
 485             $call_details = [ 'C', $csv->string, $charge, $classnum ];
 486           }
 487           warn "  adding details on charge to invoice: [ ".
 488               join(', ', @{$call_details} ). " ]"
 489             if ( $DEBUG && ref($call_details) );
 490           push @$details, $call_details; #\@call_details,
 491         }
 492
 493         # if the customer flag is on, call "downstream_csv" or something
 494         # like it to export the call downstream!
 495         # XXX price plan option to pick format, or something...
 496         $downstream_cdr .= $cdr->downstream_csv( 'format' => 'convergent' )
 497           if $spool_cdr;
 498
 499         my $error = $cdr->set_status_and_rated_price('done', $charge);
 500         die $error if $error;
 501
 502       }
 503
 504     } # $cdr
 505
 506   } # $cust_svc
 507
 508   unshift @$details, [ 'C', FS::cdr::invoice_header($output_format) ]
 509     if @$details && $rating_method ne 'upstream';
 510
 511   if ( $spool_cdr && length($downstream_cdr) ) {
 512
 513     use FS::UID qw(datasrc);
 514     my $dir = '/usr/local/etc/freeside/export.'. datasrc. '/cdr';
 515     mkdir $dir, 0700 unless -d $dir;
 516     $dir .= '/'. $cust_pkg->custnum.
 517     mkdir $dir, 0700 unless -d $dir;
 518     my $filename = time2str("$dir/CDR%Y%m%d-spool.CSV", time); #XXX invoice date instead?  would require changing the order things are generated in cust_main::bill insert cust_bill first - with transactions it could be done though
 519
 520     push @{ $param->{'precommit_hooks'} },
 521          sub {
 522                #lock the downstream spool file and append the records
 523                use Fcntl qw(:flock);
 524                use IO::File;
 525                my $spool = new IO::File ">>$filename"
 526                  or die "can't open $filename: $!\n";
 527                flock( $spool, LOCK_EX)
 528                  or die "can't lock $filename: $!\n";
 529                seek($spool, 0, 2)
 530                  or die "can't seek to end of $filename: $!\n";
 531                print $spool $downstream_cdr;
 532                flock( $spool, LOCK_UN );
 533                close $spool;
 534              };
 535
 536   } #if ( $spool_cdr && length($downstream_cdr) )
 537
 538   $charges += $self->option('recur_fee')
 539     if $param->{'increment_next_bill'};
 540
 541   $charges;
 542 }
 543
 544 #returns a reason why not to rate this CDR, or false if the CDR is chargeable
 545 sub check_chargable {
 546   my( $self, $cdr, %flags ) = @_;
 547
 548   #should have some better way of checking these options from a hash
 549   #or something
 550
 551   my @opt = qw(
 552     use_amaflags
 553     use_disposition
 554     use_disposition_taqua
 555     use_carrierid
 556     use_cdrtypenum
 557     skip_dcontext
 558     skip_dstchannel_prefix;
 559   );
 560   foreach my $opt (grep !exists($flags{option_cache}->{$_}), @opt ) {
 561     $flags{option_cache}->{$opt} = $self->option($opt);
 562   }
 563   my %opt = %{ $flags{option_cache} };
 564
 565   return 'amaflags != 2'
 566     if $opt{'use_amaflags'} && $cdr->amaflags != 2;
 567
 568   return 'disposition != ANSWERED'
 569     if $opt{'use_disposition'} && $cdr->disposition ne 'ANSWERED';
 570
 571   return "disposition != 100"
 572     if $opt{'use_disposition_taqua'} && $cdr->disposition != 100;
 573
 574   return "carrierid != $opt{'use_carrierid'}"
 575     if length($opt{'use_carrierid'})
 576     && $cdr->carrierid ne $opt{'use_carrierid'} #ne otherwise 0 matches ''
 577     && ! $flags{'da_rewrote'};
 578
 579   return "cdrtypenum != $opt{'use_cdrtypenum'}"
 580     if length($opt{'use_cdrtypenum'})
 581     && $cdr->cdrtypenum ne $opt{'use_cdrtypenum'}; #ne otherwise 0 matches ''
 582
 583   return "dcontext IN ( $opt{'skip_dcontext'} )"
 584     if $opt{'skip_dcontext'} =~ /\S/
 585     && grep { $cdr->dcontext eq $_ } split(/\s*,\s*/, $opt{'skip_dcontext'});
 586
 587   my $len = length($opt{'skip_dstchannel_prefix'});
 588   return "dstchannel starts with $opt{'skip_dstchannel_prefix'}"
 589     if $len
 590     && substr($cdr->dstchannel, 0, $len) eq $opt{'skip_dstchannel_prefix'};
 591
 592   #all right then, rate it
 593   '';
 594 }
 595
 596 sub is_free {
 597   0;
 598 }
 599
 600 sub base_recur {
 601   my($self, $cust_pkg) = @_;
 602   $self->option('recur_fee');
 603 }
 604
 605 #  This equates svc_phone records; perhaps svc_phone should have a field
 606 #  to indicate it represents a line
 607 sub calc_units {
 608   my($self, $cust_pkg ) = @_;
 609   scalar(grep { $_->part_svc->svcdb eq 'svc_phone' } $cust_pkg->cust_svc);
 610 }
 611
 612 1;
 613