bin/import-did-inventory

   1 #!/usr/bin/perl
   2
   3 use strict;
   4 use warnings;
   5 use Text::CSV;
   6 use FS::UID qw(adminsuidsetup);
   7 use FS::cust_main_county;
   8 use FS::Record qw(qsearch qsearchs dbh);
   9 use DateTime::Format::Natural;
  10 use FS::lata;
  11 use FS::msa;
  12 use FS::cust_main;
  13 use FS::cust_main::Search qw(smart_search);
  14 use FS::did_order;
  15 use FS::did_order_item;
  16 use FS::rate_center;
  17 use FS::phone_avail;
  18 use FS::did_vendor;
  19 use FS::svc_phone;
  20 use Data::Dumper;
  21 use Time::HiRes qw(usleep ualarm gettimeofday tv_interval);
  22
  23 print "started time=".time."\n";
  24
  25 #### SET THESE! #################################
  26 my $file = '/home/levinse/dids4.csv';
  27 my $did_vendor_id = 1;
  28 my $dry = 0;
  29 my $internal_diddb_exportnum = 1; # IMPORTANT: set this to the correct exportnum or everything will go in wrong into phone_avail
  30
  31 # optionally set this one (probably not)
  32 my %custname2num = (); # MyCust => 12345,
  33 ################################################
  34
  35 my $user = shift;
  36 adminsuidsetup $user;
  37
  38 local $SIG{HUP} = 'IGNORE';
  39 local $SIG{INT} = 'IGNORE';
  40 local $SIG{QUIT} = 'IGNORE';
  41 local $SIG{TERM} = 'IGNORE';
  42 local $SIG{TSTP} = 'IGNORE';
  43 local $SIG{PIPE} = 'IGNORE';
  44
  45 my $oldAutoCommit = $FS::UID::AutoCommit;
  46 local $FS::UID::AutoCommit = 0;
  47 my $dbh = dbh;
  48 my $max_date = time;
  49 my $min_date = 1262304000; # January 1st 2010
  50 my %did_order = ();
  51 my %rate_center = ();
  52 my %rate_center_abbrev = ();
  53 my %cust2pkg = ();
  54 my %msamap = (
  55 # YOU CANNOT USE THE STATE/NPA/LATA OF A DID TO TRY TO FIND ITS MSA. IT HAS
  56 # NOTHING IN COMMON WITH THE STATE OF THE MSA. THERE IS SIMPLY INSUFFICIENT
  57 # DATA IN THE CSV FILE TO DETERMINE CANONICAL MSA WITHOUT THIS:
  58  'Washington DC' => 47900,
  59  'Fort Lauderdale' => 33100,
  60  'Cambridge' => 14460,
  61  'Boise' => 14260,
  62  'New York' => 35620,
  63  'Aberdeen' => 10100,
  64  'Bloomington' => 14020,
  65  'Las Vegas' => 29820,
  66  'Madison' => 31540,
  67  'Miami' => 33100,
  68  'Jackson' => 27140,
  69  'St Cloud' => 41060,
  70  'Stratford' => 14860,
  71
  72 # more hax upon hax (the above are unique, no issues)
  73  'Portland OR' => 38900,
  74  'Portland ME' => 38860,
  75 );
  76 my $skipto = 0;
  77 my $limit = 0;
  78 my $linenum = 1;
  79 my $debug = 0;
  80
  81 # cache LATA and MSA tables in one query for performance
  82 my @latas = qsearch('lata', {});
  83 my %latas = map { $_->latanum => $_->description } @latas;
  84
  85 my @msas = qsearch('msa', {});
  86 my %msas = map { $_->msanum => $_->description } @msas;
  87
  88 # now add in the brain-dead LATA hacks
  89 $latas{636} = 'BRAINERD-FARGO ND';
  90 $latas{920} = 'CONNECTICUT';
  91 $latas{334} = 'AUBURN-HUNTINGTON IN';
  92 $latas{232} = 'NORTHEAST - PA';
  93 $latas{460} = 'SOUTHEAST FL GR-EA';
  94 $latas{952} = 'TAMPA FLORIDA';
  95 $latas{524} = 'KANSAS CITY';
  96
  97 my $parser = new DateTime::Format::Natural( 'time_zone' => 'local' );
  98 sub parsedt {
  99     my ($dt,$min,$max) = (shift,shift,shift);
 100     my $epoch = $parser->parse_datetime($dt);
 101     return $epoch->epoch
 102         if ($parser->success && $epoch->epoch >= $min && $epoch->epoch <= $max);
 103     fatal("invalid date $dt (min=$min, max=$max)");
 104 }
 105
 106 sub msatest {
 107     my ($their,$our) = (shift,shift);
 108     my $a = $our;
 109     $a =~ s/,.*?$//;
 110     return 1 if $a eq $their;
 111     return 1 if ($our =~ /^([\w\s]+)-/ && $1 eq $their);
 112     0;
 113 }
 114
 115 sub trim {
 116     my $str = shift;
 117     $str =~ s/^\s+|\s+$//g;
 118     $str;
 119 }
 120
 121 sub suffer {
 122     my $linenum = shift;
 123     my @columns = @_;
 124
 125     my $did = trim($columns[0]);
 126     my $npa = trim($columns[1]);
 127     my $state = trim($columns[2]);
 128     my $rate_center_abbrev = trim($columns[3]);
 129     my $rate_center = trim($columns[4]);
 130     my $customer = trim($columns[5]);
 131     my $submitted = parsedt(trim($columns[7]),$min_date,$max_date);
 132
 133     my $ordernum = trim($columns[8]);
 134     return if $ordernum eq 'Unknown';
 135
 136     my $confirmed = parsedt(trim($columns[9]),$submitted,$max_date);
 137
 138     # sometimes, we're in a non-Y2K-compliant bullshit format, differing from
 139     # all the other dates. Other times, we randomly change formats multiple times
 140     # in the middle of the file for absolutely no reason...wtf
 141     my $received = trim($columns[10]);
 142     if ( $received =~ /^(\d{1,2})\/(\d{1,2})\/(\d{2})$/ ) {
 143         $received = $2."/".$1."/20".$3;
 144     } elsif ( $received !~ /^\d{2}\/\d{2}\/\d{4}$/ ) {
 145         fatal("invalid received date $received");
 146     }
 147     if ( $ordernum == 300383 ) { # another hack due to bad data
 148         $received = parsedt($received,1,$max_date)
 149     } else {
 150         $received = parsedt($received,$confirmed,$max_date);
 151     }
 152
 153     my $latanum = trim($columns[12]);
 154     my $latadesc = trim($columns[13]);
 155     my $msadesc = trim($columns[14]);
 156
 157     fatal("invalid DID and/or NPA or NPA doesn't match DID")
 158         unless ($did =~ /^(\d{3})\d{7}$/ && $npa == $1);
 159     fatal("invalid state, order #, LATA #, or LATA description")
 160         unless ($state =~ /^[A-Z]{2}$/  && ($ordernum =~ /^\d+$/ || $ordernum eq 'Test') # more hacks
 161                                         && $latanum =~ /^\d{3}$/
 162                                         && $latadesc =~ /^[\w\s\-]+$/);
 163
 164
 165     ### LATA ###
 166
 167     fatal("no lata found for latanum $latanum") unless exists($latas{$latanum});
 168
 169     # unsurprisingly, our idea of a LATA name doesn't always match their idea
 170     # of the same. Specifically, they randomly expand the state portion and
 171     # abbreviate it arbitrarily
 172
 173     my $ourdesc = $latas{$latanum};
 174
 175     # strip off the fixed state abbreviation portion in ours
 176     $ourdesc =~ s/ ..$//;
 177
 178     # strip off the variable state abbreviation (or full name) portion in theirs
 179     $latadesc =~ s/\s\w+$// unless uc($ourdesc) eq uc($latadesc); # yeah...long story :(
 180
 181     fatal("their LATA description '$latadesc' doesn't match our LATA description '$ourdesc'")
 182         unless (uc($ourdesc) eq uc($latadesc) || $latanum == 460);
 183
 184
 185     ### MSA ###
 186
 187     my $msanum = -1;
 188
 189     # XXX: no idea what the MSA is for Danbury, so discard it for now and deal with it manually/later
 190     $msadesc = '' if $msadesc eq 'Danbury';
 191
 192     # hax on hax
 193     $msadesc = 'Portland OR' if ($msadesc eq 'Portland' && $state eq 'OR');
 194     $msadesc = 'Portland ME' if ($msadesc eq 'Portland' && $state eq 'ME');
 195
 196     # not everything in their file has a MSA
 197     if ( $msadesc =~ /^[\w\s]+$/ ) {
 198
 199         # their idea of a MSA differs from our idea of it
 200         if ( exists($msamap{$msadesc}) ) {
 201             $msanum = $msamap{$msadesc};
 202         }
 203         else {
 204             my @msa = grep { msatest($msadesc,$_->description) } @msas;
 205             fatal("multiple MSA matches for '$msadesc'") if(scalar(@msa) > 1);
 206             $msanum = $msa[0]->msanum if scalar(@msa) == 1;
 207             $msamap{$msadesc} = $msanum if $msanum != -1;
 208         }
 209         fatal("msa $msadesc not found") if $msanum == -1;
 210         warn "$msadesc matched msanum $msanum for line $linenum\n" if $debug;
 211     }
 212
 213
 214     ### RATE CENTER ###
 215
 216     if ( exists $rate_center{$rate_center} ) {
 217         fatal("rate center abbreviation for '$rate_center' doesn't exist or doesn't match '$rate_center_abbrev'")
 218             unless ( exists $rate_center_abbrev{$rate_center} &&
 219                       $rate_center_abbrev{$rate_center} eq $rate_center_abbrev);
 220     } else {
 221         print "creating new rate center '$rate_center' '$rate_center_abbrev'\n";
 222         my $rc = new FS::rate_center{ description => $rate_center };
 223         my $error = $rc->insert;
 224         fatal("can't insert rate center '$rate_center' '$rate_center_abbrev': $error")
 225             if $error;
 226         $rate_center{$rate_center} = $rc->ratecenternum;
 227         $rate_center_abbrev{$rate_center} = $rate_center_abbrev;
 228     }
 229     my $ratecenternum = $rate_center{$rate_center};
 230
 231
 232     my $order = order($ordernum,$submitted,$confirmed,$received,$customer);
 233     my $order_item = order_item($order,$npa,$latanum,$state,$msanum,$ratecenternum);
 234     my $phone_avail = phone_avail($order,$state,$did,$rate_center,$latanum,$msanum);
 235     provision($did,$customer,$phone_avail) if $customer ne 'Stock';
 236
 237     warn "Pass $linenum\n" if $debug;
 238
 239     my $time = time;
 240     print "Done $linenum time=$time\n" if ($linenum % 100 == 0);
 241 }
 242
 243 sub phone_avail {
 244     my ($order,$state,$did,$rate_center,$latanum,$msanum)
 245                                         = (shift,shift,shift,shift,shift,shift);
 246     $did =~ /^(\d{3})(\d{3})(\d{4})$/;
 247     my $npa = $1;
 248     my $nxx = $2;
 249     my $station = $3;
 250     my %hash = (
 251         exportnum   => $internal_diddb_exportnum,
 252         countrycode => '1',
 253         state       => $state,
 254         npa         => $npa,
 255         nxx         => $nxx,
 256         station     => $station,
 257         name        => $rate_center,
 258         rate_center_abbrev => $rate_center_abbrev{$rate_center},
 259         ordernum    => $order->ordernum,
 260         latanum     => $latanum,
 261     );
 262     $hash{'msanum'} = $msanum if $msanum != -1;
 263
 264     my $pa = new FS::phone_avail{ %hash };
 265     my $error = $pa->insert;
 266     fatal("can't insert phone_avail: $error") if $error;
 267
 268     $pa;
 269 }
 270
 271 sub order_item {
 272     my($order,$npa,$latanum,$state,$msanum,$ratecenternum)
 273                                         = (shift,shift,shift,shift,shift,shift);
 274     my %msa = ();
 275     $msa{'msanum'} = $msanum if $msanum != -1;
 276     my $oi;
 277     my @order_item = $order->did_order_item;
 278     foreach my $order_item ( @order_item ) {
 279         if($order_item->npa == $npa
 280             && $order_item->latanum == $latanum
 281             && $order_item->state eq $state
 282             && $order_item->ratecenternum == $ratecenternum
 283             && (!$order_item->msanum || $order_item->msanum == $msanum)  ) {
 284             fatal("Multiple order items") if $oi;
 285             $oi = $order_item;
 286         }
 287     }
 288
 289     if($oi) {
 290         $oi->quantity($oi->quantity+1);
 291         my $error = $oi->replace;
 292         fatal("can't replace order item: $error") if $error;
 293     } else {
 294         $oi = new FS::did_order_item{ ordernum   => $order->ordernum,
 295                                      npa        => $npa,
 296                                      latanum    => $latanum,
 297                                      state      => $state,
 298                                      quantity   => 1,
 299                                      ratecenternum => $ratecenternum,
 300                                      %msa, };
 301         my $error = $oi->insert;
 302         fatal("can't insert order item: $error") if $error;
 303     }
 304
 305     fatal("wtf2") unless $oi;
 306
 307     $oi;
 308 }
 309
 310 sub order {
 311     my($vendor_order_id,$submitted,$confirmed,$received,$customer)
 312                                             = (shift,shift,shift,shift,shift);
 313
 314     my %cust = ();
 315     if ( $customer ne 'Stock' ) {
 316         if ( exists($custname2num{$customer}) ) {
 317             $cust{'custnum'} = $custname2num{$customer};
 318         } else {
 319             print "new customer case for '$customer'\n";
 320             my @cust_main = smart_search('search' => $customer);
 321             fatal(scalar(@cust_main) . " customers found for $customer")
 322                 unless scalar(@cust_main) == 1;
 323             my $cust_main = $cust_main[0];
 324
 325             $cust{'custnum'} = $cust_main->custnum;
 326             $custname2num{$customer} = $cust_main->custnum;
 327             $cust2pkg{$cust_main->custnum} = {};
 328
 329             my @pkgs = $cust_main->ncancelled_pkgs;
 330             fatal("no packages") unless scalar(@pkgs);
 331
 332             foreach my $pkg ( @pkgs ) {
 333                 my @avail_part_svc = $pkg->available_part_svc;
 334                 my @svcpart;
 335                 foreach my $avail_part_svc ( @avail_part_svc ) {
 336                     if ($avail_part_svc->svcdb eq 'svc_phone') {
 337                         push @svcpart, $avail_part_svc->svcpart;
 338                     }
 339                 }
 340                 fatal("multiple svc_phone services") if scalar(@svcpart) > 1;
 341                 fatal("multiple packages with svc_phone services")
 342                     if (exists $cust2pkg{$cust_main->custnum}->{pkgnum}
 343                             && scalar(@svcpart));
 344                 if(scalar(@svcpart) == 1) {
 345                     $cust2pkg{$cust_main->custnum}->{pkgnum} = $pkg->pkgnum;
 346                     $cust2pkg{$cust_main->custnum}->{svcpart} = $svcpart[0];
 347                 }
 348             }
 349
 350             fatal("no pkg/svc")
 351                 unless (exists $cust2pkg{$cust_main->custnum}->{pkgnum}
 352                         && exists $cust2pkg{$cust_main->custnum}->{svcpart});
 353         }
 354     }
 355
 356     my $o;
 357     if( exists $did_order{$vendor_order_id} ) {
 358         $o = $did_order{$vendor_order_id};
 359 #       warn "$submitted $confirmed $received $vendor_order_id".Dumper($o);
 360         fatal("vendor order #$vendor_order_id - order data differs from one item to another")
 361             unless ( ( abs($o->submitted-$submitted) < 5
 362                         || $o->vendor_order_id == 293011) # yet another bad data hack
 363                     && abs($o->confirmed-$confirmed) < 5
 364                     && abs($o->received-$received) < 5
 365                    );
 366 #        fatal("customer mismatch for vendor order #$vendor_order_id")
 367 #           unless (    ($o->custnum && $cust{'custnum'}
 368 #                        && ($o->custnum == $cust{'custnum'}
 369 #                         || $vendor_order_id eq '293745' || $vendor_order_id eq '300001')
 370 #                     )
 371 #                    ||
 372 #                   (!$o->custnum && !exists($cust{'custnum'}))
 373 #             );
 374     } else {
 375         $o = new FS::did_order{ vendornum       => $did_vendor_id,
 376                                 vendor_order_id => $vendor_order_id,
 377                                 submitted       => $submitted,
 378                                 confirmed       => $confirmed,
 379                                 received        => $received,
 380                                 %cust,          };
 381         my $error = $o->insert;
 382         fatal("can't insert vendor order #$vendor_order_id: $error") if $error;
 383         $did_order{$vendor_order_id} = $o;
 384     }
 385
 386     fatal("wtf") unless $o;
 387     $o;
 388 }
 389
 390 sub provision {
 391     my($did,$customer,$phone_avail) = (shift,shift,shift);
 392
 393     local $FS::svc_Common::noexport_hack = 1;
 394     # because of the above, we now need to do the internal did db
 395     # export's job ourselves (set the svcnum for the DID in phone_avail)
 396
 397     fatal("customer not found") unless exists $cust2pkg{$custname2num{$customer}};
 398
 399     my $svc_phone = new FS::svc_phone({
 400             pkgnum  => $cust2pkg{$custname2num{$customer}}->{pkgnum},
 401             svcpart => $cust2pkg{$custname2num{$customer}}->{svcpart},
 402             countrycode => 1,
 403             phonenum    => $did,
 404         });
 405
 406     # XXX: THIS LINE CAUSES PERFORMANCE TO DEGRADE
 407     # -unattaching the exports has no effect
 408     # -after each successive call, the time taken to complete 100 rows becomes greater
 409     # -commenting out this call results in a constant time taken to complete 100 rows
 410     my $error = $svc_phone->insert;
 411
 412     fatal("can't insert svc_phone: $error") if $error;
 413
 414     $phone_avail->svcnum($svc_phone->svcnum);
 415     $error = $phone_avail->replace;
 416     fatal("can't replace phone_avail: $error") if $error;
 417
 418     '';
 419 }
 420
 421 sub fatal {
 422     my $msg = shift;
 423     $dbh->rollback if $oldAutoCommit;
 424     die $msg;
 425 }
 426
 427 my $csv = new Text::CSV;
 428 open (CSV, "<", $file) or die $!;
 429 print "Starting main loop time=".time."\n";
 430 while (<CSV>) {
 431     if ( $linenum == 1 ) { # skip header
 432         $linenum++;
 433         next;
 434     }
 435
 436     if( $skipto > $linenum ) { # debug stuff
 437         $linenum++;
 438         next;
 439     }
 440
 441     last if $limit > 0 && $limit <= $linenum;
 442
 443     # kept getting these errors for many lines:
 444     # "EIQ - Binary character inside quoted field, binary off"
 445     $_ =~ s/[^[:ascii:]]//g;
 446
 447     if ($csv->parse($_)) {
 448         my @columns = $csv->fields();
 449         suffer($linenum,@columns);
 450     } else {
 451         my $err = $csv->error_diag . "(" . $csv->error_input . ")";
 452         print "WARNING: failed to parse line $linenum: " . $csv->error_diag
 453             . " (" . $csv->error_input . ")\n";
 454     }
 455     $linenum++;
 456 }
 457 close CSV;
 458
 459 fatal("COMMIT ABORTED DUE TO DRY RUN BEING ON") if $dry;
 460 $dbh->commit or die $dbh->errstr if $oldAutoCommit;