more debugging to hopefully find out where mysql is hanging, RT#10574
[freeside.git] / FS / bin / freeside-torrus-srvderive
1 #!/usr/bin/perl -w
2
3 use strict;
4 use Date::Parse;
5 use Date::Format;
6 use FS::Daemon ':all'; #daemonize1 drop_root daemonize2 myexit logfile sig*
7 use FS::UID qw( adminsuidsetup dbh driver_name );
8 use FS::Record qw( qsearch str2time_sql str2time_sql_closing concat_sql );
9 use FS::torrus_srvderive;
10
11 our $DEBUG = 2;
12
13 my $user = shift or die &usage;
14 $FS::Daemon::PID_NEWSTYLE = 1;
15 daemonize1('torrus-srvderive');
16
17 drop_root();
18
19 adminsuidsetup($user);
20
21 logfile( "%%%FREESIDE_LOG%%%/torrus-srvderive-log.". $FS::UID::datasrc );
22
23 daemonize2();
24
25 our $conf = new FS::Conf;
26
27 die "not running: network_monitoring_system not Torrus_Internal\n"
28   unless _shouldrun();
29
30 #--
31
32 my $str2time = str2time_sql();
33 my $c = str2time_sql_closing();
34
35 my $_date = concat_sql([ 'srvexport.srv_date', "' '", 'srvexport.srv_time' ]);
36 $_date = "CAST( $_date AS TIMESTAMP )" if driver_name =~ /^Pg/i;
37 $_date = str2time_sql. $_date.  str2time_sql_closing;
38
39 my $other_date = concat_sql([ 'other.srv_date', "' '", 'other.srv_time' ]);
40 $other_date = "CAST( $other_date AS TIMESTAMP )" if driver_name =~ /^Pg/i;
41 $other_date = str2time_sql. $other_date.  str2time_sql_closing;
42
43 my $in  = concat_sql([ '?', "'_IN'" ]);
44 my $out = concat_sql([ '?', "'_OUT'" ]);
45
46 my $sql = "
47   SELECT DISTINCT srv_date, srv_time FROM srvexport
48     WHERE NOT EXISTS (
49                        SELECT 1 FROM srvexport AS other
50                          WHERE other.serviceid IN ( $in, $out )
51                            AND srvexport.srv_date = other.srv_date
52                            AND ABS( $_date - $other_date ) <= 60
53                      )
54 ";
55
56 my $orderlimit = "
57     ORDER BY srv_date, srv_time
58     LIMIT 50
59 ";
60
61
62 MAIN: while (1) {
63
64   my $found = 0;
65
66   foreach my $torrus_srvderive ( qsearch('torrus_srvderive', {}) ) {
67
68     my $serviceid = $torrus_srvderive->serviceid;
69
70     my @serviceids = $torrus_srvderive->component_serviceids;
71
72     my @in = ();
73     for my $dir ('_IN', '_OUT') {
74       push @in, map dbh->quote("$_$dir"), @serviceids;
75     }
76     my $in = join(',', @in);
77
78     my $ssql = "
79       $sql AND EXISTS (
80                        SELECT 1 FROM srvexport AS other
81                          WHERE other.serviceid IN ($in)
82                            AND srvexport.srv_date = other.srv_date
83                            AND ABS( $_date - $other_date ) <= 60
84                      )
85     ";
86
87     $ssql .= " AND srv_date >= '". $torrus_srvderive->last_srv_date. "' "
88       if $torrus_srvderive->last_srv_date;
89
90     $ssql .= $orderlimit;
91
92     warn "searching for times to add $serviceid\n" if $DEBUG;
93     warn $ssql if $DEBUG > 2;
94     my $sth = dbh->prepare($ssql) or die $DBI::errstr; #better recovery?
95
96     warn "executing search" if $DEBUG;
97     $sth->execute($serviceid, $serviceid) or die $sth->errstr;
98     warn "search executed; checking results" if $DEBUG;
99
100     my $prev = 0;
101     while ( my $row = $sth->fetchrow_arrayref ) {
102       last if sigterm() || sigint();
103
104       my( $srv_date, $srv_time ) = @$row;
105       my $cur = str2time( "$srv_date $srv_time" );
106       next if $cur-$prev <= 60;
107       last if time - $cur <= 300;
108
109       warn "no $serviceid for $srv_date $srv_time; adding\n"
110         if $DEBUG;
111       $found++;
112
113       for my $dir ('_IN', '_OUT') {
114
115         my $sin = join(',', map dbh->quote("$_$dir"), @serviceids);
116
117         my $sum = "
118           SELECT COALESCE(SUM(value),0) FROM srvexport AS other
119             WHERE other.serviceid IN ($sin)
120               AND ABS( $cur - $other_date ) <= 60
121         ";
122
123         my $isql = "
124           INSERT INTO srvexport ( srv_date, srv_time, serviceid, value, intvl )
125             VALUES ( ?, ?, ?, ($sum), ? )
126         ";
127         my @param = ( time2str('%Y-%m-%d', $cur), #srv_date
128                       time2str('%X', $cur),       #srv_time
129                       "$serviceid$dir",
130                       300, #intvl ... 
131                     );
132         warn $isql. ' with param '. join(',',@param). "\n"
133           if $DEBUG > 2;
134
135         my $isth = dbh->prepare($isql) or die $DBI::errstr; #better recovery?
136
137         #stupid mysql deadlocks all the time on insert, so we need to recover
138         unless ( $isth->execute(@param) ) {
139           warn "Error inserting data for $serviceid$dir (restarting): ".
140                $isth->errstr;
141           dbh->rollback; #or die dbh->errstr;
142           sleep 5;
143           next MAIN;
144         }
145                         
146       }
147
148       if ( $srv_date ne $torrus_srvderive->last_srv_date ) {
149         warn "updating last_srv_date of $serviceid to $srv_date\n" if $DEBUG;
150         $torrus_srvderive->last_srv_date($srv_date);
151         my $error = $torrus_srvderive->replace;
152         die $error if $error;
153       }
154       dbh->commit or die dbh->errstr;
155
156       $prev = $cur;
157     }
158     warn "done with $serviceid\n" if $DEBUG;
159
160   } #foreach my $torrus_srvderive
161   dbh->commit or die dbh->errstr;
162
163   myexit() if sigterm() || sigint();
164   warn "restarting main loop\n" if $DEBUG > 1;
165   sleep 60 unless $found;
166 }
167
168 sub _shouldrun {
169      $conf->exists('network_monitoring_system')
170   && $conf->config('network_monitoring_system') eq 'Torrus_Internal';
171 }
172
173 sub usage { 
174   die "Usage:\n\n  freeside-cdrrewrited user\n";
175 }
176
177
178 =head1 NAME
179
180 freeside-torrus-srvderive - Freeside's Torrus virtual port daemon.
181
182 =head1 SYNOPSIS
183
184   freeside-torrus-srvderive
185
186 =head1 DESCRIPTION
187
188 Runs continuously, searches for samples in the srvexport table which do not
189 have an entry for combined virtual ports, and adds them.
190
191 =head1 SEE ALSO
192
193 =cut
194
195 1;
196