tyop
[freeside.git] / TODO
1 $Id: TODO,v 1.48 2000-07-06 08:57:27 ivan Exp $
2
3 If you are interested in helping with any of these, please join the mailing
4 list (send a blank message to ivan-freeside-subscribe@sisd.com) to avoid 
5 duplication of effort.
6
7 ---
8
9 hmm - if you delete an account in svc_acct somehow that a mail alias points to,
10 svc_acct_sm.export will fail.  make sure this can't be done using
11 the web interface.
12
13 Bug: during the linking process apparantly you can link too many services to 
14 a package.  *sigh*
15
16 zip code i18n is not very good :( but at least US, CA, HU, ?
17
18 ut_phonen doesn't check data length.  several
19 orthogonal cleanup projects here.  *sigh*
20
21 update the cybercash links in config.html and in the homepage.  add more explicit support for other payment types.  etc.
22
23 From "Tim Jung" <tjung@igateway.net>
24 .
25 Automatic CC Decline Notices via email
26 Block Time billing for prepaid internet cards (400 hours or whatever block
27 time of hours)
28 Trouble Ticket System with simple search function for Knowledge Base feature
29 Employee Timecards
30 Credit Card System support for Red Hat's CCVS, and other Linux credit card
31 programs
32 Contact Manager/Lead Tracking
33 Pre-Sale Quotes
34 Cisco NetFlow Account for IP traffic billing
35 VoIP and FoIP billing
36 Roaming per minute billing based on Radius Proxy support or number they
37 dialed into from Radius logs (800# etc)
38 Support for OpenSRS Domain Registration
39 Support for TUCOWS signup CDs
40
41
42 dbdef-create for postgres
43
44 pro-rating, fiddling dates
45
46 It looks like svc_acct.import doesn't deal well with comments and
47 multi-attribute lines.
48
49 ivan@rootwood:~/freeside_current$ rgrep -r domuid * | cut -d: -f1 | sort |
50 uniq
51 CVS/Base/TODO
52 TODO
53 bin/fs-setup
54 bin/svc_acct_sm.export
55 bin/svc_acct_sm.import
56 htdocs/docs/man/svc_acct_sm.txt
57 htdocs/docs/schema.html
58 htdocs/edit/CVS/Base/part_svc.cgi
59 htdocs/edit/part_svc.cgi
60 htdocs/edit/process/svc_acct_sm.cgi
61 htdocs/edit/svc_acct_sm.cgi
62 htdocs/search/svc_acct_sm.cgi
63 htdocs/view/svc_acct_sm.cgi
64 site_perl/svc_acct_sm.pm
65
66 rootwood:COMPLETEHOST/TODO
67
68 Currently, you set a value in the %FS::UID::callback hash with a coderef  
69 of the code you want to execute, but this was bad design and will shortly
70 be changed to a subroutine to which you pass your coderef to register it.
71
72 This is not a bug, it is how the system is currently designed.  After 
73 defining a new package, you need to specifically allow agent types to
74 purchase packages.  You can do this from the edit screen of the new agent
75 type.
76 .
77 It wouldn't be a bad idea to add a configuration value that makes new
78 packages available for all currently existing agent types automatically.
79 .
80 On Fri, Apr 07, 2000 at 10:50:35AM -0500, David Morton wrote:
81 > For some reason, the type_pkgs table didn't get updated when I tried to
82 > create a domain service and package...  insert into type_pkgs values   
83 > (4,1);  fixed it up so that I could actually order the package.
84
85
86 From: Chuck Cochems <zaphod@tdl.com>
87 .
88 1) automated generating of late notices.  So far the only way I know to
89 generate one is to re-invoice manually.
90
91 2) smart credit card rejection handling.  It should e-mail a note at
92 least, explainig that it did't go through, and why.
93
94 3)coment field in the main customer record.
95 .
96 4) streamlined payment entry feature. the current scheme has it fairly
97 buried.
98
99 5) queries to show al customers who owe money,and such stuff as that.
100
101
102 credits aren't counted against past invoices?  hmm.  something needs to be
103 done to "apply payment" genericly. and zero out invoices etc.
104
105 more email which should make it into a more organized TODO list:
106 .
107 I would also love to see Freeside support bandwidth billing by reading the
108 Cisco NetFlow Accounting data so we and other ISP's could automatically bill
109 co-located servers and even potentially other virtually hosted sites like
110 MUD, Palace Chat, IRC Chat, etc based on the bandwidth they use or average
111 sustained rates or whatever. I'm not much of a programmer so I don't know
112 what all this entails but I did download a NetFlow client agent/whatever for
113 Linux though.
114  .
115 It would also be nice to see Freeside be able to read Apache log files and
116 bill customers for web traffic that way as an option also. Plus an option to
117 bill for excessive disk usage without having to use quotas if you didn't
118 want to, would be a nice feature as well. So you could monitor with a script
119 or something to see how much disk space a user was using then get some
120 average and charge a certain amount for anything above some preset limit for
121 that account type. I might be able to hack something like this up, but I'm
122 not 100% sure where to start or if there is something out there that could
123 be modified or not.
124 .
125 Do you think that you will ever support the HKS CCVS (Hell's Kitchen
126 Software Credit Card Verification Software) since Red Hat bought them out
127 and is going to be including that for credit card processing when you buy
128 the professional version? What about possibly supporting the OpenCCVS which
129 is a GNU/GPL version of a credit card program? I haven't had time to comb
130 through the Freeside code to see how hard it would be to add support for
131 these as externally called programs.
132 .
133 Also any thoughts on help desk, and knowledge base stuff? Any thoughts on
134 this stuff, and how possible and what kinds of work or time frame would be
135 involved?
136 .
137 Tim Jung
138 System Admin
139 Internet Gateway Inc.
140 tjung@igateway.net
141
142
143
144            CVS via SSH (Score:1)
145            by platinum (jedgar at fxp dot org) on Thursday September 30, @07:13PM EDT (#4)
146            (User Info) http://www.fxp.org/~jedgar
147            The links above are your best bet for basic cvs server configuration. Once you have a pserver set up, you
148            may consider using cvs via ssh. All you need to do is the following: 
149
150            1) Have ssh and sshd set up on the client and server machines 
151            2) Set CVSROOT="joe@example.com:/home/ncvs" 
152            3) Set CVS_RSH="/usr/local/bin/ssh" 
153            4) Use cvs normally 
154            (Obviously, insert the proper host/paths above) 
155
156            You can also set up cvs/ssh to not need a password every time (similiar to an initial 'cvs login'): 
157
158            1) run ssh-keygen on client machine using no passphrase. 
159            2) copy/add ~/.ssh/identity.pub on the client to ~/.ssh/authorized_keys on the server 
160            (man ssh for more details) 
161
162            The main reason I mentio
163            CVS via SSH (Score:1)
164            by platinum (jedgar at fxp dot org) on Thursday September 30, @07:13PM EDT (#4)
165            (User Info) http://www.fxp.org/~jedgar
166
167
168 There's no way to do this currently, though it would be pretty
169 straightforward to modify the source - specifically, the _collect_
170 subroutine in FS::cust_main.
171 >
172 On Mon, Dec 13, 1999 at 04:05:32PM -0700, Jeff Garner wrote:
173 > Freeside will e-mail my users when they are billed if they are setup as
174 > billing.
175 >
176 > When setup by credit card it does not e-mail them.  Is there a way to
177 > turn on e-mail invoices for those who are billed via credit card?  Kind
178 > of like a recipt of billing....
179
180
181 doc: http://www.softagency.co.jp/mysql/qmail.en.html
182
183 sql1992.txt standard is 18 character column names.  shoot for that, not just
184 32 (postgresql default)
185
186 Also note that (AFAIK) Freeside won't display any package that has more
187 than one service on the "Add Customer" page.  The reason for this is
188 because there's no way to dynamically alter the displayed html form
189 based on which package is selected. One possible solution would be to
190 make an additional page that's used in the signup process that would
191 display the form for each package, like a MS-style "Wizard".  The first
192 page lets you select the package, then the second page has the custom
193 form with fields for each service in that package and a save button. Of
194 course, that would require a little perl work.
195 .
196 Later,
197 Scott Cruzen <sic@boernenet.com>
198
199
200 Your suggested script with back up /usr/local/etc/freeside, but will miss
201 any database not named `freeside'.  Both of our scripts are specific to
202 MySQL.  If you're interested in contributing to Freeside, maybe you could
203 work on a script which: reads the mapsecrets configuration file and then
204 each secrets file to find out what specific database engine(s) (MySQL,
205 PostgreSQL, etc.) and database(s) need to be backed up, then does so,
206 serializing backups of the same engine, i.e. stop mysql, do all the mysql
207 backups, start mysql, stop postgresql, do all the postgresql backups,
208 start postgresql, etc.
209 > #!/bin/sh                                                                     
210 > apachectl stop                                                                
211 > mysqldump -t freeside > fs-backup.sql                                         
212 > apachectl start                                                               
213 > tar -Pzcvf fs-backup-`date +%y%m%d%H%M%S`.tgz fs-backup.sql /usr/local/etc/freeside/                                                       
214 > rm fs-backup.sql                                                              
215
216 I chose to use counters in the filesystem because there is no standard way
217 to get the value of an auto-incrementing keyfield which is common across  
218 all databases (as seen through DBI/DBD).
219 .
220 It certainly wouldn't be a bad idea to use the database-specific methods,
221 when available.
222
223 htdocs/edit/svc_acct.cgi:
224 (Does the `*HIDDEN*' show up when you are adding a new account, and 
225 specify the password, then receive an error and are returned to the form?)
226
227 more DOC:
228 Thought some of you might be interested in this:
229   
230 <ftp://ftp.minivend.com/pub> has CyberCash compatibility modules for 
231 Paymentnet <http://www.paymentnet.com> and Authorizenet 
232 <http://www.authorizenet.com> which should allow you process transactions
233 using those services as well as CyberCash.
234
235 The files are named CCLib.pm.paymentnet and CCLib.pm_authorizenet,
236 respectively, and are installed by renaming to CCLib.pm and moving to your
237 site_perl directory.  Otherwise, follow the directions for Cybercash v2 in
238 htdocs/docs/config.html
239
240 DOC:
241 fs_passwd/ is a client-server replacement for the `passwd', `chfn' and    
242 `chsh' commands that updates the Freeside database.  (so for that to be   
243 useful, you'd have to be exporting that data periodically)
244   
245 fs_radlog/ is a client-server RADIUS log parser that stuffs the data into
246 SQL.  It isn't finished, and probably won't be unless someone who I can't
247 convince to use one of the RADIUS daemons that logs to SQL directly pays  
248 me money or something.
249   
250 fs_signup/ is a client-server signup server.  i'm just finishing it up    
251 now; probably isn't on your machine yet.
252
253
254 http://www.sisd.com/freeside/list-archive/msg00812.html
255
256 package definitions should be implicit allow wrt agent types, not implicit deny
257 (with the old behavior possible via a config file)
258
259 > So is there anyway it could be setup to allow you to select a "primary
260 > service" from each package?  This service would be the one you were prompted
261 > for.  Could the signup server then be expanded to allow users to go into
262 > their package and "turn-on" the remaining non-primary services(using the
263 > primary account.)
264
265 take the GPL'ed whois proxy stuff at www.geektools.com and turn it into
266 intelligence for Net::Whois.
267
268 A web version of the fs_passwd stuff would be nifty.   
269
270 If you have Cistron authenticating directly from MySQL, you can replicate
271 in real-time instead of exporting periodically.  See 
272 <http://www.mysql.com/Manual_chapter/manual_Common_problems.html#Replication>.
273
274 these go in docs:
275 <http://www.sisd.com/freeside/list-archive/msg00541.html> (was 546), and
276
277 and http://www.sisd.com/freeside/list-archive/msg00421.html (was 423)
278
279 > > 5: Is there anyway to get freeside to send a sysadmin a warning when a
280 > > credit card has expired?
281 No, but there should be.
282
283 Put this in the doc (quoting Mark Wells <mark@pc-intouch.com>):
284 >Of course, thanks to the sheer coolness of SQL and MyODBC, you can do
285 >whatever reports you want in basically whatever application you want.
286 >There's no need for Freeside itself to do any reports at all.
287
288 middle names and titles
289
290 On Wed, Jul 07, 1999 at 01:11:40PM -0400, Frank Nazario wrote:
291 > Playing and entering information to Freeside i encountered the following
292 > missing reports:
293
294 > View Customers by Agent
295
296 > View Pending Invoices
297
298
299 grep 'uncomment this to encrypt password immediately' site_perl/svc_acct.pm
300 Not to say that it shouldn't be a configurable option.
301
302 in site_perl/cust_main_invoice.pm (elsewhere?), error out if mydomain config file is gone
303 (at least until the idea of a default domain goes away)
304
305 FS::Record::qsearch does an eval every loop iteration (which is itself not
306 guaranteed to work across all DBD's and should be fixed).  This has got to be
307 slow.  Fix it.  (I think recent Perls might have a way to accept a variable
308 there, no eval needed?)
309
310 Could you have added /bin/sync, /sbin/shutdown, and /bin/halt to the
311 `shells' configuration file before importing, and removed them afterwords?
312 (even better if svc_acct.import did that automatically - it could just    
313 munge and restore @FS::svc_acct::shells... hmm.)
314
315 > BTW, Ivan, I am trying to verify in an additional database table that a
316 > particular user doesn't exist. This database is used to store email aliases a$
317 > additional POP boxes for our customers (kinda like AOL allows). I have toyed  
318 > with the idea of just writing the aliases to an email only svc_acct that
319 > doesn't write to the password file, but that isn't really how I want to do it.
320
321 Actually, I think that's a pretty good way to do it.  Cerkit contributed
322 support a little while back for svc_acct.pm and svc_acct.export for
323 multiple export targets.  It needs to be cleaned up and documented, which
324 I'll try to get to soon.  For this to work correctly, the svc_acct_sm
325 table should go away, along with the concept of a "default" domain.  
326
327 default setting for new packages should allow all agents to purchase them...
328 with a config file for the old behaviour
329
330 fix or replace Term::Query (Quiz::Question doesn't do what i need)
331
332 Check config file reading stuff from CPAN
333  
334 Authorizenet module from CPAN!
335
336 <http://www.math.fu-berlin.de/~leitner/mutt/faq.html> has a good y2k complience
337 statement!
338
339     I'm hoping Freeside can support arbitrailly complex pricing plans
340     because of a simple concept: all prices are perl expressions.  So if
341     you use `19.95' for example, perl evalates that to be `19.95'.  But if
342     you need to do a complex pricing scheme, you just need to write an
343     appropriate perl expression, which will most likely pull data from the
344     database to return pricing.  Some things will already log to SQL; for
345     example most RADIUS servers can or have a patch available.  Getting
346     Freeside to bill based on any sort of data then becomes a matter of
347     importing the data into the database.
348  
349     There are some issues involved with pro-rating, partial month charges,
350     that sort of thing.  Expressions will need a standard way to have the
351     applicable time/data ranges passed to them.  Also the expressions are
352     currently running under the Safe perl module, and the opmask might not
353     be right in all situations.  I'll try to spend some time working on
354     this if you are using it.
355
356 > 2. can customers view their bills on-line.                                    
357  
358 Not yet; it needs to be proxied from Freeside to a customer web server in
359 a secure way using something not completely unlike the fs_passwd,
360 fs_passwdd, fs_passwd_server trio.
361
362
363 > Lastly, if someone over pays on an invoice, the credit part does not flow
364 > over to other invoices..
365
366 The total balance flows over correctly, but individual payments don't.
367 The code you're looking for is in FS::cust_pay::insert
368
369 The question of what to do with overpayments that don't have another 
370 invoice to flow into (yet.. or possibly not) is still an open one.    The
371 legacy system Freeside replaced long ago had a separate place for this
372 (payments waiting for an invoice) for each customer, and it gave our
373 bookeeper fits.
374
375
376 option to relax username uniqueness in favor of username+domain or mail/shell
377 vs. radius to ease import for isp's with namespace problems or who buy others.
378
379 do i have to store anything for radius realms besides regular radius attributes
380 (which are handled fine now)?
381
382 warn or complain or something when invoice_from is empty (and we use it)
383
384 Right now Freeside uses the `freq' field of a package definition as a 
385 number of months.  The specific section of code you're looking for is in  
386 FS::cust_main::bill:
387         
388         #change this bit to use Date::Manip?
389         #$sdate=$cust_pkg->bill || time;
390         #$sdate=$cust_pkg->bill || $time;
391         $sdate = $cust_pkg->bill || $cust_pkg->setup || $time;
392         my ($sec,$min,$hour,$mday,$mon,$year) =
393           (localtime($sdate) )[0,1,2,3,4,5];
394         $mon += $part_pkg->getfield('freq');
395         until ( $mon < 12 ) { $mon -= 12; $year++; }
396         $cust_pkg->setfield('bill',
397           timelocal($sec,$min,$hour,$mday,$mon,$year));
398         $cust_pkg_mod_flag = 1;
399   
400 ..and when I went poking for this, looks like it tells us just what needs   
401 to be done!  Hehehe...
402
403 Date::Manip can handle cool things like "+ 1 month" (actually the current
404 case of /^(\d+)$/ would have to be added as a special case of "+ $1 
405 month") and "+ 30 days" (what you need) and even "+ 5 business days" !
406
407
408 On Wed, Apr 28, 1999 at 08:38:16PM +0000, Kristian Hoffmann wrote:
409 > I can't quite seem to figure out how this exporting works.  From what I
410 > understand, when you run svc_acct.export, it rewrites the /etc/passwd,
411 > /etc/shadow, etc. files.  Is this only for initial setups with the
412 > export hooks being in the pm's?
413  
414 You can use both, or just one method.  The configuration files control    
415 this.  One of the things in the TODO is to take out the last few things   
416 that aren't customizable wrt this and put them in config files.
417
418 http://www.daemonnews.org/199905/user-mgmt.html
419
420 Term::Query doesn't install out of the box from CPAN.  Fix it (and get it 
421 submitted upstream!), or remove requirement from bin/svc_acct.import and
422 bin/svc_acct_sm.import and take it out of the install instructions.
423
424 use this cool link to explain the Freeside API
425 ftp://cpan.nas.nasa.gov/pub/perl/CPAN/doc/FMTEYEWTK/easy_objects.html
426
427 Multiple tax rates by geographic region (county, state, and county) are   
428 supported; just choose View/Edit tax rates from the main menu.
429
430 Multiple tax rates by package are not (yet) supported.
431
432 On Wed, Jul 07, 1999 at 12:13:36PM -0400, Shaun Batterton wrote:
433 > How would you handle something like multiple tax rates and multiple   
434 > states?  For example in Connecticut, they just changed computer and/or
435 > data processing services to 3% (whatever that is), and everything else
436 > is 6%.
437
438
439 > Second, when trying to add a new user I get two types of errors; first one
440 > is when I place an e-mail address and select the "submit," Freeside
441 > complains with "Error: Unknown local account (specified literally)"
442 .  
443 You probably put a (local) email address in for email invoices.  Freeside
444 stores these as references to the database records, so (for example) they
445 follow username changes.
446 .
447 I'm guessing you put in the email address that you were creating, and got
448 that error because it didn't exist yet.  Sounds like a buglet to me.  I'll
449 try to fix that soon; in the meantime you can add the invoicing email 
450 address afterwords.
451
452 (workaround for postgres before 6.5) (unlikely to ever be implemented)
453 In the mean-time, this could probably be fixed with the reverse of        
454 the kludge in FS::Record::new.  This removes `$' and `,' from money fields
455 coming out of the database.  Something which fixed up the data so Postgres
456 was happy with it could go in FS::Record::_quote, for data going into the
457 database.
458
459 our data display problem might be a Freeside problem wrt not using 
460 Oracle-compatible DBI syntax (fixed using the return value from $sth->execute
461 as a number of rows - something else?).
462
463 hooks for arbitrary commands out of configuration files
464 svc_acct.pm svc_acct_sm.pm etc.
465
466 Add this to a FAQ, along with doing it for middle names:
467
468
469 >  What I'm finding difficult is how to easily 
470 > customize fields.  For example, I am trying to add a "middle name" field
471 > to the Customer Edit, view, etc.  If I'm going about it right, it appears
472 > I have to edit the cust_main.cgi under edit and edit/process and the
473 > site_perl/cust_main.pm, as well as other things.  Perhaps you could shed
474 > some light on the best way of doing this.
475
476 You have the basic idea.  To implement that completely, I would:
477 - Add the new field to bin/fs-setup for new users
478 - Document the field in htdocs/docs/schema.html
479 - Document the change in a new file, htdocs/docs/upgrade4.html
480 * Run bin/dbdef-create
481 * Add the new field to edit/cust_main.cgi and edit/process/cust_main.cgi
482
483 For bonus points, I'd grep around for the various bits which use "$first 
484 $last" or "$last, $first" and replace them with a method call in cust_main.pm,
485  , like search/cust_main.cgi
486
487 document security model:
488 Don't forget about Apache usernames - since, via the mapsecrets file, each
489 user can login to the SQL database with a different username and
490 password, you can utitilize the security model of the SQL database as
491 well.  Also, each username here can point to a different configuration
492 directory where you could store user-specific configuration info.  Then   
493 you could link each username to one-to-many agents. 
494 (The web demo works using a trivial version of this.)
495
496 Yes, queue processing or the equivalent via checkpoint fields on various  
497 talbes (which you pick up via a pretty simple SELECT) would be really 
498 nice too.
499
500 default (and ordering) state/county/country config file
501 expand the
502 cust_main_county table to provide a preferred ordering, so the most common
503 entries would be at the top of the selection box.  automatically, based on
504 recent selections?
505
506 hmm... maybe svc_acct__shell should check off the legal shells list if
507 applicable?  yeah... cool.
508
509 payinfo field should me much larger than 16
510
511
512 [Mon Apr 12 20:31:21 1999] [error] [Mon Apr 12 20:31:21 1999] null: Error closing true: Broken pipe at /usr/local/lib/site_perl/FS/cust_main.pm line 615.
513
514 javascript (yuck!) "are you sure?" confirmation on cancelations, etc.
515 (view/cust_pkg and view/svc_*)
516
517 get rid of time2str("%D") which formats dates in a non-y2k-safe looking fashion
518 (all the actual date handling uses UNIX timestamps and is fine)
519
520 uncomment expire in view/cust_pkg.cgi and find the expire cron from fsold
521
522 (Test this)
523 one-time/per-customer/? changes in rates and descriptions ('remembered
524 invoices'): implement by creating a new package on the fly... but it isn't 
525 associated with any agent types so it won't show up for other customers to buy.
526 (but also... make sure they go away when the customer does! - need this? :
527  one-off package edits! : need a cust_pkgs or cust_part_pkgs or something table,
528  with custnum and partpkg (like type_pkgs)
529 (what happens if you hit "custom pricing" but the pricing is already custom?)
530
531 Lay out any remaining ugly forms better.
532
533 remove "records identical" warning?  gets in the way of more important stuff.
534 or fix logic which tries to update identical records??
535 1.2 should be quiet enough that the error log is useful, hopefully.
536
537 Postgres has a maximum column length of 31 characters (but see NAMEDATALEN in
538 postgres_ext.h).  part_svc has columns like: svc_acct__radius_Attribute_flag
539 (22 characters!)  It seems that stuff over the limit is silently ignored,
540 so we get 4 characters back.  So, Radius_Attributes are max 13 characters with
541 stock Postgres.  see rfc2138 for what's affected
542 What's a good fix?  (besides recompiling postgres with NAMEDATALEN 64)
543 (mysql has a 64 character max column length.  others?)
544
545 [Mon Mar 29 06:57:56 1999] -e: Use of uninitialized value at /usr/lib/perl5/Date/Format.pm line 333.
546 (when sending mail in cust_main.pm::bill or svc_domain.pm)
547
548 look at DBIx::Recordset!  (and Tie::DBI, and...)
549
550 undefined conf/lpr gives this uninfomative error:
551 [Fri Feb 26 16:42:36 1999] bill.cgi: Can't do bidirectional pipe at
552 /usr/lib/per
553 l5/site_perl/FS/cust_main.pm line 629.
554 [Fri Feb 26 16:42:38 1999] bill.cgi: Error closing : Broken pipe at
555 /usr/lib/per
556 l5/site_perl/FS/cust_main.pm line 631.
557 So give a meaningful error!
558
559 password and slipip stuff in svc_acct.pm store need to be split into two fields or something, so the silliness in svc_acct.pm and svc_acct.export with looking at the data to decide what to do with it can be fixed
560
561 i10n: Apache::Language
562
563 Apache::Session?  Other useful Apache::* ?
564
565 email invoices are only sent for the BILL payby.  If setup, should statements
566 (since they're not invoices) be sent for COMP and CARD as well?
567
568 $cgi->keywords is causing the (hard to trace) error:
569         Use of uninitialized value at (eval 5) line 5
570
571 edit/cust_main.cgi gives an uninformative error message:
572 > Can't call method "agentnum" without a package or object reference at   
573 > /usr/local/apache-ssl/htdocs/freeside/edit/cust_main.cgi line 116.
574 if there are no agents.
575
576 (is this missing on any web screens?  (easy with $cust_svc->label)
577 Add the ability for services to filter information up to the package level
578 for web screens, so you can select a particlar package based
579 on username or domain name, etc.
580
581 Allow a cancelled/suspended/active status from packages to bubble up to
582 the customer lists.  Put active, then suspended, then cancelled accounts.
583 Similar ordering on the package listing inside a single customer.
584
585 false laziness: edit/cust_main.cgi got some parts copied from edit/svc_acct.cgi
586 the web interface in general needs to be redone in a more abstract way.
587
588 false laziness: some of search/svc_acct_sm.cgi was copied to search/svc_domain.cgi.  but web interface in general needs to be rewritten in a mucho cleaner way.
589
590 subroutine the where clause (eventually all SQL) as OO perhaps (has anyone done this?)
591
592 add a select method to FS::Record?
593
594 one-time/per-customer/? changes in rates and descriptions ('remembered
595 invoices'): implement by creating a new package on the fly... but it isn't 
596 associated with any agent types so it won't show up for other customers to buy.
597 (but also... make sure they go away when the customer does! - need this? :
598  one-off package edits! : need a cust_pkgs or cust_part_pkgs or something table,
599  with custnum and partpkg (like type_pkgs)
600 (what happens if you hit "custom pricing" but the pricing is already custom?)
601
602 You can't delete the stuff under administration yet.  Add this,
603 _including_ making sure the thing you are deleting is not in use!
604
605 add links on view/cust_main.cgi to setup services, like view/cust_pkg.cgi
606
607 FS::cust_pkg _require_'s FS::$svc, but this won't work with %FS::UID::callback
608 loading of configuration.  (pry need same idea, but will run immediately if
609 context allows).  Looks like error is masked by 'use FS::cust_svc' which in
610 turn 'use's FS::{svc_acct, svc_acct_sm, svc_domain}' which is now explicit
611 w/comments in source
612
613 Allow a cancelled/suspended/active status from packages to bubble up to
614 the customer lists.  Put active, then suspended, then cancelled accounts.
615 Similar ordering on the package listing inside a single customer.
616
617 svc_domain.pm mail sending uses Date::Format which doesn't seem to pick up 
618 correct timezone.
619
620 view/svc_domain.cgi needs to know the domain might be unaudited (cosmetic)
621
622 remove whois_hack set to 1 for svc_domain.pm?  add all known registries and
623 whois accordingly.
624 .us domains and others!
625 site_perl/svc_domain.cgi (hmm... or maybe should have a button?  or maybe svc_domain.pm should handle this) should set $whois_hack for non-internic domains, so you can add them...
626
627 turn on the depriciation warnings for [e]idiot in FS::CGI. Stop using [e]idiot
628 the last places it is (htdocs/search/ htdocs/misc/ htdocs/misc/process)
629
630 (test cust_main.pm with cybercash v2 and v3, especially with the callback
631  stuff AND with mod_perl w/cybercash v2 kludge in package main)
632 (callback stuff should be eliminated by now)
633
634 bah, table/itable/*table in FS::CGI is silly.
635
636 doc Apache::AuthDBI as well
637 ..
638 Provide sample httpd.conf files.
639
640 hey look: Tie::DBI!  Check that out.  Override its commit with something that
641 does perl-side caching for ? a performance improvement and as an emulation
642 layer to plug in f.ex mysql's atomic transactions
643 ..
644 Record.pm uses does some non-portable DBI things.  MySQL and Pg seem fine.
645 Fix it anyway unless we migrate to Tie::DBI.
646
647 faq
648
649 cust_bill.pm uses '==' comparison on dates because they're currently ints
650
651 config file for allowed card types
652
653 write instructions for adding new services w/svc_Common.pm.  Get rid of all
654 places where svc_* tables are hardcoded (rename svc_acct_pop to part_pop so
655 we can do that)
656
657 test and document libapache-dbi-logger (woo!)
658
659 radius logfile parsing and perl expression check.
660
661 Fix in cust_bill BUGS: 
662 There is an off-by-one error in print_text which causes a visual error (Page 1
663 of 2 printed on some single-page invoices).
664
665 fields should be a method against a FS::Record or derived object, as well as
666 being something you can call as FS::Record::fields('tablename').  Might
667 even be able to handle both in the same routine (that would be neato).
668
669 Immediate removal of incorrectly entered check payments (can't take too
670 long to do this, or accounting is fubared).
671
672 Add code to move from one service to another (POP to SLIP/PPP, etc.).
673 This _should_ be possible by working off the rules in part_svc rather than
674 hardcoding anything in.  The rules in part_svc may need some elaboration,
675 perhaps.
676
677 Use ut_ FS::Record methods in all derived classes (possibly some from dbdef?... eventually all from dbdef??? - but then `dbdef-create' would be impossible as there would be metadata we couldn't ask the backend for.  hmm.)
678
679 (bring back from fsold, ) Generalize config-sending stuff and make more configurable.
680 Expand the HylaFAX interface (also possibly generalize for other fax
681 softwar ie .comfaxe); allow things like arbitrary faxes of sales
682 literature, specific troubleshooting documents and so on.  Maybe even
683 allow users to do this (though that might not belong in Freeside).
684 misc/sendconfig.cgi
685 misc/process/sendconfig.cgi
686 Configure fax recipients via a separate box rather than using the finger
687 name or first+last from cust_main.
688
689 move all phone number logic out of Freeside - let HylaFAX or whatever
690 handle it.
691
692 soundex searches for customer name and company?  where are free soundex tools? (standard Text::Soundex duh) - I could have sworn I saw Text::Soundex on CPAN?!
693
694 should be able to link on some field in email alias (right now you can link
695 on username or domain with a fallback to svcnum)
696
697 generalize and make configurable new invoice printing scheme in FS::cust_main::collect (past due)
698
699 deleting an svc_domain should delete all associated svc_acct_sm records.
700 same with a svc_acct.
701
702 periodic password encrypter
703
704 Automated, configurable notification, suspension and cancellation of
705 defunct accounts.
706 ...
707 expire cron job
708 ...
709 Allow for a future setup date on accounts.
710
711 sub AUTOLOAD in FS::Record should warn? die? if used with a non-existant column
712 name?
713
714 edit (not just import, export and allow default/fixed) arbitrary radius stuff
715 in svc_acct
716 edit/svc_acct.cgi and edit/process/svc_acct.cgi should deal with arbitrary radius stuff
717
718 radius import should take DEFAULT entry and put it in /var/spool/freeside/conf/radius-default ; svc_acct.export should use it (and doc)
719
720 in UI, s/State/State\/Provence/go and s/County/County\/Locality/go
721
722 what else (besides l10n) for i18n? (money!)
723
724 audit htdocs/* for things that should be libraried and things that should be
725 new methods on the objects (need to do this before implementing a new UI)
726 all the big things are done
727
728 some places we die() where we should &FS::CGI::idiot (and perhaps vice-versa).
729 Decide based on whether or not the "error" should show up in logs.
730
731 all .cgi's should use standard header/footer and idiot() subroutines.  maybe HTML:: perl modules
732 for HTML creation.  Maybe Embperl or something along those lines.  ?
733
734 When running bin/bill, Fix this (Annoying but harmless):
735 Use of uninitialized value at /usr/local/lib/site_perl/FS/cust_pkg.pm line 99, <ADDRESS> chunk 4.
736 Use of uninitialized value at /usr/local/lib/site_perl/FS/cust_pkg.pm line 102, <ADDRESS> chunk 4.
737 Use of uninitialized value at /usr/local/lib/site_perl/FS/cust_pkg.pm line 105, <ADDRESS> chunk 4.
738
739 all cgi (but internal to the isp) places where package names are listed should also have
740 comment (like agent_type)
741
742 clean up $recref and other silliness and use -> calls where possible, or
743 one other alternative.  clean up everything else.
744 should FS::Record use Tie::Hash?  That would be very clean, but where do we
745 store the other information?  Maybe you could ask any FS::Record object for a
746 tied hash?
747
748 change all file access from regular open(FILE,) stuff to OO, because of 
749 problems scoping and passing filehandles like that.
750
751 the web interface should create a new object and use it instead of a blank
752 form for new records.  the create method of svc_ objects should set defaults
753 (from part_svc).
754
755 sub check in man FS::table_name should be rewriteen.  Get rid of $recref
756 stuff.  Make sure all fields that refer to other database are checked.
757
758 Integration with signup disks (are there any free ones?  Netscape?).
759
760 One-button cancel (+refund) for lusers who can't get online.
761
762 Keep information on virtual web servers (hostname, IP, host machine,
763 directory, etc.) and export this information for importation into the ISPs
764 web farm. 
765
766 Remove requirement that the first mail alias be the catchall?  Still make
767 sure only one catchall per domain is defined in any case, of course. 
768
769 Ability to move cust_pkg records from one customer to another? (proably
770 will need to cancel the old and create a new like when we move services
771 between packages). 
772
773 Auto-increment expired cards one year, and try again?
774
775 More non-US stuff - zip codes, country codes, foreign currencies, etc.
776
777 cust_refund.{cgi.pm} need to do cards xaxtions.  (now we only have cust_credit)
778
779 Nicer set of integrated reporting possibilities, like weekly sales totals
780 by customer, package, agent, referral, etc., aging reports sorted by lots
781 of different things, and so on.
782
783 Client/server setup for users to modify their own passwords, shells, etc,
784 via passwd or secure web interface (prelminary passwd/chfn/chsh
785 replacement done).  Complicated by the fact that we don't want to allow
786 incoming connections to the machine running Freeside, so we probably need
787 to have a daemon on each external shell or web machine that is contacted
788 by the Freeside machine.  Be very very careful for both traditional
789 security issues and DoS problems. 
790
791 An extension of the above to allow users to modify selected parts of their
792 own information, order and cancel services.  A web interface for new
793 customers.
794
795 Expand domain name stuff to house all domain information.  Export
796 named.boot/named.conf (primary and secondary) and named.{domain} files.
797 Add more registries (not just InterNIC's com org net edu)
798
799 Nice postscript paper invoices, rather than current ASCII invoices.
800
801 think about race-condititions in FS::Record and derived ->check ->insert
802 and so on, uid and username checks in svc_acct, etc.
803
804 Move to rsync over ssh file exportation rather than scp.
805
806 check 'n fix the proactive password checker. (cracklib?)
807
808 refunds of "BILL" payments: generate pseudo-check.
809
810 write batch senders and batch parsers for the different credit card processors
811 people use/
812 More CC processors/methods.
813
814 you should be able to fiddle the setup date in cust_pkg. (at least initially)
815
816 delete options in administration section
817
818 write a generic batch senders and batch parsers.
819
820 need a way to override svc_acct export on a per-machine basis; just use config files based on machine name i suppose; document that. (no, import desync_hosts
821 type stuff from cerkit)
822 ...
823 add a table with column of export services (passwd, shadow, master.passwd, .qmail file update, dns update, etc.) and rows machine groups and whether or not to export that (and any necessary parameters).  wasn't matt (vunderkid, not matt@michweb) working on this?  find him?  each machine goes in a group of its own as well as a group based on function.  add a table with only svcpart and machine group.  now, when you import from each machine, it can get its own accounts with one svcpart and universal accounts with another svcpart.  (though that does make the username duplicate checking more interesting)
824
825 you should be able to get column types as a method against an FS::Record object
826 as well as dbdef->table($table)->column($column)->type
827
828 move to perl module for fuzzy and soundex searching.
829
830 package view needs to list extraneous services; we need to prevent the
831 creation of them so this never happens (and mark it as such in the source)
832 (the creation problem should be fixed - though they will still happen if people
833 fsck around in the data manually, so list them anyway)
834
835 add attribute dictionary to fs-setup as a menu, plus analyze users file to
836 decide automatically
837
838 Check for and report on duplicate billing accounts (cust_main, though many
839 will have a need for these so probably don't disable them outright.)
840
841 create a ->warn as well as a ->check method for all FS::table classes?
842 (see above)
843
844 something to automate making a release and updating the web demo
845
846 export a debian-style (also redhat and?) /etc/group file aswell!
847
848 svc_acct_sm.import qmail import should pull in recipientmap people too.
849
850 .pm's like svc_acct.pm which need to do time-consuming things like ssh remotely
851 should fork and do them in a child.
852
853 i18n/l10n: take ALL messages and catalog them in english.txt or in database or something, so we can eventually go int'l.  int'l currency support would be a help aswell.
854
855 get some of { city, county, state, zip } from the missing bits if
856 possible (where can i get the data to do this?  usps.gov?)
857
858 additional interfaces (perltk?  java?)
859
860 Put the GPL notice in all files.
861
862 integrate w/IDEA's signup server
863
864 $cust_bill->owed database field to be eliminated, replaced by a method call
865 that calculates on the fly.  make sure to grep for ->(get|set)field('owed') 
866 same for cust_credit->credited
867
868 Export quota information.
869
870 move all configuration to a central place.  maybe in blob's in the
871 database.  maybe even things like the code to execute when a username is
872 changed can be in there, so less of the distributed scripts change between
873 different sites.
874
875 Implement setup and recurring fees as Safe perl expressions rather than
876 numbers, to allow for variable-rate services.  Backwards compatibility is
877 obtained because { 43 } in perl is still 43.  :)  Define API to pass
878 starting and ending dates and any other necessary data to expression
879 (fees are currently evaluated as Safe expressions but more work needs to
880 be done to define an opmask for various needs, write examples
881 (usage-based billing, etc.) and so on).
882 ...
883 Add the ability to modify the next billing date in cust_pkg, and take
884 appropriate action.  This will allow the implementation of pro-rate/1st of
885 the month billing as well as the ability to manually fiddle with
886 anniversary dates in cust_pkg, so you can sync a customer's anniversary
887 date even if you're using anniversary billing (manually or automatically).
888 (now with above, we need to have a way to automatically pro-rate /^(\d+)$/
889 charges - anything more complicated should figure it out itself given
890 starting and ending dates [document that!])
891 ...
892 Daily Radius log parsing into database; other logfile formats?
893 ...
894 Callbacks to enforce hourly limits on accounts (suspend until the end of
895 the billing period?), for those who limit customers rather than tack on
896 extra charges.
897
898 Flag packages (part_pkg) as taxable or non/taxable as some ISPs (for
899 example) need to charge tax on equipment but not service (separate flags
900 for setup and recurring fee... or perhaps a setup_tax, setup_notax,
901 recur_tax and recur_notax fees, and possibly something more flexible if
902 there is need).
903
904 Allow for a variable number of invoices for customers who need multiple
905 copies.
906
907 Add a mail alias service with table svc_acct (not domain mail aliasing
908 which is domain with svc_acct_sm)
909
910 (bring back from fsold) Change customer comment field from its current kludge to something more
911 workable.
912
913 Better work orders with more information.  Should eventually open a ticket
914 when we have such a thing.
915 edit/svc_wo.cgi
916 edit/process/svc_wo.cgi
917 Call tracking and trouble tickets.
918
919 More accoutability for complimentary accounts: approval, expiration, term
920 (no more than x months in advance) and notification.
921 Flag particular users (or all users, for that matter) as having their
922 passwords hidden and/or locked from users of Freeside (maybe need Freeside
923 security levels first?). 
924 ...
925 Better Freeside-level configurable access, for those ISP's who have
926 employees they can't trust.  Right now you're "stuck" with setting up
927 .htaccess stuff yourself.  This should really just be integrated. 
928
929 configuration/setup should get web interface
930 ...
931 /usr/local/etc/freeside should be configurable
932 ...
933 (probably as part of some automated installation process?)
934
935 This requires some serious magic in FS::Record:
936 ok, if date_type in fs-setup is to be something besides int,
937 now we need to create wrappers
938 for them so they behave identically across RDBMS's, ie date pops out as as
939 UNIX timestamp (or an object of some sort? maybe even a blessed $obj which
940 is a string not a hashref for backwards compatibility?) and so on. (remember
941 to treat '0' as Not a Date instead of 1/1/70.
942
943 Add Freeside-level transactions for RDBMS's which don't support
944 transcations?  (Currently we assume a minimal RDBMS which has no rollback,
945 transactions or atomic updates).  Or just require a RDBMS that supports
946 rollback and/or atomic updates and get rid of the work-arounds?  The /rdb
947 interface had this kludge on top of it but is a technical dead-end in most
948 other ways, unless it can gain an SQL parser and DBD interface.
949 ...
950 if i'm really bored, find the /rdb interface in fsold and port it to NoSQL,
951 and while I'm add it add interfaces for AnyDBM_File tied hash.. hmm.  Shouldn't
952 an FS::Record have something to do with a tied hash?  But we don't want
953 performance to go gaga... maybe something with commit to help out here?
954 ...
955 Ok: FS::Record gives you a tied hash, and you get methods for commit, etc.
956
957 Better automated comparison of our CC records with processors (CyberCash,
958 at least, has not always had 100% accuracy, though recent versions are
959 much better) 
960
961 Expect or other pty based login check, where we actually connect to a
962 terminal server or shell machine and test logging in as the user (if we
963 are keeping a cleartext password for that user)  (This is something tech
964 support often needs for new customers)
965
966 Use cust_main table for pre-sales tracking as well?
967
968 Automatic commision report and check generation via freq and prog (to
969 become a Safe perl expression) fields in agent table, and possibly others.
970
971 Database and add a mailed-out date and method for disk/CD mailing, so a
972 customer can call and you can say, "sent on xx/xx/xx via {US Mail, Fedex,
973 UPS, etc}" 
974
975 Inventory tracking for physical items such as routers (for sale or
976 lease... probably doesn't make a difference in the ordering... but if you
977 cancel a router lease the inventory should come back.  hmm.)
978
979 -- Matt's wishlist ---
980
981 From matt@michweb.net Fri Feb 20 16:39:53 1998
982 Date: Thu, 19 Feb 1998 23:20:11 -0500
983 From: Matt Simerson <matt@michweb.net>
984 Reply-To: quadran-developer@netgoth.com
985 To: quadran-developer@netgoth.com
986 Subject: Re: Welcome to quadran-developer
987
988 >Whats it based on and what is it supposed to do?  I'm interested, but
989 >unfortunatly, I don't have that much time to help on the project (I'm busily
990 >working on one of my own based around MySQL and Qt right now -- don't know
991 >if it will be GPL'ed or not yet -- we'll probably just use it in house since
992 >it is designed around our system)...
993
994 That's what I set out to find, but didn't find anything on the web site.
995 I'm looking for something that will do the following:
996
997 Single point of entry for users on a secure system:
998         Creates account on user (public) systems
999                 update /etc/passwd/master.passwd file
1000                 update radius database (if necessary)
1001         Set up up disk quotas (although I hacked adduser to do this)
1002         Option for adding user to a mailing list(s)
1003         Export of new user info to customizable report (for automated entry
1004 into
1005                 accounting software, etc...)
1006
1007 Automated billing:
1008         Export credit card info for batch processing and have hooks built
1009                 in for other forms of electronic processing.
1010         Batch-Payment (apply payments from formatted text file).
1011         Customizable reports for manual entry/importing into Accounting
1012 software
1013         Email or laser print invoices
1014         Sanity checks credit card numbers before processing (code available)
1015
1016 Simple method for disabling an account.
1017         Arbitrary Expiration Dates (on a given day, in x days)
1018         Remove from radius.
1019         Changing password to '*'
1020         Virtual customers disabling dns, http server, log processing, etc..
1021
1022 Billing for different account types:
1023         Dialup monthly flat rate. Prorates for partial months.
1024         Dialup monthly flat rate for x hours + hourly usage.
1025         Dialup email only
1026         Email only accounts
1027         Virtual Web accounts - w/multiple mailboxes
1028         Leased line accounts
1029         Disk space used over quota.
1030         Tech support minimum + hourly charges
1031         Other for misc stuff (modem, RAM, etc...)
1032
1033 Per user definable RADIUS attributes (ties in with above)
1034         Fixed IP
1035         Simultaneous Use
1036         IP filters (for dialup email only)
1037
1038 Keep logs of modem usage generated daily from radius accounting logs stored
1039 on multiple radius servers.
1040
1041 Keep logs of disk usage generated from quota.
1042
1043 Method of adding virtual domains to your system:
1044         Automatically grabs an IP address from a preassigned pool.
1045         Creates a domain.com database file from database fields
1046         Updates /etc/named.conf or /etc/named.boot and reloads named.
1047         Add's virtual.com to /etc/sendmail.cw or qmail control files.
1048         Edits your web servers httpd.conf file and restarts http server.
1049         An optional section for adding vif's can be added if the users OS
1050                 supports adding them on the fly. Otherwise it's up to the end
1051                 user. Make a hook that can run a custom script that the user
1052                 tweaks for his system.
1053         Update or create the config file your web stats analyzer needs. I've
1054                 done this for analog (free) and http-analyze. Probably
1055                 should only officially support analog and let users hack
1056                 it to their hearts desire.
1057 I've already written scripts that do most of the virtual web stuff on my
1058 system...in bash. Shouldn't be hard for a perlmeister to convert. In fact,
1059 as long as all the info was stored in the database (username, domain name,
1060 and ip pool) this could easily just be run as an external script that the
1061 user tweaks to match his system.
1062
1063 We use a great accounting software (M.Y.O.B) that does all the AP, AR,
1064 Payroll, Tax stuff, and most everything else we could need. It's already
1065 set up for the type of checks we have, etc, etc... I just need something to
1066 do the billing part. I can import/export sales and payments directly once
1067 the billing part is done. You can't write accounting software as good as
1068 M.Y.O.B. for $120.
1069
1070