add print_batch script from Joel Griffiths
[freeside.git] / TODO
1 $Id: TODO,v 1.43 2000-05-13 21:57:56 ivan Exp $
2
3 If you are interested in helping with any of these, please join the mailing
4 list (send a blank message to ivan-freeside-subscribe@sisd.com) to avoid 
5 duplication of effort.
6
7 ---
8
9 pro-rating, fiddling dates
10
11 It looks like svc_acct.import doesn't deal well with comments and
12 multi-attribute lines.
13
14 ivan@rootwood:~/freeside_current$ rgrep -r domuid * | cut -d: -f1 | sort |
15 uniq
16 CVS/Base/TODO
17 TODO
18 bin/fs-setup
19 bin/svc_acct_sm.export
20 bin/svc_acct_sm.import
21 htdocs/docs/man/svc_acct_sm.txt
22 htdocs/docs/schema.html
23 htdocs/edit/CVS/Base/part_svc.cgi
24 htdocs/edit/part_svc.cgi
25 htdocs/edit/process/svc_acct_sm.cgi
26 htdocs/edit/svc_acct_sm.cgi
27 htdocs/search/svc_acct_sm.cgi
28 htdocs/view/svc_acct_sm.cgi
29 site_perl/svc_acct_sm.pm
30
31 rootwood:COMPLETEHOST/TODO
32
33 Currently, you set a value in the %FS::UID::callback hash with a coderef  
34 of the code you want to execute, but this was bad design and will shortly
35 be changed to a subroutine to which you pass your coderef to register it.
36
37 This is not a bug, it is how the system is currently designed.  After 
38 defining a new package, you need to specifically allow agent types to
39 purchase packages.  You can do this from the edit screen of the new agent
40 type.
41 .
42 It wouldn't be a bad idea to add a configuration value that makes new
43 packages available for all currently existing agent types automatically.
44 .
45 On Fri, Apr 07, 2000 at 10:50:35AM -0500, David Morton wrote:
46 > For some reason, the type_pkgs table didn't get updated when I tried to
47 > create a domain service and package...  insert into type_pkgs values   
48 > (4,1);  fixed it up so that I could actually order the package.
49
50
51 From: Chuck Cochems <zaphod@tdl.com>
52 .
53 1) automated generating of late notices.  So far the only way I know to
54 generate one is to re-invoice manually.
55
56 2) smart credit card rejection handling.  It should e-mail a note at
57 least, explainig that it did't go through, and why.
58
59 3)coment field in the main customer record.
60 .
61 4) streamlined payment entry feature. the current scheme has it fairly
62 buried.
63
64 5) queries to show al customers who owe money,and such stuff as that.
65
66
67 credits aren't counted against past invoices?  hmm.  something needs to be
68 done to "apply payment" genericly. and zero out invoices etc.
69
70 more email which should make it into a more organized TODO list:
71 .
72 I would also love to see Freeside support bandwidth billing by reading the
73 Cisco NetFlow Accounting data so we and other ISP's could automatically bill
74 co-located servers and even potentially other virtually hosted sites like
75 MUD, Palace Chat, IRC Chat, etc based on the bandwidth they use or average
76 sustained rates or whatever. I'm not much of a programmer so I don't know
77 what all this entails but I did download a NetFlow client agent/whatever for
78 Linux though.
79  .
80 It would also be nice to see Freeside be able to read Apache log files and
81 bill customers for web traffic that way as an option also. Plus an option to
82 bill for excessive disk usage without having to use quotas if you didn't
83 want to, would be a nice feature as well. So you could monitor with a script
84 or something to see how much disk space a user was using then get some
85 average and charge a certain amount for anything above some preset limit for
86 that account type. I might be able to hack something like this up, but I'm
87 not 100% sure where to start or if there is something out there that could
88 be modified or not.
89 .
90 Do you think that you will ever support the HKS CCVS (Hell's Kitchen
91 Software Credit Card Verification Software) since Red Hat bought them out
92 and is going to be including that for credit card processing when you buy
93 the professional version? What about possibly supporting the OpenCCVS which
94 is a GNU/GPL version of a credit card program? I haven't had time to comb
95 through the Freeside code to see how hard it would be to add support for
96 these as externally called programs.
97 .
98 Also any thoughts on help desk, and knowledge base stuff? Any thoughts on
99 this stuff, and how possible and what kinds of work or time frame would be
100 involved?
101 .
102 Tim Jung
103 System Admin
104 Internet Gateway Inc.
105 tjung@igateway.net
106
107
108
109            CVS via SSH (Score:1)
110            by platinum (jedgar at fxp dot org) on Thursday September 30, @07:13PM EDT (#4)
111            (User Info) http://www.fxp.org/~jedgar
112            The links above are your best bet for basic cvs server configuration. Once you have a pserver set up, you
113            may consider using cvs via ssh. All you need to do is the following: 
114
115            1) Have ssh and sshd set up on the client and server machines 
116            2) Set CVSROOT="joe@example.com:/home/ncvs" 
117            3) Set CVS_RSH="/usr/local/bin/ssh" 
118            4) Use cvs normally 
119            (Obviously, insert the proper host/paths above) 
120
121            You can also set up cvs/ssh to not need a password every time (similiar to an initial 'cvs login'): 
122
123            1) run ssh-keygen on client machine using no passphrase. 
124            2) copy/add ~/.ssh/identity.pub on the client to ~/.ssh/authorized_keys on the server 
125            (man ssh for more details) 
126
127            The main reason I mentio
128            CVS via SSH (Score:1)
129            by platinum (jedgar at fxp dot org) on Thursday September 30, @07:13PM EDT (#4)
130            (User Info) http://www.fxp.org/~jedgar
131
132
133 There's no way to do this currently, though it would be pretty
134 straightforward to modify the source - specifically, the _collect_
135 subroutine in FS::cust_main.
136 >
137 On Mon, Dec 13, 1999 at 04:05:32PM -0700, Jeff Garner wrote:
138 > Freeside will e-mail my users when they are billed if they are setup as
139 > billing.
140 >
141 > When setup by credit card it does not e-mail them.  Is there a way to
142 > turn on e-mail invoices for those who are billed via credit card?  Kind
143 > of like a recipt of billing....
144
145
146 doc: http://www.softagency.co.jp/mysql/qmail.en.html
147
148 sql1992.txt standard is 18 character column names.  shoot for that, not just
149 32 (postgresql default)
150
151 Also note that (AFAIK) Freeside won't display any package that has more
152 than one service on the "Add Customer" page.  The reason for this is
153 because there's no way to dynamically alter the displayed html form
154 based on which package is selected. One possible solution would be to
155 make an additional page that's used in the signup process that would
156 display the form for each package, like a MS-style "Wizard".  The first
157 page lets you select the package, then the second page has the custom
158 form with fields for each service in that package and a save button. Of
159 course, that would require a little perl work.
160 .
161 Later,
162 Scott Cruzen <sic@boernenet.com>
163
164
165 Your suggested script with back up /usr/local/etc/freeside, but will miss
166 any database not named `freeside'.  Both of our scripts are specific to
167 MySQL.  If you're interested in contributing to Freeside, maybe you could
168 work on a script which: reads the mapsecrets configuration file and then
169 each secrets file to find out what specific database engine(s) (MySQL,
170 PostgreSQL, etc.) and database(s) need to be backed up, then does so,
171 serializing backups of the same engine, i.e. stop mysql, do all the mysql
172 backups, start mysql, stop postgresql, do all the postgresql backups,
173 start postgresql, etc.
174 > #!/bin/sh                                                                     
175 > apachectl stop                                                                
176 > mysqldump -t freeside > fs-backup.sql                                         
177 > apachectl start                                                               
178 > tar -Pzcvf fs-backup-`date +%y%m%d%H%M%S`.tgz fs-backup.sql /usr/local/etc/freeside/                                                       
179 > rm fs-backup.sql                                                              
180
181 I chose to use counters in the filesystem because there is no standard way
182 to get the value of an auto-incrementing keyfield which is common across  
183 all databases (as seen through DBI/DBD).
184 .
185 It certainly wouldn't be a bad idea to use the database-specific methods,
186 when available.
187
188 htdocs/edit/svc_acct.cgi:
189 (Does the `*HIDDEN*' show up when you are adding a new account, and 
190 specify the password, then receive an error and are returned to the form?)
191
192 more DOC:
193 Thought some of you might be interested in this:
194   
195 <ftp://ftp.minivend.com/pub> has CyberCash compatibility modules for 
196 Paymentnet <http://www.paymentnet.com> and Authorizenet 
197 <http://www.authorizenet.com> which should allow you process transactions
198 using those services as well as CyberCash.
199
200 The files are named CCLib.pm.paymentnet and CCLib.pm_authorizenet,
201 respectively, and are installed by renaming to CCLib.pm and moving to your
202 site_perl directory.  Otherwise, follow the directions for Cybercash v2 in
203 htdocs/docs/config.html
204
205 DOC:
206 fs_passwd/ is a client-server replacement for the `passwd', `chfn' and    
207 `chsh' commands that updates the Freeside database.  (so for that to be   
208 useful, you'd have to be exporting that data periodically)
209   
210 fs_radlog/ is a client-server RADIUS log parser that stuffs the data into
211 SQL.  It isn't finished, and probably won't be unless someone who I can't
212 convince to use one of the RADIUS daemons that logs to SQL directly pays  
213 me money or something.
214   
215 fs_signup/ is a client-server signup server.  i'm just finishing it up    
216 now; probably isn't on your machine yet.
217
218
219 http://www.sisd.com/freeside/list-archive/msg00812.html
220
221 package definitions should be implicit allow wrt agent types, not implicit deny
222 (with the old behavior possible via a config file)
223
224 > So is there anyway it could be setup to allow you to select a "primary
225 > service" from each package?  This service would be the one you were prompted
226 > for.  Could the signup server then be expanded to allow users to go into
227 > their package and "turn-on" the remaining non-primary services(using the
228 > primary account.)
229
230 take the GPL'ed whois proxy stuff at www.geektools.com and turn it into
231 intelligence for Net::Whois.
232
233 A web version of the fs_passwd stuff would be nifty.   
234
235 If you have Cistron authenticating directly from MySQL, you can replicate
236 in real-time instead of exporting periodically.  See 
237 <http://www.mysql.com/Manual_chapter/manual_Common_problems.html#Replication>.
238
239 these go in docs:
240 <http://www.sisd.com/freeside/list-archive/msg00541.html> (was 546), and
241
242 and http://www.sisd.com/freeside/list-archive/msg00421.html (was 423)
243
244 > > 5: Is there anyway to get freeside to send a sysadmin a warning when a
245 > > credit card has expired?
246 No, but there should be.
247
248 Put this in the doc (quoting Mark Wells <mark@pc-intouch.com>):
249 >Of course, thanks to the sheer coolness of SQL and MyODBC, you can do
250 >whatever reports you want in basically whatever application you want.
251 >There's no need for Freeside itself to do any reports at all.
252
253 middle names and titles
254
255 On Wed, Jul 07, 1999 at 01:11:40PM -0400, Frank Nazario wrote:
256 > Playing and entering information to Freeside i encountered the following
257 > missing reports:
258
259 > View Customers by Agent
260
261 > View Pending Invoices
262
263
264 grep 'uncomment this to encrypt password immediately' site_perl/svc_acct.pm
265 Not to say that it shouldn't be a configurable option.
266
267 in site_perl/cust_main_invoice.pm (elsewhere?), error out if mydomain config file is gone
268 (at least until the idea of a default domain goes away)
269
270 FS::Record::qsearch does an eval every loop iteration (which is itself not
271 guaranteed to work across all DBD's and should be fixed).  This has got to be
272 slow.  Fix it.  (I think recent Perls might have a way to accept a variable
273 there, no eval needed?)
274
275 Could you have added /bin/sync, /sbin/shutdown, and /bin/halt to the
276 `shells' configuration file before importing, and removed them afterwords?
277 (even better if svc_acct.import did that automatically - it could just    
278 munge and restore @FS::svc_acct::shells... hmm.)
279
280 > BTW, Ivan, I am trying to verify in an additional database table that a
281 > particular user doesn't exist. This database is used to store email aliases a$
282 > additional POP boxes for our customers (kinda like AOL allows). I have toyed  
283 > with the idea of just writing the aliases to an email only svc_acct that
284 > doesn't write to the password file, but that isn't really how I want to do it.
285
286 Actually, I think that's a pretty good way to do it.  Cerkit contributed
287 support a little while back for svc_acct.pm and svc_acct.export for
288 multiple export targets.  It needs to be cleaned up and documented, which
289 I'll try to get to soon.  For this to work correctly, the svc_acct_sm
290 table should go away, along with the concept of a "default" domain.  
291
292 default setting for new packages should allow all agents to purchase them...
293 with a config file for the old behaviour
294
295 fix or replace Term::Query (Quiz::Question doesn't do what i need)
296
297 Check config file reading stuff from CPAN
298  
299 Authorizenet module from CPAN!
300
301 <http://www.math.fu-berlin.de/~leitner/mutt/faq.html> has a good y2k complience
302 statement!
303
304     I'm hoping Freeside can support arbitrailly complex pricing plans
305     because of a simple concept: all prices are perl expressions.  So if
306     you use `19.95' for example, perl evalates that to be `19.95'.  But if
307     you need to do a complex pricing scheme, you just need to write an
308     appropriate perl expression, which will most likely pull data from the
309     database to return pricing.  Some things will already log to SQL; for
310     example most RADIUS servers can or have a patch available.  Getting
311     Freeside to bill based on any sort of data then becomes a matter of
312     importing the data into the database.
313  
314     There are some issues involved with pro-rating, partial month charges,
315     that sort of thing.  Expressions will need a standard way to have the
316     applicable time/data ranges passed to them.  Also the expressions are
317     currently running under the Safe perl module, and the opmask might not
318     be right in all situations.  I'll try to spend some time working on
319     this if you are using it.
320
321 > 2. can customers view their bills on-line.                                    
322  
323 Not yet; it needs to be proxied from Freeside to a customer web server in
324 a secure way using something not completely unlike the fs_passwd,
325 fs_passwdd, fs_passwd_server trio.
326
327
328 > Lastly, if someone over pays on an invoice, the credit part does not flow
329 > over to other invoices..
330
331 The total balance flows over correctly, but individual payments don't.
332 The code you're looking for is in FS::cust_pay::insert
333
334 The question of what to do with overpayments that don't have another 
335 invoice to flow into (yet.. or possibly not) is still an open one.    The
336 legacy system Freeside replaced long ago had a separate place for this
337 (payments waiting for an invoice) for each customer, and it gave our
338 bookeeper fits.
339
340
341 option to relax username uniqueness in favor of username+domain or mail/shell
342 vs. radius to ease import for isp's with namespace problems or who buy others.
343
344 do i have to store anything for radius realms besides regular radius attributes
345 (which are handled fine now)?
346
347 warn or complain or something when invoice_from is empty (and we use it)
348
349 Right now Freeside uses the `freq' field of a package definition as a 
350 number of months.  The specific section of code you're looking for is in  
351 FS::cust_main::bill:
352         
353         #change this bit to use Date::Manip?
354         #$sdate=$cust_pkg->bill || time;
355         #$sdate=$cust_pkg->bill || $time;
356         $sdate = $cust_pkg->bill || $cust_pkg->setup || $time;
357         my ($sec,$min,$hour,$mday,$mon,$year) =
358           (localtime($sdate) )[0,1,2,3,4,5];
359         $mon += $part_pkg->getfield('freq');
360         until ( $mon < 12 ) { $mon -= 12; $year++; }
361         $cust_pkg->setfield('bill',
362           timelocal($sec,$min,$hour,$mday,$mon,$year));
363         $cust_pkg_mod_flag = 1;
364   
365 ..and when I went poking for this, looks like it tells us just what needs   
366 to be done!  Hehehe...
367
368 Date::Manip can handle cool things like "+ 1 month" (actually the current
369 case of /^(\d+)$/ would have to be added as a special case of "+ $1 
370 month") and "+ 30 days" (what you need) and even "+ 5 business days" !
371
372
373 On Wed, Apr 28, 1999 at 08:38:16PM +0000, Kristian Hoffmann wrote:
374 > I can't quite seem to figure out how this exporting works.  From what I
375 > understand, when you run svc_acct.export, it rewrites the /etc/passwd,
376 > /etc/shadow, etc. files.  Is this only for initial setups with the
377 > export hooks being in the pm's?
378  
379 You can use both, or just one method.  The configuration files control    
380 this.  One of the things in the TODO is to take out the last few things   
381 that aren't customizable wrt this and put them in config files.
382
383 http://www.daemonnews.org/199905/user-mgmt.html
384
385 Term::Query doesn't install out of the box from CPAN.  Fix it (and get it 
386 submitted upstream!), or remove requirement from bin/svc_acct.import and
387 bin/svc_acct_sm.import and take it out of the install instructions.
388
389 use this cool link to explain the Freeside API
390 ftp://cpan.nas.nasa.gov/pub/perl/CPAN/doc/FMTEYEWTK/easy_objects.html
391
392 Multiple tax rates by geographic region (county, state, and county) are   
393 supported; just choose View/Edit tax rates from the main menu.
394
395 Multiple tax rates by package are not (yet) supported.
396
397 On Wed, Jul 07, 1999 at 12:13:36PM -0400, Shaun Batterton wrote:
398 > How would you handle something like multiple tax rates and multiple   
399 > states?  For example in Connecticut, they just changed computer and/or
400 > data processing services to 3% (whatever that is), and everything else
401 > is 6%.
402
403
404 > Second, when trying to add a new user I get two types of errors; first one
405 > is when I place an e-mail address and select the "submit," Freeside
406 > complains with "Error: Unknown local account (specified literally)"
407 .  
408 You probably put a (local) email address in for email invoices.  Freeside
409 stores these as references to the database records, so (for example) they
410 follow username changes.
411 .
412 I'm guessing you put in the email address that you were creating, and got
413 that error because it didn't exist yet.  Sounds like a buglet to me.  I'll
414 try to fix that soon; in the meantime you can add the invoicing email 
415 address afterwords.
416
417 (workaround for postgres before 6.5) (unlikely to ever be implemented)
418 In the mean-time, this could probably be fixed with the reverse of        
419 the kludge in FS::Record::new.  This removes `$' and `,' from money fields
420 coming out of the database.  Something which fixed up the data so Postgres
421 was happy with it could go in FS::Record::_quote, for data going into the
422 database.
423
424 our data display problem might be a Freeside problem wrt not using 
425 Oracle-compatible DBI syntax (uses the return value from $sth->execute as
426 a number of rows).  Fixing this is on the TODO.
427
428 hooks for arbitrary commands out of configuration files
429 svc_acct.pm svc_acct_sm.pm etc.
430
431 Add this to a FAQ, along with doing it for middle names:
432
433
434 >  What I'm finding difficult is how to easily 
435 > customize fields.  For example, I am trying to add a "middle name" field
436 > to the Customer Edit, view, etc.  If I'm going about it right, it appears
437 > I have to edit the cust_main.cgi under edit and edit/process and the
438 > site_perl/cust_main.pm, as well as other things.  Perhaps you could shed
439 > some light on the best way of doing this.
440
441 You have the basic idea.  To implement that completely, I would:
442 - Add the new field to bin/fs-setup for new users
443 - Document the field in htdocs/docs/schema.html
444 - Document the change in a new file, htdocs/docs/upgrade4.html
445 * Run bin/dbdef-create
446 * Add the new field to edit/cust_main.cgi and edit/process/cust_main.cgi
447
448 For bonus points, I'd grep around for the various bits which use "$first 
449 $last" or "$last, $first" and replace them with a method call in cust_main.pm,
450  , like search/cust_main.cgi
451
452 document security model:
453 Don't forget about Apache usernames - since, via the mapsecrets file, each
454 user can login to the SQL database with a different username and
455 password, you can utitilize the security model of the SQL database as
456 well.  Also, each username here can point to a different configuration
457 directory where you could store user-specific configuration info.  Then   
458 you could link each username to one-to-many agents. 
459 (The web demo works using a trivial version of this.)
460
461 Yes, queue processing or the equivalent via checkpoint fields on various  
462 talbes (which you pick up via a pretty simple SELECT) would be really 
463 nice too.
464
465 default (and ordering) state/county/country config file
466 expand the
467 cust_main_county table to provide a preferred ordering, so the most common
468 entries would be at the top of the selection box.  automatically, based on
469 recent selections?
470
471 hmm... maybe svc_acct__shell should check off the legal shells list if
472 applicable?  yeah... cool.
473
474 payinfo field should me much larger than 16
475
476
477 [Mon Apr 12 20:31:21 1999] [error] [Mon Apr 12 20:31:21 1999] null: Error closing true: Broken pipe at /usr/local/lib/site_perl/FS/cust_main.pm line 615.
478
479 javascript (yuck!) "are you sure?" confirmation on cancelations, etc.
480 (view/cust_pkg and view/svc_*)
481
482 get rid of time2str("%D") which formats dates in a non-y2k-safe looking fashion
483 (all the actual date handling uses UNIX timestamps and is fine)
484
485 uncomment expire in view/cust_pkg.cgi and find the expire cron from fsold
486
487 (Test this)
488 one-time/per-customer/? changes in rates and descriptions ('remembered
489 invoices'): implement by creating a new package on the fly... but it isn't 
490 associated with any agent types so it won't show up for other customers to buy.
491 (but also... make sure they go away when the customer does! - need this? :
492  one-off package edits! : need a cust_pkgs or cust_part_pkgs or something table,
493  with custnum and partpkg (like type_pkgs)
494 (what happens if you hit "custom pricing" but the pricing is already custom?)
495
496 Lay out any remaining ugly forms better.
497
498 remove "records identical" warning?  gets in the way of more important stuff.
499 or fix logic which tries to update identical records??
500 1.2 should be quiet enough that the error log is useful, hopefully.
501
502 Postgres has a maximum column length of 31 characters (but see NAMEDATALEN in
503 postgres_ext.h).  part_svc has columns like: svc_acct__radius_Attribute_flag
504 (22 characters!)  It seems that stuff over the limit is silently ignored,
505 so we get 4 characters back.  So, Radius_Attributes are max 13 characters with
506 stock Postgres.  see rfc2138 for what's affected
507 What's a good fix?  (besides recompiling postgres with NAMEDATALEN 64)
508 (mysql has a 64 character max column length.  others?)
509
510 [Mon Mar 29 06:57:56 1999] -e: Use of uninitialized value at /usr/lib/perl5/Date/Format.pm line 333.
511 (when sending mail in cust_main.pm::bill or svc_domain.pm)
512
513 look at DBIx::Recordset!  (and Tie::DBI, and...)
514
515 undefined conf/lpr gives this uninfomative error:
516 [Fri Feb 26 16:42:36 1999] bill.cgi: Can't do bidirectional pipe at
517 /usr/lib/per
518 l5/site_perl/FS/cust_main.pm line 629.
519 [Fri Feb 26 16:42:38 1999] bill.cgi: Error closing : Broken pipe at
520 /usr/lib/per
521 l5/site_perl/FS/cust_main.pm line 631.
522 So give a meaningful error!
523
524 password and slipip stuff in svc_acct.pm store need to be split into two fields or something, so the silliness in svc_acct.pm and svc_acct.export with looking at the data to decide what to do with it can be fixed
525
526 i10n: Apache::Language
527
528 Apache::Session?  Other useful Apache::* ?
529
530 email invoices are only sent for the BILL payby.  If setup, should statements
531 (since they're not invoices) be sent for COMP and CARD as well?
532
533 $cgi->keywords is causing the (hard to trace) error:
534         Use of uninitialized value at (eval 5) line 5
535
536 edit/cust_main.cgi gives an uninformative error message:
537 > Can't call method "agentnum" without a package or object reference at   
538 > /usr/local/apache-ssl/htdocs/freeside/edit/cust_main.cgi line 116.
539 if there are no agents.
540
541 (is this missing on any web screens?  (easy with $cust_svc->label)
542 Add the ability for services to filter information up to the package level
543 for web screens, so you can select a particlar package based
544 on username or domain name, etc.
545
546 Allow a cancelled/suspended/active status from packages to bubble up to
547 the customer lists.  Put active, then suspended, then cancelled accounts.
548 Similar ordering on the package listing inside a single customer.
549
550 false laziness: edit/cust_main.cgi got some parts copied from edit/svc_acct.cgi
551 the web interface in general needs to be redone in a more abstract way.
552
553 false laziness: some of search/svc_acct_sm.cgi was copied to search/svc_domain.cgi.  but web interface in general needs to be rewritten in a mucho cleaner way.
554
555 Portability: in FS::Record, $sth->execute does not return a number of rows for all DBD's.  see man DBI
556
557 subroutine the where clause (eventually all SQL) as OO perhaps (has anyone done this?)
558
559 add a select method to FS::Record?
560
561 one-time/per-customer/? changes in rates and descriptions ('remembered
562 invoices'): implement by creating a new package on the fly... but it isn't 
563 associated with any agent types so it won't show up for other customers to buy.
564 (but also... make sure they go away when the customer does! - need this? :
565  one-off package edits! : need a cust_pkgs or cust_part_pkgs or something table,
566  with custnum and partpkg (like type_pkgs)
567 (what happens if you hit "custom pricing" but the pricing is already custom?)
568
569 You can't delete the stuff under administration yet.  Add this,
570 _including_ making sure the thing you are deleting is not in use!
571
572 add links on view/cust_main.cgi to setup services, like view/cust_pkg.cgi
573
574 FS::cust_pkg _require_'s FS::$svc, but this won't work with %FS::UID::callback
575 loading of configuration.  (pry need same idea, but will run immediately if
576 context allows).  Looks like error is masked by 'use FS::cust_svc' which in
577 turn 'use's FS::{svc_acct, svc_acct_sm, svc_domain}' which is now explicit
578 w/comments in source
579
580 Allow a cancelled/suspended/active status from packages to bubble up to
581 the customer lists.  Put active, then suspended, then cancelled accounts.
582 Similar ordering on the package listing inside a single customer.
583
584 svc_domain.pm mail sending uses Date::Format which doesn't seem to pick up 
585 correct timezone.
586
587 view/svc_domain.cgi needs to know the domain might be unaudited (cosmetic)
588
589 remove whois_hack set to 1 for svc_domain.pm?  add all known registries and
590 whois accordingly.
591 .us domains and others!
592 site_perl/svc_domain.cgi (hmm... or maybe should have a button?  or maybe svc_domain.pm should handle this) should set $whois_hack for non-internic domains, so you can add them...
593
594 turn on the depriciation warnings for [e]idiot in FS::CGI. Stop using [e]idiot
595 the last places it is (htdocs/search/ htdocs/misc/ htdocs/misc/process)
596
597 (test cust_main.pm with cybercash v2 and v3, especially with the callback
598  stuff AND with mod_perl w/cybercash v2 kludge in package main)
599 (callback stuff should be eliminated by now)
600
601 bah, table/itable/*table in FS::CGI is silly.
602
603 doc Apache::AuthDBI as well
604 ..
605 Provide sample httpd.conf files.
606
607 hey look: Tie::DBI!  Check that out.  Override its commit with something that
608 does perl-side caching for ? a performance improvement and as an emulation
609 layer to plug in f.ex mysql's atomic transactions
610 ..
611 Record.pm uses does some non-portable DBI things.  MySQL and Pg seem fine.
612 Fix it anyway unless we migrate to Tie::DBI.
613
614 faq
615
616 cust_bill.pm uses '==' comparison on dates because they're currently ints
617
618 config file for allowed card types
619
620 write instructions for adding new services w/svc_Common.pm.  Get rid of all
621 places where svc_* tables are hardcoded (rename svc_acct_pop to part_pop so
622 we can do that)
623
624 test and document libapache-dbi-logger (woo!)
625
626 radius logfile parsing and perl expression check.
627
628 Fix in cust_bill BUGS: 
629 There is an off-by-one error in print_text which causes a visual error (Page 1
630 of 2 printed on some single-page invoices).
631
632 fields should be a method against a FS::Record or derived object, as well as
633 being something you can call as FS::Record::fields('tablename').  Might
634 even be able to handle both in the same routine (that would be neato).
635
636 Immediate removal of incorrectly entered check payments (can't take too
637 long to do this, or accounting is fubared).
638
639 Add code to move from one service to another (POP to SLIP/PPP, etc.).
640 This _should_ be possible by working off the rules in part_svc rather than
641 hardcoding anything in.  The rules in part_svc may need some elaboration,
642 perhaps.
643
644 Use ut_ FS::Record methods in all derived classes (possibly some from dbdef?... eventually all from dbdef??? - but then `dbdef-create' would be impossible as there would be metadata we couldn't ask the backend for.  hmm.)
645
646 (bring back from fsold, ) Generalize config-sending stuff and make more configurable.
647 Expand the HylaFAX interface (also possibly generalize for other fax
648 softwar ie .comfaxe); allow things like arbitrary faxes of sales
649 literature, specific troubleshooting documents and so on.  Maybe even
650 allow users to do this (though that might not belong in Freeside).
651 misc/sendconfig.cgi
652 misc/process/sendconfig.cgi
653 Configure fax recipients via a separate box rather than using the finger
654 name or first+last from cust_main.
655
656 move all phone number logic out of Freeside - let HylaFAX or whatever
657 handle it.
658
659 soundex searches for customer name and company?  where are free soundex tools? (standard Text::Soundex duh) - I could have sworn I saw Text::Soundex on CPAN?!
660
661 should be able to link on some field in email alias (right now you can link
662 on username or domain with a fallback to svcnum)
663
664 generalize and make configurable new invoice printing scheme in FS::cust_main::collect (past due)
665
666 deleting an svc_domain should delete all associated svc_acct_sm records.
667 same with a svc_acct.
668
669 periodic password encrypter
670
671 Automated, configurable notification, suspension and cancellation of
672 defunct accounts.
673 ...
674 expire cron job
675 ...
676 Allow for a future setup date on accounts.
677
678 sub AUTOLOAD in FS::Record should warn? die? if used with a non-existant column
679 name?
680
681 edit (not just import, export and allow default/fixed) arbitrary radius stuff
682 in svc_acct
683 edit/svc_acct.cgi and edit/process/svc_acct.cgi should deal with arbitrary radius stuff
684
685 radius import should take DEFAULT entry and put it in /var/spool/freeside/conf/radius-default ; svc_acct.export should use it (and doc)
686
687 in UI, s/State/State\/Provence/go and s/County/County\/Locality/go
688
689 what else (besides l10n) for i18n? (money!)
690
691 audit htdocs/* for things that should be libraried and things that should be
692 new methods on the objects (need to do this before implementing a new UI)
693 all the big things are done
694
695 some places we die() where we should &FS::CGI::idiot (and perhaps vice-versa).
696 Decide based on whether or not the "error" should show up in logs.
697
698 all .cgi's should use standard header/footer and idiot() subroutines.  maybe HTML:: perl modules
699 for HTML creation.  Maybe Embperl or something along those lines.  ?
700
701 When running bin/bill, Fix this (Annoying but harmless):
702 Use of uninitialized value at /usr/local/lib/site_perl/FS/cust_pkg.pm line 99, <ADDRESS> chunk 4.
703 Use of uninitialized value at /usr/local/lib/site_perl/FS/cust_pkg.pm line 102, <ADDRESS> chunk 4.
704 Use of uninitialized value at /usr/local/lib/site_perl/FS/cust_pkg.pm line 105, <ADDRESS> chunk 4.
705
706 all cgi (but internal to the isp) places where package names are listed should also have
707 comment (like agent_type)
708
709 clean up $recref and other silliness and use -> calls where possible, or
710 one other alternative.  clean up everything else.
711 should FS::Record use Tie::Hash?  That would be very clean, but where do we
712 store the other information?  Maybe you could ask any FS::Record object for a
713 tied hash?
714
715 change all file access from regular open(FILE,) stuff to OO, because of 
716 problems scoping and passing filehandles like that.
717
718 the web interface should create a new object and use it instead of a blank
719 form for new records.  the create method of svc_ objects should set defaults
720 (from part_svc).
721
722 sub check in man FS::table_name should be rewriteen.  Get rid of $recref
723 stuff.  Make sure all fields that refer to other database are checked.
724
725 Integration with signup disks (are there any free ones?  Netscape?).
726
727 One-button cancel (+refund) for lusers who can't get online.
728
729 Keep information on virtual web servers (hostname, IP, host machine,
730 directory, etc.) and export this information for importation into the ISPs
731 web farm. 
732
733 Remove requirement that the first mail alias be the catchall?  Still make
734 sure only one catchall per domain is defined in any case, of course. 
735
736 Ability to move cust_pkg records from one customer to another? (proably
737 will need to cancel the old and create a new like when we move services
738 between packages). 
739
740 Auto-increment expired cards one year, and try again?
741
742 More non-US stuff - zip codes, country codes, foreign currencies, etc.
743
744 cust_refund.{cgi.pm} need to do cards xaxtions.  (now we only have cust_credit)
745
746 Nicer set of integrated reporting possibilities, like weekly sales totals
747 by customer, package, agent, referral, etc., aging reports sorted by lots
748 of different things, and so on.
749
750 Client/server setup for users to modify their own passwords, shells, etc,
751 via passwd or secure web interface (prelminary passwd/chfn/chsh
752 replacement done).  Complicated by the fact that we don't want to allow
753 incoming connections to the machine running Freeside, so we probably need
754 to have a daemon on each external shell or web machine that is contacted
755 by the Freeside machine.  Be very very careful for both traditional
756 security issues and DoS problems. 
757
758 An extension of the above to allow users to modify selected parts of their
759 own information, order and cancel services.  A web interface for new
760 customers.
761
762 Expand domain name stuff to house all domain information.  Export
763 named.boot/named.conf (primary and secondary) and named.{domain} files.
764 Add more registries (not just InterNIC's com org net edu)
765
766 Nice postscript paper invoices, rather than current ASCII invoices.
767
768 think about race-condititions in FS::Record and derived ->check ->insert
769 and so on, uid and username checks in svc_acct, etc.
770
771 Move to rsync over ssh file exportation rather than scp.
772
773 check 'n fix the proactive password checker. (cracklib?)
774
775 refunds of "BILL" payments: generate pseudo-check.
776
777 write batch senders and batch parsers for the different credit card processors
778 people use/
779 More CC processors/methods.
780
781 you should be able to fiddle the setup date in cust_pkg. (at least initially)
782
783 delete options in administration section
784
785 write a generic batch senders and batch parsers.
786
787 need a way to override svc_acct export on a per-machine basis; just use config files based on machine name i suppose; document that. (no, import desync_hosts
788 type stuff from cerkit)
789 ...
790 add a table with column of export services (passwd, shadow, master.passwd, .qmail file update, dns update, etc.) and rows machine groups and whether or not to export that (and any necessary parameters).  wasn't matt (vunderkid, not matt@michweb) working on this?  find him?  each machine goes in a group of its own as well as a group based on function.  add a table with only svcpart and machine group.  now, when you import from each machine, it can get its own accounts with one svcpart and universal accounts with another svcpart.  (though that does make the username duplicate checking more interesting)
791
792 you should be able to get column types as a method against an FS::Record object
793 as well as dbdef->table($table)->column($column)->type
794
795 move to perl module for fuzzy and soundex searching.
796
797 package view needs to list extraneous services; we need to prevent the
798 creation of them so this never happens (and mark it as such in the source)
799 (the creation problem should be fixed - though they will still happen if people
800 fsck around in the data manually, so list them anyway)
801
802 add attribute dictionary to fs-setup as a menu, plus analyze users file to
803 decide automatically
804
805 Check for and report on duplicate billing accounts (cust_main, though many
806 will have a need for these so probably don't disable them outright.)
807
808 create a ->warn as well as a ->check method for all FS::table classes?
809 (see above)
810
811 something to automate making a release and updating the web demo
812
813 export a debian-style (also redhat and?) /etc/group file aswell!
814
815 svc_acct_sm.import qmail import should pull in recipientmap people too.
816
817 .pm's like svc_acct.pm which need to do time-consuming things like ssh remotely
818 should fork and do them in a child.
819
820 i18n/l10n: take ALL messages and catalog them in english.txt or in database or something, so we can eventually go int'l.  int'l currency support would be a help aswell.
821
822 get some of { city, county, state, zip } from the missing bits if
823 possible (where can i get the data to do this?  usps.gov?)
824
825 additional interfaces (perltk?  java?)
826
827 Put the GPL notice in all files.
828
829 integrate w/IDEA's signup server
830
831 $cust_bill->owed database field to be eliminated, replaced by a method call
832 that calculates on the fly.  make sure to grep for ->(get|set)field('owed') 
833 same for cust_credit->credited
834
835 Export quota information.
836
837 move all configuration to a central place.  maybe in blob's in the
838 database.  maybe even things like the code to execute when a username is
839 changed can be in there, so less of the distributed scripts change between
840 different sites.
841
842 Implement setup and recurring fees as Safe perl expressions rather than
843 numbers, to allow for variable-rate services.  Backwards compatibility is
844 obtained because { 43 } in perl is still 43.  :)  Define API to pass
845 starting and ending dates and any other necessary data to expression
846 (fees are currently evaluated as Safe expressions but more work needs to
847 be done to define an opmask for various needs, write examples
848 (usage-based billing, etc.) and so on).
849 ...
850 Add the ability to modify the next billing date in cust_pkg, and take
851 appropriate action.  This will allow the implementation of pro-rate/1st of
852 the month billing as well as the ability to manually fiddle with
853 anniversary dates in cust_pkg, so you can sync a customer's anniversary
854 date even if you're using anniversary billing (manually or automatically).
855 (now with above, we need to have a way to automatically pro-rate /^(\d+)$/
856 charges - anything more complicated should figure it out itself given
857 starting and ending dates [document that!])
858 ...
859 Daily Radius log parsing into database; other logfile formats?
860 ...
861 Callbacks to enforce hourly limits on accounts (suspend until the end of
862 the billing period?), for those who limit customers rather than tack on
863 extra charges.
864
865 Flag packages (part_pkg) as taxable or non/taxable as some ISPs (for
866 example) need to charge tax on equipment but not service (separate flags
867 for setup and recurring fee... or perhaps a setup_tax, setup_notax,
868 recur_tax and recur_notax fees, and possibly something more flexible if
869 there is need).
870
871 Allow for a variable number of invoices for customers who need multiple
872 copies.
873
874 Add a mail alias service with table svc_acct (not domain mail aliasing
875 which is domain with svc_acct_sm)
876
877 (bring back from fsold) Change customer comment field from its current kludge to something more
878 workable.
879
880 Better work orders with more information.  Should eventually open a ticket
881 when we have such a thing.
882 edit/svc_wo.cgi
883 edit/process/svc_wo.cgi
884 Call tracking and trouble tickets.
885
886 More accoutability for complimentary accounts: approval, expiration, term
887 (no more than x months in advance) and notification.
888 Flag particular users (or all users, for that matter) as having their
889 passwords hidden and/or locked from users of Freeside (maybe need Freeside
890 security levels first?). 
891 ...
892 Better Freeside-level configurable access, for those ISP's who have
893 employees they can't trust.  Right now you're "stuck" with setting up
894 .htaccess stuff yourself.  This should really just be integrated. 
895
896 configuration/setup should get web interface
897 ...
898 /usr/local/etc/freeside should be configurable
899 ...
900 (probably as part of some automated installation process?)
901
902 This requires some serious magic in FS::Record:
903 ok, if date_type in fs-setup is to be something besides int,
904 now we need to create wrappers
905 for them so they behave identically across RDBMS's, ie date pops out as as
906 UNIX timestamp (or an object of some sort? maybe even a blessed $obj which
907 is a string not a hashref for backwards compatibility?) and so on. (remember
908 to treat '0' as Not a Date instead of 1/1/70.
909
910 Add Freeside-level transactions for RDBMS's which don't support
911 transcations?  (Currently we assume a minimal RDBMS which has no rollback,
912 transactions or atomic updates).  Or just require a RDBMS that supports
913 rollback and/or atomic updates and get rid of the work-arounds?  The /rdb
914 interface had this kludge on top of it but is a technical dead-end in most
915 other ways, unless it can gain an SQL parser and DBD interface.
916 ...
917 if i'm really bored, find the /rdb interface in fsold and port it to NoSQL,
918 and while I'm add it add interfaces for AnyDBM_File tied hash.. hmm.  Shouldn't
919 an FS::Record have something to do with a tied hash?  But we don't want
920 performance to go gaga... maybe something with commit to help out here?
921 ...
922 Ok: FS::Record gives you a tied hash, and you get methods for commit, etc.
923
924 Better automated comparison of our CC records with processors (CyberCash,
925 at least, has not always had 100% accuracy, though recent versions are
926 much better) 
927
928 Expect or other pty based login check, where we actually connect to a
929 terminal server or shell machine and test logging in as the user (if we
930 are keeping a cleartext password for that user)  (This is something tech
931 support often needs for new customers)
932
933 Use cust_main table for pre-sales tracking as well?
934
935 Automatic commision report and check generation via freq and prog (to
936 become a Safe perl expression) fields in agent table, and possibly others.
937
938 Database and add a mailed-out date and method for disk/CD mailing, so a
939 customer can call and you can say, "sent on xx/xx/xx via {US Mail, Fedex,
940 UPS, etc}" 
941
942 Inventory tracking for physical items such as routers (for sale or
943 lease... probably doesn't make a difference in the ordering... but if you
944 cancel a router lease the inventory should come back.  hmm.)
945
946 -- Matt's wishlist ---
947
948 From matt@michweb.net Fri Feb 20 16:39:53 1998
949 Date: Thu, 19 Feb 1998 23:20:11 -0500
950 From: Matt Simerson <matt@michweb.net>
951 Reply-To: quadran-developer@netgoth.com
952 To: quadran-developer@netgoth.com
953 Subject: Re: Welcome to quadran-developer
954
955 >Whats it based on and what is it supposed to do?  I'm interested, but
956 >unfortunatly, I don't have that much time to help on the project (I'm busily
957 >working on one of my own based around MySQL and Qt right now -- don't know
958 >if it will be GPL'ed or not yet -- we'll probably just use it in house since
959 >it is designed around our system)...
960
961 That's what I set out to find, but didn't find anything on the web site.
962 I'm looking for something that will do the following:
963
964 Single point of entry for users on a secure system:
965         Creates account on user (public) systems
966                 update /etc/passwd/master.passwd file
967                 update radius database (if necessary)
968         Set up up disk quotas (although I hacked adduser to do this)
969         Option for adding user to a mailing list(s)
970         Export of new user info to customizable report (for automated entry
971 into
972                 accounting software, etc...)
973
974 Automated billing:
975         Export credit card info for batch processing and have hooks built
976                 in for other forms of electronic processing.
977         Batch-Payment (apply payments from formatted text file).
978         Customizable reports for manual entry/importing into Accounting
979 software
980         Email or laser print invoices
981         Sanity checks credit card numbers before processing (code available)
982
983 Simple method for disabling an account.
984         Arbitrary Expiration Dates (on a given day, in x days)
985         Remove from radius.
986         Changing password to '*'
987         Virtual customers disabling dns, http server, log processing, etc..
988
989 Billing for different account types:
990         Dialup monthly flat rate. Prorates for partial months.
991         Dialup monthly flat rate for x hours + hourly usage.
992         Dialup email only
993         Email only accounts
994         Virtual Web accounts - w/multiple mailboxes
995         Leased line accounts
996         Disk space used over quota.
997         Tech support minimum + hourly charges
998         Other for misc stuff (modem, RAM, etc...)
999
1000 Per user definable RADIUS attributes (ties in with above)
1001         Fixed IP
1002         Simultaneous Use
1003         IP filters (for dialup email only)
1004
1005 Keep logs of modem usage generated daily from radius accounting logs stored
1006 on multiple radius servers.
1007
1008 Keep logs of disk usage generated from quota.
1009
1010 Method of adding virtual domains to your system:
1011         Automatically grabs an IP address from a preassigned pool.
1012         Creates a domain.com database file from database fields
1013         Updates /etc/named.conf or /etc/named.boot and reloads named.
1014         Add's virtual.com to /etc/sendmail.cw or qmail control files.
1015         Edits your web servers httpd.conf file and restarts http server.
1016         An optional section for adding vif's can be added if the users OS
1017                 supports adding them on the fly. Otherwise it's up to the end
1018                 user. Make a hook that can run a custom script that the user
1019                 tweaks for his system.
1020         Update or create the config file your web stats analyzer needs. I've
1021                 done this for analog (free) and http-analyze. Probably
1022                 should only officially support analog and let users hack
1023                 it to their hearts desire.
1024 I've already written scripts that do most of the virtual web stuff on my
1025 system...in bash. Shouldn't be hard for a perlmeister to convert. In fact,
1026 as long as all the info was stored in the database (username, domain name,
1027 and ip pool) this could easily just be run as an external script that the
1028 user tweaks to match his system.
1029
1030 We use a great accounting software (M.Y.O.B) that does all the AP, AR,
1031 Payroll, Tax stuff, and most everything else we could need. It's already
1032 set up for the type of checks we have, etc, etc... I just need something to
1033 do the billing part. I can import/export sales and payments directly once
1034 the billing part is done. You can't write accounting software as good as
1035 M.Y.O.B. for $120.
1036
1037