home *** CD-ROM | disk | FTP | other *** search
/ Usenet 1994 January / usenetsourcesnewsgroupsinfomagicjanuary1994.iso / answers / biology / info-theory next >
Text File  |  1993-12-21  |  20KB  |  571 lines
  1. Newsgroups: bionet.info-theory,news.answers
  2. Path: senator-bedfellow.mit.edu!bloom-beacon.mit.edu!news.kei.com!sol.ctr.columbia.edu!math.ohio-state.edu!darwin.sura.net!fconvx.ncifcrf.gov!fcs260c2!toms
  3. From: toms@ncifcrf.gov (Tom Schneider)
  4. Subject: Biological Information Theory and Chowder Society FAQ (better early than late)
  5. Message-ID: <CIEqAq.G6o@ncifcrf.gov>
  6. Followup-To: bionet.info-theory
  7. Summary: monthly Frequently Asked Questions posting for BITCS
  8.  The news group bionet.info-theory is a forum for discussing information theory
  9.  in biology and for tossing food for thought around.  Other interesting
  10.  mathematical problems in biology are also welcome, as we will try our best to
  11.  take the log of them, so as to convert them into information theory problems.
  12. Originator: toms@fcs260c2
  13. Keywords: FAQ, Biological Information Theory and Chowder Society
  14. Sender: usenet@ncifcrf.gov (C News)
  15. Nntp-Posting-Host: fcs260c2.ncifcrf.gov
  16. Organization: Frederick Cancer Research and Development Center
  17. Date: Tue, 21 Dec 1993 22:54:26 GMT
  18. Approved: news-answers-request@MIT.Edu
  19. Lines: 549
  20. Xref: senator-bedfellow.mit.edu bionet.info-theory:1821 news.answers:16067
  21.  
  22. Archive-name: biology/info-theory
  23.  
  24. ***********************************************************
  25.  
  26. Replies to Frequently Asked Questions (FAQ) for bionet.info-theory
  27.  
  28.              Biological Information Theory and Chowder Society
  29.  
  30. version = 1.48 of bionet.info-theory.faq  1993 December 17
  31.  
  32. ***********************************************************
  33. SOURCES
  34.  
  35. This file is stored in the anonymous ftp archive ncifcrf.gov in pub/delila
  36. under the name bionet.info-theory.faq and also as bionet.info-theory.faq.Z (The
  37. .Z means it is compressed; remember to use the binary transfer mode if you pick
  38. up the latter.  See the uncompressed README file in the archive for where to
  39. get the uncompress program if you need it.)  Please send questions and comments
  40. to: Tom Schneider toms@ncifcrf.gov
  41.  
  42. This file is also posted monthly on news.announce and bionet.info-theory.
  43.  
  44. ***********************************************************
  45. OBTAINING bionet.info-theory BY EMAIL
  46.  
  47. If you have access to USENET news YOU DO NOT NEED AN E-MAIL SUBSCRIPTION!!  We
  48. strongly encourage all interested users to explore getting USENET news at your
  49. site.  It's MUCH easier on you than an e-mail subscription!  Please consult
  50. your systems manager or contact biosci@net.bio.net for assistance if needed.
  51.  
  52. The BIOSCI (email) name for the forum is BIO-INFO.
  53.  
  54. Depending on where you are, you have to do different things to subscribe or be
  55. removed from the email subscription list:
  56.  
  57. SUBSCRIBING / UNSUBSCRIBING
  58.    North or South America or Pacific Rim:
  59.    Send a email message to the person at
  60.       biosci@net.bio.net
  61.    requesting a subscription or removal from the BIO-INFO forum.
  62.  
  63.    Europe, Africa, and Central Asia:
  64.    Send a email message to the person at
  65.       biosci@daresbury.ac.uk
  66.    requesting a subscription or removal from the BIO-INFO forum.
  67.  
  68. SENDING OUT POSTINGS
  69. Thereafter, address email messages for this forum to one of:
  70.  
  71.    North or South America or Pacific Rim:
  72.       bio-info@net.bio.net
  73.  
  74.    Europe, Africa, and Central Asia:
  75.       bio-info@daresbury.ac.uk
  76.  
  77. You can post to either of the above address if you want.  We only request that
  78. you sign up at your local node in order to optimize the use of the network
  79. resources for message distribution.
  80.  
  81. Do not send subscription requests to any of these addresses, or you will have
  82. sent it to everybody on the planet (to your great embarrassment, and we will
  83. drub you with food cake)!  Let me say that again:  please do not post requests
  84. for subscription or being removed from the list to the list itself, that takes
  85. up bandwidth all over the world!
  86.  
  87. If you have problems, contact the subscription site manager who you signed up
  88. with.  If your problem is not resolved, please contact biosci@net.bio.net.
  89.  
  90. DO NOT CONTACT TOM SCHNEIDER FOR SUBSCRIPTIONS OR UNSUBSCRIBING!
  91.  
  92. ***********************************************************
  93. ARCHIVES
  94.  
  95. The entire collection of BIOSCI/bionet messages from inception are
  96. available via the biosci.src WAIS source at net.bio.net.  Contact
  97. biosci@net.bio.net for further help with accessing this WAIS source.
  98. Gopher retrieval will be added soon.
  99.  
  100. FTP archives of all the BIOSCI/bionet messages are available at net.bio.net
  101. [134.172.2.69] in /pub/BIOSCI.  bionet.info-theory is in pub/BIOSCI/BIO-INFO.
  102. Files are in mailbox format, with names of the form YYMM (YY=last 2 digits of
  103. the year, MM=cardinal number of the month, zero padded).  The current months
  104. postings are in the file 'current'.  Contact biosci@net.bio.net for further
  105. help with or comments on the archives.
  106.  
  107. All the bionet.* newsgroups, including info-theory, are also archived
  108. for Gopher retrieval from the IUBIO Gopher hole and for anonymous ftp
  109. from ftp.bio.indiana.edu, directory usenet/bionet/...
  110.  
  111. The archives can be accessed by gopher or ftp running under the Mosaic
  112. interface.  The URL (Universal Record Locator) for gopher is:
  113.    gopher://net.bio.net/11/BIO-INFO
  114. by ftp one can use:
  115.    ftp://net.bio.net/pub/BIOSCI/BIO-INFO
  116. Unfortuantely one gets the entire month in a single document.
  117.  
  118. ***********************************************************
  119.  
  120. Concerning Inappropriate Postings
  121.  
  122. The short form of this news group's name, bio-info, can be a little confusing
  123. to some people inexperienced in network communications or with little knowledge
  124. of the discipline (if there is any :-) of biological information theory.  It
  125. can and has been mistaken as a news group for general biological information.
  126. Our readers should be aware that when such postings come to our attention, we
  127. do attempt to inform, privately, the people who make these inappropriate
  128. postings of the error of their ways and suggest alternative or more appropriate
  129. venues.
  130.  
  131. Subjecting the writers of inappropriate posting to public excoriation is not a
  132. good policy because the mistake is usually inadvertant and the follow-up
  133. postings add further to the irritation of our regular readers.  When others
  134. publicly reply to such posts in this news group, although they may think they
  135. are being polite to the original poster, they are still annoying our regular
  136. readers.  We suggest that a better policy for readers who do wish to reply to
  137. inappropriate posts is to do so privately or to an appropriate news group.
  138.  
  139. ***********************************************************
  140.  
  141. HISTORY
  142.  
  143. The Biological Information Theory and Chowder Society (BITCS) is a group of
  144. scientists interested in the biological applications of information theory
  145. (thus the "BIT") who meet informally for dinner (thus the "CS") from time to
  146. time in the Washington, DC, area.  At our dinners we have only one rule ---
  147. food fights are discouraged.
  148.  
  149. The guys who started this thing did it because we weren't certain we understood
  150. the biological implications of information theory.  Some of us are more
  151. comfortable with the mathematical machinery and assemble biological systems
  152. into grand canonical ensembles whether they want to be there or not; and some
  153. of us think they understand what the biological systems are doing but can't
  154. take a log to base 2.  What we try to do is pry from one another the bits of
  155. knowledge that will help us understand what's going on.
  156.  
  157. Some of the topics up for discussion in our group are:
  158.   biological applications of information theory
  159.   biochemical molecular machines
  160.   computer methods for recognition of molecular structure and function
  161.   database organization for biomolecular information
  162.   nanotechnology
  163. A few relevant papers are listed below.
  164.  
  165. The group started when Tom Schneider was introduced to John Spouge in 1988.
  166. Tom bounced his ideas about molecular machines off John, and John kept finding
  167. flaws.  Tom would go away rather unhappily for a month and then find a
  168. solution.  But John was always one step ahead...  (and still is, on last
  169. account.)  Tom gave a talk about molecular machines at the Lambda Lunch meeting
  170. on the Bethesda NIH campus, and John introduced John (Steve) Garavelli.  We all
  171. got together with Peter Basser for dinner once in a while to talk about
  172. information theory.  Steve brought in one of the first people to apply
  173. information theory to biology, Hubert Yockey.  Steve Garavelli dubbed the group
  174. the "Biological Information Theory and Chowder Society", which it is still
  175. called.  We are known sometimes as 'chowderheads', and talk about food fights,
  176. but so far have only had electronic food fights!  We hold dinners in Bethesda
  177. Maryland on random occasions.
  178.  
  179. When our informal mailing list became difficult to handle, we petitioned to
  180. start a bionet news group.  We hope to hold roaring discussions, and everyone
  181. is welcome to join.  If you are uncertain about something, quit lurking and ask
  182. on the net.  It may well be that what bothered you is the key to a new piece of
  183. information theory in biology.  (The major advances so far have been by things
  184. that REALLY bugged people.)
  185.  
  186. We will also announce when and where our (irregular) eatings are and you are
  187. welcome to join if the travel is not too far.  John Spouge
  188. (spouge@ncbi.nlm.nih.gov), usually makes the arrangements.
  189.  
  190. ***********************************************************
  191.  
  192. SOME QUESTIONS FOR DISCUSSION
  193.  
  194. This faq sheet answers simple questions about this group.  The BIG questions
  195. should be discussed on the net, where we can all haggle over them.  Here are a
  196. few for starters:
  197.  
  198. What is the role of theory in biology today?
  199. What should be the role of biological theory?
  200.  
  201. What is information?  How should it be defined?
  202.  
  203. What bothers you when you read the two papers on the theory of molecular
  204. machines?  (It is only from the things that bother us that we can make progress
  205. in understanding.)  (See references below.)
  206.  
  207. What are flaws in the theory of molecular machines?
  208.  
  209. How is ATP used to drive molecular machines?
  210.  
  211. All communication systems are associated with living things, so is it true that
  212. information theory is really a theory about living things?  Was Shannon really
  213. a great biologist?
  214.  
  215. ***********************************************************
  216. REFERENCES - General
  217.  
  218. There are a huge number of papers related to this topic, just about everything
  219. in molecular biology, lots of chemistry, physics, electronics, evolutionary
  220. theory, thermodynamics, statistical mechanics and the kitchen sink ...  You can
  221. get a pretty good overview by combining the references of Schneider.ccmm,
  222. Schneider.edmm and Leff1990.  References are given in BiBTeX format, the
  223. bibliography program associated with LaTeX, the powerful and portable
  224. typesetting program.
  225.  
  226. # Wonderful books:
  227.  
  228. @book{Gonick.computers,
  229. author = "L. Gonick",
  230. title = "The Cartoon Guide to Computer Science",
  231. publisher = "Barnes \& Nobel",
  232. address = "N. Y.",
  233. year = "1983"}
  234.  
  235. @book{Gonick.genetics,
  236. author = "L. Gonick",
  237. title = "The Cartoon Guide to Genetics",
  238. publisher = "Barnes \& Nobel",
  239. address = "N. Y.",
  240. year = "1983"}
  241.  
  242. @book{Gonick.physics,
  243. author = "L. Gonick
  244.  and A. Huffman",
  245. title = "The Cartoon Guide to Physics",
  246. publisher = "HarperPerennial",
  247. address = "N. Y.",
  248. isbn = "0-06-273100-9",
  249. year = "1990"}
  250.  
  251. # A good starting point if you don't know much molecular biology:
  252. # (Two volumes)
  253.  
  254. @book{Watson1987,
  255. author = "J. D. Watson
  256.  and N. H. Hopkins
  257.  and J. W. Roberts
  258.  and J. A. Steitz
  259.  and A. M. Weiner",
  260. title = "Molecular Biology of the Gene",
  261. edition = "fourth",
  262. year = "1987",
  263. publisher = "The Benjamin/Cummings Publishing Co., Inc.",
  264. address = "Menlo Park, California"}
  265.  
  266. # This book describes LaTex and BiBTeX:
  267.  
  268. @book{Lamport1986,
  269. author = "L. Lamport",
  270. title = "\LaTeX: A Document Preparation System,
  271. User's Guide \& Reference Manual",
  272. publisher = "Addison-Wesley Publishing Company",
  273. address = "Reading, Massachusetts",
  274. callnumber = "Z253.4.L38L35",
  275. isbn = "0-201-15790-X",
  276. year = "1986"}
  277.  
  278. # ***********************************************************
  279. # REFERENCES - Information Theory
  280.  
  281. # The best starter book:
  282.  
  283. @book{Pierce1980,
  284. author = "J. R. Pierce",
  285. title = "An Introduction to Information Theory:
  286. Symbols, Signals and Noise",
  287. edition = "second",
  288. publisher = "Dover Publications, Inc.",
  289. address = "New York",
  290. isbn = "0-486-24061-4",
  291. comment = "
  292. Ordering information:  Pierce1980 is currently available by mail from: 
  293.    Dover Publications, Inc. 
  294.    31 East 2nd street
  295.    Mineola, New York 11501 
  296. order: 
  297.    Pierce, An Introduction to Information Theory: Symbols, Signals and Noise 
  298.    code number: 24061-4 
  299. $7.95 + charges.  Payment in full, no telephone or credit card orders. 
  300. Postage and Handling charges are: 
  301. Bookrate: $3 (US only) 
  302. UPS: $4.50 (US only, not Alaska or Hawaii or PO boxes) 
  303. Foreign orders: add 20% of total (minimum $2.50) 
  304. Sales Tax (Ny residents only) 
  305. Foreign Orders Note: Remittances must be sent by international money 
  306. order or in U.S. funds via Federal Wire System to Chemical Bank, N. Y. ABA 
  307. #021000128.  Mark all remittances "For the account of Dover Publications, 
  308. Inc.  #001 053 272"
  309. This information is from the Dover Math and Science Catalogue 9/92",
  310. year = "1980"}
  311.  
  312. # A good introduction to the mathematics:
  313.  
  314. @book{Sacco1988,
  315. author = "W. Sacco
  316.  and W. Copes 
  317.  and C. Sloyer
  318.  and R. Stark", 
  319. title = "Information Theory: Saving Bits",
  320. publisher = "Janson Publications, Inc.",
  321. address = "Providence, Rhode Island",
  322. isbn = "ISBN 0-939765-25-X",
  323. year = "1988"}
  324.  
  325. # Important originals:
  326.  
  327. @article{Shannon1948,
  328. author = "C. E. Shannon",
  329. title = "A Mathematical Theory of Communication",
  330. year = "1948",
  331. journal = "Bell System Tech. J.",
  332. volume = "27",
  333. pages = "379-423, 623-656"}
  334.  
  335. @book{ShannonWeaver1949,
  336. author = "C. E. Shannon
  337.  and W. Weaver",
  338. title = "The Mathematical Theory of Communication",
  339. publisher = "University of Illinois Press",
  340. address = "Urbana",
  341. isbn = "ISBN 0-252-72548-4",
  342. year = "1949"}
  343.  
  344. @article{Shannon1949,
  345. author = "C. E. Shannon",
  346. title = "Communication in the Presence of Noise",
  347. year = "1949",
  348. journal = "Proc. IRE",
  349. volume = "37",
  350. pages = "10-21"}
  351.  
  352. # For the committed: The Complete Works!
  353.  
  354. @inproceedings{Shannon1993,
  355. author = "C. E. Shannon",
  356. editor = "N. J. A. Sloane and A. D. Wyner",
  357. booktitle = "Claude Elwood Shannon: collected papers",
  358. publisher = "IEEE Press",
  359. address = "Piscataway, NJ",
  360. isbn = "0-7803-0434-9", 
  361. comment = "IEEE Order Number: PC0331-9
  362.   To order directly by charge card (eg Visa works) you can call
  363.   (908)-981-0060
  364.   $69.95 + $5 handling charge
  365.   delivery in about 2 weeks",
  366. year = "1993"}
  367.  
  368. # How locks work and other cool stuff:
  369.  
  370. @book{Macaulay1988,
  371. author = "D. Macaulay",
  372. title = "The Way Things Work",
  373. publisher = "Houghton Mifflin Company",
  374. address = "Boston",
  375. year = "1988"}
  376.  
  377. # Leff1990 gives a review of the Maxwell's Demon problem.
  378. # See also Schneider.edmm, listed below.
  379.  
  380. @book{Leff1990,
  381. author = "H. S. Leff and A. F. Rex",
  382. title = "Maxwell's Demon: Entropy, Information, Computing",
  383. publisher = "Princeton University Press",
  384. address = "Princeton, N. J.",
  385. phone = "1(800) 777-4726",
  386. isbn.hard  = "0-691-08726-1 (hard cover)",
  387. isbn.paper = "0-691-08727-X (paperback)",
  388. year = "1990"}
  389.  
  390. # ***********************************************************
  391.  
  392. # REFERENCES - Jaynes
  393.  
  394. @article{JaynesI,
  395.   author = "Edwin T. Jaynes",
  396.   title = "Information Theory and Statistical Mechanics",
  397.   year = 1957,
  398.   journal = "Physical Review",
  399.   volume = "106",
  400.   pages = "620-630"}
  401.  
  402. @article{JaynesII,
  403.   author = "Edwin T. Jaynes",
  404.   title = "Information Theory and Statistical Mechanics. {II}",
  405.   year = 1957,
  406.   journal = "Physical Review",
  407.   volume = "108",
  408.   pages = "171-190"}
  409.  
  410. # A version of Jaynes' new book "PROBABILITY THEORY -- THE LOGIC OF SCIENCE"
  411. # is available in the archive in the jaynes directories.
  412.  
  413. # *********************************************************** # REFERENCES -
  414. Schneider
  415.  
  416. @article{Schneider1986,
  417. author = "T. D. Schneider
  418.  and G. D. Stormo
  419.  and L. Gold
  420.  and A. Ehrenfeucht",
  421. title = "Information content of binding sites on nucleotide sequences",
  422. journal = "J. Mol. Biol.",
  423. volume = "188",
  424. pages = "415-431",
  425. year = "1986"}
  426.  
  427. @inproceedings{Schneider1988,
  428. author = "T. D. Schneider",
  429. editor = "G. J. Erickson and C. R. Smith",
  430. title = "Information and entropy of patterns in genetic switches",
  431. booktitle = "Maximum-Entropy and Bayesian Methods in Science and Engineering",
  432. volume = "2",
  433. pages = "147-154",
  434. publisher = "Kluwer Academic Publishers",
  435. address = "Dordrecht, The Netherlands",
  436. year = "1988"}
  437.  
  438. @article{Schneider1989,
  439. author = "T. D. Schneider
  440.  and G. D. Stormo",
  441. title = "Excess Information at Bacteriophage {T7} Genomic Promoters
  442. Detected by a Random Cloning Technique",
  443. year = "1989",
  444. journal = "Nucl. Acids Res.",
  445. volume = "17",
  446. pages = "659-674"}
  447.  
  448. @article{Schneider.Stephens.Logo,
  449. author = "T. D. Schneider
  450.  and R. M. Stephens",
  451. title = "Sequence Logos: A New Way to Display Consensus Sequences",
  452. journal = "Nucl. Acids Res.",
  453. volume = "18",
  454. pages = "6097-6100",
  455. year = "1990"}
  456.  
  457. @article{Schneider.ccmm,
  458. author = "T. D. Schneider",
  459. title = "Theory of Molecular Machines.
  460. {I. Channel} Capacity of Molecular Machines",
  461. journal = "J. Theor. Biol.",
  462. volume = "148",
  463. number = "1",
  464. pages = "83-123",
  465. note = "{(Note: The figures were printed out of order!
  466. Fig. 1 is on p. 97.)}",
  467. year = 1991}
  468.  
  469. @article{Schneider.edmm,
  470. author = "T. D. Schneider",
  471. title = "Theory of Molecular Machines.
  472. {II. Energy} Dissipation from Molecular Machines",
  473. journal = "J. Theor. Biol.",
  474. volume = "148",
  475. number = "1",
  476. pages = "125-137",
  477. year = 1991}
  478.  
  479. @article{Herman.Schneider1992,
  480. author = "N. D. Herman
  481.   and T. D. Schneider",
  482. title = "High Information Conservation Implies that at Least Three Proteins
  483. Bind Independently to {F} Plasmid {{\em incD\/}} Repeats",
  484. journal = "J. Bact.",
  485. volume = "174",
  486. pages = "3558-3560",
  487. year = "1992"}
  488.  
  489. @article{Stephens.Schneider.Splice,
  490. author = "R. M. Stephens
  491.   and T. D. Schneider",
  492. title = "Features of spliceosome evolution and function
  493. inferred from an analysis of the information at human splice sites",
  494. journal = "J. Mol. Biol.",
  495. volume = "228",
  496. pages = "1124-1136",
  497. year = "1992"}
  498.  
  499. @article{Papp.helixrepa,
  500. author = "P. P. Papp
  501.  and D. K. Chattoraj
  502.  and T. D. Schneider",
  503. title = "Information Analysis of Sequences that Bind
  504. the Replication Initiator {RepA}",
  505. journal = "J. Mol. Biol.",
  506. comment = "Cover of 233, number 2!",
  507. volume = "233",
  508. pages = "219-230",
  509. year = "1993"}
  510.  
  511. # Copies of these and of earlier papers (ie, level 0 theory)
  512. # are available; send your physical address to Tom Schneider.
  513. # (His address is given below.)
  514. # 
  515. # See also the README file in the ftp archive ncifcrf.gov in pub/delila.
  516.  
  517. # ***********************************************************
  518. # REFERENCES - Yockey
  519.  
  520. @book{Yockey1958a,
  521. editor = "Hubert P. Yockey and Robert P. Platzman and Henry Quastler",
  522. title = "Symposium on Information Theory in Biology",
  523. booktitle = "Symposium on Information Theory in Biology",
  524. year = 1958,
  525. publisher = "Pergamon Press",
  526. address = "New York, London"}
  527.  
  528. @article{Yockey1981,
  529. author = "Hubert P. Yockey",
  530. year = 1981,
  531. title = "Self-organization Origin of Life Scenarios and Information Theory",
  532. journal = "J. Theor. Biol.",
  533. volume = "91",
  534. pages = "13-31"}
  535.  
  536. @book{Yockey1992,
  537. author = "H. P. Yockey",
  538. title = "Information Theory in Molecular Biology",
  539. publisher = "Cambridge University Press",
  540. address = "Cambridge",
  541. callnumber = "",   
  542. comment = "40 West 20th Street,
  543. New York, N. Y.  10011-4211,
  544. 1-800-827-7423,
  545. order number 350050",
  546. year = "1992"}   
  547.  
  548. ***********************************************************
  549.  
  550. John S. Garavelli
  551. Protein Information Resource
  552. National Biomedical Research Foundation
  553. Washington, DC  20007
  554. garavelli@gunbrf.bitnet
  555.  
  556. Tom Schneider
  557. National Cancer Institute
  558. Laboratory of Mathematical Biology
  559. Frederick, Maryland  21702-1201
  560. toms@ncifcrf.gov
  561.  
  562. John L. Spouge
  563. National Center for Biotechnology Information
  564. National Library of Medicine
  565. Bethesda, MD  20894
  566. spouge@frodo.nlm.nih.gov
  567.  
  568. Please email comments and suggestions on this faq sheet to Tom.
  569.  
  570. ***********************************************************
  571.