Gründe:

I. Gegen die als Eheleute zusammen zur Einkommensteuer veranlagten Kläger und Revisionskläger (Kläger) erging am 22. Juli 1992 ein Einkommensteuerbescheid für 1991 (Streitjahr), der am 19. August 1992 geändert wurde. Dagegen legte der Kläger Einspruch ein mit der "Bitte um Berücksichtigung der Steuerbescheinigung von L-AG vom 16.6.1992 für 1991". Beigefügt war die Steuerbescheinigung gemäß § 44 des Körperschaftsteuergesetzes (KStG), § 45a des Einkommensteuergesetzes (EStG) über die am 16. Juni 1992 für 1991 gezahlte Dividende. Der Beklagte und Revisionsbeklagte (das Finanzamt --FA--) änderte daraufhin seinen Einkommensteuerbescheid 1991 --durch Bescheid vom 22. September 1992-- erneut, berücksichtigte Einkünfte aus Kapitalvermögen in Höhe der Bruttodividende von 120634 DM, rechnete u.a. die bescheinigte Kapitalertragsteuer von 19302 DM sowie Körperschaftsteuer von 43429 DM an und errechnete ein entsprechendes Steuerguthaben. Es folgten weitere Änderungsbescheide wegen anderer, hier nicht in Streit stehender Punkte, zuletzt vom 13. Dezember 1993, durch die sich das Guthaben auf 18788 DM erhöhte.