霉菌不是一個分類學上的名詞，而是一些絲狀真菌的通稱。在分類學上，霉菌分屬于藻狀菌綱、子囊菌綱和半知菌綱。
霉菌菌體均由分枝或不分枝的菌絲構成，構成1個菌體的全部菌絲稱為菌絲體。菌絲是纖細的管狀體，直徑約2～10微米。有些霉菌的菌絲無隔膜，為多核細胞，如根霉（Rhizophus）、毛霉（Mucor）等。大多數霉菌的菌絲有隔膜，隔膜將菌絲隔成多細胞結構。
霉菌的菌絲有一定程度的分化，部分菌絲長入培養基內稱為營養菌絲，伸出培養基外的稱為氣生菌絲，由于氣生菌絲上常產生孢子，又稱繁殖菌絲。有的菌絲產生色素，呈現不同顏色。
大部分霉菌的細胞壁由幾丁質組成，幾丁質為N-乙酰葡萄糖胺憑借由β-1，4葡萄糖苷鍵聯接的多聚體。霉菌的細胞核具核膜，因此其細胞為真核細胞。
霉菌的菌落由分枝狀菌絲組成。由于菌絲較粗而長，形成的菌落比較疏松，呈絨毛狀、絮狀或蜘蛛網狀，一般比細菌菌落大幾倍到幾十倍。由于霉菌的孢子具有不同形狀、結構和顏色，因而使得菌落表面呈現出肉眼可見的不同結構和色澤。