Ze względu na ograniczone zdolności ruchu, typ wzrostu i odmienność morfologiczną od zwierząt, w tradycyjnych podziałach uwzględniających tylko dwie domeny świata ożywionego (systemy Arystotelesa, Linneusza i in.), grzyby zaliczane były do roślin, np. do niewydzielanej we współczesnych systemach grupy plechowców. W świadomości potocznej tak jest nadal. Także w uproszczonych wykazach, mających zastosowanie praktyczne (np. listach gatunków chronionych), grzyby bywają łączone z roślinami. Podobnie w programach nauczania nauka o grzybach (mykologia) bywa włączana do botaniki, a ogół grzybów zasiedlających dane środowisko bywa nazywany florą lub mykoflorą – od jakiegoś czasu – mykobiotą lub fungą (ze względu na podobieństwo do słów flora i fauna).

Jako pierwszy grzybami zainteresował się Teofrast, który zaliczył je do roślin pozbawionych korzeni, w związku z tym nie potrafił określić sposobu, w jaki się żywią. W epoce rzymskiej badania nad grzybami nie posunęły się do przodu. Rzymianie szczególne znaczenie przypisywali truflom i wierzyli, że powstają one od uderzeń błyskawic, które przekazują im moc niezbędną przy kreacji życia – stąd były stosowane jako środek wspomagający zajście w ciążę. Wśród Majów, Azteków i Zapoteków powszechny był kult grzybów, którym stawiano pomniki. W Indiach grzyby czczono jako symbol płodności. Z powodu silnego zainteresowania grzybami w kultach politeistycznych, chrześcijaństwo spychało grzyby poza margines zainteresowania nauki, wiążąc je z czarną magią.

Pierwsze badania grzybów zaczęły się w XVI wieku. Pierwszej próby klasyfikacji grzybów dokonał wówczas Mathias Lobelius. Po raz pierwszy zarodniki grzybów zaobserwował Giambattista della Porta w 1588 roku, ale przez kolejne dwieście lat dominował jeszcze pogląd o spontanicznym powstawaniu grzybów. W XVII wieku najwybitniejszymi badaczami grzybów byli Carolus Clusius (klasyfikował znane gatunki) i Petrus Antonius Michaelis (wykazał kiełkowanie zarodników). Na przełomie XVIII i XIX wieku miał miejsce kolejny okres zainteresowania biologią grzybów, najważniejsi badacze tamtego okresu to Karol Linneusz, Cihristiaan Hendrik Persoon i Elias Magnus Fries (klasyfikowali znane gatunki) oraz Erik Achariusz (twórca lichenologii). W następnych latach liczba opisywanych gatunków rosła lawinowo, często jeden gatunek opisywano kilkukrotnie pod różnymi nazwami. Uporządkowanie klasyfikacji przeprowadził Pier Andrea Saccardo.

Przejściowo do grzybów (bądź traktowanych jako rośliny zarodnikowe, bądź jako odrębna od roślin grupa) zaliczano różne inne grupy organizmów, wśród nich śluzowce. Część z nich ze względu na morfologiczne podobieństwo do grzybów przy jednoczesnym braku spokrewnienia określana bywa jako protisty grzybopodobne.

Obecnie taki status jest uważany za niewłaściwy. Grzyby są uznawane za jedną z linii rozwojowych w obrębie supergrupy Opisthokonta (jednej z sześciu, na które podzielono jądrowce), do której zalicza się także m.in. zwierzęta. Poświadczeniem wspólnego pochodzenia grzybów, zwierząt i wiciowców kołnierzykowych są pewne cechy anatomiczne i biochemiczne (obecność wici umieszczonej na tylnym biegunie komórki, obecność chityny, glikogenu i in.) Z kolei pewne cechy niegdyś uważane za łączące grzyby z roślinami (np. obecność celulozy) obecne są jedynie u lęgniowców, które współcześnie odłączone zostały od grzybów i ulokowane w obrębie supergrupy siostrzanej dla roślin – Chromalveolata. Większość cech wspólnych dla całej supergrupy występuje u skoczkowców. Prawdopodobnie jest to takson parafiletyczny – jednokomórkowi i posiadający wici kuzyni grzybów wielokomórkowych. Zaliczani czasem do (pod-)królestwa Protista.

W zasadzie grzyby to wielokomórkowe lub komórczakowe organizmy cudzożywne (głównie osmotroficzne), niezdolne do aktywnego ruchu, o ścianach komórkowych zbudowanych z chityny. W definicji tej są jednak pewne nieścisłości. Prymitywne grzyby wielokomórkowe wytwarzają zdolne do ruchu, jednokomórkowe, uwicione zarodniki pływkowe (zoospory), mają też niekiedy bliskich, jednokomórkowych kuzynów. Niektóre cechy niegdyś przypisywane grzybom obecnie nie wchodzą do ich charakterystyki, gdyż dotyczą innych grup organizmów, przejściowo zaliczanych do grzybów. Przykładowo, dotyczy to cech organizmów takich, jak śluzowce, będące zdolnymi do ruchu ameboidalnego komórczakami, oraz lęgniowce Oomycetes – organizmy o trybie życia typowo grzybowym, ale o ścianie komórkowej zbudowanej z celulozy i zaliczane obecnie do grupy Stramenopiles.

Wśród grzybów najliczniejszą grupą są organizmy wielokomórkowe, jednak występują też grzyby jednokomórkowe, np. drożdże. Komórka grzyba może być jednojądrowa, dikariotyczna lub komórczakiem. Grzyby są plechowcami, ich ciało – grzybnia, nie wykazuje zróżnicowania na tkanki i organy. Długie, nitkowate, proste lub rozgałęzione strzępki tworzą nibytkankę (plektenchymę). Owocniki, które są zbudowane z plektenchymy, to specjalnie ukształtowane części grzybni, wewnątrz których tworzą się zarodnie z zarodnikami.

Grzyby charakteryzuje duża różnorodność sposobów rozmnażania. Większość z nich może rozmnażać się zarówno płciowo, jak i bezpłciowo. U wielu grup grzybów rozmnażanie bezpłciowe ma bardzo duże znaczenie – występuje jako główny sposób rozmnażania, pozwalający na szybkie zasiedlenie substratu. W przypadku niektórych gatunków rozmnażanie bezpłciowe jest w ogóle nieznane, grzyby (albo ich postaci) rozmnażające się bezpłciowo nazywa się anamorfami (postaci płciowe to teleomorfy, a obie te formy razem stanowią holomorfę). Wytwarzanie zarodników wyłącznie na drodze bezpłciowej (poprzez podziały mitotyczne) wynika najprawdopodobniej ze skrajnej specjalizacji tych organizmów, gdyż badania genetyczne wykazują, że w genomach tych gatunków są obecne zestawy genów warunkujących rozmnażanie płciowe.