Ο όρος Αρμονία σήμαινε στην αρχαία Ελλάδα γενικά την αρμογή, τη σύνδεση, το ταίριασμα των μερών ενός δομημένου συνόλου (π.χ. των λίθων ενός οικοδομήματος, των ουράνιων σωμάτων στο σύμπαν) και ταυτόχρονα αξιολογούσε θετικά τη συμμετρία, την ευρυθμία, τις σωστές αναλογίες, την τέλεια εφαρμογή των δομικών στοιχείων. Αποτέλεσμα της αρμονίας σύμφωνα με τις αισθητικές λήψεις από αρχαιοτάτων χρόνων ήταν το ωραίο. Στη μουσική χρησιμοποιήθηκε η λέξη ευρύτατα και με διαφορετικές σημασίες:
για το δομημένο σύνολο ήχων που προέκυπτε από το αρμονικό ταίριασμἀ τους, αυτό που λέμε σήμερα τρόπο (δωρική αρμονία, φρυγική αρμονία, λυδική αρμονία κλπ.),
για το εν αρμόνιο γένος,
για το διάστημα της όγδοης, αλλά και γενικά
για τη μουσική ως τέχνη του αρμονικού συνταιριάσματος των ήχων.Αρμονικοί ονομάζονταν οι θεωρητικοί της μουσικής που ασχολούνταν με την οργάνωση των ήχων στο μουσικό σύστημα, ή, θα λέγαμε σήμερα, με τη μελωδία, σε αντιδιαστολή με τους ρυθμικούς, που μελετούσαν τους ρυθμούς και τα μέτρα.
Στη νεότερη μουσική ορολογία η λέξη αρμονία χαρακτηρίζει γενικά το σύνολο των κανόνων που διέπουν το ταυτόχρονο άκουσμα δύο ή περισσότερων φθόγγων, τη συνήχηση. Έτσι, ενώ η αντίστιξη ενδιαφέρεται κυρίως για τις μεμονωμένες φωνές και τη μελωδικά και ρυθμικά αυτόνομη ανάπτυξη της καθεμιάς σ' ένα πολυφωνικό μουσικό έργο, η αρμονία μελετά τις συνηχήσεις δύο ή περισσότερων φθόγγων που προκύπτουν κάθε στιγμή του ταυτόχρονου ακούσματος των διαφορετικών φωνών. Στη διάρκεια του 16ου αι. οι συνθέτες άρχισαν να προσέχουν ολοένα και περισσότερο αυτή τη συνήχηση και να εκμεταλλεύονται τις εκφραστικές δυνατότητες που παρείχε. Ο θεωρητικός Ιωσήφ Ζαρλίνο (Joseffo Zarlino) προέτρεπε τους συνθέτες να χρησιμοποιούν ολοκληρωμένες συνηχήσεις προσθέτοντας κάθε στιγμή της μελωδικής ανάπτυξης την τρίτη και την πέμπτη πάνω από το φθόγγο του μπάσου, να σχηματίζουν δηλ. συγχορδίες. Ο Ζαρλίνο όμως θεωρούσε ακόμα πρωταρχικό στοιχείο τη μελωδία και σημείωνε πως η αρμονία προκύπτει από μελωδίες που ηχούν ταυτόχρονα. Η παράλληλη κίνηση δύο φωνών σε τρίτες και έκτες, απαγορευμένη για περισσότερο από δύο-τρεις φθόγγους στην αντίστιξη καθώς καταργούσε την αυτονομία των φωνών, ήταν επιθυμητή για τον Johannes Nucius στα 1613, γιατί «πλούτιζε πολύ την αρμονία».
Στο πέρασμα προς το 17ο αι., με την αρχή του Μπαρόκ, άρχισε να αναγνωρίζεται η συγχορδία ως αυτόνομος φορέας μουσικού μηνύματος και η αρμονία ως ιδιαίτερο πεδίο μουσικής θεωρίας δίπλα στη μελωδία και το ρυθμό. Το μελωδικό ενδιαφέρον επικεντρώθηκε στην ψηλότερη φωνή και οι άλλες περιορίστηκαν στο συνοδευτικό ρόλο της συμπλήρωσης των συγχορδιών. Έτσι γεννήθηκε η μονωδία και η ομοφωνική γραφή. Ο Μπαχ μπορούσε ακόμα να βασιστεί στη δύναμη της μελωδίας και να πλέξει μόνο με αυτή ολόκληρα μονοφωνικά έργα, όπως π.χ. οι σουίτες του για βιολοντσέλο. Στο δεύτερο μισό του 18ου αι. όμως, μετά το θάνατο του Μπαχ, κυριάρχησε η ομοφωνική γραφή και στην οργανική μουσική των κλασικών συνθετών. Έργα χωρίς χρήση των εκφραστικών μέσων της αρμονίας θα ήταν στο εξής και για σχεδόν δύο αιώνες αδιανόητα. Ο Ζαν Φιλίπ Ραμώ (Jean Philippe Rameau, 1683–1764), που έγραψε και την πρώτη θεωρητική μελέτη του νέου μουσικού συστήματος, έφτασε να υποστηρίξει ότι και η ίδια η μελωδία προκύπτει από την αρμονία.
Η αρμονία ως ιδιαίτερο μάθημα στην εκπαίδευση των μουσικών και των συνθετών μελετά λοιπόν τη σύνθεση και τη σύνδεση συγχορδιών. Αν και η κλασική αρμονία έχει ξεπεραστεί ως τεχνική και τεχνοτροπία σύνθεσης, η γνώση της είναι ακόμα χρήσιμη για την ανάλυση των έργων της κλασικής και της ρομαντικής περιόδου. Στην Ελλάδα η αρμονία διδάσκεται στα Μουσικά Σχολεία, στα ωδεία, όπου είναι δυνατή η απόκτηση πτυχίου αρμονίας αναγνωρισμένου από το Υπουργείο Πολιτισμού, καθώς και στα πανεπιστημιακά Τμήματα Μουσικών Σπουδών.
Η λέξη χρησιμοποιείται συχνά και σαν ταυτόσημη της συγχορδίας και η φράση «αλλαγή αρμονίας», για παράδειγμα, σημαίνει τη μετάβαση σε άλλη συγχορδία, σε αντιδιαστολή με τη διατήρηση της ίδιας με άλλη διάταξη φθόγγων.
