Сама назва «акордеон» (французькою «accordeon») означає «ручна гармоніка». Так назвав його у 1829 році у Відні майстер Кирило Деміан, коли виготовив разом із синами Гвідо та Карлом гармоніку з акордовим акомпанементом у лівій руці.
Історія акордеону бере початок із Стародавнього Сходу, де вперше в музичному інструменті Шен був використаний принцип язичкового звуковидобування. Біля джерел створення акордеону у звичному нам вигляді, стояли два талановиті майстри: німецький годинникар Християн Бушман і чеський умілець Франтішек Кіршнер.
17-річний Християн Бушман, прагнучи спростити роботу з налаштування органу, винайшов нехитрий пристрій — камертон у вигляді невеликої коробочки, в яку помістив металевий язичок. Коли Бушман ротом вдував повітря в цю коробочку, починав язичок звучати, видаючи тон певної висоти.
Щодо ще одного поширеного інструменту — акордеону, то він став відомий значно пізніше, вже в СРСР 30-х років. Він був ускладненим баяном з клавіатурою на кшталт фортепіано, і за кордоном він отримав назву піано-акордеон, а в нашій країні – акордеон.