Његов израз потиче од грчких речи, ксилон (дрво) и телефон (звук), што значи „ звук дрвета “. Ксилофон је удараљкачки музички инструмент формиран од низа дрвених листова различитих величина и водоравно распоређених као тастери, који се ударају палицама за стварање звукова. Порекло ксилофона потиче из југоисточне Азије у четрнаестом веку, век касније стигло је до Африке и његова употреба се проширила на цео континент, постајући важан инструмент за њихову културу.
Афрички робови су је увели у Латинску Америку, где је позната као маримба. У 1500-их овај инструмент је стигао у Европу, као народни инструмент у Средњој Европи, а пољски и руски преводиоци су у 19. веку популаризовали ксилофон у западној Европи. Овај инструмент има велику важност у бројним класичним делима. Његово прво оркестрално појављивање било је у Данца мацабре Цамилле Саинт-Саенс (1874); овај композитор га је такође користио у „Фосилима“ Карневала животиња (1886), попут Игора Стравинског у Петрушки (1911).
Ксилофон захтева велику виртуозност перкусиониста; Његова тренутна техника је врло сложена и захтева сјајног стручњака. Његова улога у садашњем оркестру није давање егзотичног додира делу, већ је то независан и врло важан тон унутар развоја оркестра. Инструменти попут ксилофона, али са металним фолијама, називају се металофонима.