Es el descendente del Tambor de madera de dos notas (México, Africa, Oceanía), instrumento primitivo. Los primeros que se conocen estaban hechos de láminas de madera de diferentes longitudes, talladas toscamente, colocadas a veces sobre las piernas separadas del instrumentista o bien sobre marcos, bastidores o cajas. Más tarde se les añadieron resonadores, con una serie de láminas de distinto tamaño. El Xilófono está extendido en Africa, donde presenta bajo nombres diferentes, según las tribus : "bala" en el Sudán (al que lo toca se le llama balafón), "Serimba", "menza", "marimba", "zangora", "medzang", "timbala", etc. Existen también modelos portátiles de forma recta o flexible. Incluye 8 a 10 láminas, y algunas veces más, con una calabaza bajo cada lámina, que hace las veces de resonador. Procedente de Africa, el xilófono hace su aparición en Europa a principios del siglo XV. Según las épocas, su nombre varía : en la Edad Media, "escalerilla" ; más tarde "órgano de paja", "armónica de madera y madera sonora".

El Xilófono actual consiste en la reunión de láminas de madera de diferente longitud que dan sonidos determinados. Se compone de una armazón metálica con dos soportes a cada extremo, coronados por dos marcos de madera sobre los que reposan los tubos resonadores y las láminas de madera suspendidas por un cordón. Se golpea sobre las maderas con baquetas de cabeza de ebonita, de caucho blando o recubierta de lana. En la orquesta moderna ha conseguido un lugar muy importante.