Müzik, herhangi birinin onu yazıya dökmesinden binlerce yıl önce var oldu. Antik Yunan filozofları matematiksel temelini teorize etti. Ortaçağ keşişleri ilk notasyon sistemini yarattı. Batı müziğinin başlangıç noktası burasıdır.
Müzik yazılı tarihten çok çok önce başlar. Düzenli müzik etkinliğine dair arkeolojik kanıtlar en az 40.000 yıl geriye uzanır: Güney Almanya'daki Geissenklösterle'de bulunan kemik ve fildişi flütler yaklaşık 43.000 yıl öncesine, yakındaki Hohle Fels'te bulunan akbaba kemiğinden flüt ise yaklaşık 40.000 yıl öncesine tarihlenir; ikisinde de bilinçli olarak açılmış parmak delikleri vardır. Avrupa'nın dört bir yanındaki mağara resimlerinde dans ediyormuş gibi duran figürler vardır; bu da ritme eşlik eden düzenli hareketlere işaret eder. Slovenya'da bir mağarada bulunan ve yaklaşık 60.000 yıl öncesine tarihlenen Divje Babe flütü tartışmalıdır (bazı araştırmacılar deliklerin insan eliyle değil ayı dişleriyle açıldığını savunur), ama arkeolojik kanıtların ağırlığı müzik yapmanın insanın en eski davranışlarından biri olduğunu, tarımdan, çömlekçilikten ve yazıdan on binlerce yıl önce geldiğini düşündürür. Bu dürtüyü neyin harekete geçirdiğini bilemeyiz; kuramlar eşeysel seçilimden toplumsal bağlanmaya ve bilişsel gelişime kadar uzanır. Bilebildiğimiz şey, yaklaşık MÖ 2000'den itibaren müziğin antik uygarlıklardaki rolüne dair yazılı bir kayıttır; müziğin belgelenmiş bir gelenek olarak tarihi de bu kayıtla başlar.
Antik Yunan'da müzik, sonraki hiçbir Avrupa uygarlığının tam olarak yeniden yaratamadığı bir konuma sahipti: aynı anda hem matematiğin bir dalı, hem bir etik biçimi, hem de kent yaşamının bir teknolojisiydi. MÖ 6. yüzyılda çalışan Pisagor, temel müzik aralıklarının (oktav, tam beşli, tam dörtlü) basit tam sayı oranlarına karşılık geldiğini keşfetti: yarı uzunluktaki bir tel tam bir oktav tiz ses verir; üçte iki uzunluktaki bir tel tam beşli verir. Titreşen tellerin uzunlukları ölçülerek deneysel olarak yapılan bu keşif, müzik deneyiminin duyusal dolaysızlığının altında matematiksel bir yapı olduğunu ortaya koydu. Pisagorcu felsefe bu keşiften, sayısal oranların müzikal konsonansı olduğu kadar gezegenlerin hareketlerini de yönettiği bütün bir evren anlayışı kurdu: "Kürelerin Müziği". MÖ 4. yüzyılda Devlet'i yazan Platon, çocuklara öğretilen müzik modlarının doğrudan ahlaki sonuçları olduğunu savundu: Dor modu cesaret ve disiplin aşılıyor, Lidya modu yumuşaklık ve gevşeklik üretiyordu. İdeal devletin yurttaşlarının müzik eğitimine dair önerileri buyurgan ve kısıtlayıcıydı; bazı modlar ve çalgılar ahlaken tehlikeli oldukları gerekçesiyle yasaklanmalıydı. Platon'un müzik deneyiminin etik boyutunu bu kadar ciddiye alması, Yunan uygarlığının müziğin gücüne dair tutarlı biçimde sürdürdüğü kültürel bir uzlaşmayı yansıtır.
Yunan filozoflarının anlattığı müzik neredeyse tümüyle kayıptır; geliştirdikleri nota sistemleri eksikti ve günümüze ulaşan parçalar ses yüksekliği bakımından çözülebilse de ritimleri ya da icra pratikleri güvenle yeniden kurulamaz. Batı müzik geleneği, kesintisiz ve izlenebilir bir pratik olarak, Hristiyan Kilisesi'yle, özellikle de MS 4. ve 9. yüzyıllar arasında sistemleşen litürjik ilahi dağarıyla başlar. Gregoryen ilahi, adını gelenek tarafından litürjik repertuvarı düzenleyip standartlaştırdığı kabul edilen Papa I. Gregorius'tan (590-604) alır; ancak modern araştırmalar onun doğrudan rolünün efsanenin iddia ettiğinden daha sınırlı olduğunu düşündürür. Gregoryen ilahi monofoniktir: armonik destek ya da düzenli bir ölçü ritmi olmadan, birlikte (unison) söylenen tek ve eşliksiz bir melodik çizgi. Ezgiler modal diziler içinde (sonradan gelecek majör-minör sistem içinde değil) adım adım ilerler; metinler çoğunlukla Latince litürjik düzyazıdır ve ezgi sözcüklerin doğal vurgularının belirlediği bir ritimle akar. Gregoryen ilahi beş yüzyıl boyunca Batı litürjik müziğinin temeli olarak kaldı ve egemenliğini yitirdikten çok sonra bile ardından gelen armonik dili biçimlendirmeye devam etti.
Batı müziğinin sonraki tarihini mümkün kılan belirleyici teknolojik gelişme, Benedikten keşişi Guido d'Arezzo'nun (y. 991 – 1033 sonrası) geliştirdiği porteli nota yazısıydı. Guido'dan önce müzik büyük ölçüde sözlü aktarılıyordu; sayfadaki nöm işaretleri yalnızca önceden öğrenilmiş ezgileri hatırlatıyordu: yeni keşişler ilahileri yaşlı keşişlerden duyarak öğreniyordu; bu yavaş, hataya açık ve coğrafi olarak sınırlı bir süreçti. Guido, tek tek notaların kesin olarak belirtilmesini sağlayan, belirli ses aralıklarıyla çizilmiş yatay çizgilerden oluşan dört çizgili porteyi ve bir hekzakord dizisinin basamaklarına Ut, Re, Mi, Fa, Sol, La hecelerini atayan, deşifre öğretimine yönelik bir hece sistemi geliştirdi. Sonradan Do, Re, Mi, Fa, Sol, La, Si biçimine dönüşen bu heceler, bugün hâlâ dünya çapında müzik eğitiminde kullanılan solfej sistemi oldu. Guido'nun nota sistemi insanlık tarihinde ilk kez müziği zaman ve mekân içinde kesin olarak aktarmayı mümkün kıldı: bir manastırda yazılmış bir ilahi, doğrudan sözlü aktarıma gerek kalmadan başka bir manastırda doğru olarak söylenebiliyordu. Bunun devrim niteliğinde sonuçları oldu. Besteciler artık, en az dokuzuncu yüzyıldan beri doğaçlama organum olarak var olan ama yalnızca sözlü aktarımla sabitlenmesi ve eşgüdümlenmesi zor olan denetimli karmaşıklıktaki formlarda, yani aynı anda birden fazla sesin yer aldığı polifonide giderek artan bir güvenle çalışabiliyordu. Guido'yu izleyen dönem polifoninin gelişmesine, zaten kurulmuş olan ses yüksekliği yazısını tamamlayan ritim yazısının adım adım inceltilmesine ve yapısal yenilikleri Rönesans ve Barok boyunca hızlanacak, dünya müziğindeki sonraki her gelişmeyi biçimlendirecek belirgin bir Batı müzik geleneğinin ortaya çıkışına tanık oldu. Orta Çağ ayrıca 12. ve 13. yüzyıllarda Notre Dame okulunda polifoninin gelişmesine sahne oldu: Paris'teki Notre Dame Katedrali'nde çalışan Léonin ve Pérotin gibi besteciler organum'u yarattı; özgün ilahinin üzerine yeni sesler eklenen ve bu seslerin ağır ağır ilerleyen tenora karşı ölçülü ritmik kalıplarla hareket ettiği, sade ilahi ezgilerinin çok sesli, ayrıntılı işlenişleri. Bu Notre Dame bestelerini ritim yazısında ve aynı anda birden fazla melodik çizginin kompozisyon içinde yönetilmesinde ilk büyük ölçekli deneyler olarak görmek gerekir; Rönesans polifonisinin üzerine kurulacağı teknik temeli oluşturdular. Kemik flütten Bach'ın İyi Düzenlenmiş Klavye'sine uzanan yolculuk, yaklaşık 50.000 yıllık insan müzik etkinliğini kapsar; partisyonlar ve kuram kitaplarıyla belgeleyebildiğimiz kısım ise yalnızca son bin yıldır. Bu belgelenmiş kısım, her kuşağın bir öncekinden bir dizi sorun ve çözüm devraldığı ve bir sonrakine yenilerini bıraktığı, giderek hızlanan bir yapısal buluş geleneğini ortaya koyar.