「墨」字，是由「黑」字和「土」字所組成的，從字面上看，你一定以為最早的墨就是黑色的土。你猜的差不多。但我要告訴你，黑土不是土，是一種礦石。
一直到晉朝，「墨」字才演變成為書畫用的專用字。
中國製墨歷史十分悠久。據推測，墨不可能在筆誕生之前就有了，但也不會很晚。因為筆枝要蘸上有顏色的液體才能書寫、繪畫。不論我們的祖先最初用的祖先最初用筆寫的是什麼，也不論畫出來的是什麼顏色，那便是最早的墨。
早在五千年前的新石器時代，我們的祖先己學會把天然的礦石磨成粉末，製成顏料 ，在彩陶上描繪。隨著文字的誕生，人們學會了用朱砂來書寫甲骨文。
周朝有了竹簡，很光滑，在上面寫字難度大，人們又把黑顏料拌上骨膠來寫，到了晚周時期，我們的祖先掌握了用墨在絲織物上繪畫的技巧，這時的墨，用途已經非常廣泛常見了。
到了東漢，人們開始用紙寫書，墨的需要量迅速增大起來，製墨的公益也有很大的進步，並會製出一種小丸子式的墨錠，像如今的煤球，可以直接在硯台上研磨。三國時有個叫韋誕的書法家，他能製出一種比較理想的墨，人們稱讚為「一點如漆」。據史書記載，他的墨是用漆煙和松煙摻在一起製成的，漆，即生漆；松，即松樹。煙就是生漆和松樹燃燒時冒出的煙，在經過其他物體所附著的煙灰。我看過晉代陸機所書的字帖，這麼多年了黑色依然是那麼的鮮黑，便可以想像出當時墨的質量了。
唐代藝術書畫的繁榮，推動了製墨業向前發展。甚至連一些書畫藝術家也親自研製黑墨。例如著名的篆刻家李陽冰，在當塗縣當縣令時，就曾領著工匠們製出比較好的墨來。他是大詩人李白的族叔，李白晚年投靠李陽冰，曾和他一起研製過墨，至今還傳為佳話。
書畫用墨最早的主要產地在陝西，後來移至山西，唐朝末年才轉至安徽南部的歙縣，歙縣在黃山腳下，那裡不僅誕生了一代又一代的書畫大師，也蘊育出一批又一批製墨的能工巧匠，歙縣便贏得「墨都」、「墨鄉」等美稱。
後來，歙縣改為徽州，「徽墨」也就由此得名。
