現代意義上的小提琴最早出現於16世紀早期的義大利北部威尼斯,熱那亞等港口。早期很多小提琴只有三條弦,由此推斷,小提琴最初的製作者可能借鑒了其它小提琴。
最古老的4弦小提琴是由著名的安德雷亞·阿瑪蒂,應美第奇家族之請製作於1555年。阿瑪蒂是當時著名的撥弦樂器製作師。不僅如此,他還率先將拱形結構引入撥弦樂器的製作中,據他所知,拱形結構能明顯提升撥弦樂器的音色與聽感。
據琴身所標明的日期來看,現存最早的小提琴是一把「查理九世」,由安德雷亞·阿瑪蒂在1560年製作於義大利北部城市克雷莫納。而至今為止最有名的小提琴,應該是安東尼奧‧斯特拉迪瓦里,1716年製作的「彌賽亞」,這把琴現藏於英國牛津的Ashmolean博物館。