Nacido en Greenock junto a la ciudad de Glasgow, su padre fue inventor naval y contratista, mientras que su madre, Agnes Muirhead, provenía de una familia distinguida y poseía una buena educación. Ambos practicaban el presbiterianismo y eran miembros activos del movimiento Covenanter. Su abuelo, Thomas Watt, fue profesor de matemáticas y magistrado de la baronía de Cartsburn.,
El delicado estado de salud de James durante la infancia le impidió asistir al colegio con regularidad, siendo educado fundamentalmente por su madre, aunque posteriormente asistió a la escuela de Gramática de Greenock. Demostró gran habilidad manual y aptitudes para las matemáticas, mientras que no le interesaban el latín y el griego.
Cuando tenía dieciocho años, su madre murió y su padre comenzó a tener problemas de salud. Watt viajó a Londres y fue aprendiz de fabricante de instrumentos durante un año (1755/1756)., Luego, volvió a Escocia y se estableció en la importante ciudad comercial de Glasgow con la intención de crear su propio negocio de fabricación de instrumentos. Elaboró y reparó cuadrantes reflectantes de latón, reglas paralelas, balanzas, piezas para telescopios y barómetros, entre otras cosas. Como no había trabajado como aprendiz durante un mínimo de siete años, el Gremio de herreros de Glasgow (con jurisdicción sobre cualquier artesano que utilizara martillos) bloqueó su solicitud, a pesar de que no había otros fabricantes de instrumentos matemáticos en Escocia.,
Watt se salvó de este impasse con la llegada desde Jamaica de instrumentos astronómicos legados por Alexander Macfarlane a la Universidad de Glasgow, los cuales requerían la atención de expertos. Watt los restauró para su puesta en marcha y se le remuneró por ello. Estos instrumentos se instalaron finalmente en el Observatorio Macfarlane. Posteriormente tres profesores le ofrecieron la oportunidad de crear un pequeño taller dentro de la universidad. Se inició en 1757 y dos de los profesores, el físico y químico Joseph Black y el famoso Adam Smith, se convirtieron en amigos de Watt.,
Al principio trabajó en el mantenimiento y la reparación de instrumentos científicos utilizados en la universidad, ayudando en las demostraciones y ampliando la producción de cuadrantes. En 1759, creó una sociedad con John Craig, un arquitecto y empresario, para fabricar y vender una línea de productos que incluía instrumentos musicales y juguetes. La sociedad se mantuvo durante los siguientes seis años y empleó hasta dieciséis trabajadores. Craig murió en 1765. Finalmente, un empleado, Alex Gardner, se hizo cargo del negocio, que siguió activo hasta el siglo XX.,
En 1764, Watt se casó con su prima Margaret (Peggy) Miller, con quien tuvo cinco hijos, dos de los cuales vivieron hasta la edad adulta: James Jr. (1769–1848) y Margaret (1767–1796). Su esposa murió al dar a luz en 1772. En 1777, volvió a casarse con Ann MacGregor, hija de un fabricante de tintes de Glasgow, con quien tuvo dos hijos: Gregory (1777–1804), que se convirtió en geólogo y mineralogista, y Janet (1779–1794). Ann murió en 1832. Entre 1777 y 1790, vivió en Regent Place, Birmingham.
Fue un miembro clave de la Sociedad Lunar., Muchos de sus escritos se conservan en la biblioteca de Birmingham. Falleció el 25 de agosto de 1819 en Heathfield, en su casa situada en Handsworth, Inglaterra, a la edad de 83 años.