Nació en San Miguel de Tucumán. Fue jurista, historiador y funcionario público. Después de asistir a escuelas locales, prosiguió su educación en Buenos Aires, estudiando bajo la dirección de José Manuel Estrada; obtuvo su título de abogado en 1882.
Matienzo ya había comenzado a escribir y publicar en una carrera que lo destacó como uno de los miembros más prominentes de la Generación del 80; fue miembro del Círculo Científico, formado en Buenos Aires en 1878 y lo fue también del Ateneo en 1892; entre los años 1904 y 1927 desempeñó varios cargos en la Facultad de Filosofía y Letras de Buenos Aires; en 1906 fue decano de la facultad e inició su importante labor de compilar y publicar los documentos relacionados con el período de organización política nacional; esto dio origen a la sección de historia que más tarde pasó a ser el Instituto de Investigaciones Históricas; sus esfuerzos estimularon también la investigación en todos los archivos, tanto privados como públicos, nacionales y provinciales, en todo el ámbito de la nación, configurando, por ende, una importante contribución a la enseñanza y a la elaboración de la historia nacional.
Mientras tanto, Matienzo había ingresado en el servicio público en carácter de asesor legal del Ministerio de Obras Públicas de Buenos Aires (1885); miembro de la comisión destinada a redactar las leyes que regulaban el funcionamiento de los ferrocarriles en la Argentina (1889); juez civil en La Plata (1889-1890); estuvo involucrado en las actividades revolucionarias de 1890-1893 habiendo sido partidario del presidente Miguel Juárez Celman; apoyó vigorosamente el federalismo argentino, en sus escritos y en lo político, oponiéndose a los personalistas tanto en la vida política como en la interpretación de la historia; ejerció funciones de senador provincial en Buenos Aires; desempeñó la presidencia del Departamento Nacional de Trabajo (1907); afianzó su legislación y fundó su publicación, el Boletín; fue procurador general de la nación, 1917-1922.
En 1918 El presidente Hipólito Yrigoyen en pleno conflicto Universitario decidió nombrarlo interventor en Córdoba. El funcionario modificó los estatutos en conformidad con los profesores y estudiantes y convoca a elección de autoridades para el 15 de junio, según la Ley Avellaneda (es decir, sólo entre los profesores). Pero las maniobras de las castas profesorales harán que ese día estalle la rebelión estudiantil indignada, que dará origen al movimiento de la Reforma Universitaria, cuyo Manifiesto Liminar aparece en Córdoba el 21 de junio de 1918
En 1923 pasó a ser ministro del Interior en el gabinete del presidente Marcelo T. de Alvear; en 1932 Matienzo fue elegido senador nacional por su provincia natal, Tucumán, en cuyo carácter se desempeñaba en el momento de su muerte.
José Nicolás Matienzo dejó una extensa lista de escritos legales e históricos publicados; Francisco Luis Menegazpi compiló una bibliografía de ellos en el Boletín del instituto de Investigaciones Históricas de la Facultad de Filosofía y Letras, V. XXIV (1940); los historiadores se interesan particularmente en sus meditadas interpretaciones de la historia política de Argentina en las décadas que siguieron a la reorganización nacional como república bajo el gobierno de Mitre (1862); preocupado por las discrepancias existentes entre las leyes, especialmente las reformistas y las prácticas políticas, arribó a dos conclusiones que han tenido amplia difusión: 1) que la historia política argentina tendía a caer en ciclos de 18 años -esto es, tres períodos presidenciales de liderazgo militar- durante cuyo lapso crecía una nueva generación política y arrebataba el poder para instituir sus propios y nuevos rumbos; y 2) ninguna ley reformista podría cambiar realmente la vida política hasta que una nueva moralidad social se hubiera formado y esto, llegó a creer -cercano a la posición de Alberdi- podrá acontecer sólo una vez que la Argentina estuviera poblada y educada.
Entre sus más importantes escritos cabe mencionar El gobierno representativo federal en la República Argentina (Buenos Aires, 1910; edición francesa ampliada, París, 1912); La política americana de Alberdi; Cuestiones de derecho público argentino; Responsabilidad judicial; y Proyecto de código penal, un plan para la reforma penal, escrito en colaboración por Matienzo, Norberto Piñero y Rodolfo Rivarola.