Montañez ganaría fama a nivel internacional como miembro del Gran Combo de Puerto Rico con canciones como "Las Hojas Blancas", "Un Verano en Nueva York", "El Barbero Loco", "Julia", "Ponme el Alcoholado, Juana", "Vagabundo", "El Swing", "Sube Nene, Sube", "El Son de Santurce" y "Don Goyo". Permaneció en la agrupación entre 1962 y 1976 produciendo 26 discos de larga duración.
Posteriormente, en 1978, formaría parte de Puerto Rico All-Stars, donde grabó 2 producciones musicales.
Tras el retiro de Oscar D'León, logra ingresar a la Dimensión Latina en 1977, aquí logra popularizar los temas: "El Eco de un Tambó", "Estela Mayombe", "Cantares" grabando en total ocho discos. Pero consiguió mayor éxito a escala internacional con su propia orquesta, la cual formó en 1980 con giras por América Latina y Estados Unidos. De esta época han resaltado temas como "Ella", "Boca Mentirosa", "Mi Otro Yo", "Martha", "Más que Ayer", "La Última Copa", "Cobarde, Cobarde", "Cuando yo te vi", "Casi te Envidio", "Payaso", "Me Gusta", "Genio y Figura", entre otras.
Representó a Puerto Rico en la Exposición Mundial de 1992 en Sevilla, España.
Dos de los hijos de Andy, Harold y Andy Jr. también han incursionado como cantantes de salsa. Su hija actuó por primera vez en la Expo 92 de Sevilla junto a sus dos hermanos. En 1997 Andy fue invitado a participar en la película venezolana “Cien Años de perdón” como interprete de dos de los temas que acompañan la trama. El innegable afecto que tiene con el pueblo venezolano y la recomendación del destacado actor puertorriqueño Daniel Lugo hicieron posible esta experiencia y desde entonces se radica en Caracas.
En años recientes se ha unido a otro cantante de salsa, Ismael Miranda, para producir algunos boleros y música bohemia. En 2005 comenzó a experimentar una mezcla entre los ritmos de salsa y reggaetón, llamándolo salsatón. En este esfuerzo se unió a raperos como Daddy Yankee y Julio Voltio.
El 2 de noviembre de 2006 Montañez ganó su primer Grammy Latino por el mejor álbum tradicional junto con Pablo Milanés.
El 30 de abril de 2012 sufrió un accidente de carretera cerca de Fundación, departamento del Magdalena, Colombia, en el que sufrió una herida en una pierna, golpes y laceraciones.