Dopo una lunga gavetta nei locali notturni del Nord Italia, viene notato da un produttore televisivo che lo fa debuttare in scenette e numeri musicali in alcuni programmi di varietà.
I primi dischi datano 1956 e sono 78 giri, per lo più di canzoni napoletane, registrati per la RCA Italiana; con il passaggio al 45 giri, sotto etichetta Columbia, arriva il primo successo con Simpatica, di Garinei, Giovannini e Kramer.

Nel 1958 partecipa a Canzonissima e successivamente si fa notare in un programma condotto da Lelio Luttazzi al quale partecipa come ospite fisso insieme a Mina, dal titolo Sentimentale. L'omonima sigla diventa un disco di successo, inciso da entrambi i cantanti in due versioni differenti.

Nel frattempo Nicola continua a coltivare la sua grande passione, il jazz, partecipando a festival e a manifestazioni dedicate (ad esempio il Festival del jazz del 1959, insieme a Franco Cerri), e mettendosi in luce con il suo stile da crooner.

Di questo periodo sono i maggiori successi discografici: Un giorno ti dirò, Amorevole, I sing ammore, My wonderful bambina, I love you forestiera. I titoli bilingui sono un vezzo degli autori di canzoni di fine anni cinquanta, che vedono nella canzone-cartolina un mezzo per propagandare le nostre bellezze turistiche (l'esempio più celebre di questo genere sarà Arrivederci Roma di Renato Rascel).

Nel 1963 è protagonista di un altro show del sabato sera, Il cantatutto, con Milva e Claudio Villa, in cui si diverte a scambiarsi il repertorio con gli altri due colleghi e ad esibirsi in gag e scenette comiche.

Nel 1964 partecipa al Festival di Sanremo con Venti chilometri al giorno, e successivamente inizia una lunga e fortunatissima carriera come testimonial pubblicitario, che gli assicura ottimi introiti anche quando i suoi impegni musicali si diraderanno, con il cambio generazionale e l'avvento dell'ondata beat.

Arigliano torna sorprendentemente in televisione nel 1977 in alcune puntate di Non stop, una trasmissione di Enzo Trapani dedicata al cabaret.

Nel 1985 realizza un disco dal vivo Mario Schiano presenta Nicola Arigliano al night club "Il Sorpasso" - Con l'orchestra "I Primi" dove, a dispetto del titolo, Mario Schiano non è presente: egli è infatti l'organizzatore di alcune serate musicali presso Castel Sant'Angelo a Roma per festeggiare il sorpasso del PCI sulla DC alle elezioni Europee del 1984 (e questo spiega il nome night club "Il Sorpasso"); suonano però nel disco alcuni tra i più noti jazzisti italiani, come il tastierista dei Marc 4, Antonello Vannucchi, Gegè Munari alla batteria e Giorgio Rosciglione al contrabbasso.

In tempi più recenti (1996) vince il Premio Tenco per il suo album I sing ancora; nel 2001 pubblica Go man!, disco registrato dal vivo a Milano che vede la presenza di alcuni tra i più noti jazzisti italiani: Franco Cerri, Enrico Rava, Gianni Basso, Bruno De Filippi. Renato Sellani e Massimo Moriconi.

Nel 2005, con i suoi ottantuno anni di età, è stato il cantante più anziano a partecipare ad un Festival di Sanremo: nell'occasione ha presentato il brano Colpevole (accompagnato da Antonello Vannucchi dei Marc 4 e Franco Cerri), vincitore del Premio della Critica.

Attualmente è ricoverato in una casa di riposo a Calimera in provincia di Lecce.