Ο Τζον Γουίλιαμ Κολτρέιν γεννήθηκε στις 23 Σεπτεμβρίου 1926 στο Χάμλετ της Βόρειας Καρολίνας και ήταν γιος ενός ράφτη με μουσικές ανησυχίες και μιας νοικοκυράς. Μεγάλωσε σε πολυμελή θρησκευόμενη οικογένεια και σε μια περιοχή με έντονες τις φυλετικές συγκρούσεις. Έχασε νωρίς τον πατέρα του και η μητέρα του εξαναγκάστηκε να μετακομίσει στο Νιου Τζέρσι για να βρει δουλειά. Ο μικρός Τζον έμεινε σε σπίτι φίλων της οικογένειας και βρήκε αποκούμπι στη μουσική. Έμαθε κλαρινέτο, αλλά γρήγορα στράφηκε στην τζαζ και στο άλτο σαξόφωνο.
Σε ηλικία 19 ετών, ο Τζον κατατάχθηκε στο Ναυτικό, αλλά δεν απομακρύνθηκε από τη μουσική, καθώς απασχολήθηκε στην μπάντα του Ναυτικού στη Χαβάη. Τον επόμενο χρόνο αποστρατεύθηκε κι έκανε διάφορες δουλειές, μέχρι να προσληφθεί στην μπάντα του Ντίζι Γκιλέσπι το 1949. Μαζί του παρέμεινε μέχρι το 1952. Στη συνέχεια δούλεψε με την ορχήστρα του Ιρλ Μπόστικ, του Έντι Βίνσον και το γκρουπ του Τζόνι Χότζες.
Το καλοκαίρι του 1955 αποτελεί κομβικό σημείο στη σύντομη, αλλά μεστή καριέρα του, καθώς δέχεται ένα τηλεφώνημα από τον τρομπετίστα Μάιλς Ντέιβις και γίνεται μέλος του συγκροτήματός του. Θα παραμείνει μαζί του για περίπου ένα χρόνο, στη διάρκεια του οποίου θα διαμορφώσει το στυλ του και θα πάρει πολύτιμα μαθήματα από τον Μάιλς για το πώς στήνεται και διευθύνεται μια ορχήστρα.
Ο Τζον είχε δύο μεγάλες αδυναμίες, που αποδείχθηκαν καθοριστικές για τη ζωή του: το ποτό και την ηρωίνη. Ο γάμος του με μια αμερικανίδα μουσουλμάνα, την Ναίμα, θα τον βοηθήσει να τα ξεπεράσει, μέσα από το ενδιαφέρον που έδειξε για τη μελέτη και τα διδάγματα του σουφισμού, ενός πνευματικού κινήματος στους κόλπους της Μουσουλμανικής θρησκείας. Το 1957 ο Κολτρέιν δουλεύει με τον μεγάλο πιανίστα Θελόνιους Μονκ. Τον ίδιο χρόνο κυκλοφορεί το ντεμπούτο άλμπουμ του με τον τίτλο “Blue Train”.
Τo 1958 ξανασυναντά τον Μάιλς Ντέιβις και θα παραμείνει μαζί του ως το 1960. Θα συμμετάσχει στις ηχογραφήσεις δύο πολύ σπουδαίων άλμπουμ του (Milestones και Kind of Blue), ενώ κυκλοφορεί το προσωπικό του “Giant Steps”. Την εποχή εκείνη αρχίζει να παίζει σοπράνο σαξόφωνο, ένα όργανο ξεχασμένο από τον κόσμο της τζαζ.
Η ριζική αλλαγή στο παίξιμό του σηματοδοτείται με την αποχώρησή του από το γκρουπ του Μάιλς Ντέιβις. Σχηματίζει το περίφημο κουαρτέτο του το 1960 και μετά από μια σειρά δίσκων για την Atlantic υπογράφει με την Impulse, όπου φλερτάρει με μία πιο πειραματική μουσική, επηρεασμένος από τα ινδικά ράγκας και την free-jazz. Στο γκρουπ του συμμετέχουν μουσικοί, όπως ο πιανίστας Μακόι Τάινερ, ο σαξοφωνίστας Ερικ Ντόλφι, ο μπασίστας Ρέτζι Γουόρκμαν και ο ντράμερ Έλβιν Τζόουνς.
Οι κριτικοί διχάζονται. Το καθιερωμένο περιοδικό της τζαζ “Down Beat” χαρακτηρίζει τη μουσική του Κολτρέιν «Αντι-Τζαζ», ενώ στη Γαλλία τον αποδοκιμάζουν μετά από μία συναυλία. Αυτό έχει ως αποτέλεσμα ο Κολτρέιν να βάλει για λίγο φρένο στις πειραματικές του αναζητήσεις και να κυκλοφορήσει πιο συντηρητικούς δίσκους (“Ballads”), ιδίως μετά την αποχώρηση του Ντόλφι.
Το 1964 επανέρχεται δριμύτερος και το κουαρτέτο του (Τζόουνς, Μακόι Τάνερ και Τζίμι Γκάριζον στο μπάσο), ηχογραφεί τον περίφημο δίσκο του «A Love Supreme», που θεωρείται το αριστούργημά του. Πρόκειται για μια τετραμερή σουίτα, διάρκειας 33 λεπτών, μία ωδή στην Πίστη και την αγάπη στον Θεό (όχι κατ’ ανάγκη τον Θεό των Χριστιανών). Άλλωστε, ο Κολτρέιν είχε μελετήσει ινδουισμό, καμπάλα, γιόγκα, σούφι, αστρολογία, αφρικανική ιστορία, πυθαγόρειους, Πλάτωνα και Αριστοτέλη. Παρότι πρόκειται για ένα ιδιαίτερα απαιτητικό έργο, με στοιχεία ατονικής μουσικής, αποτέλεσε εμπορική επιτυχία για τα μέτρα της τζαζ.
Οι πνευματικές του ανησυχίες θα καθορίσουν και θα χαρακτηρίσουν τη μουσική του έως το τέλος της ζωής του, με άλμπουμ, όπως τα “Meditations”, “Ascension” και “Interstellar Space”. Ο Τζον Γουίλιαμς Κολτρέιν πέθανε από κίρρωση του ήπατος στις 17 Ιουλίου 1967.