En 1976, Jean-Michel Basquiat et ses amis Al Diaz11 et Shannon Dawson commencent à graffer à proximité des galeries de Manhattan des messages qu'ils signent sous le pseudonyme de SAMO12, pour « Same Old shit »13. À la même époque Keith Haring recouvre les murs de Radiant Babies. SAMO intrigue et finit par se faire une réputation dans le milieu artistique de l'East Village. Basquiat est invité à une émission de télévision de Glenn O'Brien, et un article lui est consacré en 1978 dans The Village Voice. Il se lie avec Haring, le rappeur Fab Five Freddy et Kenny Scharf. Il continuera à graffer en solo jusqu'en 1979, signant la fin du projet par l'inscription SAMO IS DEAD14 (SAMO est mort) sur les murs de SoHo. La même année, il fonde le groupe de noise rock Channel 9 puis rebaptisé Gray avec Shannon Dawson, Michael Holman, Nick Taylor, Wayne Clifford et Vincent Gallo. Il y joue de la clarinette et du synthétiseur15. Leurs concerts se situent dans la veine du no wave où la dissonance, le bruit et le cri se déploient de manière brute, avec notamment le saxophoniste John Lurie et le guitariste Arto Lindsay16.
En 1980, il joue son propre rôle dans le film indépendant Downtown 81 d'Edo Bertoglio, écrit et produit par Glenn O'Brien. O'Brien présente Basquiat à Andy Warhol, avec qui il collaborera plus tard. En juin, Basquiat gagne en notoriété grâce à sa participation au Times Square Show17, une exposition collective d'artistes commanditée par Colab and Fashion Moda. La même année, la manifestation New York / New Wave le conduit à exposer auprès de Keith Haring, Andy Warhol et Robert Mapplethorpe. Encouragé par ce succès, au cours duquel il est remarqué par les galeristes Annina Nosei et Bruno Bischofberger qui deviennent ses marchands, il quitte le groupe Gray.
La même année, Diego Cortez le présente à Henry Geldzahler, historien de l'art et conservateur au Metropolitan Museum of Art qui devient son ami et l'un de ses premiers collectionneurs15. En 1981, René Ricard publie un article élogieux intitulé The Radiant Child (l'enfant radieux) dans le magazine Artforum, propulsant la carrière de Basquiat. La galeriste Annina Nosei18 lui propose de s'installer dans le sous-sol de la galerie, le finance pour qu'il achète des toiles grand format, et organise sa première exposition personnelle à New York. Il collabore à l'exposition du groupe Transavanguardia Italia / America organisée par Achille Bonito Oliva, qui expose ses travaux aux côtés d'artistes néo-expressionnistes tels que Keith Haring et Barbara Kruger, Julian Schnabel, David Salle, Francesco Clemente et Enzo Cucchi. Basquiat quitte la Galerie Annina Nosei en mai 1982, après avoir passé un mois d'avril mouvementé à Los Angeles où il fait l'objet d'une exposition personnelle à la galerie Larry Gagosian. Bruno Bischofberger devient son marchand exclusif. Basquiat le charge de lui trouver une nouvelle galerie à New York. Cette même année, il entame une idylle passionnée19, immortalisée en photos20, avec la chanteuse américaine Madonna, à qui il offre nombre de ses toiles. Après leur séparation, Basquiat prend les tableaux et les recouvre de peinture noire21.