Ha estado en la escena del jazz internacional desde principios de 1970. Su técnica perfecta y el enfoque imaginativo de sus cuerdas, han inspirado colaboraciones con Chet Baker, Sarah Vaughan, Bob Brookmeyer, y Buddy Rich, entre muchos otros. Nativo de Brooklyn, Jack comenzó a tocar la guitarra a los trece años de edad. Entre sus mentores se incluyen: Johnny Smith, Django Reinhardt, Charlie Christian, Wes Montgomery, Joe Pass, Bill Evans, Clifford Brown y Freddie Hubbard.

En los últimos años, Jack se ha presentado en varios festivales internacionales con grandes figuras del jazz como: Stanley Turrentine, Jimmy Heath, The Mingus Epitaph, 5 Guitarras tocan a Mingus, Red Rodney, Ira Sullivan, Johnny Griffin y otros.

Wilkins ha tocado y grabado con cantantes de renombre como: Mel Tormé, Ray Charles, Morgana King, Sarah Vaughan, Sammy Davis Jr., Tony Bennett, Manhattan Transfer, Nancy Marano, Chris Conner, Cassandra Wilson, y Jay Clayton. Wilkins fue galardonado con una subvención de la NEA (National Endowment for the Arts) en reconocimiento a su labor y a su contribución en la guitarra. Reconocido ampliamente en publicaciones como Guitar Player, Just Jazz Guitar, Downbeat, 20th Century Guitarra y en la Enciclopedia de Jazz “Leonard Feather”. Jack fue invitado por el Instituto Smithsoniano, como parte de la exposición Blue Guitars (Guitarras Azules), y apareció en el primer concierto de jazz en vivo por Internet. También fue destacada su participación en el J.V.C. Festival como homenaje a Johnny Smith, Tal Farlow, Herb Ellis, y Barney Kessel.

Wilkins es maestro en: the New School, Manhattan School of Music, NYU, y LIU. Fue invitado como jurado en el Monk Institute Guitar Competitions, en Washington. También lleva a cabo seminarios sobre el "Great American Songbook", y clínicas de guitarra, tanto en Nueva York y en el extranjero.