Billy Sheehan nasce il 19 marzo 1953 a Buffalo (NY).
La sua prima band ufficiale sono i Talas, un trio formato da tre ragazzi di Buffalo: Billy Sheehan al basso, Paul Varga alla batteria e Dave Constantino alla chitarra. Con le loro performance piene di energia i Talas acquistano fama in città e conquistano un pubblico sempre più vasto. Nel 1997, in occasione del "reunion concert", il sindaco di Buffalo proclama in città il "Talas reunion day".
Il suo periodo con i Talas si interrompe per un anno, nel 1978, quando Billy entra a far parte dei Light Years. Nel 1983 sostituisce Pete Way durante il tour europeo degli Ufo.
Nel 1985 viene chiamato da David Lee Roth per formare insieme a Steve Vai alla chitarra e Greg Bissonette alla batteria la David Lee Roth band. La band realizza due dischi di platino in pochi anni: nel 1986 viene pubblicato "Eat 'Em and Smile" e nel 1988 "Skyscraper". A causa di alcuni disaccordi con la band Billy decide di non partecipare al tour di Skyscraper.
Dopo l'esperienza con David Lee Roth comincia lavorare a un nuovo progetto: i Mr.Big, formati da Billy al basso, Paul Gilbert alla chitarra, Eric Martin alla voce e Pat Torpey alla batteria.
Il grande successo arriva nel 1991 col secondo cd "Lean into it": l'album vende più di 5 milioni di copie e il singolo "To be with you" arriva al primo posto nelle classifiche degli Stati Uniti e di altri 14 Paesi.
Nel frattempo, nel 1996 nascono i Niacin: un trio jazz-rock formato da Billy al basso, Dannis Chambers alla batteria e John Novello all'organo Hammond B3.
Nel 2002 i Mr.Big si sciolgono ufficialmente dopo un tour sold-out in Giappone.
La data coincide con la pubblicazione del suo primo cd solista "Compression".
In "Compression" Billy scrive, canta, suona la chitarra a 6 e 12 corde, suona il basso e programma la batteria per l'intero disco, ad eccezione di due canzoni. In "Bleed along the way" e "Oblivion" a suonare la batteria è infatti Terry Bozzio; inoltre il solo di "Chamaleon" è stato registrato da Steve Vai.
Nell'estate del 2002 partecipa, suonando il basso, al tour giapponese dei B'z. I concerti si svolgono tutti in grandi stadi e raccolgono in totale un pubblico di 750000 persone: un vero successo!
Nel 2002 comincia a suonare nella band di Steve Vai e gira il mondo in occasione del G3 insieme a Steve, Mike Keneally sostituito poi da Tony MacAlpine, Dave Weiner e Virgil Donati sostituito poi da Jeremy Colson. Nel 2005 nascono i The Breed: band formata da Billy al basso, Steve Vai alla chitarra e voce, Dave Weiner alla chitarra, Tony MacAlpine alla tastiera e alla chitarra e Jeremy Colson alla batteria.
Nel febbraio del 2005 pubblica il suo secondo cd solista "Cosmic Troubadour", nel quale canta, suona il basso e la chitarra a 6 e 12 corde. Il disco è realizzato insieme al batterista Ray Luzier e a Simone Sello che oltre ad alcune parti di chitarra si occupa della programmazione e dell'elettronica.
Nel 2006 dopo un tributo ai The Who (gli Amazing Journey) e un tour insieme a Jeff Berlin e Stu Hamm (Bx3), che tocca principalmente gli Usa, esce il settimo album dei Niacin: Organik.
Il 2006 è anche l'anno che segna l'inizio di un nuovo progetto: The Devil's Slingshot (poi trasformato in Slingshot), che coinvolge Billy, Virgil Donati e Tony MacAlpine.
Dopo un tour europeo, nell'Ottobre 2007 esce "Clinophobia", il primo album degli Slingshot, seguito da un secondo tour che tocca l'Europa intera.
Nel frattempo Billy continua a lavorare al suo nuovo album solista e si ritrova impegnato in numerose clinic.
Tra settembre e novembre 2008 viene organizzato un lungo clinic tour per promuovere l'uscita del suo terzo album solista: "Holy Cow!".
Il cd, pubblicato dalla Victor Entertainment il 22 Ottobre, è realizzato insiema al batterista Ray Luzier e vede la partecipazione di alcuni "ospiti speciali": Paul Gilbert (chitarra in "Dynamic Exhilarator"), Billy Gibbons (chitarra in "A lit'l bit'l do it to 'ya ev'ry time"), Dug Pinnick (voce in "Turning point").

Negli anni le capacità di Billy hanno colpito enormemente i fans che lo hanno nominato più volte "Miglior bassista": ha vinto questo titolo tre volte in occasione della competizione indetta per i propri lettori dalla rivista giapponese "Player Magazine" e 5 volte con la rivista "Burrn!".
Inoltre nel 1999 il suo nome è stato aggiunto alla Hollywood Rockwalk nel Guitar Center di Los Angeles.

Billy possiede una gatta di nome Spooky che considera il miglior gatto del mondo e "regina della casa"! Il suo amore per Spooky è evidente: viene menzionato tra i ringraziamenti nei suoi cd e la sua immagine è sempre con lui nell'adesivo che porta attaccato al basso!