1942年8月1日、彼はカリフォルニア州サンフランシスコで次男として生まれる。
出生名のジェローム・ジョン・ガルシアは、両親が好きだった作曲家のジェローム・カーンに因んで付けらた名前だという。

「僕の父親はサンフランシスコで活動するジャズミュージシャンだった。クラリネットやサックスを演奏していたらしい。僕が5歳くらいの時に死んだから、あまり多くを知らないんだ。」

彼の父親は十代の頃にスペインからアメリカに渡ってきた移民だった。
母親はサンフランシスコ生まれだったが、母方の祖母はスウェーデン系で、祖父はアイルランド系だった。
彼の先祖は皆、ゴールドラッシュの時代に大西洋を渡ってサンフランシスコにやってきた人たちだった。
彼の両親が巡り合ったのは1930年代。
アメリカは不況の時代で、父親はミュージシャンの仕事だけでは食べていけなくなり、小さなバーを経営することとなる。
そんな中、彼の父親は休暇中に川釣りをしている時の転落事故によって、まだ幼い息子たちを残して急死してしまう。
その後、母親がバーの経営を引き継いで子供達を育てたという。

「母もピアノを弾く人で、父が使っていたものを含めて家の中にはいろんな楽器が転がっていたよ。母の期待もあって僕は幼い頃からピアノのレッスンを受けていたんだ。」

スペイン系の血を引いている彼の家では“歌うこと”が日常だった。
彼は母や兄と街角を歩く時も、流行歌などをハーモニーで歌っていた。
ロックンロールやリズム＆ブルース、ポップソング…ラジオが全盛の時代だった。
小学校に通うようになった彼は、ブルーグラスやカントリーミュージックに目覚め、バンジョーを弾くようになる。
10歳になる頃にチャック・ベリーとボ・ディドリーの音楽に触れ「いつか僕もエレキギターを弾きたい！」と憧れるようになる。
時を同じくして、彼は小学校の先生から大きな影響を受ける。

「母が再婚して家族はメロンパークに引っ越したんだ。ある日、転校した学校の先生が僕に“これを読むといい”と一冊の本を貸してくれた。それはジョージ・オーウェルの小説『1984』だった。その日から僕の目の前にまったく新しい世界が拓けたんだ！学校で教えてくれることとはまるっきり違う世界に目覚めた気分だった。」

「ママ…ありがとう、だけど僕が欲しいのはエレキギターなんだ。」

どうにか母親を説得した彼は、翌日新品のアコーディオンを質屋に持っていき、手にしたお金でダンエレクトロのエレキギターと小さなアンプを購入する。

「天にも昇る気分だったよ！その日から僕はそれまでやっていたことのすべてをやめて、ギターだけに時間を費やすことになった。身近にギタリストなんかいなかったから、半年、いや8ヶ月間は独学で練習したよ。」

高校に進学した彼は、授業をサボったり喧嘩をしたりという問題児だった。
そんな荒れた学生生活だったが、ギターの練習だけは真面目に続け、バンドコンテストで優勝することもあったという。
17歳の時に母親の車を盗んで乗り回したことで退学となり、陸軍に入隊する。

「家は居心地悪かったし、学校なんてまるっきり馬鹿げていた。まったく別の生活を手に入れたかったから陸軍に入隊したんだ。うまくやって兵舎の中にギターを持ち込んだよ！」

しかし、そこでも素行が悪く…彼は一年も経たないうちに除隊させられる。
1961年2月20日、彼は友人たちとドライブ中に交通事故に巻き込まれる。
カーブにさしかかった車が時速90マイルの速度でガードレールに衝突し大きく横転。
助手席に乗っていた彼は、車のフロントガラス越しに外に投げ出されてしまう。

「その事故は、ある意味僕の人生が始まった瞬間だった。それまで僕はいつも怠けて過ごしていた。僕の人生において2番目のチャンスだったんだ。その出来事を機に僕は本気でギターに取り組むこととなったんだ。」