「私たちは“血縁”という意味では兄弟ではなかったが、ブルースにおいては間違いなく兄弟だった。」

1923年4月25日、彼はミシシッピ州インディアノラで13人兄弟の一人として生まれた。（本名アルバート・ネルソン）
父親が教会でギターを弾いていたこともあり、彼は幼い頃から音楽に親しんでいたという。
彼が最初に手にした楽器はギターではなく、当時アメリカ南部の黒人の子供がオモチャ代わりにしていた“ディッドレイ・ボウ”という一弦楽器だった。
彼がまだ幼い頃に両親が離婚し、母親と共にアーカンソー州フォレストシティに移住している。
彼はしだいにブルースに興味を持ち始め、ブラインド・レモン・ジェファーソンやロニー・ジョンソンといったブルース初期のスター達のレコードを熱心に聴くようになる。
貧しい家計を助けるために綿花プランテーションで働きながら、彼は（左利きのまま）独学でギターを習得していく。
18歳の時に友人からギルド製アコースティックギターを1ドル25セントで譲ってもらう。
手に入れたギターは右利き用のものだったが、彼は左利き用に弦を張り替えることなどせずに、そのままギターをひっくり返して弾き始めたのだ。
1950年、彼はメンフィスとセントルイスのオセオラという街で本格的に音楽キャリアをスタートさせる。
当時の主な仕事は『T-99』というナイトクラブのハウスバンド（イン・ザ・グルーヴ・ボーイズ）でギターを弾くことだった。
オセオラで数年活動した後、彼はインディアナ州ゲイリーに拠点を移し、ジミー・リードやジョン・ブリムらと活動するようになる。
両者ともギタリストであったため、彼はドラムを担当していたという。
彼がアルバート・キングという芸名を名乗るようになったのはこの頃で、当時「Three O’clock Blues」をヒットさせたB.B.キングの成功にあやかってのことだった。