O grupo surgiu em Canton, Ohio, no fim dos anos 1950, inicialmente como The Triumphs, e adotou o nome The O'Jays em referência ao radialista Eddie O'Jay.
Depois de anos de gravações e mudanças na formação, firmou-se com Eddie Levert, Walter Williams e William Powell. Na Philadelphia International, lançou discos como Back Stabbers e Ship Ahoy, que reuniram sucessos como “Love Train” e “For the Love of Money”.
