KPJ je formirana na Prvom osnivačkom kongresu odnosno Kongresu ujedinjenja u Beogradu od 20. do 23. travnja 1919. godine, pod imenom Socijalistička radnička partija Jugoslavije (komunista). Već u listopadu iste godine u Zagrebu je osnovano i omladinsko krilo stranke, Savez komunističke omladine Jugoslavije (SKOJ). SKOJ je već do sredine lipnja 1920. imao 5.500 članova.
