Mylisz dwie rzeczy.
* TAR zawija wiele plików do jednego dużego. To, że kompresuje to taki dodatkowy feature.
* BZIP/GZIP/LZMA/LZOP/XZ kompresują jeden plik do jednego spakowanego.
Nie możesz zrobić "gołego" pliku bzip2 zawierającego więcej niż jeden spakowany plk. Dlatego, jeżeli trzeba skompresować więcej niż jeden plik, pierw wszystkie pliki pakuje się do archiwum TAR, a potem tej jeden wynikowy plik kompresuje się.
tar cjf plik.tar.bz2 testowe.tar zadziała, ale to nie jest to, o co chodziło w pytaniu. W wyniku tego polecenia otrzymasz skompresowane archiwum zawierające archiwum czegośtam. A miałeś uzyskać skompresowane archiwum czegośtam.
Masz [BZ2 ... [TAR [TAR [ oryginalne dane ]]]] a miałeś mieć [BZ2 ... [TAR [ oryginalne dane ]]].
Wynika to z tego, że testowe.tar to już jest archiwum TAR, więc wystarczyło to spakować BZIPem i już. A ty zarchiwizowałeś to TARem jeszcze raz i dopiero wynik skompresowałeś.