sort -k1 nie ma za bardzo sensu, w szczególności przy pliku passwd bez podania opcji -t.
-k1 oznacza sortowanie po pierwszej kolumnie.
A domyślnym separatorem kolumn (zmienianym przez -t) są puste znaki, które jednak nie są poprawnym separatorem dla pliku passwd.
Równie dobrze możesz użyć samego sort, bo login i tak jest w pierwszej kolumnie.
Myślałem, że chodzi ci o posortowanie po nazwach użytkowników, a nie loginach, wtedy opcja -k byłaby dużo bardziej użyteczna.
Co do grepa, zadziałało bo znów login jest na początku. Taka składnia nic by nie dała, gdybyś miał szukać po pełnych nazwach użytkowników, które są w 5-tej kolumnie. Przykład na znalezienie użytkowników, których pełne nazwy zaczynają się na "M":
awk '$5~/^M/' FS=':' /etc/passwd