Cuando se quiere aplicar una operación masiva como copiar, mover y borrar archivos se suelen usar combinaciones de asteriscos y comodines para no ir de uno en uno. Luego Bash se encarga de expandir los nombres. El problema es que entonces se forma un chorizo de comando con demasiados argumentos. La solución pasa por ejecutar el comando en cuestión archivo a archivo, como por ejemplo con find y xargs para borrar:

find . -name "*" -print0 | xargs -0 rm

Pero ojo, que en este caso find es recursivo, así que habría que acotarlo con -maxdepth 1. Además, así también se pueden ejecutar comandos sobre archivos según fechas y otras características.

Vía → Argument list too long error for rm, cp, mv commands @ Stack Overflow.