最初に、無駄なファイルをダウンロードしないよう、--spider
でリンクをたどるだけの調査を行う。
貧弱そうなサイトなら、--wait
オプションの秒数を更に増やす。
wget --background --output-file spider-log --convert-links -np --page-requisites -r --level 10 --no-verbose --wait 2 --random-wait --spider http://example.com/dir-a/
spider-logを読んで、問題ないなら--spider
を外してダウンロードする。
wget --background --output-file dl-log --convert-links -np --page-requisites -r --level 10 --no-verbose --wait 2 --random-wait http://example.com/dir-a/