]> code.communitydata.science - cdsc_reddit.git/blobdiff - dumps/pull_pushshift_comments.sh
update pushshift dumps.
[cdsc_reddit.git] / dumps / pull_pushshift_comments.sh
index 40d82d817356cdb61ee0d7be3304daa1d158bcb6..ab309dd7b56c28a2a04405661b9f384c7a6bb5ed 100755 (executable)
@@ -1,12 +1,12 @@
 #!/bin/bash
 
 #!/bin/bash
 
-user_agent='nathante teblunthuis <nathante@uw.edu>'
+user_agent='"nathante teblunthuis <nathante@uw.edu>"'
 output_dir='/gscratch/comdata/raw_data/reddit_dumps/comments'
 base_url='https://files.pushshift.io/reddit/comments/'
 
 output_dir='/gscratch/comdata/raw_data/reddit_dumps/comments'
 base_url='https://files.pushshift.io/reddit/comments/'
 
-wget -r --no-parent -A 'RC_201*.bz2' -U $user_agent -P $output_dir -nd -nc $base_url
-wget -r --no-parent -A 'RC_201*.xz' -U $user_agent -P $output_dir -nd -nc $base_url
-wget -r --no-parent -A 'RC_201*.zst' -U $user_agent -P $output_dir -nd -nc $base_url
+wget -r --no-parent -A 'RC_20*.bz2' -U $user_agent -P $output_dir -nd -nc $base_url
+wget -r --no-parent -A 'RC_20*.xz' -U $user_agent -P $output_dir -nd -nc $base_url
+wget -r --no-parent -A 'RC_20*.zst' -U $user_agent -P $output_dir -nd -nc $base_url
 
 
 ./check_comments_shas.py
 
 
 ./check_comments_shas.py

Community Data Science Collective || Want to submit a patch?