]> code.communitydata.science - cdsc_reddit.git/blobdiff - pull_pushshift_submissions.sh
bugfix in retrieving old data and rename file.
[cdsc_reddit.git] / pull_pushshift_submissions.sh
similarity index 86%
rename from pull_pushift_submissions.sh
rename to pull_pushshift_submissions.sh
index f704435905b9bcb227150f1d892bde4bfcbdbb89..f64a09f7b8a7b7a11fa968d2cb7d3d4704c68a24 100755 (executable)
@@ -7,8 +7,8 @@ base_url='https://files.pushshift.io/reddit/submissions/'
 wget -r --no-parent -A 'RS_20*.bz2' -U $user_agent -P $output_dir -nd -nc $base_url
 wget -r --no-parent -A 'RS_20*.xz' -U $user_agent -P $output_dir -nd -nc $base_url
 wget -r --no-parent -A 'RS_20*.zst' -U $user_agent -P $output_dir -nd -nc $base_url
-wget -r --no-parent -A 'RS_20*.bz2' -U $user_agent -P $output_dir -nd -nc $base_url/old_v1_data
-wget -r --no-parent -A 'RS_20*.xz' -U $user_agent -P $output_dir -nd -nc $base_url/old_v1_data
-wget -r --no-parent -A 'RS_20*.zst' -U $user_agent -P $output_dir -nd -nc $base_url/old_v1_data
+wget -r --no-parent -A 'RS_20*.bz2' -U $user_agent -P $output_dir -nd -nc $base_url/old_v1_data/
+wget -r --no-parent -A 'RS_20*.xz' -U $user_agent -P $output_dir -nd -nc $base_url/old_v1_data/
+wget -r --no-parent -A 'RS_20*.zst' -U $user_agent -P $output_dir -nd -nc $base_url/old_v1_data/
 
 

Community Data Science Collective || Want to submit a patch?