fixed typo in description of view scraper

renamed daily views to make it clear that it's just enwiki

changes to a bunch of the wikipedia view code

- Renamed the articles.txt to something more specific

Changes to both scripts:

- Updated filenames to match the new standard
- Reworked the logging code so that it can write to stderr by
  default. Because we can only call logging.basicConfig() once, this
  eneded up being a bigger changes.
- Caused scripts to output git commits and export to track which code
  produced which dataset.
- Caused programs to take files instead of directories as
  output (allows us to run programs more than once a day).

Changes to the wikipedia_views/scripts/fetch_daily_views.py:

- Change output that it outputs a sequence of JSON dictionaries (one
  per line) as per the standard we agreed to and which is what
  Twitter, Github, and other dumps do. Previous behavior was to create
  output a single JSON list object.
- A number of other small changes and tweaks throughout.

stop writing writing header to one-column list

This feels like it's asking for trouble. Description of the contents
of the list is in the filename.

reorganize file structure

- move 'input' files to resources
- outputs not meant for downstream go in output/intermediate
- csv outputs for downstream go in output/csv

migrating to new directory structure

Merge pull request #7 from kayleachampion/master

cleanup with merge

all march data

adding a logs dir without adding my log files, assuming those don't
belong in repo

new version of this from scrape. no double quotes around articles any
more

adds a scraper to update the articles file

adds in new logging capability

Merge pull request #9 from aaronshaw/master

minimal analysis example with pageview data

minimal analysis example with pageview data

Merge pull request #8 from aaronshaw/master

Update to load data from github url and include 3/28 data in output

regenerated following update to R src that creates this file

Loading data directly from github URL. Commenting out commands that assume cloned repository.

Merge branch 'master' of https://github.com/CommunityDataScienceCollective/COVID-19_Digital_Observatory

Merge pull request #5 from kayleachampion/master

view data

Merge pull request #1 from CommunityDataScienceCollective/kaylea/master

Some suggested changes.

Merge branch 'kaylea/master' of github.com:CommunityDataScienceCollective/COVID-19_Digital_Observatory into kaylea/master

Merge branch 'kaylea/master' of github.com:CommunityDataScienceCollective/COVID-19_Digital_Observatory into kaylea/master

Merge branch 'kaylea/master' of github.com:CommunityDataScienceCollective/COVID-19_Digital_Observatory into kaylea/master

Read the whole input file before making api calls

Read the whole input file before making api calls

Merge pull request #4 from CommunityDataScienceCollective/translations

Transliterations: Use data from google trends and wikidata to find transliterations.

Update transliteration results for 2020-03-28

- renamed results from yesterday into time stamped file

Read entire input files before making api calls.

This is nicer style to not hold onto resources for as long.
It will use a bit more memory.

Keep better track of time.

- Add timestamp ot transliterations output file.
- Append wikidata search terms instead of overwriting

Merge branch 'master' of https://github.com/CommunityDataScienceCollective/COVID-19_Digital_Observatory

updates my branch with all the master changes so far

trialing new approach

trialing new approach

typo fix

Merge branch 'translations' of github.com:CommunityDataScienceCollective/COVID-19_Digital_Observatory into translations

Merge pull request #6 from aaronshaw/translations

minimal example in R

a minimal example in R that outputs a table of top 5 related search terms per day per query

A few suggestions for the python script:

- using format strings (f-strings) is a nice way in python to build
strings using variables.
- you can read and process a file in one pass if you iterate over the
open file itself instead of reading it into a variable and then
looping
- i had to change your strip code when i stopped using csv reader
- my python linter and auto-formater hate non-indendent comments
- i added a few lines to print cases where we don't get Ok responses.

Reorganize wikipedia views subproject into subpackage.

add mwapi to requirements

all data

cleaning out commented code

reorganizes comments

initial files

makes TSV
makes JSON

many bug fixes

add output files from tranliteration search using google trends

expand wikidata search to get keywords from google trends

for testing

Merge pull request #3 from kayleachampion/master

adding in an article list

new file -- list of article names

start keeping track of installation requirements

update output using limited base terms list

shell script to run the whoe process

narrow base terms

Merge pull request #2 from aaronshaw/patch-1

Update base_terms.txt

Update base_terms.txt

typo fix

Finish MVP for transliterations

code is reasonably well-written
checked that we get seemingly good data back
adding README
adding data

Untested code to get labels from wikidata in all languages.

Python code to find wikidata entities to translate.  Here we search the api for entities that have covid keywords.

Building system for finding translations from Wikidata.

Merge pull request #1 from kayleachampion/patch-1

Update README.md

Update README.md

some language nicing and adding in immediacy goal

Update README.md

language nicing

add code of conduct and elaborate description

Initial commit