Почему при использовании Tweepy в Твиттере по-прежнему возникает ошибка ограничения скорости?

Я пытаюсь получить все твиты за предыдущий день. И чтобы устранить ограничение скорости в Twitter, я реализовал два набора кодов.

if counter == 4000:
    time.sleep(60*20) # wait for 20 min every time 4,000 tweets are extracted 
    counter == 0
    continue

Я просмотрел выходной файл и обычно получаю сообщение об ограничении скорости, когда извлекаю около 5500-6500 твитов. Поэтому, чтобы быть консервативным, я установил, что каждый раз, когда извлекаются 4000 твитов (и связанных с ними извлеченных полей), я приостанавливал их на 20 минут (чтобы покрыть назначенный Твиттером 15-минутный интервал).

Я также нашел чью-то попытку решить ту же проблему, используя следующий код:

except tweepy.TweepError:
    time.sleep(60*20)
    continue

Предполагается приостановка работы скрипта при TweepError, я проверял, но вроде не работает, но все равно включил.

Ошибка, которую я получил (после извлечения 10 700 твитов), выглядит следующим образом:

Traceback (most recent call last):
File "C:\Users\User\Dropbox\Python exercises\_Scraping\Social media\TweepyModule\TweepyTut1.18.py", line 32, in <module>
since='2014-09-15', until='2014-09-16').items(999999999): # changeable here
File "C:\Program Files Extra\Python27\lib\site-packages\tweepy\cursor.py", line 181, in next
self.current_page = self.page_iterator.next()
File "C:\Program Files Extra\Python27\lib\site-packages\tweepy\cursor.py", line 99, in next
data = self.method(max_id=self.max_id, parser=RawParser(), *self.args, **self.kargs)
File "C:\Program Files Extra\Python27\lib\site-packages\tweepy\binder.py", line 230, in _call
return method.execute()
File "C:\Program Files Extra\Python27\lib\site-packages\tweepy\binder.py", line 203, in execute
raise TweepError(error_msg, resp)
tweepy.error.TweepError: {"errors":[{"message":"Rate limit exceeded","code":88}]}
[Finished in 1937.2s with exit code 1]

Вот мой код:

import tweepy
import time
import csv

ckey = ""
csecret = ""
atoken = ""
asecret = ""

OAUTH_KEYS = {'consumer_key':ckey, 'consumer_secret':csecret,
    'access_token_key':atoken, 'access_token_secret':asecret}
auth = tweepy.OAuthHandler(OAUTH_KEYS['consumer_key'], OAUTH_KEYS['consumer_secret'])
api = tweepy.API(auth)

searchTerms = '"good book"'

counter = 0
for tweet in tweepy.Cursor(api.search, q=searchTerms, 
    since='2014-09-15', until='2014-09-16').items(999999999): # changeable here

    try:
        '''print "Name:", tweet.author.name.encode('utf8')
        print "Screen-name:", tweet.author.screen_name.encode('utf8')
        print "Tweet created:", tweet.created_at'''

        placeHolder = []
        placeHolder.append(tweet.author.name.encode('utf8'))
        placeHolder.append(tweet.author.screen_name.encode('utf8'))
        placeHolder.append(tweet.created_at)

        with open("TweetData_goodBook_15SEP2014_all.csv", "ab") as f: # changeable here
            writeFile = csv.writer(f)
            writeFile.writerow(placeHolder)

        counter += 1

        if counter == 4000:
            time.sleep(60*20) # wait for 20 min everytime 4,000 tweets are extracted 
            counter == 0
            continue

    except tweepy.TweepError:
        time.sleep(60*20)
        continue

    except IOError:
        time.sleep(60*2.5)
        continue

    except StopIteration:
        break

person KubiK888    schedule 17.09.2014    source источник
comment
Возможный дубликат Избегайте ограничения API Twitter с помощью Tweepy   -  person brennan    schedule 04.04.2017