English | 简体中文 | 繁體中文 | Русский язык | Français | Español | Português | Deutsch | 日本語 | 한국어 | Italiano | بالعربية
Этот пример рассказывает о методе реализации параллельной проверки адресов прокси-пула в Python 3. Предлагается к рассмотрению для использования, подробности см. ниже:
#encoding=utf-8 #author: walker #date: 2016-04-14 #summary: Использование корoutines/пулов потоков для параллельной проверки有效性 прокси import os, sys, time import requests from concurrent import futures cur_dir_fullpath = os.path.dirname(os.path.abspath(__file__)) Headers = { 'Accept': '*/*', 'User-Agent': 'Mozilla/4.0 (совместимый; MSIE 8.0; Windows NT 6.1; WOW64; Trident/4.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET4.0C; .NET4.0E)', } #检验单个代理的有效性 #如果有效,返回该proxy;否则,返回空字符串 def Check(desturl, proxy, feature): proxies = {'http': 'http://' + proxy} r = None #声明 exMsg = None try: r = requests.get(url=desturl, headers=Headers, proxies=proxies, timeout=3) except: exMsg = '* ' + traceback.format_exc() #print(exMsg) finally: if 'r' in locals() and r: r.close() if exMsg: return '' if r.status_code != 200: return '' if r.text.find(feature) < 0: return '' return proxy #输入代理列表(set/list),返回有效代理列表 def GetValidProxyPool(rawProxyPool, desturl, feature): validProxyList = list() #有效代理列表 pool = futures.ThreadPoolExecutor(8) futureList = list() for proxy in rawProxyPool: futureList.append(pool.submit(Check, desturl, proxy, feature)) print('\n submit done, waiting for responses\n') for future in futures.as_completed(futureList): proxy = future.result() print('proxy:' + proxy) if proxy: #有效代理 validProxyList.append(proxy) print('validProxyList size:' + str(len(validProxyList))) return validProxyList # Получение исходного пула прокси... def GetRawProxyPool(): rawProxyPool = set() # Получение исходного пула прокси... return rawProxyPool if __name__ == "__main__": rawProxyPool = GetRawProxyPool() desturl = 'http://...' # адрес страницы, которую нужно访问 через прокси feature = 'xxx' # код характеристики страницы цели validProxyPool = GetValidProxyPool(rawProxyPool, desturl, feature)
Дополнительные материалы о Python, которые могут быть интересны читателям, можно найти в теме этого сайта: «Введение в Python и классические учебные курсы для продвинутых пользователей», «Сводка技巧 по работе с URL в Python», «Сводка技巧 по работе с изображениями в Python», «Учебное пособие по структурам данных и алгоритмам в Python», «Сводка技巧 по Socket-программированию в Python», «Сводка技巧 по использованию функций в Python», «Сводка技巧 по работе со строками в Python» и «Сводка技巧 по работе с файлами и каталогами в Python»
Надеюсь, что изложенное в этой статье поможет вам в программировании на Python.
Декларация: содержимое этой статьи взято из Интернета, авторские права принадлежат соответствующему владельцу, контент предоставлен пользователями Интернета в качестве добровольного вклада и загружен самостоятельно, сайт не имеет права собственности на него, не underwent редактирование и не несет ответственности за соответствующие юридические обязательства. Если вы обнаружите материалы,涉嫌侵犯版权, пожалуйста, отправьте письмо по адресу: notice#oldtoolbag.com (во время отправки письма, пожалуйста, замените # на @) для сообщения о нарушении и предоставьте соответствующие доказательства. При подтверждении, сайт незамедлительно удалят материалы,涉嫌侵权.