日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

如何在python代碼中使用HTTP代理IP

華益云HTTP爬蟲IP ? 來源:華益云HTTP爬蟲IP ? 作者:華益云HTTP爬蟲IP ? 2022-09-13 09:25 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

如何再python代碼中使用HTTP代理IP。

以下代碼主要圍繞第一次接觸HTTP代理IP的python新手來寫。(步驟注釋清晰)

直接把下面示例代碼中的HTTP代理API,替換成你后臺生成的代理API鏈接,就可以跑起來了。

以下是一個示例代碼,只是一個基礎的演示,具體的代碼還是要根據(jù)你業(yè)務的實際情況去寫的。

示例代碼中的HTTP代理IP,我使用的是華益云的HTTP代理,注冊就白嫖1萬個高匿爬蟲IP,有效期是一年,對于調試代碼來說這個時間是非常的友好。(步驟注釋清晰)

華益云-企業(yè)級HTTP爬蟲代理IP供應商-點我免費領取示例代碼demo中同款10000個高匿IP

打開代理API,獲取里面的IP,使用IP訪問目標網站,其實代碼中就是執(zhí)行這個過程而已,然后加了幾個錯誤判斷有助于代碼的穩(wěn)定運行。

# 此版本無需安裝依賴
import urllib
import urllib.request
import urllib

def main():
    # 發(fā)送給服務器的標識
    userAgent = "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/532.36 (KHTML, like Gecko) Chrome/97.0.4692.99 Safari/537.36"
    # 代理api(這里我推薦使用www.9vps.com華益云的HTTP代理API,注冊就白嫖1萬IP)
    proxyUrl = "http://http.9vps.com/getip.asp?username=166xxxx6597&pwd=xxxxbaa59ce237dff65134984b9cxxxx&geshi=1&fenge=1&fengefu=&Contenttype=1&getnum=20&setcity=&operate=all&";
    # 請求代理url,獲取代理ip 
    outPutProxy = getProxy(proxyUrl, userAgent)
    if len(outPutProxy)==0:
        # 沒有獲取到代理
        return
    # 目標請求網站
    # https://httpbin.org/get
    url = "https://www.qq.com/"
    content = None
 
    for _ in range(0, 3):
        # 最多嘗試三次
        try:
            # 從列表中取出一個代理出來
            proxy = outPutProxy.pop(0)
            px = {
                "http": proxy,
                "https": proxy
            }
            content = requestGet(url, userAgent, px)
            break
        except Exception as e:
            print(e)
            if (len(outPutProxy) == 0):
                # 如果發(fā)現(xiàn)沒有代理了,就去獲取下。
                outPutProxy = getProxy(proxyUrl, userAgent)
     
    print(content)
def getProxy(proxyUrl, userAgent):
    proxyIps=""
    outPutProxy = []
    try:
        proxyIps = requestGet(proxyUrl, userAgent, None)
        print("(proxyIps)", proxyIps)
        # {"code":3002,"data":[],"msg":"error!用戶名或密碼錯誤","success":false}
        if "{" in proxyIps:
            raise Exception("[錯誤]"+proxyIps)
        outPutProxy = proxyIps.splitlines()
        
    except Exception as e:
        print(e)
    print("總共獲取了"+str(len(outPutProxy))+"個代理")
    return outPutProxy

def requestGet(url, userAgent, proxy):
    headers = {
        "User-Agent": userAgent
    }
    # httpproxy_handler = urllib.ProxyHandler({"http" : " 180.104.192.217:22036"}) 
    response = None
    if (proxy):
        proxyHandler = urllib.request.ProxyHandler(proxy)
        opener = urllib.request.build_opener(proxyHandler, urllib.request.HTTPHandler)
        urllib.request.install_opener(opener)
        request = urllib.request.Request(url, headers=headers)
        response = urllib.request.urlopen(request, timeout=5)
    else:
        # 沒有代理走這個
        request = urllib.request.Request(url, headers=headers)
        response = urllib.request.urlopen(request, timeout=5)
        #response = opener.open(request)
    
    
    html = response.read()
    # # 設置編碼,防止亂碼
    # 手動設置網頁字符編碼方式
    return html.decode("utf-8", "ignore")

main()
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • HTTP
    +關注

    關注

    0

    文章

    538

    瀏覽量

    35566
  • python
    +關注

    關注

    58

    文章

    4889

    瀏覽量

    90327
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    使用Python/MyHDL創(chuàng)建自定義FPGA IP

    使用 Python/MyHDL 創(chuàng)建自定義 FPGA IP,與 Vivado 集成,并通過 PYNQ 進行控制——實現(xiàn)軟件上的簡單硬件設計。
    的頭像 發(fā)表于 04-09 09:53 ?284次閱讀
    使用<b class='flag-5'>Python</b>/MyHDL創(chuàng)建自定義FPGA <b class='flag-5'>IP</b>

    何在 S32 配置工具中添加 ADC 并在 Simulink 中使用?

    對于 S32K3,如何在 S32 配置工具中添加 ADC 并在 Simulink 中使用?
    發(fā)表于 04-07 07:09

    [VirtualLab] 使用Python運行VirtualLab Fusion光學仿真

    摘要 VirtualLab Fusion允許Python外部訪問其建模技術、求解器和結果。這個用例介紹了一種使用路徑變量和Visual Studio代碼Python連接到VirtualLab
    發(fā)表于 03-31 09:39

    何在 VisionFive 上使用 Python 包?

    VisionFive Fedora 下的本地目錄,請在源代碼目錄下執(zhí)行以下命令: 提示:源代碼可從以下位置下載:愿景五.gpio. sudo yum install python
    發(fā)表于 03-30 08:28

    【創(chuàng)芯工坊】PowerWriter 0048 如何在其他IDE中使用PowerWriter的Debugger(燒錄器常見使用問題)

    【創(chuàng)芯工坊】PowerWriter 0048 如何在其他IDE中使用PowerWriter的Debugger(燒錄器常見使用問題)
    發(fā)表于 03-26 10:38

    何在 S32 DS 中使用 BMS GEN2 SDK?

    do not support the BJB MC33777. 如何在 S32 DS 中使用 BMS GEN2 SDK?
    發(fā)表于 03-23 08:16

    何在 Vision Five 2 上安裝 python 庫?

    這可能是一個完全愚蠢的問題,但我如何在 Vision Five 2 上安裝 python 庫。 使用該命令后,它給了我這個錯誤。 默認為用戶安裝,因為普通站點包不可寫 錯誤:找不到滿足要求
    發(fā)表于 03-06 07:51

    Termux中調試圣誕樹Python代碼

    在Termux中調試Python代碼(以圣誕樹立例)非常簡單,核心分為環(huán)境準備、代碼編寫、運行調試三個步驟,下面一步步教你操作: 一、環(huán)境準備(首次使用需做) Termux默認可能沒有Pyth
    發(fā)表于 12-09 09:02

    何在AMD Vitis Unified IDE中使用系統(tǒng)設備樹

    您將在這篇博客中了解系統(tǒng)設備樹 (SDT) 以及如何在 AMD Vitis Unified IDE 中使用 SDT 維護來自 XSA 的硬件元數(shù)據(jù)。本文還講述了如何對 SDT 進行操作,以便在 Vitis Unified IDE 中實現(xiàn)更靈活的使用場景。
    的頭像 發(fā)表于 11-18 11:13 ?3346次閱讀
    如<b class='flag-5'>何在</b>AMD Vitis Unified IDE<b class='flag-5'>中使</b>用系統(tǒng)設備樹

    反向代理新玩法?ZeroNews黑科技解讀。

    如果你是一名開發(fā)者或運維,對“反向代理”一定不會陌生。 Nginx、Caddy、Traefik……這些耳熟能詳?shù)墓ぞ?,是我們的得力助手?但它們都有一個前提: 你需要一臺擁有公網IP的服務器。 今天
    的頭像 發(fā)表于 11-05 14:51 ?611次閱讀

    Python調用API教程

    兩個不同系統(tǒng)之間的信息交互。在這篇文章中,我們將詳細介紹Python調用API的方法和技巧。 一、用Requests庫發(fā)送HTTP請求 使用Python調用API的第一步是發(fā)送HTTP
    的頭像 發(fā)表于 11-03 09:15 ?1210次閱讀

    外殼防護等級(IP代碼)全解讀

    什么是外殼防護等級(IP代碼IP代碼,全稱為“國際防護等級”,是由國際電工委員會制定的全球通用標準。這一標準旨在為電子設備外殼的防護能力提供一個清晰、統(tǒng)一的評判體系。簡單來說,
    的頭像 發(fā)表于 10-14 12:13 ?1497次閱讀
    外殼防護等級(<b class='flag-5'>IP</b><b class='flag-5'>代碼</b>)全解讀

    小白也能輕松上手!一招解決IP被封殺難題

    —— fir-proxy 。這款開源高可用代理池能在多個IP中智能自動輪換新IP,大幅降低手動操作時間,讓你專注于攻擊策略,提升演練得分效率。(該項目一個星期的時間就已經有三位數(shù)的star,可見質量之高。) 文件下載后,項目需由
    的頭像 發(fā)表于 09-02 10:38 ?759次閱讀
    小白也能輕松上手!一招解決<b class='flag-5'>IP</b>被封殺難題

    請問如何在 Keil μVision 或 IAR EWARM 中使用觀察點進行調試?

    何在 Keil μVision 或 IAR EWARM 中使用觀察點進行調試?
    發(fā)表于 08-20 06:29

    何在k230上運行OpenCV的代碼?

    何在k230上運行OpenCV的代碼
    發(fā)表于 06-17 06:06
    城口县| 梁山县| 太原市| 江川县| 沙河市| 启东市| 德保县| 无为县| 阿克苏市| 通榆县| 邹平县| 黄龙县| 禄丰县| 汉阴县| 灵台县| 杂多县| 辰溪县| 东兰县| 泰安市| 瑞安市| 宁强县| 保定市| 隆安县| 莎车县| 泰和县| 介休市| 綦江县| 娄底市| 平利县| 太白县| 二手房| 哈尔滨市| 南木林县| 广汉市| 邵阳县| 六枝特区| 唐山市| 元氏县| 伊川县| 昌邑市| 武夷山市|