摘要:前言在環(huán)境下做些簡(jiǎn)單的爬蟲時(shí),需要用代理地址,如果訪問的目標(biāo)站點(diǎn)是協(xié)議,用就會(huì)有些問題解決方法使用隧道代理用于的隧道代理具體參考安裝使用使用是對(duì)請(qǐng)求修復(fù)的一個(gè)分支版本安裝使用使用模塊個(gè)人感覺如果只是在服務(wù)端運(yùn)行的
前言
在node環(huán)境下做些簡(jiǎn)單的爬蟲時(shí),需要用代理地址,如果訪問的目標(biāo)站點(diǎn)
是https協(xié)議,用axios就會(huì)有些問題
1.使用tunnel隧道代理
node-tunnel - 用于HTTP/HTTPS的隧道代理
具體參考(tunnel)[https://www.npmjs.com/package...]
安裝
npm install tunnel
使用
const axios = require("axios") const tunnel = require("tunnel") const tunnelProxy = tunnel.httpsOverHttp({ proxy: { host: "you_host", port: "you_port", }, }); axios(url,{ proxy: false, httpsAgent: tunnelProxy, timeout: 10000 }) .then(res=>{ console.log(res.data) })
2.使用 axios-https-proxy-fix
axios-https-proxy-fix是對(duì)axioshttps請(qǐng)求bug修復(fù)的一個(gè)分支版本
安裝
npm i axios-https-proxy-fix
使用
const axios = require("axios-https-proxy-fix") axios(url,{ proxy: { host: "127.0.0.1", port: "1080" }, timeout: 10000 }) .then(res=>{ console.log(res.data) })
3.使用node request模塊
個(gè)人感覺如果只是在服務(wù)端運(yùn)行的代碼,用這個(gè)最為穩(wěn)妥
安裝
npm i request
使用
const request = require("request") request({ url, timeout: 5000, proxy: "http://127.0.0.1:1080" },(error,response,body)=>{ if (error) { return console.log(error) } console.log(body) })
文章版權(quán)歸作者所有,未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請(qǐng)注明本文地址:http://systransis.cn/yun/106541.html
摘要:近段時(shí)間常使用開發(fā),寫點(diǎn)記錄,避免時(shí)間久之忘了。安裝教程查看是否已安裝,在中輸入若已安裝則輸出版本號(hào)。繼承報(bào)錯(cuò)可能是文件路徑問題。當(dāng)和繼承的不同時(shí)在文件夾內(nèi)外的話,會(huì)出現(xiàn)該錯(cuò)誤。 近段時(shí)間常使用vue-cli開發(fā),寫點(diǎn)記錄,避免時(shí)間久之忘了。 環(huán)境 1. nodejs vue-cli開發(fā)基于nodejs環(huán)境,確保開發(fā)的環(huán)境中已安裝了nodejs?! “惭b教程 https://www....
摘要:知乎日?qǐng)?bào)代理首先感謝提供的分析使用詳情請(qǐng)參考他提供的參數(shù)和地址代理轉(zhuǎn)發(fā)的使用為前綴進(jìn)入代理路由啟動(dòng)界面圖像獲取后為圖像分辨率,接受任意的格式,為任意非負(fù)整數(shù),返回值均相同返回值示例最新消息等具體參考提供的分析中的使用方式以及參數(shù)含義。 項(xiàng)目說明 這是一個(gè)基于express的node后端API服務(wù),當(dāng)時(shí)只是想抓取字幕組網(wǎng)站的下載資源,以備以后通過nas的方式去自動(dòng)下載關(guān)注的美劇。不過后來...
摘要:同源策略所謂同源是指協(xié)議,域名,端口均相同。同源策略是瀏覽器的一個(gè)安全功能,不同源的客戶端腳本在沒有明確授權(quán)的情況下,不能讀寫對(duì)方資源。需注意的是由于同源策略的限制,所讀取的為跨域請(qǐng)求接口所在域的,而非當(dāng)前頁(yè)。 一、什么是跨域 1.URL解析 URL (Uniform Resource Locator )統(tǒng)一資源定位符(URL)是用于完整地描述Internet上網(wǎng)頁(yè)和其他資源的地址的...
摘要:有兩種方法,一種是在開發(fā)環(huán)境中設(shè)置通過的,另一種是在服務(wù)器上修改的配置設(shè)置。這樣我們以后使用訪問接口就可以不加了,打包后訪問也不用手動(dòng)去除統(tǒng)一管理在項(xiàng)目開發(fā)過程中,會(huì)涉及到很多接口的處理,當(dāng)項(xiàng)目足夠大時(shí),就需要統(tǒng)一管理接口。 這篇文章總結(jié)了vue項(xiàng)目的所遇到的問題,包括跨域、用戶認(rèn)證、接口統(tǒng)一管理、路由配置、兼容性處理,性能優(yōu)化等內(nèi)容。 項(xiàng)目github地址 : 前端 https:...
摘要:使用模擬好后端數(shù)據(jù)之后模擬數(shù)據(jù)的使用參考,就需要嘗試請(qǐng)求加載數(shù)據(jù)了。數(shù)據(jù)請(qǐng)求選擇了,現(xiàn)在都推薦使用。規(guī)定要發(fā)送到服務(wù)器的數(shù)據(jù)。布爾值,表示請(qǐng)求是否異步處理。要求為類型的參數(shù),請(qǐng)求成功后調(diào)用的回調(diào)函數(shù)。在一個(gè)中重寫回調(diào)函數(shù)的字符串。 使用Mock模擬好后端數(shù)據(jù)之后(Mock模擬數(shù)據(jù)的使用參考:https://segmentfault.com/a/11...),就需要嘗試請(qǐng)求加載數(shù)據(jù)了。數(shù)...
閱讀 3404·2022-01-04 14:20
閱讀 3118·2021-09-22 15:08
閱讀 2208·2021-09-03 10:44
閱讀 2324·2019-08-30 15:44
閱讀 1501·2019-08-29 18:40
閱讀 2669·2019-08-29 17:09
閱讀 2996·2019-08-26 13:53
閱讀 3227·2019-08-26 13:37