Node端爬取数据处理(http和https)
1. 安装 http 和 httpsnpm install http -Snpm install https =S2. 爬取数据处理const http = require('http');const https = require('https');constgetUrlData = async(url, type) => {let request = type === 'https' ?
·
1. 安装 http 和 https
npm install http -S
npm install https -S
2. 爬取数据处理
const http = require('http');
const https = require('https');
const getUrlData = async(url, type) => {
let request = type === 'https' ? https : http;
return new Promise((resolve, reject) => {
request.get(url, (res) => {
const { statusCode } = res;
let error;
if(statusCode !== 200){
error = new Error(`请求失败. \n 状态码: ${statusCode}`);
}
if(error){
console.log(error.message);
// 消耗响应数据以释放内存
res.resume();
resolve();
}
res.setEncoding('utf8');
let rawData = '';
res.on('data', (chunk) => { rawData += chunk; });
res.on('end', () => {
resolve(rawData);
})
}).on("error", (e) => {
console.error(`错误:${e.message}`);
resolve();
})
})
}
参考
相关api使用请参考 node 学习网站

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐
所有评论(0)