1. 安装 http 和 https

npm install http -S
npm install https -S

2. 爬取数据处理

const http = require('http');
const https = require('https');
	
const  getUrlData = async(url, type) => {
	let request = type === 'https' ? https : http;
		
	return new Promise((resolve, reject) => {
			request.get(url, (res) => {
				const { statusCode } = res;
				let error;
				if(statusCode !== 200){
					error = new Error(`请求失败. \n 状态码: ${statusCode}`);
				}
				if(error){
					console.log(error.message);
					//	消耗响应数据以释放内存
					res.resume();
					resolve();
				}
				
				res.setEncoding('utf8');
				let rawData = '';
				res.on('data', (chunk) => { rawData += chunk; });
				res.on('end', () => {
					resolve(rawData);
				})
			}).on("error", (e) => {
				console.error(`错误:${e.message}`);
				resolve();
			})
		})
	}

参考

相关api使用请参考 node 学习网站

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐