• 爬笔趣阁的,或许有点小bug,权当过过手瘾
  • 害,居然打不出代码块,就这样好了
import requests
import random
from lxml import etree
import time
headers = {
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36"
}
def getContent(url):
    try:
        req = requests.get(url = url,headers = headers,timeout = 30)
        req.encoding = req.apparent_encoding
        html  = etree.HTML(req.text)
        content = ""
        for each in html.xpath("//div[@id ='content']/text()"):
            temp  = "".join(each.split())
            if temp !="":
                content +="\n"+temp
        title = html.xpath("//div[@class='bookname']/h1")[0].text
    except:
        print("再次尝试")
        return getContent(url)
    return title,content

def getNovel(url,name):
    with open("./{}.txt".format(name), "w") as f:
        req = requests.get(url = url,headers = headers)
        req.encoding = req.apparent_encoding
        html  = etree.HTML(req.text)
        lis = html.xpath("//div[@id = 'list']/dl/dd/a/@href")
        length = len(lis)
        for index in range(length):
            if index % 100 ==0:
                time.sleep(5)
            else:
                time.sleep(random.uniform(0,1))
            con_url = "http://www.xbiquge.la"+lis[index]
            title,content = getContent(con_url)
            f.write("\n")
            f.write(title)
            f.write("\n")
            f.write(content)
            print("已完成:"+str(index/length))

if __name__ == '__main__':
    url = "http://www.xbiquge.la/10/10489/"
    getNovel(url,"三寸人间")
Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐