1、项目介绍

网络爬虫:通过Python实现新浪新闻的爬取,可爬取新闻页面上的标题、文本、图片、视频链接
推荐算法:权重衰减+标签推荐+热点推荐

  • 权重衰减进行用户兴趣标签权重的衰减,避免内容推荐的过度重复
  • 标签推荐进行用户标签与新闻标签的匹配,按照匹配比例进行新闻的推荐
  • 热点推荐进行新闻热点的计算的依据是新闻阅读量、新闻评论量、新闻发布时间

涉及框架:
Django框架、vue框架、MySQL数据库、jieba、selenium爬虫、BeautifulSoup、vue.js

2、项目界面

(1)数据可视化大屏展示
在这里插入图片描述

(2)系统首页

在这里插入图片描述

(3)数据爬虫设置

在这里插入图片描述

(4)新闻数据管理

在这里插入图片描述

(6)新闻数据详情页面
在这里插入图片描述

(7)新闻数据评论功能
在这里插入图片描述

(8)不同类型的新闻数据浏览
在这里插入图片描述

(9)注册登录界面

在这里插入图片描述

3、项目说明

随着信息技术和互联网的发展,新闻传播从传统纸媒向数字化、智能化转变。传统新闻获取方式依赖固定渠道和人工筛选,信息传播效率低,个性化需求难以满足。新闻分类和推荐缺乏智能化手段,用户体验较差,新闻信息重复推荐和区域适配不足的问题显著。
系统后端采用Python语言和Django框架,前端采用Vue框架,数据库使用MySQL。通过Selenium爬虫技术实现新浪新闻爬取,获取标题、文本、图片、视频链接。功能包括首页新闻分类浏览、用户浏览记录和个性化推荐、新闻热度展示、用户标签管理与评论互动。管理员端支持新闻采集控制、推荐配置管理、数据分析日志查看、用户和新闻数据管理、评论操作等。Echarts用于数据可视化,界面采用HTML实现。

关键词:新闻推荐系统,Django,Vue,MySQL

随着信息技术和互联网的发展,新闻传播从传统纸媒向数字化、智能化转变。传统新闻获取方式依赖固定渠道和人工筛选,信息传播效率低,个性化需求难以满足。新闻分类和推荐缺乏智能化手段,用户体验较差,新闻信息重复推荐和区域适配不足的问题显著。
系统后端采用Python语言和Django框架,前端采用Vue框架,数据库使用MySQL。通过Selenium爬虫技术实现新浪新闻爬取,获取标题、文本、图片、视频链接。功能包括首页新闻分类浏览、用户浏览记录和个性化推荐、新闻热度展示、用户标签管理与评论互动。管理员端支持新闻采集控制、推荐配置管理、数据分析日志查看、用户和新闻数据管理、评论操作等。Echarts用于数据可视化,界面采用HTML实现。

关键词:新闻推荐系统,Django,Vue,MySQL
网络爬
虫:通过Python实现新浪新闻的爬取,可爬取新闻页面上的标题、文本、图片、视频链接
推荐算法:权重衰减+标签推荐+热点推荐

  • 权重衰减进行用户兴趣标签权重的衰减,避免内容推荐的过度重复
  • 标签推荐进行用户标签与新闻标签的匹配,按照匹配比例进行新闻的推荐
  • 热点推荐进行新闻热点的计算的依据是新闻阅读量、新闻评论量、新闻发布时间

涉及框架:
Django框架、vue框架、MySQL数据库、jieba、selenium爬虫、BeautifulSoup、vue.js
软件功能结构/页面展示

在这里插入图片描述

4、核心代码


# -*- coding: utf-8 -*-
'''
    Author:Z
    Desc:通过热值对用户进行推送新闻
'''
import datetime
import logging
from logging.handlers import TimedRotatingFileHandler

import pymysql

from Spider.settings import DB_HOST, DB_USER, DB_PASSWD, DB_NAME, DB_PORT

logger = logging.getLogger(__name__)
logger.setLevel(level=logging.INFO)
formatter = logging.Formatter('%(asctime)s - %(levelname)-7s - %(message)s')

# 2. 初始化handler,并配置formater
log_file_handler = TimedRotatingFileHandler(filename="Recommend/recommend/hlg.log",
                                            when="S", interval=10,
                                            backupCount=20)
log_file_handler.setFormatter(formatter)

# 3. 向logger对象中添加handler
logger.addHandler(log_file_handler)

class NewsRecommendByHotValue():
    def __init__(self):
        self.db = self.connect()
        self.cursor = self.db.cursor()
        self.userlist = self.loadDBData()
        # self.news_tags = self.loadFileData()
        self.result = self.getRecResult()

    def connect(self):
        '''
            @Description:数据库连接
            @:param host --> 数据库链接
            @:param user --> 用户名
            @:param password --> 密码
            @:param database --> 数据库名
            @:param port --> 端口号
            @:param charset --> 编码
        '''
        db = pymysql.Connect(host=DB_HOST, user=DB_USER, password=DB_PASSWD, database=DB_NAME, port=DB_PORT,
                             charset='utf8')
        return db

    def loadDBData(self):
        '''
            @Description:加载数据库用户数据
            @:param None
        '''
        sql_s = 'select userid from news_api_user'
        try:
            self.cursor.execute(sql_s)
            useridlist = self.cursor.fetchall()
        except:
            logging.error("Database Error")
            self.db.rollback()
        return useridlist

    def getRecResult(self):
        '''
            @Description:加载数据库新闻热度数据并进行热度推荐
            @:param None
        '''
        sql_s = 'select news_id,news_hot from news_api_newshot order by news_hot DESC limit 0,20;'
        self.cursor.execute(sql_s)
        newsidlist = self.cursor.fetchall()
        print(newsidlist)
        time = datetime.datetime.now().strftime("%Y-%m-%d")
        for user in self.userlist:
            print(user[0])
            for newsid in newsidlist:
                sql_w = 'insert into news_api_recommend(userid, newsid, hadread, cor, species, time) values (%d, %d, 0, %.2f, 2, \'%s\')' % \
                    (int(user[0]), int(newsid[0]), 1, time)
                logger.info("sql_w:{}".format(sql_w))
                try:
                    self.cursor.execute(sql_w)
                    self.db.commit()
                except:
                    logger.error("rollback:{}".format(newsid[0]))
                    self.db.rollback()
        return True

def beginrecommendbyhotvalue():
    NewsRecommendByHotValue()


5、源码获取方式

🍅由于篇幅限制,获取完整文章或源码、代做项目的,查看我的【用户名】、【专栏名称】、【顶部选题链接】就可以找到我啦🍅

感兴趣的可以先收藏起来,点赞、关注不迷路,下方查看👇🏻获取联系方式👇🏻

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐