Scrapy-DjangoItem 开源项目教程

42 0 0

Scrapy-DjangoItem 开源项目教程

scrapy-djangoitemScrapy extension to write scraped items using Django models项目地址:https://gitcode.com/gh_mirrors/sc/scrapy-djangoitem

项目介绍

Scrapy-DjangoItem 是一个开源项目，旨在将 Scrapy 和 Django 这两个强大的 Python 框架结合起来，使得在 Scrapy 爬虫中可以直接使用 Django 的模型（Models）。这样，开发者可以更方便地将爬取的数据直接存储到 Django 的数据库中，而无需进行额外的数据转换和处理。

项目快速启动

安装依赖

首先，确保你已经安装了 Scrapy 和 Django。然后，通过 pip 安装 Scrapy-DjangoItem：

pip install scrapy-djangoitem

配置 Django 项目

在你的 Django 项目中，确保已经设置好数据库，并且模型已经定义好。例如，假设你有一个名为 Product 的模型：


# myapp/models.py
from django.db import models
 
class Product(models.Model):
    name = models.CharField(max_length=200)
    price = models.DecimalField(max_digits=10, decimal_places=2)
    description = models.TextField()

配置 Scrapy 项目

在你的 Scrapy 项目中，引入 DjangoItem 并定义一个 Item 类：


# myspider/items.py
import scrapy
from scrapy_djangoitem import DjangoItem
from myapp.models import Product
 
class ProductItem(DjangoItem):
    django_model = Product

编写爬虫

在爬虫中使用 ProductItem 来抓取数据并保存到 Django 数据库：


# myspider/spiders/product_spider.py
import scrapy
from myspider.items import ProductItem
 
class ProductSpider(scrapy.Spider):
    name = "product_spider"
    start_urls = ["http://example.com/products"]
 
    def parse(self, response):
        for product in response.css('div.product'):
            item = ProductItem()
            item['name'] = product.css('h1::text').get()
            item['price'] = product.css('span.price::text').get()
            item['description'] = product.css('p.description::text').get()
            yield item