一区二区三区在线-一区二区三区亚洲视频-一区二区三区亚洲-一区二区三区午夜-一区二区三区四区在线视频-一区二区三区四区在线免费观看

服務器之家:專注于服務器技術及軟件下載分享
分類導航

Mysql|Sql Server|Oracle|Redis|MongoDB|PostgreSQL|Sqlite|DB2|mariadb|Access|數據庫技術|

服務器之家 - 數據庫 - Redis - 分布式爬蟲處理Redis里的數據操作步驟

分布式爬蟲處理Redis里的數據操作步驟

2019-11-12 15:37py哥 Redis

這篇文章主要介紹了分布式爬蟲處理Redis里的數據操作步驟,數據分別存入mongodb和mysql數據庫,具體內容詳情及實例代碼大家參考下本文

存入MongoDB

1.啟動MongoDB數據庫:sudo mongod

2.執行下面程序:py2 process_youyuan_mongodb.py

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
# process_youyuan_mongodb.py
# -*- coding: utf-8 -*-
import json
import redis
import pymongo
def main():
 # 指定Redis數據庫信息
 rediscli = redis.StrictRedis(host='192.168.199.108', port=6379, db=0)
 # 指定MongoDB數據庫信息
 mongocli = pymongo.MongoClient(host='localhost', port=27017)
 # 創建數據庫名
 db = mongocli['youyuan']
 # 創建表名
 sheet = db['beijing_18_25']
 while True:
 # FIFO模式為 blpop,LIFO模式為 brpop,獲取鍵值
 source, data = rediscli.blpop(["youyuan:items"])
 item = json.loads(data)
 sheet.insert(item)
 try:
  print u"Processing: %(name)s <%(link)s>" % item
 except KeyError:
  print u"Error procesing: %r" % item
if __name__ == '__main__':
 main()

分布式爬蟲處理Redis里的數據操作步驟

存入 MySQL

1.啟動mysql:mysql.server start(更平臺不一樣)

2.登錄到root用戶:mysql -uroot -p

3.創建數據庫youyuan:create database youyuan;

4.切換到指定數據庫:use youyuan

5.創建表beijing_18_25以及所有字段的列名和數據類型。

分布式爬蟲處理Redis里的數據操作步驟

6.執行下面程序:py2 process_youyuan_mysql.py

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
#process_youyuan_mysql.py
# -*- coding: utf-8 -*-
import json
import redis
import MySQLdb
def main():
 # 指定redis數據庫信息
 rediscli = redis.StrictRedis(host='192.168.199.108', port = 6379, db = 0)
 # 指定mysql數據庫
 mysqlcli = MySQLdb.connect(host='127.0.0.1', user='power', passwd='xxxxxxx', db = 'youyuan', port=3306, use_unicode=True)
 while True:
 # FIFO模式為 blpop,LIFO模式為 brpop,獲取鍵值
 source, data = rediscli.blpop(["youyuan:items"])
 item = json.loads(data)
 try:
  # 使用cursor()方法獲取操作游標
  cur = mysqlcli.cursor()
  # 使用execute方法執行SQL INSERT語句
  cur.execute("INSERT INTO beijing_18_25 (username, crawled, age, spider, header_url, source, pic_urls, monologue, source_url) VALUES (%s, %s, %s, %s, %s, %s, %s, %s, %s )", [item['username'], item['crawled'], item['age'], item['spider'], item['header_url'], item['source'], item['pic_urls'], item['monologue'], item['source_url']])
  # 提交sql事務
  mysqlcli.commit()
  #關閉本次操作
  cur.close()
  print "inserted %s" % item['source_url']
 except MySQLdb.Error,e:
  print "Mysql Error %d: %s" % (e.args[0], e.args[1])
if __name__ == '__main__':
 main()

分布式爬蟲處理Redis里的數據操作步驟

總結

以上所述是小編給大家介紹的分布式爬蟲處理Redis里的數據操作步驟,希望對大家有所幫助,如果大家有任何疑問歡迎給我留言,小編會及時回復大家的!

延伸 · 閱讀

精彩推薦
  • Redisredis實現排行榜功能

    redis實現排行榜功能

    排行榜在很多地方都能使用到,redis的zset可以很方便地用來實現排行榜功能,本文就來簡單的介紹一下如何使用,具有一定的參考價值,感興趣的小伙伴們...

    乘月歸5022021-08-05
  • RedisRedis如何實現數據庫讀寫分離詳解

    Redis如何實現數據庫讀寫分離詳解

    Redis的主從架構,能幫助我們實現讀多,寫少的情況,下面這篇文章主要給大家介紹了關于Redis如何實現數據庫讀寫分離的相關資料,文中通過示例代碼介紹...

    羅兵漂流記6092019-11-11
  • RedisRedis 事務知識點相關總結

    Redis 事務知識點相關總結

    這篇文章主要介紹了Redis 事務相關總結,幫助大家更好的理解和學習使用Redis,感興趣的朋友可以了解下...

    AsiaYe8232021-07-28
  • RedisRedis全量復制與部分復制示例詳解

    Redis全量復制與部分復制示例詳解

    這篇文章主要給大家介紹了關于Redis全量復制與部分復制的相關資料,文中通過示例代碼介紹的非常詳細,對大家學習或者使用Redis爬蟲具有一定的參考學習...

    豆子先生5052019-11-27
  • RedisRedis的配置、啟動、操作和關閉方法

    Redis的配置、啟動、操作和關閉方法

    今天小編就為大家分享一篇Redis的配置、啟動、操作和關閉方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧 ...

    大道化簡5312019-11-14
  • Redisredis中如何使用lua腳本讓你的靈活性提高5個逼格詳解

    redis中如何使用lua腳本讓你的靈活性提高5個逼格詳解

    這篇文章主要給大家介紹了關于redis中如何使用lua腳本讓你的靈活性提高5個逼格的相關資料,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具...

    一線碼農5812019-11-18
  • Redisredis 交集、并集、差集的具體使用

    redis 交集、并集、差集的具體使用

    這篇文章主要介紹了redis 交集、并集、差集的具體使用,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友...

    xiaojin21cen10152021-07-27
  • Redis詳解Redis復制原理

    詳解Redis復制原理

    與大多數db一樣,Redis也提供了復制機制,以滿足故障恢復和負載均衡等需求。復制也是Redis高可用的基礎,哨兵和集群都是建立在復制基礎上實現高可用的...

    李留廣10222021-08-09
主站蜘蛛池模板: 国产悠悠视频在线播放 | 深夜在线观看 | 国产成人综合网 | 2021最新国产成人精品免费 | 特级老女人淫片高清视频 | 欧美视频精品一区二区三区 | 亚洲小视频网站 | 色吧导航 | 外国黄色软件 | 无人影院在线播放视频 | 爱操综合网 | 四虎网站在线 | 精品国产免费第一区二区三区日韩 | 1024免费观看完整版在线播放 | 四虎免费影院4hu永久免费 | h版在线观看| 青青热久久综合网伊人 | 亚洲不卡视频在线 | 成免费视频 | 亚洲国产精品第一区二区三区 | 国产精品青青青高清在线观看 | 欧美精品99 | 完整秽淫刺激长篇小说 | 成人人免费夜夜视频观看 | 男男gaygays18中国 | 成年人黄色录像 | 青青青青青国产免费手机看视频 | 狠狠色综合久久久久尤物 | 美女扒开肌肌让男人桶 | 女教师系列三上悠亚在线观看 | 99精彩视频 | 亚洲六月丁香六月婷婷色伊人 | 欧美老人与小伙子性生交 | 亚洲乱人伦在线 | 国产高清在线观看 | 四虎永久网址影院 | 黄 色 成 年人在线 幻女free性俄罗斯第一次摘花 | 久久黄色免费 | 思思99热久久精品在2019线 | 麻豆夏晴子 | 日韩性公交车上xxhd免费 |