
來源:麥叔編程
作者:麥叔
當我慢慢的開在高速公路上,寬敞的馬路非常的擁擠!這時候我喜歡讓百度導航的小度給我講笑話,但她有點弱,每次只能講一個。
百度號稱要發力人工智能,成為國內人工智能的領軍企業。但從小度的智商和理解能力上,我對此非常懷疑。
所以我們干脆用Python來開發一個可以講笑話的機器人,可以自由定制功能,想講幾個笑話就講幾個笑話。
由于案例比較綜合,整個案例會分成2篇或者3篇文章發出,本文是第一篇,第二篇會隔一天發出。
可以在公眾號回復:笑話,獲得相關文章的鏈接。
本文用到以下技術:
為了代碼結構清晰,方便維護,我們把代碼放到了多個py文件中,每個文件各司其職。
本程序共包括一下幾個代碼模塊:
現在開始寫代碼,請先創建一個文件夾,建議取名為myjoke。后面所有的代碼都在這個文件夾中。
我們使用面向對象的編程思想,創建一個叫做Joke的類,來表示一個笑話。
用了Joke類,代碼更清晰,數據傳輸也更方便。Joke類會被所有其他的模塊用到。
創建一個名為joke.py的文件
代碼如下:
class Joke: '''
表示一個笑話。
其中title是笑話標題,detail是笑話內容
url是笑話的采集網址,通過url判定笑話是否重復,防止保存重復笑話
id是數據庫生成的唯一標識符,剛剛采集下來的笑話是沒有id的,所以id可以為空
''' def __init__(self, title, detail, url, id=None):
self.title = title
self.detail = detail
self.url = url
self.id = id
def __str__(self): '''
有了這個方法,print(joke)會把笑話打印成下面格式的字符串,否則只會打印對象的內存地址
''' return f'{id}-{title}n{detail}n{url}'
這個類中只有兩個魔術方法,一個是構造函數__init__,一個是__str__。
關于魔術函數,可以看這里:
如果沒學過面向對象,可以在麥叔公眾號:免費教程 -> 視頻 小程序中搜“面向對象”,據說是B占最好的面向對象的教程。
我們要抓取的網址是這個:http://xiaohua.zol.com.cn/detail1/1.html 我們要抓的數據點有三個:
在谷歌瀏覽器中,右鍵點擊檢查,就可以在下面看到網頁的代碼結構:
通過分析這個結構,我們可以得出:成功這兩個字是在一個h1結構內,這個h1的class是article-title,因為可以使用這個特征提取其中的內容(示例代碼):
title = html.select_one('h1.article-title').getText()
用同樣的方法可以分析出笑話內容和下一頁URL的特征。
分析網頁結構需要基本的HTML和CSS的知識,如果完全不懂,可以先直接模仿我的代碼,然后再慢慢理解相關知識。
現在來看完整的代碼。
新建一個名為joke_crawler.py的文件。
import requests import bs4 import time import random #先注釋掉數據庫相關的代碼,
后面需要反注釋回來 #import joke_db from joke import Joke #起始URL url = 'http://xiaohua.zol.com.cn/detail1/1.html'
#網站的域名地址,用來拼接完整地址 host = 'http://xiaohua.zol.com.cn' def craw_joke(url): '''
抓取指定的URL,返回一個Joke對象,和下一個要抓取的URL
如果抓取失敗,返回None, None
必須設置User-Agent header,否則容易被封
''' print(f'正在抓?。?span class="hljs-subst">{url}')
headers = {
'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML,
like Gecko) Chrome/87.0.4280.88 Safari/537.36' }
html = requests.get(url, headers=headers).text
soup = bs4.BeautifulSoup(html, 'lxml')
try:
#分別使用css選擇器提取title, detail和next_url title = soup.select_one('h1.article-title').getText()
detail = soup.select_one('div.article-text').getText().strip()
next_url = soup.select_one('span.next > a')['href']
return Joke(title, detail, url), next_url
except Exception as e:
print('出錯了:', e)
print(html)
return None, None # 抓取笑話,以學習為目的,建議不要抓取太多,本例子只抓取了10個 count = 0 for i in range(0, 10):
joke, next_url = craw_joke(url)
if joke:
#先注釋掉數據庫相關的代碼,后面需要反注釋回來 #joke_db.save(joke) print(joke)
url = host + next_url
print('歇一會兒再抓!')
time.sleep(random.randint(1, 5))
print('抓完收工!')
代碼中已經添加了一些注釋,有基礎的應該可以看懂。如果是零基礎,可以在麥叔公眾號:免費教程 -> 視頻 小程序中搜“面向對象”,據說是B占最好的Python入門教程。
有兩個點要注意:
抓來的笑話可以保存到文件中,但是用文件存儲不方便檢索,也不方便判斷笑話是否重復等。
所以更好的方法是把笑話保存到數據庫,這里選擇sqlite做數據庫。原因如下:
但如果你想把世界上所有的笑話都抓下來,數據量很大,那建議使用更正式的數據庫,比如MySQL.
新建一個名為joke_db.py的文件
代碼如下:
import sqlite3 from joke import Joke def setup(): '''
創建數據庫和創建表,如果已經存在了不會重復創建
''' con = sqlite3.connect('jokeDB.db')
with con:
con.execute('''CREATE TABLE IF NOT EXISTS jokes
(id INTEGER PRIMARY KEY,
title varchar(256) NOT NULL,
detail varchar(1024) NOT NULL,
url varchar(1024) NOT NULL)''') def save(joke): '''
把笑話保存到數據庫
根據url判斷是否已經有這個笑話了,如果有了就不再保存
''' con = sqlite3.connect('jokeDB.db')
with con:
cur = con.cursor()
cur.execute(
'SELECT * FROM jokes WHERE (url = ?)', [(joke.url)])
has_joke = cur.fetchone()
if has_joke:
print('重復了,不再插入')
else:
con.execute('INSERT INTO jokes(title, detail, url) VALUES (?,?,?)',
(joke.title, joke.detail, joke.url))
print('笑話保存成功') def get_jokes(): '''
返回所有的笑話列表
''' print('loading jokes...')
con = sqlite3.connect('jokeDB.db')
jokes = []
with con:
for row in con.execute('SELECT * FROM jokes'):
joke = Joke(row[1], row[2], row[3], row[0])
jokes.append(joke)
return jokes # 調用最上面的代碼 setup() # 測試代碼,本模塊被別的模塊引入的時候,
不會執行下面的代碼 if __name__ == '__main__':
save(Joke('笑話Test', '笑話內容test', 'https://www.joke.com/1.html'))
save(Joke('笑話Test2', '笑話內容test', 'https://www.joke.com/2.html'))
print('========打印一下所有的笑話======')
for joke in get_jokes():
print(joke)
print()
代碼已經添加了比較多的注釋,請先看代碼。這里額外的補充:
運行上面的代碼,就可以發現文件夾下多了一個名為jokeDB.db的文件,這是程序自動創建的數據庫文件,笑話就保存在里面。下面里面只有兩個測試的笑話:
> python joke_db.py
笑話保存成功
笑話保存成功
========打印一下所有的笑話======
loading jokes...
1-笑話Test
笑話內容test https://www.joke.com/1.html
2-笑話Test2
笑話內容test https://www.joke.com/2.html
這一部分需要一定的數據庫知識,不過你也可以比這葫蘆畫瓢,先把功能做出來,再加強相關知識。
可惜麥叔還沒有數據庫相關的視頻,如果你希望我出相關視頻,請點贊和轉發本文。
現在回到joke_crawler.py中,去掉關于joke_db的注釋代碼
第1處在文件開頭:
#先注釋掉數據庫相關的代碼,后面需要反注釋回來 #import joke_db
第2處在文件的最下面:
for i in range(0, 10):
joke, next_url = craw_joke(url)
if joke:
#先注釋掉數據庫相關的代碼,后面需要反注釋回來 #joke_db.save(joke) print(joke)
url = host + next_url
print('歇一會兒再抓!')
time.sleep(random.randint(1, 5)) print('抓完收工!')
去掉注釋后,再次運行joke_crawler.py,就會把笑話保存在數據庫中。
為了驗證是否保存成功了,可以去運行joke_db.py,因為這個文件最后會打印出所有的笑話:
========打印一下所有的笑話======
loading jokes... 1-笑話Test
笑話內容test
https://www.joke.com/1.html 2-笑話Test2
笑話內容test
https://www.joke.com/2.html 3-成功
她:“因為別人都不同情你,我才做你的妻子?!彼骸澳憧偹愠晒α恕,F在每個人都因此同情我?!?
http://xiaohua.zol.com.cn/detail1/1.html 4-結婚以后
女:“為什么從前你對我百依百順,可結婚才三天,你就跟我吵了兩天的架?”男:“因為我的忍耐是有限度的?!?
http://xiaohua.zol.com.cn/detail1/2.html 5-我們的
燕爾新婚,新娘對新郎說:“今后咱們不興說‘我的’了,要說‘我們的’?!毙吕扇ハ丛?,良久不出,新娘問:“
你在干什么哪?”“親愛的,我在刮我們的胡子呢?!?
http://xiaohua.zol.com.cn/detail1/3.html 6-杞人憂天
妻子患了重病,醫生宣告回天乏術。妻子即對丈夫說:“我現在希望你能夠發誓?!薄鞍l什么誓?!薄叭绻阍倩?,
不準把我的衣服給你的新妻子穿?!闭煞蚧腥淮笪虻溃骸斑@個我可以發誓。說實話,你根本不必操心,
因為我再也不想找像你這樣胖的太太了?!?
http://xiaohua.zol.com.cn/detail1/5.html 7-理由充分
法官:“離婚理由是什么?”新娘:“他打呼嚕?!狈ü伲骸敖Y婚多長時間了?”新娘:“三天?!狈ü伲?/pre>
“離婚理由充分,結婚三天還不是打呼嚕的時候?!?
http://xiaohua.zol.com.cn/detail1/6.html 8-聰明丈夫
某夫婦當街而過,一只鴿子飛過天空,一泡鴿糞不偏不倚正巧落在太太肩上,太太急了,忙叫丈夫拿紙。丈夫抬頭,
見鴿子不講衛生,到處拉屎,卻不知妻子叫他拿紙干嘛,說:“叫我有啥辦法,追上前去給它擦屁股呀! ”
http://xiaohua.zol.com.cn/detail1/8.html 9-事故與災難
一位夫人問她的丈夫:“親愛的,你能告訴我‘事故’與‘災難’這兩個詞之間有什么區別嗎?”“這很簡單。
”丈夫認真地回答說,“譬如你失足落水,這就叫‘事故’;如果人家又把你當魚釣上來,這就是‘災難’了?!?
http://xiaohua.zol.com.cn/detail1/13.html 10-吵架的結果
夫妻吵架了。當丈夫下班回到家里,他發現妻子不在家。只在桌上留了一個條子,上面寫道:“午飯在《烹調大全》第215頁;晚飯在317頁?!?
http://xiaohua.zol.com.cn/detail1/14.html 11-保險之險
太太不懂保險的道理,認為繳保險費是浪費,先生連忙解釋說:“保險是為了你和孩子,萬一我死了;你們也有個保障呀!
”太太反駁說:“要是你不死呢?”
http://xiaohua.zol.com.cn/detail1/16.html 12-補不足
妻:“我曉得,你與我結婚,是因為我有錢?!狈颍骸安皇?,是因為我沒有錢?!?
http://xiaohua.zol.com.cn/detail1/17.html
數據分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
CDA數據分析師證書考試體系(更新于2025年05月22日)
2025-05-26解碼數據基因:從數字敏感度到邏輯思維 每當看到超市貨架上商品的排列變化,你是否會聯想到背后的銷售數據波動?三年前在零售行 ...
2025-05-23在本文中,我們將探討 AI 為何能夠加速數據分析、如何在每個步驟中實現數據分析自動化以及使用哪些工具。 數據分析中的AI是什么 ...
2025-05-20當數據遇見人生:我的第一個分析項目 記得三年前接手第一個數據分析項目時,我面對Excel里密密麻麻的銷售數據手足無措。那些跳動 ...
2025-05-20在數字化運營的時代,企業每天都在產生海量數據:用戶點擊行為、商品銷售記錄、廣告投放反饋…… 這些數據就像散落的拼圖,而相 ...
2025-05-19在當今數字化營銷時代,小紅書作為國內領先的社交電商平臺,其銷售數據蘊含著巨大的商業價值。通過對小紅書銷售數據的深入分析, ...
2025-05-16Excel作為最常用的數據分析工具,有沒有什么工具可以幫助我們快速地使用excel表格,只要輕松幾步甚至輸入幾項指令就能搞定呢? ...
2025-05-15數據,如同無形的燃料,驅動著現代社會的運轉。從全球互聯網用戶每天產生的2.5億TB數據,到制造業的傳感器、金融交易 ...
2025-05-15大數據是什么_數據分析師培訓 其實,現在的大數據指的并不僅僅是海量數據,更準確而言是對大數據分析的方法。傳統的數 ...
2025-05-14CDA持證人簡介: 萬木,CDA L1持證人,某電商中廠BI工程師 ,5年數據經驗1年BI內訓師,高級數據分析師,擁有豐富的行業經驗。 ...
2025-05-13CDA持證人簡介: 王明月 ,CDA 數據分析師二級持證人,2年數據產品工作經驗,管理學博士在讀。 學習入口:https://edu.cda.cn/g ...
2025-05-12CDA持證人簡介: 楊貞璽 ,CDA一級持證人,鄭州大學情報學碩士研究生,某上市公司數據分析師。 學習入口:https://edu.cda.cn/g ...
2025-05-09CDA持證人簡介 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度、美團、阿里等 ...
2025-05-07相信很多做數據分析的小伙伴,都接到過一些高階的數據分析需求,實現的過程需要用到一些數據獲取,數據清洗轉換,建模方法等,這 ...
2025-05-06以下的文章內容來源于劉靜老師的專欄,如果您想閱讀專欄《10大業務分析模型突破業務瓶頸》,點擊下方鏈接 https://edu.cda.cn/g ...
2025-04-30CDA持證人簡介: 邱立峰 CDA 數據分析師二級持證人,數字化轉型專家,數據治理專家,高級數據分析師,擁有豐富的行業經驗。 ...
2025-04-29CDA持證人簡介: 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度,美團,阿里等 ...
2025-04-28CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-27數據分析在當今信息時代發揮著重要作用。單因素方差分析(One-Way ANOVA)是一種關鍵的統計方法,用于比較三個或更多獨立樣本組 ...
2025-04-25CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-25