
作者:李曉飛
來源:Python 技術
今天我來分享一個遷移過程的幕后小故事,有料,有趣,來聽聽吧。
遷移公眾號,是一個騰訊提供的業務,就是將原公號主體切換到另一個公號上,然后收回原公號。
其中大部分是騰訊來完成的,但還有些工作,需要自己處理,比如遷移公號的 關鍵字消息回復。
雖然事情不大,但很重要,做不好,讀者就會找不見源碼,影響大家學習效率。
但單操作起來還是比較費勁的,因為需要同時登錄兩個公眾號,打開兩個頁面,來回切換著操作,很不方便,而且容易搞錯。
怎么辦,求神拜佛肯定是沒有用的,不過有位大神還真得去拜拜 —— Python!
既然網頁上能看到,那么就一定能用爬蟲獲取到。
咱們故伎重演,瀏覽器中按下 F12,進入魔法世界。
你知道百度的校招啟事就藏在這里嗎?
別說是我告訴你的
第一步,先清空請求記錄,刷新頁面,然后從第一條請求記錄開始分析。
實際上就是看看請求的返回值,是否包含了,頁面上列表中的數據。
幸運的是第一條就是,不過呢,數據不是直接給的,而是返回了一個大 js 腳本,當頁面加載后,運算出的。
分析請求
需要勾上 Perserve Log 否則有用頁面切換可能看不見請求記錄
這個不是困難,將js復制出來,提取其中關鍵字回復的信息整理一下就可以了。
問題是,每頁只顯示十條,有二十多頁,復雜的成本有點高呀。
得想想辦法,觀察了一下網址,其中有兩個參數,一個是 count,另一個是 offset,很熟悉呀,不和分頁參數是一回事兒嗎?
分析請求
改一下試試,將 count 改為 1000,offset 改為 0,意思是從第一行開始,獲取一千條,按下回車 ……
搞定!
仔細檢查,確實返回了所有記錄,因為總共也沒有一千行。
現在可以蠻干了,因為就干一次。
復制出來,用文本編輯器(最好支持列編輯)簡單處理一下,得到一個 json
json
所以方法需要靈活應用,如果能直接通過程序獲取最好,如果不行,手動輔助也是可以的。
接下來,才是重頭戲,如何將這些數據寫入。
進入新公眾號的管理后臺,新建一個關鍵字回復,分析下請求,此時別忘記,打開開發者工具(瀏覽器上按 F12)。
一般提交類請求都是第一個,看一下果然是,不過肉眼看不清具體數據,怎么辦?
還記得前面好多次提到的將請求復制為 curl bash 嗎?對就用它,在請求上右鍵,選擇 Copy as cURL(bash)
copy cURL
放在哪里呢?當然不是放在文本文件里了,除非你是想做一下暫存。
我們直接粘貼到 https://curl.trillworks.com/ 里,可以直接獲得 轉化好的 Python 代碼。
然后將 Python 代碼復制到文件中,執行看看效果,果然,新增了一條記錄。
下面分析請求數據, 與剛才 json 文件中的做對比,一般名稱很相近,所以容易找出來。
字段相同,可能是來自同一個架構設計,不太可能出自不同的團隊開發,哈哈,我竟然看的這么深!
這樣邊找邊寫,等找完,代碼也就完成了,像這樣:
data = {
'replytype': 'smartreply',
'ruleid': '0',
'rulename': kw['rule_name'], # 規則名
'allreply': kw['reply_all'], # 全回復
'replycnt': kw['reply_cnt'], # 回復數量
'keywordcnt': len(kw['keyword_list']), # 關鍵字數量
'keyword0': kw['keyword_list'][0]['content'], # 關鍵字
'matchmode0': kw['keyword_list'][0]['match_mode'], # 匹配模式
'type0': kw['reply_list'][0]['reply_type'], # 消息類型
'fileid0': 'undefined',
'content0': kw['reply_list'][0]['content'], # 回復內容
'token': '105xxxx502',
'lang': 'zh_CN',
'f': 'json',
'ajax': '1'
}
現在將各部分的代碼組合起來。
首先是解析 json 的代碼:
with open("keyword.js", 'r', encoding='utf-8') as word:
d = json.load(word)
超級簡單,利用 json 庫將 keyword.js 文件中的內容轉化為 Python List 對象
然后是數據組合,代碼已經在上面展示了。
最后發送請求:
add(data) print('處理完成,休息2秒...') time.sleep(2)
好了,這樣搞定了,寫代碼用了一個多小時,跑完不到兩分鐘。
美中不足的是,代碼只照顧了大多數的一條消息的回復(代碼中直接獲取的數組中第一個元素, 如 kw['reply_list'][0]),還有幾條回復是多條消息,照顧不上。
如果要照顧,可能的話 80% 以上的時間,以兼容 20% 不到的情況,不劃算。
怎么辦?涼拌!—— 直接手動添加。
哈哈,我很樂意做這一點手工活兒。
類似這樣的方式,用在其他的地方,完全是可以的,比如之前的約馬程序,訓練營運營數據提取 等等,都是一樣的套路:
就這么簡單,Get 到了嗎?
那,趕緊找個地方試試吧。
每天進步一點點,生活更美好,比心!
數據分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
CDA數據分析師證書考試體系(更新于2025年05月22日)
2025-05-26解碼數據基因:從數字敏感度到邏輯思維 每當看到超市貨架上商品的排列變化,你是否會聯想到背后的銷售數據波動?三年前在零售行 ...
2025-05-23在本文中,我們將探討 AI 為何能夠加速數據分析、如何在每個步驟中實現數據分析自動化以及使用哪些工具。 數據分析中的AI是什么 ...
2025-05-20當數據遇見人生:我的第一個分析項目 記得三年前接手第一個數據分析項目時,我面對Excel里密密麻麻的銷售數據手足無措。那些跳動 ...
2025-05-20在數字化運營的時代,企業每天都在產生海量數據:用戶點擊行為、商品銷售記錄、廣告投放反饋…… 這些數據就像散落的拼圖,而相 ...
2025-05-19在當今數字化營銷時代,小紅書作為國內領先的社交電商平臺,其銷售數據蘊含著巨大的商業價值。通過對小紅書銷售數據的深入分析, ...
2025-05-16Excel作為最常用的數據分析工具,有沒有什么工具可以幫助我們快速地使用excel表格,只要輕松幾步甚至輸入幾項指令就能搞定呢? ...
2025-05-15數據,如同無形的燃料,驅動著現代社會的運轉。從全球互聯網用戶每天產生的2.5億TB數據,到制造業的傳感器、金融交易 ...
2025-05-15大數據是什么_數據分析師培訓 其實,現在的大數據指的并不僅僅是海量數據,更準確而言是對大數據分析的方法。傳統的數 ...
2025-05-14CDA持證人簡介: 萬木,CDA L1持證人,某電商中廠BI工程師 ,5年數據經驗1年BI內訓師,高級數據分析師,擁有豐富的行業經驗。 ...
2025-05-13CDA持證人簡介: 王明月 ,CDA 數據分析師二級持證人,2年數據產品工作經驗,管理學博士在讀。 學習入口:https://edu.cda.cn/g ...
2025-05-12CDA持證人簡介: 楊貞璽 ,CDA一級持證人,鄭州大學情報學碩士研究生,某上市公司數據分析師。 學習入口:https://edu.cda.cn/g ...
2025-05-09CDA持證人簡介 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度、美團、阿里等 ...
2025-05-07相信很多做數據分析的小伙伴,都接到過一些高階的數據分析需求,實現的過程需要用到一些數據獲取,數據清洗轉換,建模方法等,這 ...
2025-05-06以下的文章內容來源于劉靜老師的專欄,如果您想閱讀專欄《10大業務分析模型突破業務瓶頸》,點擊下方鏈接 https://edu.cda.cn/g ...
2025-04-30CDA持證人簡介: 邱立峰 CDA 數據分析師二級持證人,數字化轉型專家,數據治理專家,高級數據分析師,擁有豐富的行業經驗。 ...
2025-04-29CDA持證人簡介: 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度,美團,阿里等 ...
2025-04-28CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-27數據分析在當今信息時代發揮著重要作用。單因素方差分析(One-Way ANOVA)是一種關鍵的統計方法,用于比較三個或更多獨立樣本組 ...
2025-04-25CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-25