记一次电视剧批量爬取

查看 240|回复 11
作者:三滑稽甲苯   
 记一次电视剧批量爬取

测试网址:aHR0cHM6Ly93d3cubWVpanV3by5uZXQvcGxheS81OTQwLTEtMS8=

 分析
打开控制台,刷新,网络 tab 筛选关键字 m3u8,马上就找到了视频地址,使用任意 m3u8 下载器就可以下载了,文章结束。那么它是从哪里来的呢?


mjw_ana_1.png (211.65 KB, 下载次数: 0)
下载附件
2023-1-4 22:58 上传

跟进搜索关键字 token 的值 SL3RwbPjHyz0VBoF4lqJJw,发现是请求 super.php 给的 (实际上已经给了完整链接,不必考虑其它部分的参数)

注意筛选搜索是两个不一样的操作。筛选输入的值只在 url 里查找,而搜索则是在所有内容里查找!



mjw_ana_2.png (393.77 KB, 下载次数: 0)
下载附件
2023-1-4 22:58 上传

检查这个请求,只需要关心参数 id


mjw_ana_3.png (69.27 KB, 下载次数: 0)
下载附件
2023-1-4 22:58 上传

跟进搜索 id 的值 CMjA0MjZfMGp1aGU=,是写在 HTML 里的,很容易通过正则匹配到


mjw_ana_4.png (273.1 KB, 下载次数: 0)
下载附件
2023-1-4 22:58 上传

总结一下流程:HTML 内直接得到 id -> 向 super.php 提供 id 得到 m3u8 链接 -> 调用下载器下载
 批量
观察各集的 url,容易发现只是最后一部分在变化,并且是当前集数。写好根据 url 下载一集的函数后加个循环就可以了。但是若要做到通配,则需在最终脚本内考虑如何判断最后一集是第几集。这一点可以通过对此元素的子元素进行计数解决 (此元素也是静态写在 HTML 里的)。


mjw_bulk.png (739.93 KB, 下载次数: 0)
下载附件
2023-1-4 22:58 上传

 脚本
将一个电视剧抽象为一个类,要下载的特定电视剧则为其实例。如此做即可轻易做到通配。这里下载 m3u8 使用的工具是 N_m3u8DL-RE。代码中网址已脱敏。
from requests import Session
from re import match, search
from bs4 import BeautifulSoup as bs
from os import system, chdir
class Teleplay:
    def __init__(self, url: str) -> None:
        '''Initialize a teleplay. `url` be like: `https://*/play/5940-1-1/`.'''
        m = match(r'(https://*/play/\d+-\d+-)\d+', url)
        if m:
            self.base = m.groups()[0]
        else:
            raise RuntimeError('Invalid url!')
        self.x = Session()
        self.x.headers.update({
            'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/108.0.0.0 Safari/537.36 Edg/108.0.1462.54',
            'referer': 'https://*/' # 反爬
        })
        soup = bs(self.x.get(url).text, features="html.parser")
        playlist = soup.find('ul', {'id': 'playlist'})
        self.count = len(playlist.find_all('li'))
    def fetch(self, volumn: int) -> str:
        '''Fetch m3u8 url for given volumn.'''
        assert (1 2}'
        print(f"[{i}]>", cmd)
        system(cmd)
✅ 运行结果

仅演示下载两集的效果



mjw_res.png (1.06 MB, 下载次数: 0)
下载附件
2023-1-4 22:58 上传

 开源地址
Github gist
若无法访问,可尝试访问 Pastebin

下载次数, 批量

三滑稽甲苯
OP
  


iapeng 发表于 2023-1-8 13:39
还有些网页,比如这个视频网站
http://www.17ky.net/play143556-5-5.html
同样逆向跟踪
[ol]

  • 搜索 index.m3u8 网址内的关键字 eBUU1tV0,找到请求 /share/ttKsROJrAteCpJIz

  • 搜索 /share/... 内的关键字 ttKsROJrAteCpJIz, 发现是写在原始 html 内的
    [/ol]
    那么逻辑就是这样的:play143556-5-5.html 内匹配到 /share/... 的网址 -> 访问此网址,匹配到 index.m3u8 的网址 -> 调用下载器
  • iapeng   


    三滑稽甲苯 发表于 2023-1-9 15:07
    [md]同样逆向跟踪
    1. 搜索 `index.m3u8` 网址内的关键字 `eBUU1tV0`,找到请求 `/share/ttKsROJrAteCp ...

    我的思路和你一样。
    requests查不到要的关键串,隐藏了。
    我才学起玩,不懂的还多,请大家多多包涵,尽提些简单问题。
    sopcast   

    感谢分享学习了
    jaywubin   

    学习了,python没有m3u8下载相关的模块吗?
    学惭淹贯   

    厉害厉害。
    ipkqywfi   

    很利害,晚一步,在回家长途高速服务区,等到家了,电脑下下来试试
    shallies   

    大神牛逼。学习了!
    qhd11   

    春节看剧好帮手
    gun008   

    感谢! 学习了
    您需要登录后才可以回帖 登录 | 立即注册

    返回顶部