Node 批量爬取头条视频并保存
1 E币
成为会员,免费下载资料
文件大小:15.71 KB
上传者:A-小鲸鱼
时间:2020-02-20 21:17:54
下载量:7
一般批量爬取视频或者图片的套路是,使用爬虫获得文件链接集合,然后通过 writeFile 等方法逐个保存文件。然而,头条的视频,在需要爬取的 html 文件(服务端渲染输出)中,无法捕捉视频链接。视频链接是页面在客户端渲染时,通过某些 js 文件内的算法或者解密方法,根据视频的已知 key 或者 hash 值,动态计算出来并添加到 video 标签的。这也是网站的一种反爬措施。
展开》
折叠》