获取猫眼网榜单TOP100前10页

1月以前  |  阅读数:22 次  |     收藏

#抓取Top100网  (成功)
from urllib.request import urlopen

'''
      https://maoyan.com/board/4?offset=10
      https://maoyan.com/board/4?offset=20
      https://maoyan.com/board/4?offset=30
      ...
      https://maoyan.com/board/4?offset=90
      '''
def get_one_page(index):
    url = 'https://maoyan.com/board/4?offset=%d'%(index*10)
    #另一种方式:  url = 'https://maoyan.com/board/4?offset={}/'.format(index * 10)
    #字符串的格式化处理 {} 占位符  使用format方式格式化字符串
    response = urlopen(url)
    return response.read().decode()

def save_one_page(index,html):
    #将数据保存到文件中
    # 文件名  maoyan_TOP100_page_inedx.html
    # 文件存到什么地方
    filename = 'maoyan\\TOP100_page_{}.html'.format(index+1)
    '''
    打开文件   打开方式:r(以字符串的方式只读),w(以字符串的方式只写),a(以字符串的方式追加)
    rb(以二进制只读),wb(以二进制只写),ab(以二进制追加)
    '''
    #file = open(filename,'w',encoding = 'utf-8')
    #file.write(html)
    #file.close()
    with open(filename,'w',encoding='utf-8') as file:
        file.write(html)
    pass

if __name__ == '__main__':
    for index in range(0,10):
        html = get_one_page(index)
        save_one_page(index,html)

#__name__ 内置变量
#当执行当前文件时,__name__==_main_
#当当前文件时被其他文件引用时,__name__==模块名

相关文章:


SSH 登录失败:Host key verification failed

PHP分页显示制作详细讲解

PHP自定义函数获取搜索引擎来源关键字的方法

在Zeus Web Server中安装PHP语言支持

再谈PHP中单双引号的区别详解

让你成为最历害的git提交人

将二进制数据转为16进制以便显示

php+ajax+json 详解及实例代码

PHP实现简单爬虫的方法

Python 2与Python 3版本和编码的对比

php实现数组中索引关联数据转换成json对象的方法

桌面中心(一)创建数据库

PHP设计模式之工厂模式与单例模式

php数组合并array_merge()函数使用注意事项

php封装的page分页类完整实例

wget使用技巧

getAttribute和getAttributeNode

获取IMSI

Yii2汉字转拼音类的实例代码

python中执行shell的两种方法总结