这篇文章将为大家详细讲解有关c#如何爬取优酷电影信息，小编觉得挺实用的，因此分享给大家做个参考，希望大家阅读完这篇文章后可以有所收获。
盐山ssl适用于网站、小程序/APP、API接口等需要进行数据传输应用场景，ssl证书未来市场广阔！成为创新互联的ssl证书销售渠道，可以享受市场价格4-6折优惠！如果有意向欢迎电话联系或者加微信：028-86922220（备注：SSL证书合作）期待与您的合作！
爬虫步骤
继第一篇文档后的爬虫进阶，本文章主要是对上一篇的进阶。实现的功能主要为：
1、爬取电影类别列表
2、循环每个类别的电影信息，对每个类别的信息分页爬取
3、爬取的数据保存到数据库中
一、爬取电影类别列表
使用Chrome浏览器，F12，找到当前位置，得到当前位置的Xpath。我们需要的数据是电影的类别编码和电影类别名称。
规则分析：
XPATH路径为 "//*[@id='filterPanel']/div/ul/li/a")
类别编码为A标签Href路径的内容，我们对其进行截取
类别名称为A标签InnerTest，我们对其进行截取
代码示例
//加载web内容
private static readonly string _url = "http://list.youku.com/category/video/c_0.html";
///
/// 得到所有的类别
///
public static List GetVideoTypes()
{
//加载web内容
var web = new HtmlWeb();
var doc = web.Load(_url);
//内容解析-获得所有的类别
var allTypes = doc.DocumentNode.SelectNodes("//*[@id='filterPanel']/div/ul/li/a").ToList();
//类别列表中去掉【全部】这个选项
var typeResults = allTypes.Where((u, i) => { return i > 0; }).ToList();
var reList = new List();
foreach (var node in typeResults)
{
var href = node.Attributes["href"].Value;
reList.Add(new VideoType
{
Code = href.Substring(href.LastIndexOf("/") + 1, href.LastIndexOf(".") - href.LastIndexOf("/") - 1),
Name = node.InnerText
});
}
return reList;
}
二、爬取每个类别的总分页数
code 为电影类别编码
页面规则 $"http://list.youku.com/category/show/[code].html"
根据页面规则进行爬取：
///
/// 得到当前类别的总页数
///
public static int GetPageCountByCode(string code)
{
var web = new HtmlWeb();
var doc = web.Load($"http://list.youku.com/category/show/[code].html");
//分页列表
var pageList = doc.DocumentNode.CssSelect(".yk-pages li").ToList();
//得到倒数第二项
var lastsecond = pageList[pageList.Count - 2];
return Convert.ToInt32(lastsecond.InnerText);
}
三、按照页码得到每个电影类别的内容
根据分页规则分析出分页后的地址为
code 为编码 pageIndex为第几页
页面规则：http://list.youku.com/category/show/[code]s_1_d_1_p{pageIndex}.html
根据页面规则进行爬取：
///
/// 得到当前类别的内容
///
public static List GetContentsByCode(string code, int pageIndex)
{
var web = new HtmlWeb();
var doc = web.Load($"http://list.youku.com/category/show/[code]_s_1_d_1_p_{pageIndex}.html");
var returnLi = new List();
var contents = doc.DocumentNode.CssSelect(".yk-col4").ToList();
foreach (var node in contents)
returnLi.Add(new VideoContent
{
PageIndex = pageIndex.ToString(),
Code = code,
Title = node.CssSelect(".info-list .title a").FirstOrDefault()?.InnerText,
Hits = node.CssSelect(".info-list li").LastOrDefault()?.InnerText,
Href = node.CssSelect(".info-list .title a").FirstOrDefault()?.Attributes["href"].Value,
ImgHref = node.CssSelect(".p-thumb img").FirstOrDefault()?.Attributes["Src"].Value
});
return returnLi;
}
四、测试爬取的结果
///
/// 打印得到的内容
///
public static void PrintContent()
{
var count = 0;
foreach (var node in GetVideoTypes())
{
var resultLi = new List();
//得到当前类别总分页数
var pageCount = GetPageCountByCode(node.Code);
//遍历分页得到内容
for (var i = 1; i <= pageCount; i++) resultLi.AddRange(GetContentsByCode(node.Code, i));
Console.WriteLine($"编码{node.Code} \t 页数{pageCount} \t 总个数{resultLi.Count}");
count += resultLi.Count;
}
Console.WriteLine($"总个数为{count}");
}
关于“c#如何爬取优酷电影信息”这篇文章就分享到这里了，希望以上内容可以对大家有一定的帮助，使各位可以学到更多知识，如果觉得文章不错，请把它分享出去让更多的人看到。
网站题目：c#如何爬取优酷电影信息-创新互联
分享URL：
http://www.cdkjz.cn/article/dohphh.html
