Power Query 获取个股K线数据

前面我们讲过东方财富网获取全部实时股票数据,今天来做一个个股的K线数据获取。

获取个股数据首先要有股票代码,然后根据代码来获取,这个和我们浏览网页的顺序差不多,比如我们先找民航机场板块:

然后进到白云机场个股:

然后放大K线到全屏:

我们抓取数据也要按照这个过程来做网站分析。

网站分析

板块页面的分析:

民航机场板块共有13条数据,我们筛选jquery之后找一下对应的数据,然后找到对应的真实URL:

我们只要股票代码和名称,所以这个过程应该比较简单。

接下来看个股K线全屏的页面,检查中筛选kl:

K线数据肯定比较多,通常都有几千行,也要找到真实的URL:

这个URL我们要来分析一下:

后面的一大串字符,格式化显示应该是这样的

Fields1、2都是数据的名称,也就是我们抓取的数据的列名称,这个我们用别的方法来找,先不管他,beg、end是开始与结束时间,估计这个20500101就对应昨天,开始都默认是0。最关键的是secid这个是股票代码,我们要抓取个股数据,就要修改这个值,这个值有两部分组成小数点分割,前面的1代表沪市,如果是0代表深市,后面就是白云机场的股票代码。

接下来说数据的名称如何对应:

K线图中有这样一个数据块,里面的汉字部分就对应了我们抓取的数据的列名称,我们来找这个数据块在源码中的位置:

找到这个popfloatwin浮动窗口,复制这个element:

到Power Query中建立空白查询,粘贴复制的内容:

是不是看着头晕,没关系,找到分析,选xml:

会自动解析:

展开后备用。

抓取数据

首先抓取民航机场板块的股票名称和代码:

先去复制真实的URL,然后从web获取数据:

这里要直接在公式栏里输入三个函数来解析Jsoncallback:

J(真实URL)),"(",")"))

然后就是展开,我们不需要其他的内容,只要股票名称和代码:

这个查询放这里备用。

然后是个股K线数据抓取:

同样的直接复制对应的真实URL,然后抓取,方法与上面的方法一致:

然后展开,整理下格式,至于数据的表头,我们可以在抓取全部数据后统一更改。

我们用这个查询创建一个函数:

主要就是修改这个secid=号后面的内容,这里涉及到沪深两市的数据抓取,直接判断id的第一个符来修改小数点前面的部分,也可以,但是我比较懒,我就把这个函数直接复制一份,做一个0.的函数,然后在调用函数的时候用try..otherwise试着用第一个函数如果出错就用第二个函数,这样就保证两市数据都能抓出来了。

我们回到板块抓取的查询,新建列调用这两个函数:

然后展开数据:

前面三列我们自己手动修改一下,后面的用准备好的名称来修改:

先整理一下名称,Column1.2开始修改:

然后把原来的列名称对应上:

调整一下位置:

然后我们到展开的查询中使用Table.ToRows函数把上面这个表转换成列表,替换列名称:

最后修改一下数据类型数据就可以加载了。

相关推荐