使用pandas,首先导入包:

1
2
from pandas import Series, DataFrame
import pandas as pd

一、创建Series,DataFrame

1,创建Series

a,通过列表创建

1
2
obj = Series([4, 7, -5, 3]) 
obj2 = Series([4, 7, -5, 3], index=['d','b','a','c']) #指定索引

b,通过字典创建Series

1
2
sdata = {'Ohio':35000, 'Texas':7100, 'Oregon':1600,'Utah':500}
obj3 = Series(sdata)
阅读全文 »

标签云是比较直观的频率分布表现方式,很多网站和APP在年度盘点和总结时会使用。Python生成标签云有一个比较易用的库 pytagcloud。

1,导入头文件

1
2
from pytagcloud import create_tag_image, make_tags
from pytagcloud.lang.counter import get_tag_counts
阅读全文 »

概念

朴素贝叶斯算法是一个直观的方法,使用每个属性属于某个类的概率来做预测。你可以使用这种监督性学习方法,对一个预测性建模问题进行概率建模。

给定一个类,朴素贝叶斯假设每个属性归属于此类的概率独立于其余所有属性,从而简化了概率的计算。这种强假定产生了一个快速、有效的方法。

给定一个属性值,其属于某个类的概率叫做条件概率。对于一个给定的类值,将每个属性的条件概率相乘,便得到一个数据样本属于某个类的概率。

1、贝叶斯定理

假设对于某个数据集,随机变量C表示样本为C类的概率,F1表示测试样本某特征出现的概率,套用基本贝叶斯公式,则如下所示:



上式表示对于某个样本,特征F1出现时,该样本被分为C类的条件概率。

阅读全文 »

某大型资产管理公司人工智能和系统化交易招聘
简历发送到: [js_recruit@163.com]

1. 人工智能/机器学习算法研究员

学历要求:博士
职位数量:2人

岗位职责:

  • 使用统计学习方法,挖掘投资者行为特征的数据。
  • 对金融海量数据,针对不同的学习问题,建立起一般性的数据源选择框架。
  • 对金融相关分类和预测性问题建模,并负责系统回测。
  • 与技术人员合作,参与大数据计算框架的设计和运行
    阅读全文 »

Python 的GIL限制了多核CPU的性能,对于IO密集型的程序,采用多线程能显著提高运行速度;但对于计算密集型的程序,多线程就没多少用了,采用多进程编程,就能充分利用多核CPU的性能,CPU占用率能达到100%。

  • 下面是在阿里云服务器上测试的数据:

配置:CPU:Xeon, E5-2680, 2.5GHz, 4核; 内存:16G, DDR4; 硬盘:100G, SSD

阅读全文 »

本文实现cookie的自动获取,及cookie过期自动更新。

社交网站中的很多信息需要登录才能获取到,以微博为例,不登录账号,只能看到大V的前十条微博。保持登录状态,必须要用到Cookie。以登录www.weibo.cn 为例:

在chrome中输入:http://login.weibo.cn/login/

分析控制台的Headers的请求返回,会看到weibo.cn有几组返回的cookie。

实现步骤:

1,采用selenium自动登录获取cookie,保存到文件;

2,读取cookie,比较cookie的有效期,若过期则再次执行步骤1;

3,在请求其他网页时,填入cookie,实现登录状态的保持。

阅读全文 »

基本用法

一、发送无参数的get请求

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17

import requests

In [67]: r =requests.get('http://httpbin.org/get')

In [68]: print r.text
{
"args": {},
"headers": {
"Accept": "*/*",
"Accept-Encoding": "gzip, deflate",
"Host": "httpbin.org",
"User-Agent": "python-requests/2.7.0 CPython/2.7.10 Darwin/14.5.0"
},
"origin": "220.231.47.169",
"url": "http://httpbin.org/get"
}

返回一个名为 r 的Response对象。可以从这个对象中获取所有我们想要的信息。

阅读全文 »

上一篇 IP代理池的实现 讲解了IP代理池的实现细节。

由于爬虫多个项目都需要用到IP代理,打造一个公用的IP代理库就很有必要。本文主要讲解公用的IP代理库的实现框架。

实现思路如下:

1,数据抓取:从各个IP代理网站抓取大量IP数据;

2,数据筛选:Ping每个IP,连接速度<1.5s的IP地址入库;

3,定时更新:设置定时任务,每日重新Ping数据库内的IP,更新连接速度;

4,定时新增:设置定时任务,每日定时从IP代理网站取新数据

5,提供获取接口

阅读全文 »

一、基本理论及原则

  • 信息量

“信息量”的概念对应着包含在价格数据中的“含金量”:

  1. 任何市场资料所信息量均有限

  2. 任何技术分析手段所提取的信息量只可能少于信息量的极限,绝不可能多于信息量的极限;

  3. 对于相同的市场资料,虽然可能采取不同的技术分析手段,但是所得信息量均限于上述极限之内,因此它们的结果有可能是相互重叠的。


  • 杰西·利弗莫尔:只有离开研究对象一定的距离,才能更好地观察它的全貌。技术分析就是让我们退后一步来观察市场,如此才使我们对市场获得了一份不同寻常的,或许也更加贴切的观感。
    阅读全文 »

日本蜡烛线形态

1,纺锤线

实体较短,说明熊方与牛方正处于胶着状态,一时难分高下。

2,锤子线与上吊线

下图中的蜡烛图线具有明显的特点:它们的下影线较长,而实体较小并且在其全天价格区间里,实体处在接近顶端的位置上。

阅读全文 »