一、优化类¶

线性规划（运输问题、指派问题、对偶理论、灵敏度分析）
整数规划（分支定界、枚举试探、蒙特卡洛）
非线性规划（约束极值、无约束极值）
目标规划（单目标、多目标）
动态规划（动态、静态、线性动规、区域动规、树形动规、背包动规）
动态优化（变分法）
现代优化算法（贪婪算法、禁忌搜索、模拟退火、遗传算法、人工神经网络、蚁群算法、粒子群算法、人群搜索算法、人工免疫算法、集成算法、TSP问题、QAP问题、JSP问题）
模糊逼近算法

二、图论¶

最小生成树（prim算法、Kruskal算法）
最短路径（Dijkstra算法、Floyd-Warshall算法、Bellman-Ford算法、SPFA算法）
匹配问题（匈牙利算法）
Euler图和Hamilton图
网络流（最大流问题、最小费用最大流问题）

三&四、预测类&统计¶

GM（1，1）灰度预测
时间序列模型（确定性时间序列、平稳时间序列、移动平均、指数平滑、Winter方法、ARIMA模型）
回归（一元线性回归、多元线性回归MLR、非线性回归、多元逐步回归MSR、主元回归法PCR、部分最小二乘回归法PLSR）（重点）
Bayes统计预测
分类模型（逻辑回归、决策树、神经网络）
判别分析模型（距离判别、Fisher判别、Bayes判别）
参数估计（点估计、极大似然估计、Bayes估计）
假设检验（U-检验、T-检验、卡方检验、F-检验、最优性检验、分布拟合检验）
方差分析（单因素、多因素、相关性检验）
经验分布函数
正交试验
模糊数学（模糊分类、模糊决策）
随机森林

五、数据处理¶

图像处理
插值与拟合（Lagrange插值、Newton插值、Hermite插值、三次样条插值、线性最小二乘）
搜索算法（回溯、分治、排序、网格、穷举）
数值分析方法（方程组求解、矩阵运算、数值积分、逐次逼近法、牛顿迭代法）
模糊逼近
动态加权
ES
DWRR
序列分析
主成分分析
因子分析
聚类分析
灰色关联分析法
数据包络分析法（DEA）

六、评价类¶

层次分析法（AHP）
模糊综合评价
基于层次分析的模糊综合评价
动态加权综合评价
TEIZ理论

七、图形类（重点）¶

算法流程图
条形图
直方图
散点图
饼图
折线图
茎叶图
箱线图
P_P图
Q_Q图
Venn图
矢量图
误差分析图
概率分布图
5w1h分析法
漏斗模型
金字塔模型
鱼骨分析法
等高线曲面图
思维导图

八、模拟与仿真¶

蒙特卡洛
元胞自动机

九、方程（进阶）¶

微分方程（Malthus人口模型、Logistic模型、战争模型）
稳定状态模型（Volterra 模型）
常微分方程的解法（离散化、Euler方法、Runge—Kutta方法、线性多步法）
差分方程（蛛网模型、遗传模型）
偏微分方程数值解（定解问题、差分解法、有限元分析）

十、数据建模&机器学习方法¶

（注：此部分与数据处理算法有大量重叠）

云模型
Logistic回归
主成分分析
支持向量机（SVM）
K-均值（K-Means）
近邻法
朴素Bayes判别法
决策树方法
人工神经网络（BP、RBF、Hopfield、SOM）
正则化方法
kernel算法

十一、其他¶

排队论
博弈论
贮存伦
概率模型
马氏链模型
决策论

（单目标决策：不确定型决策、风险决策、效用函数、决策树、灵敏度分析）（多目标决策：分层序列法、多目标线性规划、层次分析法）

系统工程建模（ISM解释模型、网络计划模型、系统评价、决策分析）
交叉验证方法（Holdout 验证、K-fold cross-validation、留一验证）

附：简单建模方法¶

比例关系
函数关系
几何模拟
类比分析
物理规律建模

In [1]:

# 求导
from __future__ import print_function
from __future__ import division
import numpy as np
import scipy as sp
import scipy.misc
 
def f(x): 
    return 2*x*x + 3*x + 1
print(sp.misc.derivative(f, 2))

11.0

In [2]:

# 马鞍面
from __future__ import print_function
from __future__ import division
import numpy as np
import scipy as sp
import matplotlib.pylab as plt
from pylab import *
from mpl_toolkits.mplot3d import Axes3D
 
fig = figure()
ax = Axes3D(fig)
X = np.linspace(-10, 10, 30)
Y = np.linspace(-10, 10, 30)
X, Y = np.meshgrid(X, Y)
Z = (X*X)/3 - (Y*Y)/3
ax.plot_surface(X, Y, Z, rstride=1, cstride=1, cmap="hot")
show()

In [3]:

# 求不定积分
from __future__ import print_function
from __future__ import division
import numpy as np
import scipy as sp
import scipy.integrate
 
f = lambda x : x**2
print(sp.integrate.quad(f, 0, 2))
print(sp.integrate.fixed_quad(f, 0, 2))

(2.666666666666667, 2.960594732333751e-14)
(2.6666666666666661, None)

In [4]:

# 求解非线性方程组
from __future__ import print_function
from __future__ import division
import numpy as np
import scipy as sp
import scipy.optimize
 
def f(x):
    return [5*x[1] + 3, 4*x[0]*x[0], x[1]*x[2] - 1.5]
ans = sp.optimize.fsolve(f, [0, 0, 0])
print(ans)
print(f(ans))

[ 0.  -0.6 -2.5]
[0.0, 0.0, 0.0]

In [5]:

# 求解线性方程组
from __future__ import print_function
from __future__ import division
import numpy as np
import scipy as sp
import matplotlib.pylab as plt
import scipy.linalg
 
a = np.array([[1, 3, 5], [2, 5, 1], [2, 3, 8]])
b = np.array([10, 8, 3])
print(sp.linalg.solve(a, b))
# print(sp.linalg.inv(a).dot(b))

[-9.28  5.16  0.76]

In [6]:

# 画三叶玫瑰线
from __future__ import print_function
from __future__ import division
import numpy as np
import scipy as sp
import matplotlib.pylab as plt
 
t = np.linspace(0, 2*np.pi, 1000, endpoint=True)
p = 3 * np.sin(3 * t)
plt.subplot(111, polar=True)
plt.plot(t, p, lw=3, color="g")
plt.grid(True)
plt.show()

In [7]:

# 画星形线
from __future__ import print_function
from __future__ import division
import numpy as np
import scipy as sp
import matplotlib.pylab as plt
 
t = np.linspace(-10, 10, 1024)
X = np.cos(t) ** 3
Y = np.sin(t) ** 3
plt.plot(X, Y, label="My", lw=3, color="g")
plt.xlim(X.min()*1.2, X.max()*1.2)
plt.ylim(Y.min()*1.2, Y.max()*1.2)
plt.grid(True)
plt.legend()
plt.show()

In [8]:

# 画随机散点图
from __future__ import print_function
from __future__ import division
import numpy as np
import scipy as sp
import numpy.random
import matplotlib.pylab as plt
 
X = np.random.rand(50)
Y = np.random.rand(50)
colors = np.random.rand(50)
area = np.pi * (15 * np.random.rand(50)) ** 2
 
plt.scatter(X, Y, s=area, c=colors)
plt.show()

In [9]:

import numpy as np
import pylab as pl
import time
from matplotlib import cm

def iter_point(c):
    z = c
    for i in range(1, 100): # 最多迭代100次
        if abs(z)>2: break # 半径大于2则认为逃逸
        z = z*z+c
    return i # 返回迭代次数

def draw_mandelbrot(cx, cy, d):
    """
 绘制点(cx, cy)附近正负d的范围的Mandelbrot
 """
    x0, x1, y0, y1 = cx-d, cx+d, cy-d, cy+d 
    y, x = np.ogrid[y0:y1:200j, x0:x1:200j]
    c = x + y*1j
    start = time.clock()
    mandelbrot = np.frompyfunc(iter_point,1,1)(c).astype(np.float)
    print("time=",time.clock() - start)
    pl.imshow(mandelbrot, cmap=cm.Blues_r, extent=[x0,x1,y0,y1])
    pl.gca().set_axis_off()

x,y = 0.27322626, 0.595153338

pl.subplot(231)
draw_mandelbrot(-0.5,0,1.5)
for i in range(2,7):    
    pl.subplot(230+i)
    draw_mandelbrot(x, y, 0.2**(i-1))
pl.subplots_adjust(0.02, 0, 0.98, 1, 0.02, 0)
pl.show()

time= 0.21249099999999999
time= 0.4001999999999999
time= 0.46425299999999936
time= 0.5263220000000004
time= 0.7834560000000002
time= 0.908315