行列と連立方程式¶

大学の理系で必修なのは微積分と線形代数です．線形代数というと逆行列と固有値の計算がすぐに思い浮かぶでしょう．計算がややこしくてそれだけでいやになります．でも，行列の計算法は一連の手順で記述できるので，pythonでは微積分とおなじように一個のコマンドで片が付きます．それが3x3以上でも同じです．問題はその意味です．ここでは，線形代数の計算がpythonを使えばどれほど簡単にできるかを示すと共に，線形代数の基本となる概念についてスクリプトと描画を使って，直観的に理解することを目的とします．

先ずは連立方程式から入っていきます．中学の時に

$$ 4x = 2 $$

というのを解きますよね．一般的には

$$ \begin {array}{rl} ax &= b \\ x &= b/a \end {array} $$

と書けるというのは皆さんご存知のはず．これと同じようにして連立方程式を書こうというのが逆行列の基本．つまり

$$ \begin {array}{rrl} 2x\, + &5y &=7 \\ 4x\, + &y &=5 \end {array} $$

という連立方程式は，係数から作られる2x2行列を係数行列$A$，左辺の値で作るベクトルを$b$として，

$$ \begin {array}{rll} Ax &= b & \\ x &= b/A &= A^{-1}b \end {array} $$

としたいわけです．

python code¶

線形代数の問題をpythonで扱うには，scipyに用意されているlinalgパッケージを使うのが現在主流．numpyにある線形代数関数をすべてカバー(包含)しているから．

まずは行列 $$ \left[ \begin {array}{cc} 2&5\\ 4&1\end {array} \right] $$ を作ります．

In [1]:

import numpy as np
aa = np.array([[2,5], [4,1]])

print(aa)

[[2 5]
 [4 1]]

printのimportと呼び出しの仕方は微妙なんで，上で示した順番を守ってください．

で，次は$b$ ベクトル $$ \left[ \begin {array}{c} 7\\ 5 \end {array} \right] $$ です．

In [2]:

b = np.array([7,5])
print(b)

[7 5]

連立方程式の解(Solve a linear matrix equation, or system of linear scalar equations)を一発で求める関数は次の通りです．

In [3]:

import scipy.linalg as linalg
print(linalg.solve(aa,b))

[1. 1.]

逆行列と$b$ の積から求めるのは次の通りです．

In [4]:

# 逆行列(matrix inverse)
inv_a = linalg.inv(aa)
print(inv_a)

[[-0.05555556  0.27777778]
 [ 0.22222222 -0.11111111]]

In [5]:

# 逆行列と，定数項(ordinate)の転置(transpose)との
t_b = np.transpose(b)
print(np.dot(inv_a,t_b))

[1. 1.]

pythonのarrayは横ベクトルということに注意してください．行列に右から掛けるには，転置しておく必要があります．

掃き出し¶

係数行列$A$とベクトル$b$を足して作られる行列は拡大係数行列と呼ばれます．numpyでは，これは

In [6]:

ab = np.column_stack((aa,b))
print(ab)

[[2 5 7]
 [4 1 5]]

として作られます．ここから行列の掃き出し操作をおこなうには,luというコマンドを使います．

In [7]:

P, L, U = linalg.lu(ab)
print("P=")
print(P)
print("L=")
print(L)
print("U=")
print(U)

P=
[[0. 1.]
 [1. 0.]]
L=
[[1.  0. ]
 [0.5 1. ]]
U=
[[4.  1.  5. ]
 [0.  4.5 4.5]]

これは，下三角行列(Lower Triangle Matrix)と上三角行列(Upper Triangle Matrix)に分解(decompose)するコマンドです．この操作はLU分解と呼ばれます．$P$行列は置換(permutation)行列を意味します．luの出力は，前進消去が終わっただけの状態です．後退代入(back substitution)して得られる，reduced row echelon form(rref)にする方法は問題があるとして，numpyでは関数を用意してないようです．

rrefはsympyには用意されています．

In [8]:

from sympy import Matrix

Aex = Matrix([[2,5,7],[4,1,5]])
print(Aex)
Aex.rref()

Matrix([[2, 5, 7], [4, 1, 5]])

Out[8]:

(Matrix([
 [1, 0, 1],
 [0, 1, 1]]),
 (0, 1))

写像¶

一点からの写像¶

次に，先ほどの行列による点の移動 $$ \left( \begin{array}{c} 1 \\ 1 \end{array} \right) \xrightarrow{f:A} \left( \begin{array}{c} 7 \\ 5 \end{array} \right) $$ を2次元上のグラフで見てみましょう．

draw_projcetion_line_pointsは座標(x,y)を受け取り，

位置p0(x,y)を作り，
行列(aa)によって写像される位置p1を作ります．
p0に丸を赤色r(ed)で描き，
同じように位置p1に青色b(lue)で丸を描きます．
もう一つ，p0からp1をつなぐlineを引きます．

さらに，表示範囲を0..7,0..5として軸をdraw_axesで書いています．

In [9]:

%matplotlib inline
import matplotlib.pyplot as plt
import numpy as np
def draw_projcetion_line_points(x,y):
    p0 = np.array([x,y])
    p1 = np.dot(aa,p0)

    plt.plot(p0[0],p0[1],'o',color='r')
    plt.plot(p1[0],p1[1],'o',color='b')
    plt.plot([p0[0],p1[0]],[p0[1],p1[1]],
             color='k', linestyle='-', linewidth=1)

def draw_axes(x_min,x_max,y_min,y_max):
    plt.hlines(0, x_min, x_max, color='k', linestyle='-',
               linewidth=1)
    plt.vlines(0, y_min, y_max, color='k', linestyle='-',
               linewidth=1)

aa = np.array([[2,5], [4,1]])
print(aa)
draw_projcetion_line_points(1,1)

draw_axes(0,7,0,5)

# plt.axes().set_aspect('equal', 'datalim')
plt.grid(b=None, which='major', axis='both')
plt.show()

[[2 5]
 [4 1]]

<ipython-input-9-917f9a9d97be>:26: MatplotlibDeprecationWarning: The 'b' parameter of grid() has been renamed 'visible' since Matplotlib 3.5; support for the old name will be dropped two minor releases later.
  plt.grid(b=None, which='major', axis='both')

逆行列は

In [10]:

inv_aa = linalg.inv(aa)
print(inv_aa)

[[-0.05555556  0.27777778]
 [ 0.22222222 -0.11111111]]

です．先ほどと逆に青から赤へたどる変換になっています．これが，連立方程式を解く様子をグラフで示しています．つまり，行列Aで示される変換によって求まる青点で示したベクトルb(7,5)を指す元の赤点を捜すというものです．答えは(1,1)となります．

写像のポンチ絵の正体¶

では，元の赤点をもう少しいろいろ取って，行列Aでどのような点へ写されるかを見てみましょう．

n=32で分割した円周上の点(x0,y0)を求めて，
draw_projcetion_line_pointsでそれぞれの点の写像

します．

In [34]:

t = 0.5
rr=2.0
#aa = np.array([[rr*np.cos(t),-rr*np.sin(t)], [rr*np.sin(t),rr*np.cos(t)]])
aa = np.array([[1,1], [0,1]])
#aa = np.array([[6,2], [2,4]])

div = 32
for i in range(0,div):
    theta = 2*np.pi/div*i
    x0 = np.sin(theta)
    y0 = np.cos(theta)
    # print('%10.5f-%10.5f' % (x,y))
    draw_projcetion_line_points(x0,y0)

draw_axes(-7,7,-5,5)

#plt.axes().set_aspect('equal', 'datalim')
plt.show()
print(aa)

[[1 1]
 [0 1]]

できあがりの図を見てください．何やっているか分かります? 中心の赤点で示される円が，青点で示される楕円へ写されていることが分かるでしょうか．

線形代数の講義で，写像を示すときによく使われるポンチ絵を現実の空間で示すとこのようになります．ポンチ絵では，赤で示した$V$空間が青で示した$W$空間へ行列$A$によって写像され，それぞれの要素$v$が$w$へ移されると意図しています．

固有ベクトルの幾何学的意味¶

では，ここでクイズです．固有ベクトルは上のグラフの何処に対応するか?　ヒントは，

行列Aの固有値，固有ベクトルを$\lambda, x_0$とすると， $$

A ,x_0 = \lambda , x_0 $$

が成立する

です．

解答¶

固有値$\lambda$，固有ベクトル$x_0$の関係式

$$ A \,x_0 = \lambda \, x_0 $$

を言葉で言い直すと，

固有ベクトル$x_0$は変換行列$A$によって，自分の固有値倍のベクトル$\lambda x_0$に写されるベクトル

となります．つまり変換の図で言うと，

変換しても方向が変わらない赤点（の方向）

となります．

固有値と固有ベクトルはpythonでは以下のeigコマンドで求まります．

In [21]:

import numpy as np
import scipy.linalg as linalg

np.set_printoptions(precision=3, suppress=True)

aa = np.array([[6,2], [2,4]])
#aa = np.array([[2,5], [4,1]])
print(aa)
#a = np.array([[3,2/3], [2/3,2]])
l,P = np.linalg.eig(aa)
print(l)
print(P)

[[6 2]
 [2 4]]
[7.236 2.764]
[[ 0.851 -0.526]
 [ 0.526  0.851]]

ここではeigで戻り値をl ($\lambda$(lambdaと書きます))，と$P$に代入しています．この後ろ側にある行列$P$の1列目で構成されるベクトルが固有値6に対応する固有ベクトル，2列目のベクトルが固有値-3に対応する固有ベクトルです．

これを取り出すのは次のようにします．

In [22]:

v0 = P[:,0]
v1 = P[:,1]
print(v0)
print(v1)

[0.851 0.526]
[-0.526  0.851]

これを書き加えた図を示します．ちゃんと固有ベクトルになってるでしょう．

In [24]:

import matplotlib.pyplot as plt

def draw_eigen_vector(v, t):
    plt.plot([-t*v[0],t*v[0]], [-t*v[1],t*v[1]], 
             color='g', linestyle='-', linewidth=2)

div = 32*4
for i in range(0,div):
    theta = 2*np.pi/div*i
    x0 = np.sin(theta)
    y0 = np.cos(theta)
    # print('%10.5f-%10.5f' % (x,y))
    draw_projcetion_line_points(x0,y0)

draw_axes(-7,7,-5,5)

draw_eigen_vector(v0, 7)
draw_eigen_vector(v1, 5)

#plt.axes().set_aspect('equal', 'datalim')
plt.show()

おまけですが，行列の対角化は次のようにしてできます．

In [15]:

np.dot(np.dot(np.linalg.inv(P),aa),P)

Out[15]:

array([[ 6.,  0.],
       [ 0., -3.]])

行列式の幾何学的意味¶

行列Aの行列式(determinant, $\left|A\right|$あるいはdet$A$と表記)はdetで求まります．

In [16]:

np.linalg.det(aa)

Out[16]:

-17.999999999999996

では次のクイズ．先ほど求めた，行列Aの行列式は，どこに対応するでしょう? 以下の(1,0),(0,1)の点を変換した点に原点からベクトルを結んでその意味を説明してください．さらに，そのマイナスの意味は？．

In [17]:

a = np.array([[2,5], [4,1]])
print(a)
draw_projcetion_line_points(1,0)
draw_projcetion_line_points(0,1)


draw_axes(0,8,0,8)

#plt.axes().set_aspect('equal', 'datalim')
plt.grid(b=None, which='major', axis='both')
plt.show()

[[2 5]
 [4 1]]

<ipython-input-17-139e34d02fc0>:10: MatplotlibDeprecationWarning: The 'b' parameter of grid() has been renamed 'visible' since Matplotlib 3.5; support for the old name will be dropped two minor releases later.
  plt.grid(b=None, which='major', axis='both')

行列式が0の写像¶

では，行列式が０になるというのはどういう状態でしょう? 次のような行列を考えてみましょう． $$ \left[ \begin {array}{cc} 2&1\\ 4&2 \end {array} \right] $$

この行列の行列式は

In [18]:

aa = np.array([[2,1],[4,2]])
np.linalg.det(aa)

Out[18]:

0.0

です．この変換行列で，上と同じように写像の様子を表示させてみましょう．

In [19]:

aa = np.array([[2,1], [4,2]])

div = 32
for i in range(0,div):
    theta = 2*np.pi/div*i
    x0 = np.sin(theta)
    y0 = np.cos(theta)
    # print('%10.5f-%10.5f' % (x,y))
    draw_projcetion_line_points(x0,y0)

draw_axes(-7,7,-5,5)

#plt.axes().set_aspect('equal', 'datalim')
plt.show()

今回の移動先の青点は直線となっています．つまり，determinantが0ということは，変換すると面積がつぶれるという事を意味しています．平面がひとつ次元を落として線になるということです．

次に，この行列の表わす写像によって原点(0,0)に写される元の座標を求めてみます．連立方程式に戻してみると $$ \left[ \begin {array}{c} 2\,x+y\\ 4\,x+2\,y\end {array} \right] = \left[ \begin {array}{c} 0\\ 0\end {array} \right] $$ となります．とよく見ると，1行目も2行目もおなじ式になっています．2次元正方行列で，行列式が0の時には必ずこういう形になり，直線の式となります．これを表示すると

左図の赤線となります．この直線上の全ての点が[0,0]へ写されることを確認してください．また，緑の線上の点は全て[1,2]へ写されることが確認できます．

こうしてすべて調べていけば，左の平面上のすべて点は右の青の直線上へ写されることが分かります．今まで見てきた円と楕円とはまったく違った写像が，行列式が0の行列では起こっていることが分かると思います．右の青線を行列Aによる像(Image, Im$A$と表記)，左の赤線，つまり写像によって[0,0]へ写される集合を核(Kernel, Ker$A$と表記)と呼びます．

これをポンチ絵で描くと，次の通りです．

像(Image)

Table of Contents