以下追記するかも

さて、画像データをメモリ上に載せることができ、点の座標データも得ることができた。
次は最小二乗法で直線の推定である。
最小二乗法 画像処理ソリューション
と、直線の推定と書かれるとよく分からなくなるが、直線をとしたときのを求めるということに相当する。
なので、これを求めれやればよい。

どうするのか。
であるので、もともと持っているエッジ座標データのx座標のデータを用いて得られるy座標のデータとエッジ座標データのy座標データの差分を全ての点で取って二乗和を求めてやればよい。
式で書くと
ってな具合。
これを求めて、aとbで偏微分して連立方程式作って、逆行列さえ求めれば楽勝。
この辺りの詳しくは上述のURLで見るべし。
教科書よりすんごい分かりやすかった。