＞Ｘ、Ｙ座標系で２線分の最短距離を測りたいのですが、
＞お互いの端点から相手線分へ下ろした垂線の長さが最小となるものでよいのでしょうか？
だめです。
垂線の足が線分の延長線上に飛び出す場合もあります。飛び出した場合、垂線そのものが引けません。
まず、両方の線分を延長した２本の直線間の最小距離とその最小距離の時のそれぞれの対となる点を求めてから、線分間の最小距離を考える必要があります。
一般的に
２線分間の最小距離と
２直線間の最小距離
は異なります。
２直線間の距離が最小になるそれぞれの直線上の２点が
２線分の両方に含まれていれば両者の最小距離は一致します。
しかし、片方の点だけが線分上にある場合と
両方の点とも２線分上にない場合で
ケースが分かれます。
２直線間の距離が最小になる点の位置は両方の直線の法線が一致するときです。その条件から対となる２点を求めます。
お礼
info22様、どうもありがとうございます。とても参考になりました。