다섯 점을 모두 지나는 직선이 없을 때 하나를 고르는 법
최소제곱법을 이차함수의 꼭짓점과 행렬로 풀고, 검량선·지구 자전 데이터까지 잇는다
출발 강좌대학 공개강좌 · Mathematical Fundamentals for Data Science(고려대학교 · 선형 대수 (III): 최소 자승법)
- 공통수학1[10공수1-04-02] 행렬의 연산을 수행하고, 관련된 문제를 해결할 수 있다.
- 데이터 과학[12데과03-02] 동일한 데이터를 통계적 회귀모델과 기계학습을 통한 회귀모델로 분석하여 결과 해석 내용을 비교한다.
- 인공지능 수학[12인수04-02] 공학 도구를 사용하여 데이터의 경향성을 추세선으로 나타내고 이를 예측에 이용할 수 있다.
- 인공지능 수학[12인수04-03] 손실함수를 이해하고 최적화된 추세선을 찾을 수 있다.
01 Intro — 점 다섯 개, 직선은 무수히 많다. 무엇이 ‘가장 좋은’ 직선인가
실험 시간에 측정값을 좌표평면에 찍으면 점들은 거의 한 줄로 늘어서지만, 자를 대 보면 모든 점을 지나는 직선은 하나도 없다. 측정에는 늘 오차가 끼기 때문이다. 그래도 우리는 스프레드시트의 추세선 버튼을 눌러 직선 하나를 얻고, 그 식으로 다음 값을 예측한다. 그런데 이 직선은 누가, 어떤 기준으로 고른 것일까.
이 질문은 수학사에서 꽤 유명한 다툼을 낳았다. 19세기 초 프랑스의 르장드르와 독일의 가우스는 서로 자기가 먼저 이 방법, 곧 최소제곱법을 찾았다고 주장했다. 통계학사가 스티글러는 새로운 문헌과 통계적 증거를 검토한 끝에, 가우스가 르장드르보다 먼저 이 방법을 갖고 있었을 가능성이 높지만 동시대 사람들에게 제대로 알리지 못했다고 결론지었다. 다만 그 결론도 확정적이지는 않다고 덧붙였다 (Stigler, 1981). 누가 먼저였든, 두 사람이 다룬 문제는 같았다. 방정식보다 관측이 많아 모든 식을 동시에 만족시킬 수 없을 때, 어떤 답을 받아들여야 하는가.
오늘의 질문은 이것이다. ‘가장 덜 틀린 직선’을 고르는 기준은 왜 하필 오차의 제곱일까, 그리고 그 기준을 고등학교 수학만으로 끝까지 계산할 수 있을까?
토큰을 사거나 구독하면 전체를 볼 수 있어요
탐구 내용, 직접 해 보는 탐구, 참고문헌까지 모두 열려요.