AI는 왜 확신에 찬 말투로 틀릴까? 행렬로 본 생성형 AI
단어 이어짐 횟수를 행렬로 세고 곱해 보며, 생성형 AI가 그럴듯한 오답을 만드는 원리를 푼다
출발 기사보건복지부 · AI의 위로가 사람을 대신할 수 없습니다 「정신건강 목적 생성형 AI 이용 가이드라인」 발표(2026-10-08)
- 공통수학1[10공수1-04-01] 행렬의 뜻을 알고, 실생활 상황을 행렬로 표현할 수 있다.
- 공통수학1[10공수1-04-02] 행렬의 연산을 수행하고, 관련된 문제를 해결할 수 있다.
- 통합사회1[10통사1-05-02] 교통⋅통신 및 과학기술의 발달과 함께 나타난 생활공간과 생활양식의 변화 양상을 조사하고, 이에 따른 문제점의 해결 방안을 제안한다.
01 Intro — 친절하고 자신 있는 AI의 말은 왜 틀릴 수 있을까
보건복지부와 대한신경정신의학회가 2026년 정신건강의 날을 앞두고 「정신건강 목적 생성형 AI 이용 가이드라인」을 발표했다. 한국보건사회연구원이 최근 1개월 안에 생성형 AI를 써 본 15~79세 1,019명을 조사해 보니, 처음에는 과제·검색 용도로 쓰기 시작했다는 응답이 81.3%였지만 68.8%가 일상 대화·위로·심리상담 같은 정서적 목적으로도 AI를 쓰고 있었다. 청소년(15~18세)은 이 비율이 69.2%였고, 스스로 AI에 의존적이라고 답한 비율은 51.7%로 모든 연령대 가운데 가장 높았다(보건복지부 보도자료, 2026.10.8).
눈에 띄는 숫자는 따로 있다. AI가 사실이 아니거나 해로운 조언을 확신에 찬 어조로 답해 전문가로 착각한 경험이 16.5%였다. 반면 AI에게 얻은 정신건강 조언을 전문가나 공식 자료로 확인해 본 비율은 11.9%에 그쳤다. 가이드라인은 AI의 말을 결론으로 삼지 말라는 것을 3가지 핵심 메시지 가운데 하나로 두었다. 정부 담당자도 “친절하고 확신에 찬 답변이 항상 정확성이나 안전성을 보장하지 않는다”고 강조했다(보건복지부 보도자료, 2026.10.8).
그렇다면 질문이 생긴다. 생성형 AI는 왜 문법도 완벽하고 말투도 자신 있는데, 내용은 틀릴 수 있을까? 이 글은 고1 공통수학1에서 배우는 행렬로 가장 단순한 언어 모델을 직접 만들어 보면서 그 답을 찾는다.
토큰을 사거나 구독하면 전체를 볼 수 있어요
탐구 내용, 직접 해 보는 탐구, 참고문헌까지 모두 열려요.