한 줄 요약
AI는 처음에는 엉터리로 답해요. 정답과 얼마나 다른지(오차)를 재고, 오차가 줄어드는 쪽으로 가중치를 조금씩 고치는 일을 아주 많이 되풀이하며 배워요.
학습 목표
- 학습의 4단계(예측 → 오차 재기 → 거꾸로 따라가기 → 조금 고치기)를 설명할 수 있어요.
- 오차(손실), 경사 하강법, 역전파의 뜻을 말할 수 있어요.
- 학습률과 과적합이 학습에 주는 영향을 알 수 있어요.
생활 속 비유: 안개 낀 산에서 내려가기
짙은 안개 때문에 산 아래가 보이지 않는다고 상상해 보세요. 이럴 땐 발밑 땅이 어느 쪽으로 기울었는지 느끼고, 내리막 쪽으로 한 걸음씩 가면 돼요. 너무 크게 뛰면 골짜기를 지나쳐 버리고, 너무 조금씩 가면 해가 질 때까지 못 내려가요. AI 학습도 같아요. ‘오차’라는 산에서 가장 낮은 곳을 찾아 조금씩 내려가요.
인포그래픽
그림 내용 글로 보기
고급 22
AI 학습의 핵심: 틀리면서 고쳐 가기
AI는 틀리면서 배워요.오차를 재고, 줄어드는 쪽으로 조금씩 고쳐요.
“안개 속에선 발밑 경사를 보고한 걸음씩 내려가요.”
AI도 오차가 줄어드는 쪽으로 조금씩 가요.
- 1. 예측 하기
- 2. 오차 재기
- 3. 거꾸로 따라가기
- 4. 조금씩 고치기
- 오차 AI의 답과 정답의 차이
- 경사 하강법 오차가 줄어드는 쪽으로 조금씩 고치는 방법
Q. AI는 오차를 줄이는 쪽으로 가중치를 조금씩 고치며 배운다?
정답: O
그림으로 보는 흐름
- 예측하기
지금의 가중치로 문제를 풀어 답을 내요.
- 오차 재기
정답과 비교해 얼마나 틀렸는지 숫자(손실)로 계산해요.
- 거꾸로 따라가기
오차에 각 가중치가 얼마나 책임이 있는지 출력층에서 입력층 쪽으로 거꾸로 계산해요(역전파).
- 조금 고치기
오차가 줄어드는 방향으로 가중치를 조금 바꿔요. 그리고 ①로 돌아가 다시 반복해요.
꼭 알아야 할 단어
직접 해보기: 종이 공으로 오차 줄이기
종이를 구겨 공을 만들고 3m 앞 바구니에 던져 보세요. 던질 때마다 공이 바구니에서 얼마나 떨어졌는지(오차) 자로 재서 표에 적고, 다음에는 힘을 조금 바꿔 던져요. 10번 던진 뒤 오차가 줄었는지 꺾은선 그래프로 그려 봐요. 힘을 한 번에 크게 바꿨을 때와 조금씩 바꿨을 때도 비교해요. 주변에 사람이 없는 안전한 곳에서 해요.
- 10번 던지며 오차(cm)와 다음에 바꿀 점을 표에 적어요.
- 10번 던진 뒤 오차가 줄었는지 아래 칸에 꺾은선 그래프로 그려 봐요.
- 힘을 한 번에 크게 바꿨을 때와 조금씩 바꿨을 때도 비교해요.
주변에 사람이 없는 안전한 곳에서 해요.
AI도 오차를 재고, 오차가 줄어드는 쪽으로 조금씩 고치기를 아주 많이 되풀이해요.
확인 퀴즈
정답과 점수는 저장하지 않습니다.
-
AI는 오차를 줄이는 쪽으로 가중치를 조금씩 고치며 배운다.
정답 보기
정답 O. 예측 → 오차 재기 → 고치기를 아주 많이 반복해요.
-
훈련 문제는 거의 다 맞히는데 처음 보는 문제는 자주 틀리는 상태는?
- ① 과적합
- ② 역전파
- ③ 입력층
정답 보기
정답 ①. 훈련 데이터의 사소한 특징까지 외워 버린 상태예요.
중2 한 걸음 더
중2 한 걸음 더: 학습률, 과적합, 그리고 작은 웅덩이
한 걸음의 크기를 ‘학습률(learning rate)’이라고 해요. 너무 크면 오차가 오히려 커지기도 하고, 너무 작으면 학습이 아주 느려요.
또 훈련을 지나치게 오래 하면 훈련 데이터만 외우는 ‘과적합(overfitting)’이 생겨요. 그래서 시험용 데이터의 오차가 다시 커지기 시작하면 훈련을 멈추거나, 데이터를 더 다양하게 모으는 방법을 써요.
가장 낮은 골짜기가 아니라 중간의 작은 웅덩이에 머무는 문제도 있어서, 연구자들은 여러 방법으로 이를 보완해요.
쉽게 풀어 보기
오차를 재야 고칠 수 있어요
처음 만든 신경망의 가중치는 아무렇게나 정해져 있어서 답이 엉터리예요. 그래서 먼저 답이 얼마나 틀렸는지 숫자로 재요. 이것을 오차·손실(error·loss)이라고 해요.
오차가 줄어드는 쪽으로 가중치를 조금씩 고치는 방법을 경사 하강법(gradient descent)이라고 해요.
그런데 가중치가 아주 많아요. 어느 가중치를 얼마나 고칠지는 오차를 출력층에서 입력층 쪽으로 거꾸로 전달하며 계산해요. 이것이 역전파(backpropagation)예요.
안개 낀 산에서 내려가기로 이해해요
짙은 안개 때문에 산 아래가 보이지 않는다고 상상해 보세요. 이럴 땐 발밑 땅이 어느 쪽으로 기울었는지 느끼고, 내리막 쪽으로 한 걸음씩 가면 돼요.
너무 크게 뛰면 골짜기를 지나쳐 버리고, 너무 조금씩 가면 해가 질 때까지 못 내려가요.
AI 학습도 같아요. ‘오차’라는 산에서 가장 낮은 곳을 찾아 조금씩 내려가요.
생활 속 ‘틀리면서 고치기’
농구 자유투를 떠올려 봐요. 공이 짧으면 다음엔 힘을 조금 더, 길면 조금 덜 줘요. 결과(오차)를 보고 다음 행동을 조금 고치는 것이 경사 하강법과 닮았어요.
차이도 있어요. 사람은 몇십 번 연습하지만, AI는 수많은 예시로 이 과정을 아주 많이 되풀이해요. 그리고 가중치 수백만 개를 한꺼번에 고쳐요.
조심할 점도 있어요. 훈련을 지나치게 하면 훈련 데이터만 외워서 새 문제를 틀리는 과적합이 생겨요. 그래서 처음 보는 데이터로 꾸준히 확인해요.
뒤에 나오는 ‘직접 해보기 미션’에서 종이 공을 던지며 오차를 줄여 봐요.
숫자로 보기
- 사실 1986년 역전파로 신경망을 학습시키는 방법을 널리 알린 논문이 발표됐어요.
- 예시 3m 미션에서 종이 공을 던질 바구니까지의 거리
- 예시 10번 미션에서 던질 횟수. 던질 때마다 오차를 재서 기록해요.
표로 정리해요
| 단계 | 하는 일 | 종이 공 던지기 예시 |
|---|---|---|
| 예측하기 | 지금의 가중치로 문제를 풀어 답을 내요. | 지금 힘으로 공을 던져요. |
| 오차 재기 | 정답과 비교해 얼마나 틀렸는지 숫자(손실)로 계산해요. | 바구니에서 40cm 짧았어요. |
| 거꾸로 따라가기 | 오차에 각 가중치가 얼마나 책임이 있는지 출력층에서 입력층 쪽으로 거꾸로 계산해요(역전파). | 힘이 약했는지, 각도가 낮았는지 따져요. |
| 조금 고치기 | 오차가 줄어드는 방향으로 가중치를 조금 바꿔요. 그리고 ①로 돌아가 다시 반복해요. | 힘을 조금 세게 해서 다시 던져요. |
| 학습률 | 이렇게 돼요 | 산 비유 |
|---|---|---|
| 너무 커요 | 오차가 오히려 커지거나 왔다 갔다 해요. | 골짜기를 지나쳐 반대편으로 뛰어요. |
| 알맞아요 | 오차가 꾸준히 줄어요. | 내리막을 따라 차근차근 내려가요. |
| 너무 작아요 | 학습이 아주 느려요. | 해가 질 때까지 못 내려가요. |
그래프로 보기
바구니와의 거리 (cm) · 던진 횟수
※ 이해를 도우려고 만든 예시 숫자예요. 실제로는 오차가 들쭉날쭉하면서 줄어들고, 0이 되지 않을 수도 있어요.
용어 정리
| 용어 | 영어 | 뜻 | 예 |
|---|---|---|---|
| 오차·손실 | error·loss | AI의 답과 정답의 차이를 나타낸 숫자 | 40cm 짧음 |
| 경사 하강법 | gradient descent | 오차가 줄어드는 쪽으로 조금씩 고치기 | 내리막으로 한 걸음 |
| 역전파 | backpropagation | 오차를 거꾸로 전달해 고칠 양 계산하기 | 출력층 → 입력층 |
| 학습률 | learning rate | 한 번에 고치는 크기 | 한 걸음의 보폭 |
| 기울기 | gradient | 오차가 어느 쪽으로 얼마나 변하는지 | 발밑 땅의 기울기 |
| 반복 | iteration | 같은 과정을 되풀이하기 | 10번 던지기 |
| 과적합 | overfitting | 훈련 데이터만 외워 새 문제를 틀리는 상태 | 답만 외운 공부 |
| 시험용 데이터 | test data | 훈련에 쓰지 않고 남겨 둔 데이터 | 처음 보는 문제 |
| 지역 최솟값 | local minimum | 가장 낮은 곳이 아닌 작은 웅덩이 | 중간에 멈춘 골짜기 |
| 가중치 | weight | 입력마다 곱하는 중요도 숫자 | 고쳐 가는 조절판 |
활동지 문제
활동지 문제
-
경사 하강법에서 한 걸음의 크기를 ( )(이)라고 해요.
정답 보기
정답 학습률(learning rate) . 너무 크면 지나치고, 너무 작으면 느려요.
-
시험용 데이터의 오차가 다시 커지기 시작하면 훈련을 멈추는 까닭을 써 보세요.
정답 보기
정답 (예시 답) 훈련 데이터만 외우는 과적합이 시작됐다는 신호라서, 더 훈련하면 새 문제를 더 못 맞히게 되기 때문이에요.
교사용 박스
수업에서 바로 쓰는 지도 팁입니다.
수업 흐름(40분)
| 구간 | 시간 | 활동 |
|---|---|---|
| 도입 | 5분 | 안개 낀 산에서 내려가는 방법을 상상하게 합니다. |
| 개념 | 10분 | 예측 → 오차 재기 → 거꾸로 따라가기(역전파) → 조금 고치기의 반복을 설명하고, 경사 하강법을 산 내려가기에 대응시킵니다. |
| 활동 | 20분 | 종이 공을 3m 앞 바구니에 10번 던져 오차를 재고 꺾은선 그래프로 그립니다. 힘을 크게 바꿀 때와 조금씩 바꿀 때를 비교합니다. |
| 정리 | 5분 | 그래프에서 오차가 줄어든 모습을 보고 ‘학습’을 정리한 뒤 퀴즈를 풉니다. |
도입 질문
- 던질 때마다 결과를 보고 무엇을 바꾸나요?
- 한 번에 크게 고치는 것과 조금씩 고치는 것 중 무엇이 나을까요?
자주 하는 오개념
-
오개념. AI는 처음부터 정답을 안다.
바로잡기. 처음에는 엉터리로 답하다가 오차를 줄이며 배운다는 점을 공 던지기 그래프로 보여 줍니다.
-
오개념. 많이 고칠수록(학습률이 클수록) 빨리 배운다.
바로잡기. 힘을 크게 바꾸면 오히려 빗나간 기록을 함께 보며, 너무 크면 지나치고 너무 작으면 느리다고 정리합니다.
활동 준비물
- 종이 공
- 바구니 또는 상자
- 줄자
- 그래프 활동지
안전 유의점
- 주변에 사람이 없는 안전한 곳에서 던지고, 던지는 방향을 한쪽으로 정합니다.
평가 포인트
- 오차·경사 하강법·역전파의 뜻을 말할 수 있는가
- 오차 그래프를 보고 학습이 되었는지 판단할 수 있는가
초6·중2 차이를 두는 법
초6
공 던지기와 오차 그래프 그리기에 집중하고 용어는 ‘오차’ 하나만 다룹니다.
중2
학습률과 과적합, 작은 웅덩이에 머무는 문제를 더해 설명합니다.